中科曙光
【2027】大模型推理优化工程师(J14434)
【2027】大模型推理优化工程师(J14434)
发布于 17 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Ai芯片
Cuda
Vllm
大模型
性能调优
推理优化
模型量化
算子优化
值不值得投
62综合评分
综合评分 62
央企校招，大模型推理与AI芯片优化核心岗，技术深度高，能力建设价值大，但WLB需面试时确认。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
1.6万
比算法优化工程师中位数低
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 240 个在招 · 其中算法优化工程师 8 个
市场机会
选择不多
天津 · 算法优化工程师 · 2 个在招
职位详情
关于这个职位
该职位为中科曙光2027届校招岗位，专注于大语言模型及多模态模型的推理性能优化
你将参与研发新一代自研AI芯片上的推理引擎，通过模型量化、算子优化、通信优化等技术手段，将大模型推理性能提升至行业领先水平，确保公司在AI计算基础设施领域的技术优势
最低要求
熟练掌握C/C++、Python编程语言，具备良好的coding 和调试能力;
熟悉GPU/AI芯片编程，如CUDA, OpenCL,Ascend 等，熟悉cutlass等加速库是加分项;
熟悉主流大模型推理框架，如vllm，sglang,tensorrt-llm，FasterFransformer等;
熟悉各类深度学习网络和算子底层实现细节，训练和推理模型调试、调优有实操经验优先
熟悉并行策略，如模型并行、流水线并行等，了解 NVLINK、GPU通信者优先;
具备GPU、AI芯片体系结构知识，熟悉芯片特性，具备 系统性能分析和调优经验优先
加分项:
参与vllm、sglang等开源项目贡献者
熟悉推理服务框架，具备服务部署经验者优先，有超大模型分布式部署经验优先
熟悉deepep、RCCL等分布式通信库
工作职责
研发及优化语言大模型及多模态等推理引擎、PD分离推理调度系统
支持新一代自研AI芯片推理引擎开发优化，手段包括但不限于模型量化、算子优化、通信优化等方式，优化大模型推理性能，打造极致性能优势
优先资格
加分项:
参与vllm、sglang等开源项目贡献者
熟悉推理服务框架，具备服务部署经验者优先，有超大模型分布式部署经验优先
熟悉deepep、RCCL等分布式通信库
AI 洞察
优缺点分析
优点
- 身处AI基础设施核心赛道，技术深度与前沿性兼备
- 能接触并优化从芯片到框架的全栈技术，构建稀缺的复合能力
- 依托中科曙光在国产芯片与高性能计算领域的积累，项目具有战略价值
- 技术难度极高，需要持续学习跟进大模型和芯片架构的快速迭代
- 涉及大量底层代码开发与调试，工作可能比较枯燥，需要极强的耐心和细致度
- 性能优化工作成果量化较难，且需要长时间投入才能看到显著突破
缺点 / 挑战
- 对计算机体系结构和底层性能优化有浓厚兴趣，追求技术深度，能沉下心钻研代码，并乐于通过工程手段解决极致性能挑战的应届毕业生
角色解读
- 技术专家路径：深耕推理优化与芯片架构领域，成为公司内顶尖的性能优化专家
- 技术管理路径：带领小团队，负责特定方向（如量化工具链、调度系统）的技术规划与落地
- 架构师路径：主导下一代AI计算引擎的整体架构设计，影响公司技术战略
- 负责设计和实现大语言模型及多模态模型的高性能推理引擎
- 针对自研AI芯片架构，进行算子优化、量化压缩和通信效率提升
- 研究并实施模型并行、流水线并行等分布式推理策略，解决超大模型部署难题
- 精通C++/Python编程，具备扎实的算法与数据结构功底
- 深入理解GPU/AI芯片编程模型（CUDA等），熟悉底层硬件特性
- 掌握至少一种主流大模型推理框架（如vLLM）的原理与源码
- 具备系统级性能分析、瓶颈定位和调优的实践经验
申请策略
- 仔细阅读中科曙光关于AI芯片（如海光DCU）和“智算中心”的技术文章，了解其技术栈
- 面试时能结合具体项目或论文，阐述你对“推理性能瓶颈”的理解和解决方案
- 突出任何与GPU编程（CUDA）、高性能计算（HPC）相关的项目或课程设计
- 展示对推理框架（如vLLM）的源码阅读理解或贡献，哪怕是小的PR
- 强调在算法竞赛、系统开发中体现的编程功底和解决复杂问题的能力
- 如有参与过模型量化、算子优化等实践，应作为重点进行描述
- 深入学习CUDA编程与GPU架构，并行计算模型
- 研读vLLM、TensorRT-LLM等框架的源码，理解其核心优化逻辑
面试指南
- 使用STAR法则（情境-任务-行动-结果）清晰描述项目经历
- 从硬件（计算、内存、通信）和软件（算法、框架）两个维度分析性能瓶颈
- 将理论知识（如并行策略）与具体实践（如框架实现、代码调优）相结合进行阐述
- 请描述一个你做过的性能优化项目，遇到的主要瓶颈是什么，你如何分析并解决的？
- vLLM或TensorRT-LLM中，你认为哪个部分的优化最具挑战性？为什么？
- 如何量化一个大模型推理系统的性能？常用的指标有哪些？
- 请解释一下模型并行（Tensor Parallel）和流水线并行（Pipeline Parallel）的区别和适用场景
- 你对我们的自研AI芯片架构有什么了解？你认为它在推理优化上可能有哪些优势？
职位点评
薪资福利50
成长发展80
工作生活40
使命价值75
薪资福利
50较低
职位为央企校招，薪酬福利体系应相对完善稳定，但JD未披露具体薪资福利细节，竞争力需进一步确认。
薪资信号未披露（AI估算：1.2千–2万/月）
成长发展
80较高
该职位涉及大模型推理与AI芯片优化的前沿领域，技术栈硬核且稀缺，能为应届生提供扎实的底层技术积累和清晰的技术成长路径。
技术前沿前沿/新兴技术
技术栈CUDA、vLLM、TensorRT-LLM、算子优化、模型量化、推理引擎、AI芯片
业务类型ambiguous
工作生活
40较低
工作地点涉及多个城市，但具体办公模式和工作强度未在JD中说明。高性能计算与优化工作通常意味着高强度和持续学习，可能对生活平衡有一定影响。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
职位聚焦于国产AI芯片与大模型性能优化，属于国家在算力基础设施领域的战略方向，具有较高的技术价值和社会意义。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号打造极致性能优势
创新程度积极采用新技术
中科曙光 的其他在招职位
相似职位推荐
Watch Jobs