寒武纪
大模型训练框架研发工程师-27届
大模型训练框架研发工程师-27届
发布于 大约 8 小时前普通员工/个人贡献者
北京市
无经验要求
全职员工
仅现场办公
硕士
机器学习工程
Deepspeed
Megatron-Lm
Pytorch
分布式训练
大模型训练
性能优化
计算机体系结构
AI 估算 · 25k–40k
大模型框架研发属于AI核心技术岗位，门槛高，北京硕士校招薪资水平较高，寒武纪作为芯片上市公司提供有竞争力的薪酬。
职位详情
关于这个职位
该职位负责AI大模型训练框架的研发与性能优化，涉及分布式训练、内存优化、性能分析等核心技术方向
你将深入PyTorch等主流框架，跟进社区前沿技术，解决大规模训练中的性能瓶颈问题
适合对系统性能和AI基础设施有浓厚兴趣的硕士及以上学历候选人
最低要求
硕士及以上学历，微电子、计算机、通信、自动化、应用数学、物理等相关专业
熟悉pytorch的使用，熟悉大模型相关的训练方法和技巧，如moe，长序列，多模态等
熟悉Linux/Unix系统环境，能够熟练使用C++/Python
熟悉计算机体系结构，熟悉多层内存结构，熟悉操作系统概念
良好的沟通能力和团队协作能力，良好的学习能力和自驱能力
工作职责
参与AI大模型训练框架的研发适配工作，分析优化性能热点，分析内存瓶颈，优化大模型训练框架
调研分析大模型最新技术和性能优化方案，跟进社区演进方向，持续优化大模型训练瓶颈问题
性能分析的理论计算及预估，对计算、通信时间和内存占比能够进行合理性分析，并提出优化方案
充分理解分布式训练全过程，优化预训练及后训练阶段性能，不断提高大规模场景下的训练稳定性
优先资格
熟悉Megatron-LM/FSDP/DeepSpeed/Transformers/Verl等任意一种框架
有大模型训练开发经验或者框架开发优化经验
熟悉Nsight System，DLProf等性能分析工具使用经验
AI 洞察
优缺点分析
优点
- 寒武纪作为AI芯片上市公司，平台资源丰富，可接触软硬件协同优化
- 工作强度较大，需要持续跟进前沿技术，快速学习
- 涉及底层系统优化，需要扎实的计算机体系结构知识，学习曲线陡峭
- 分布式训练问题复杂，调试和排查难度高，需较强的问题解决能力
- 适合对系统性能优化有浓厚兴趣，具备扎实计算机基础，并且追求技术深度的理工科硕士毕业生
缺点 / 挑战
- 大模型训练框架是AI领域核心技术方向，技术含量高，挑战性强
- 薪资水平较高，成长空间大，且处于高速增长赛道
角色解读
- 从框架研发工程师成长为AI基础设施专家，深入系统优化领域
- 可向技术专家或架构师方向发展，负责大规模训练平台的架构设计
- 随着大模型技术演进，掌握前沿性能优化技能，具备广阔前景
- 参与大模型训练框架的研发与适配，针对性能热点和内存瓶颈进行优化
- 调研最新大模型技术和优化方案，跟进社区演进方向
- 对计算、通信时间和内存占比进行理论分析和预估，提出优化方案
- 优化分布式训练全过程，提高大规模场景下的训练稳定性
- 精通PyTorch，熟悉大模型训练方法如MoE、长序列、多模态
- 熟练掌握C++/Python，熟悉Linux/Unix环境
- 熟悉计算机体系结构和多层内存结构，理解操作系统概念
- 了解分布式训练框架如Megatron-LM、DeepSpeed等
申请策略
- 注意笔试环节，提前刷题复习操作系统、体系结构等基础知识
- 了解寒武纪的AI产品线，结合其硬件特点思考优化方向
- 突出与PyTorch、分布式训练相关的项目或实习经历
- 展示性能优化经验，例如使用Nsight System等工具分析瓶颈案例
- 强调计算机体系结构和C++/Python编程能力，如有开源贡献更好
- 体现对MoE、长序列等大模型训练方法的了解
- 提前学习Megatron-LM、DeepSpeed等训练框架源码
- 实践使用Nsight System、DLProf等性能分析工具
面试指南
- 使用STAR法则：情境-任务-行动-结果，突出具体数据和优化收益
- 比较性回答：对比不同方案，说明优缺点和选择理由
- 从理论到实践：先阐述原理，再结合项目经验说明应用
- 请描述一次你优化程序性能的经历，具体使用了哪些分析方法？
- PyTorch中数据并行和模型并行的区别是什么？各自适用场景？
- 如何分析大模型训练中的内存瓶颈？
- 解释一下FSDP的工作原理
- 在分布式训练中，如何减少通信开销？
职位点评
73
综合评分
AI芯片上市公司，大模型框架研发岗位，技术前沿，薪资有竞争力，但工作地点固定且未提WLB。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
更适合这类人
适合追求技术深度和前沿方向，能够适应高强度工作，对分布式系统和性能优化有热情的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活40
使命价值75
薪资福利
75中等
JD未明确薪资，但该岗位技术门槛高，寒武纪平台和行业薪酬水平通常能提供有竞争力的package。
薪资信号未披露（AI估算：25K-40K/月）
成长发展
90较高
岗位聚焦大模型训练框架这一前沿技术方向，涉及大量性能优化与架构探索，技能成长空间极大。
技术前沿前沿/新兴技术
技术栈PyTorch、大模型、分布式训练、Megatron-LM、DeepSpeed、C++、Python
业务类型ambiguous
工作生活
40较低
工作地点固定在北京，JD未提及远程或弹性办公，也未说明工作强度和加班情况。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
大模型是当前高速增长的赛道，该岗位对AI基础设施优化有重要贡献，有一定社会影响力。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
寒武纪 的其他在招职位
相似职位推荐
Watch Jobs