科大讯飞
词元星火-大模型训练Infra工程师-合肥(J13590)
词元星火-大模型训练Infra工程师-合肥(J13590)
发布于 大约 14 小时前普通员工/个人贡献者
合肥市
高级经验
全职员工
仅现场办公
本科
高性能计算
Cuda
Deepspeed
Fsdp
Gpu
Megatron-Lm
分布式训练
大模型
并行计算
性能优化
AI 估算 · 35k–60k
职位详情
关于这个职位
该职位负责大规模分布式训练框架的设计、开发与优化，支撑千卡/万卡级集群的高效训练
你将深入并行策略、通信优化、显存管理等核心技术，与算法团队紧密协作，并跟进业界前沿技术，推动训练框架在效率、成本、稳定性上的持续演进
适合对分布式系统、高性能计算和AI基础设施有浓厚兴趣的资深工程师
最低要求
计算机、软件工程或相关专业本科及以上学历
扎实的编程能力
熟悉流深度学习框架及其分布式训练机制
深入理解分布式训练原理，熟悉 Megatron-LM、DeepSpeed、FSDP等主流框架中至少一种的实现细节
熟悉 GPU 体系结构与 CUDA 编程或者其他国产加速芯片和配套软件栈（昇腾NPU、海光DCU等），了解算子优化、混合精度训练（FP16/BF16/FP8）
具备大规模训练任务的性能分析与调优经验（Nsight、profiler 等工具）
工作职责
负责大规模分布式训练框架的设计、开发与优化，覆盖预训练和后训练全流程，支撑千卡/万卡级别集群的高效训练
优化训练性能，包括并行策略（数据并行、张量并行、流水线并行、专家并行）、通信优化、显存管理与计算重叠，针对特定模型挖掘芯片的极致性能
排查并解决训练过程中的性能瓶颈和稳定性问题，联合训练平台保障超大集群任务训练稳定性
与算法团队紧密协作，针对新模型结构提供框架层面的支持与适配
跟进业界前沿技术，推动训练框架在效率、成本、稳定性上的持续演进
优先资格
有千卡以上规模训练或万亿参数模型训练的实战经验
熟悉 Triton、CUTLASS 等高性能算子开发
在 MoE 训练、长序列训练、训练稳定性等方向有深入实践
有开源社区贡献或相关技术论文发表
AI 洞察
优缺点分析
优点
- 公司平台好：科大讯飞是AI领域头部上市公司，有丰富的资源和真实的超大规模训练场景
- 行业前景广阔：大模型是当前AI发展的核心方向，相关人才需求旺盛，职业前景光明
- 技术门槛高：要求对分布式系统、并行计算、芯片架构有深入理解，学习曲线陡峭
- 问题排查难度高：大规模集群的稳定性问题定位复杂，需要极强的分析和解决问题的能力
缺点 / 挑战
- 技术前沿性：直接参与大模型训练基础设施的核心研发，技术挑战大，成长快
- 工作强度大：大模型训练任务周期长，可能面临较大的工作压力和紧迫的交付节点
- 适合对系统底层技术有浓厚兴趣，具备扎实的分布式系统和并行计算功底，喜欢挑战技术难题，并希望在AI基础设施领域深耕的资深工程师
角色解读
- 技术专家路线：在分布式训练、高性能计算领域深耕，成为大模型基础设施方向的顶尖专家
- 架构师路线：从单一框架优化，逐步成长为负责整个训练平台架构设计的技术负责人
- 管理路线：随着经验积累，可带领团队负责训练框架的研发与优化，走向技术管理岗位
- 设计、开发和优化大规模分布式训练框架，支撑千卡/万卡级集群的高效训练
- 深入优化训练性能，包括并行策略、通信优化、显存管理等，挖掘芯片极致性能
- 排查并解决训练过程中的性能瓶颈和稳定性问题，保障超大集群训练任务稳定运行
- 与算法团队紧密协作，为新模型结构提供框架层面的支持与适配
- 扎实的编程能力，精通C++/Python
- 深入理解分布式训练原理，熟悉Megatron-LM、DeepSpeed、FSDP等主流框架的实现细节
- 熟悉GPU体系结构与CUDA编程，或了解昇腾NPU、海光DCU等国产加速芯片
- 具备大规模训练任务的性能分析与调优经验，熟练使用Nsight、profiler等工具
申请策略
- 在申请时，可以表达对科大讯飞大模型技术布局的了解，以及对该岗位技术挑战的热情
- 准备一个能体现你分布式训练调优能力的项目案例，并准备好详细的技术细节
- 突出分布式训练框架的实战经验，如使用Megatron-LM、DeepSpeed等框架的具体项目和规模
- 强调性能优化案例，如通过并行策略、通信优化等手段提升训练效率的具体数据
- 展示对GPU/国产芯片体系结构的理解，以及CUDA或NPU编程经验
- 如有开源社区贡献或技术论文，务必在简历中突出
- 深入研读Megatron-LM、DeepSpeed等主流框架的源码，理解其核心实现细节
- 学习并实践Triton、CUTLASS等高性能算子开发，提升底层优化能力
面试指南
- STAR法则：描述项目背景、任务、行动和结果，突出个人贡献和量化成果
- 原理+实践：先阐述相关技术原理，再结合自己的实践经验进行说明，体现深度
- 问题导向：回答问题时，先分析问题本质，再给出解决方案，并说明权衡和取舍
- 请详细介绍一下你参与过的最大规模分布式训练项目，包括集群规模、模型参数量、遇到的挑战和解决方案
- 深入解释Megatron-LM或DeepSpeed中张量并行、流水线并行的原理和优缺点
- 如何定位和解决大规模训练中的性能瓶颈？请举例说明
- 谈谈你对混合精度训练（FP16/BF16/FP8）的理解，以及如何选择
- 在千卡集群训练中，如何保证训练的稳定性？
职位点评
75
综合评分
前沿技术栈、高成长性，但工作强度大、WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
该职位最适合追求技术成长、渴望在AI基础设施前沿领域挑战自我的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展95
工作生活40
使命价值85
薪资福利
75中等
科大讯飞作为上市公司，薪资福利具有竞争力，但具体薪资未在JD中披露。
薪资信号未披露（AI估算：35K-60K/月）
成长发展
95较高
该岗位处于大模型训练基础设施前沿，技术挑战大，成长空间广阔，能极大提升个人技术价值。
技术前沿前沿/新兴技术
技术栈Megatron-LM、DeepSpeed、FSDP、CUDA、Triton、CUTLASS、MoE、混合精度训练
业务类型profit_center
工作生活
40较低
岗位要求现场办公，且大模型训练岗位通常工作强度较大，WLB可能一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
大模型是当前AI发展的核心方向，该岗位直接推动技术进步，具有较高的行业价值和使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs