科大讯飞
【星火X计划】面向超大尺寸通用LLM的预训练Infra工程(J14507)
【星火X计划】面向超大尺寸通用LLM的预训练Infra工程(J14507)
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Gpu编程
Llm
分布式训练
并行策略
混合精度训练
算子优化
高性能计算
值不值得投
77综合评分
综合评分 77
前沿AI训练基础设施岗位，技术挑战大、成长空间高，但WLB可能有限，适合技术驱动型求职者。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
2.8万
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 220 个在招 · 其中机器学习工程 29 个
市场机会
选择适中
合肥 · 机器学习工程 · 47 个在招
职位详情
关于这个职位
该职位是科大讯飞星火X计划的一部分，负责设计和优化面向超大尺寸通用大语言模型的预训练训练基础设施
工作内容包括构建高性能、高可用的分布式训练框架，设计多维并行策略以平衡计算效率、显存和通信，并保障万卡级集群的稳定高效训练
目的是为模型团队提供强大、可靠的训练工程底座，支持千亿/万亿参数模型的研发
最低要求
-27届硕士及以上学历，计算机、软件工程、高性能计算、电子信息、数学等相关专业，计算机体系结构、深度学习相关理论功底扎实，学业排名、科研成果、硬核竞赛表现突出者优先
编程基础牢靠，熟练掌握Python，同时精通C++、CUDA二者其一，能够产出规范、高性能的工程代码
掌握如下技术/知识一种：主流LLM深度学习训练框架、GPU/国产芯片高性能算子编程、编译优化
掌握GPU架构特性以及CUDA开发手段，了解昇腾NPU、海光DCU等国产加速硬件配套软件栈，熟悉算子优化方法与FP16/BF16/FP8混合精度训练方案
良好的沟通协作能力，自驱力和责任心足够强，可以和团队共同攻坚并落地新技术
工作职责
【课题介绍】
通用大模型预训练在LLM训练周期中占比最高，预训练效果优劣很大程度上依赖底层训练基础设施的规模、稳定性和效率
当模型尺寸迈向千亿和万亿级别，集群规模从千卡扩展到万卡甚至更大规模时，预训练框架变成一项系统工程：如何在框架层实现效率、显存和通信的均衡
研究与训练调度平台协同实现超大集群在数周乃至数月中保持稳定高效训练
研究在硬件故障频发情况下保证训练任务不中断等
本课题聚焦于构建和优化面向大模型预训练的高性能、高可用训练基础设施，为模型团队提供稳定、高效可扩展的训练工程底座
【课题挑战】
结合具体结构的规模化并行方案设计：针对万亿参数模型结构信息结合训练集群体系结构，设计多维的混合并行策略，平衡计算效率、显存占用和通信开销，达到系统利用率最高
训练稳定性保障：大规模长周期的训练任务，芯片、存储、通信的稳定性以及训练过程中的Loss Spike无法避免，如何联合平台对软硬件进行监测，实现高效故障恢复，静默数据损坏识别等，是长时训练的难题
【课题价值】
参与大规模分布式训练框架的设计、迭代与优化，适配预训练以及后训练完整流程，联合平台保障千卡/万卡量级集群实现高效稳定训练
落地多维度并行策略优化，涵盖数据并行、张量并行、流水线并行、专家并行，完成通信、显存、计算在特定集群和结构下的优化，充分挖掘芯片硬件性能上限
定位并解决训练环节的各类性能瓶颈、抖动故障，联动平台侧完善运维策略，保障超大算力集群训练任务平稳运行
对接算法研发团队，跟进全新模型架构的特性，从框架层面完成定制适配，匹配算法迭代的底层诉求
跟踪训练Infra领域前沿技术进展，参考业界成熟方案迭代自有框架，持续压低训练开销、提升运行效率与系统稳定性
AI 洞察
优缺点分析
优点
- 接触前沿AI大模型训练技术，技能积累在行业内稀缺且价值高
- 参与超大规模系统设计，有丰富实战经验，提升解决复杂问题的能力
- 技术难度高，需要持续学习分布式系统、硬件优化等跨领域知识
- 工作可能涉及高强度调试和故障处理，对责任心和抗压能力要求高
- 适合对高性能计算、分布式系统和AI基础设施有浓厚兴趣，具备扎实编程基础，愿意深入底层技术并攻坚克难的应届毕业生
缺点 / 挑战
- 科大讯飞作为行业领先企业，平台资源丰富，项目具有挑战性和影响力
- 应届生需快速适应工业级项目，从理论到实践的过渡有挑战
角色解读
- 从初级AI Infra工程师成长为资深架构师或技术专家，负责更大规模的系统设计
- 转向AI算法研发或平台开发，拓宽技术栈，参与核心模型训练
- 向技术管理方向发展，带领团队攻克训练基础设施的复杂问题
- 设计针对超大模型的多维混合并行策略，优化计算、显存和通信效率
- 构建和迭代分布式训练框架，适配预训练和后训练流程，保障万卡集群稳定运行
- 定位并解决训练中的性能瓶颈和故障，联动平台完善运维策略，确保长周期任务成功
- 对接算法团队，定制框架以适配新模型架构，并跟踪前沿技术进行框架优化
- 扎实的编程基础，熟练Python，并精通C++或CUDA，能编写高性能代码
- 深入理解GPU架构和CUDA开发，熟悉国产加速硬件（如昇腾NPU）的软件栈
- 掌握主流LLM训练框架或编译优化知识，了解混合精度训练方案
- 具备分布式系统设计和系统优化能力，能处理大规模集群的稳定性挑战
申请策略
- 研究科大讯飞星火计划和AI Infra技术栈，在面试中体现对公司和岗位的了解
- 准备关于并行策略、训练稳定性等课题挑战的深度思考，展示解决问题的思路
- 突出相关项目经验，如分布式训练框架开发、GPU编程或高性能计算竞赛获奖
- 展示扎实的编程技能，附上GitHub代码或技术博客体现代码质量和解决问题能力
- 强调团队协作和自驱力经历，如参与开源项目或跨团队合作案例
- 针对LLM训练或系统优化相关课程、论文或研究进行重点描述
- 加强C++或CUDA编程实战，通过开源项目或在线课程提升系统级开发能力
- 深入学习分布式训练框架（如DeepSpeed、Megatron）和GPU架构知识，阅读相关论文
面试指南
- 使用STAR法则（情境、任务、行动、结果）结构化回答项目经验，突出技术深度和成果
- 结合具体技术概念（如数据并行、张量并行）回答策略设计问题，展示系统性思维
- 对于稳定性问题，从监测、恢复、预防多个角度阐述，强调团队协作和平台联动
- 如何设计针对万亿参数模型的混合并行策略来平衡计算、显存和通信？
- 在大规模训练中遇到硬件故障或Loss Spike时，如何保障训练稳定性？
- 请描述一个你优化过高性能计算或分布式系统的项目，遇到了什么挑战？
- 你对GPU架构（如CUDA）和国产加速硬件有什么了解？
- 如何跟踪并应用训练Infra领域的最新技术进展到自有框架？
职位点评
薪资福利70
成长发展95
工作生活50
使命价值85
薪资福利
70中等
作为上市公司岗位，预期提供有市场竞争力的薪资和稳定福利，但JD未明确披露具体待遇。
薪资信号未披露（AI估算：2千–3.5万/月）
成长发展
95较高
岗位涉及前沿AI训练基础设施，技术挑战高，提供快速技能成长和深入底层开发的机会，符合技术驱动型求职者的发展需求。
技术前沿前沿/新兴技术
技术栈Python、C++、CUDA、LLM训练框架、GPU架构、分布式训练
成长机会参与迭代与优化、跟踪前沿技术进展、持续压低训练开销、提升运行效率
业务类型profit_center
工作生活
50较低
工作地点可能涉及合肥或北京现场办公，JD未提及远程或弹性工作安排，工程岗位可能面临高强度调试和问题解决。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
AI训练基础设施是人工智能发展的核心支撑，岗位工作直接推动大模型技术进步，具有行业影响力和创新价值。
行业发展高速增长赛道
社会影响中性/一般
使命信号为模型团队提供稳定、高效可扩展的训练工程底座、充分挖掘芯片硬件性能上限
创新程度积极采用新技术
科大讯飞 的其他在招职位
相似职位推荐
Watch Jobs