中科曙光
【2027】大模型分布式优化工程师-青岛(J14468)
【2027】大模型分布式优化工程师-青岛(J14468)
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Deepspeed
Megatron
Pytorch
分布式优化
大模型
并行计算
值不值得投
71综合评分
综合评分 71
前沿技术栈、技能成长空间大，但薪资和WLB信息不明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
2.3万
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 540 个在招 · 其中算法优化工程师 17 个
市场机会
选择不多
青岛 · 算法优化工程师 · 7 个在招
职位详情
关于这个职位
该职位专注于大模型的分布式优化工作，旨在提升大规模训练场景下的算力利用率
你将负责开发和维护训练框架、定制通信算子，并进行性能建模与优化
需要掌握C++、Python、CUDA等编程技能，熟悉AI框架和分布式系统知识
最低要求
掌握现代c++，python编程，熟悉linux系统及程序调试分析方法，熟悉cuda编程模型，了解常见AI芯片架构及底层硬件原理，了解并行计算、异构计算、分布式系统等相关知识
掌握pytorch高性能编程方法，熟悉Megatron、DeepSpeed、Transformer Engine、Verl、Slime、Vllm、SGlang等框架之一
熟悉至少一种人工智能领域场景
工作职责
岗位职责（满足以下任意一方向）：
负责dense/moe/多模态/强化学习等模型的大规模分布式优化，持续提高大规模分布式场景的算力利用率
负责大模型训练框架及相关定制通信算子的开发、调试、优化与维护
负责大规模训练容错库相关开发，优化在超大规模场景下的快速恢复
负责超大规模集群下的训练性能建模
跟踪分布式前沿优化技术和社区动态，持续改进产品性能
优先资格
加分项：
a. 熟悉mpi，nccl，分布式通信优化策略者优先
b.具有多机多卡调试经验者优先
c.具有大模型训练容错经验者优先
d.具有nvshmem、mooncake、deepep等之一定制通信库使用开发经验者优先
e.具有fp8/fp4训练经验者优先
f.具有训练框架、算子融合开发优化经验者优先
g. 具有强化学习框架使用开发优化经验者优先
h.熟悉常用数学建模及验证方法者优先
AI 洞察
优缺点分析
优点
- 技术栈前沿，涉及大模型和分布式优化等热门领域
- 技能积累深厚，可提升底层系统和算法优化能力
- 行业需求增长快，职业前景较好
- 技术难度高，需要掌握复杂的分布式系统和AI框架知识
- 工作可能涉及高强度调试和性能优化，对细节要求高
- 竞争激烈，需要持续跟踪前沿技术保持竞争力
- 适合对大模型和分布式系统有浓厚兴趣，追求技术深度成长，具备扎实编程和系统知识的工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可成长为分布式系统专家或AI基础设施架构师
- 向技术管理方向发展，如团队负责人或技术经理
- 在AI前沿领域深耕，参与核心算法或平台研发
- 负责大模型（如dense/MOE/多模态）的分布式训练优化，提升算力利用率
- 开发、调试和维护大模型训练框架及定制通信算子
- 进行超大规模集群的训练性能建模和容错库开发
- 跟踪分布式优化前沿技术，持续改进产品性能
- 精通C++、Python编程，熟悉Linux和CUDA开发
- 掌握PyTorch高性能编程，熟悉至少一种AI训练框架（如Megatron、DeepSpeed）
- 具备分布式系统、并行计算、异构计算知识
- 了解AI芯片架构和常见AI应用场景
申请策略
- 关注中科曙光的技术博客或开源项目，了解其技术方向
- 准备针对分布式优化场景的具体问题案例，展示解决问题的能力
- 在面试中主动讨论对AI基础设施和性能建模的理解
- 突出C++、Python、CUDA等编程项目经验，尤其是涉及性能优化的案例
- 强调使用PyTorch及AI训练框架（如Megatron、DeepSpeed）的实际开发经历
- 展示分布式系统、并行计算相关的项目或研究成果
- 列出对AI芯片架构和通信优化的了解（如MPI、NCCL）
- 深入学习分布式训练框架（如Megatron、DeepSpeed）的源码和优化技巧
面试指南
- 针对技术问题，采用'问题背景-分析思路-解决方案-结果效果'的结构回答
- 结合具体项目经验，描述遇到的挑战、采取的优化方法和最终收益
- 展示对分布式系统原理的理解，如通信策略、并行模式、性能建模等
- 如何优化大规模分布式训练中的通信瓶颈？请举例说明
- 描述一下你使用Megatron或DeepSpeed进行模型训练的经验
- 如何设计一个容错机制来处理超大规模训练中的故障恢复？
- 请解释一下异构计算在大模型训练中的应用
- 你如何评估和优化训练性能？有哪些关键指标？
职位点评
薪资福利70
成长发展85
工作生活50
使命价值80
薪资福利
70中等
JD未明确提及薪资和福利信息，但基于岗位技能要求和城市市场水平，薪资可能处于中等偏上范围。
薪资信号未披露（AI估算：1.5千–3万/月）
成长发展
85较高
岗位涉及大模型分布式优化等前沿技术，技能成长空间大，有助于深入AI基础设施领域。
技术前沿前沿/新兴技术
技术栈C++、Python、CUDA、PyTorch、Megatron、DeepSpeed
业务类型ambiguous
工作生活
50较低
JD未提及工作模式、办公灵活性或WLB相关信息，生活化动机满足程度有限。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
大模型和分布式优化是AI领域高速增长赛道，具有较高的技术创新性和行业前景。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs