超威半导体
AI Training Optimization Engineer
AI Training Optimization Engineer
发布于 5 个月前普通员工/个人贡献者
北京市
中级经验
全职员工
仅现场办公
学历未注明
软件工程
Cuda/Hip
分布式训练
大语言模型
强化学习
性能剖析
DeepSpeed
GPU优化
Megatron-LM
AI 估算 · 35k–65k
岗位聚焦前沿AI基础设施优化，技术门槛高，市场需求旺盛，且位于一线城市，薪资竞争力强。
职位详情
关于这个职位
这是一个专注于优化AI模型大规模训练基础设施的工程师岗位
你将负责开发和维护AMD内部的训练框架，优化分布式训练策略和性能，以提升在AMD GPU上的训练效率、稳定性和可扩展性
核心工作涉及与内部团队合作，解决系统级瓶颈，推动生成式AI模型开发的前沿
最低要求
扎实的工程背景，熟悉端到端的深度学习训练工作流
具备训练框架内部原理的实践经验（例如：Megatron-LM, TorchTitan, DeepSpeed, Verl, Slime, TransformerEngine）
强大的调试和性能分析能力（性能剖析、追踪等）
理解分布式训练技术，如数据并行、张量并行、流水线并行、ZeRO优化
优秀的沟通和跨职能协作能力
工作职责
参与开发和维护AMD的内部训练框架，涵盖预训练、后训练和强化学习（RL）流程
优化分布式训练流程和并行策略（数据并行、张量并行、流水线并行、ZeRO等）
改进通信调度和内核重叠，以减少训练延迟并最大化GPU利用率
使用HIP/CUDA和底层性能剖析工具调整核心算子的性能
集成和适配开源训练框架，如Megatron-LM, TorchTitan, DeepSpeed等
支持内部模型训练工作负载，进行性能、可靠性和可扩展性改进
跨团队协作，调查和解决大规模训练中的系统级瓶颈
优先资格
具备大规模模型训练经验（例如：LLMs, MoE, Diffusion, Wan, WorldModel）
有CUDA或HIP内核开发实践经验
熟悉通信库如NCCL/RCCL以及内核重叠等技术
曾参与高性能机器学习基础设施项目，特别是在预训练和强化学习（RL）框架开发方面
AI 洞察
优缺点分析
优点
- 平台优势：在全球领先的半导体公司工作，直接参与最前沿的AI硬件（GPU）生态建设，技术视野开阔
- 技能含金量：专注于AI训练基础设施这一高壁垒领域，积累的技能在业界极具竞争力和稀缺性
- 项目前沿性：接触和优化大规模生成式AI模型的训练，处于技术浪潮的核心
- 技术复杂度高：需要同时精通深度学习、分布式系统和底层硬件优化，学习曲线陡峭
- 快速迭代：AI技术发展迅猛，需要持续学习以跟上框架和硬件的更新
- 适合对AI系统底层有强烈好奇心，具备扎实工程和系统能力，并希望在顶尖硬件公司推动AI计算极限的工程师
缺点 / 挑战
- 工作压力：优化大规模训练系统涉及解决复杂的性能瓶颈，对问题解决能力和抗压能力要求高
角色解读
- 技术纵深：可成为AI训练系统架构专家，或深入GPU计算与编译器优化领域
- 横向扩展：向AI基础设施负责人、技术经理或跨足更广泛的AI工程化与平台开发方向发展
- 开发和优化AI模型在AMD GPU上的大规模分布式训练框架与基础设施
- 深入分析并解决训练过程中的性能瓶颈，如通信延迟和GPU利用率问题
- 与算法和平台团队紧密协作，将前沿训练技术（如各种并行策略）集成到实际工作流中
- 扎实的深度学习训练全流程知识，以及主流训练框架（如DeepSpeed, Megatron-LM）的内部原理和实践经验
- 强大的系统级性能分析和调试能力，能够使用专业工具定位和优化瓶颈
- 对分布式计算、GPU编程（CUDA/HIP）和高速通信库（NCCL/RCCL）有深入理解
申请策略
- 深入了解AMD在AI计算领域的战略和产品线（如Instinct系列GPU），在申请中体现对其技术生态的关注
- 准备阐述你对“训练优化”的理解，以及你过去如何衡量和提升训练效率的具体方法论
- 重点突出参与过的AI模型训练项目，特别是涉及分布式训练、性能调优或框架修改的部分
- 详细描述使用性能剖析工具（如Nsight, PyTorch Profiler）定位和解决系统瓶颈的具体案例
- 展示对主流训练框架（DeepSpeed, Megatron-LM等）的深入理解或贡献，而不仅仅是调用API
- 若缺乏经验，可深入学习DeepSpeed或Megatron-LM的源码，并尝试在小规模集群上复现其核心特性
- 加强CUDA编程和性能优化知识，通过官方文档和开源项目（如CUDA Samples）进行实践
面试指南
- 使用STAR原则（情境、任务、行动、结果）来组织项目经验类问题的回答，重点量化结果（如性能提升百分比、成本节约）
- 对于概念和技术问题，先给出清晰的定义，然后结合具体的使用场景或遇到的问题来解释，展示深度理解而非死记硬背
- 请描述你优化过一个深度学习训练任务性能的具体过程，你用了哪些工具，最终提升了多少？
- 解释一下数据并行、流水线并行和张量并行的区别，以及它们各自适用的场景和优缺点
- 当分布式训练出现通信瓶颈时，你会如何分析和定位问题？
- 你是否有过修改或扩展开源训练框架（如DeepSpeed）的经验？具体做了什么？
- 谈谈你对ZeRO优化不同阶段（ZeRO-1, ZeRO-2, ZeRO-3）的理解
- 深入复习分布式训练的核心概念、通信原语以及主流优化框架的原理
职位点评
Watch Jobs