超威半导体
资深AI模型训练工程师
资深AI模型训练工程师
发布于 6 个月前普通员工/个人贡献者
北京市
高级经验
全职员工
仅现场办公
本科
软件工程
大规模模型训练
并行计算
算子优化
高性能计算
CUDA
GPU编程
HIP
ROCm
AI 估算 · 45k–80k
该职位要求顶尖的GPU高性能计算和AI模型训练技能，技术壁垒高，市场需求旺盛，资深工程师薪资竞争力强。
职位详情
关于这个职位
该职位是资深AI模型训练工程师，主要负责在AMD GPU上设计、开发和优化核心训练算子（如GEMM、Attention等），以最大化模型训练性能
你将分析大规模模型训练的性能瓶颈，推动端到端的系统级优化，并与硬件、编译器、框架等多个团队紧密合作，共同提升ROCm生态系统的性能与稳定性
最低要求
扎实的计算机体系结构和高性能计算基础
精通C/C++，具备使用HIP、CUDA、Triton进行GPU编程和并行开发的实践经验，以及强大的工程实现能力
深入理解并行计算原理和GPU执行模型，具备经过验证的性能剖析、分析和优化技能
具备大规模模型训练流水线和算子级性能优化的实践经验
强大的协作能力，能够跨团队和技术领域有效工作
计算机科学、计算机工程、电气工程或相关专业的学士或硕士学位
工作职责
在AMD GPU上设计、开发和优化核心训练算子，包括GEMM、Grouped GEMM、Attention、DeepEP及相关内核，重点在于最大化性能
分析大规模模型训练工作负载中的性能瓶颈，并推动端到端的系统级优化
与硬件、编译器、运行时和框架团队紧密合作，持续提升ROCm生态系统的性能、稳定性和可用性
为高级研究与开发计划做出贡献，包括下一代GPU架构、计算-通信融合以及AGI驱动的高性能算子自动生成
优先资格
熟悉现代GPU架构和性能调优技术（例如AMD CDNA4、NVIDIA Blackwell）
拥有优化高性能内核（如GEMM、Attention、Grouped GEMM、DeepEP）的经验
具备集体通信原语（例如AllReduce、All-to-All、ReduceScatter）和性能优化的经验
在以下一个或多个领域有经验：低精度计算（FP8 / FP4）、计算-通信重叠、编译器优化、高性能算子的自动生成
有开发或优化大规模训练系统（如Megatron-LM、TorchTitan或类似框架）的经验
AI 洞察
优缺点分析
优点
- 技术前沿性：直接参与最前沿的AI算力基础设施研发，接触尖端GPU技术和大型模型训练系统，技术积累价值高
- 顶级平台与视野：在全球领先的半导体公司工作，能与顶尖硬件和软件团队协作，获得系统级的宏观技术视野
- 行业前景广阔：AI算力需求持续爆发，掌握核心底层优化技能，在AI芯片和系统领域职业前景非常乐观
- 快速迭代与竞争：AI硬件和框架迭代迅速，需要持续学习以跟上AMD与行业竞争对手的技术发展步伐
- 适合对计算机底层原理和极致性能有强烈热情，具备扎实系统编程和并行计算基础，并希望在AI算力基础设施领域深耕的资深工程师
缺点 / 挑战
- 技术难度极高：需要深入底层硬件和系统软件，性能优化工作复杂且极具挑战性，对学习能力和抗压能力要求高
- 跨领域协作压力：工作需要与多个技术背景不同的团队深度协同，沟通成本和协调复杂度较高
角色解读
- 技术深度路径：可以成为GPU计算、编译器或AI系统架构领域的专家，参与定义下一代硬件和软件栈
- 技术广度与管理路径：积累跨领域知识后，可转向AI基础设施负责人、技术经理或研发总监等角色，负责更大范围的技术战略与团队管理
- 核心工作是开发和优化运行在AMD GPU上的AI模型训练算子（如矩阵乘法、注意力机制等），确保其达到最高性能
- 需要分析整个大规模模型训练流程中的性能瓶颈，从算子层面到系统层面进行端到端的优化
- 作为技术桥梁，与硬件设计、编译器开发、软件框架等多个团队协作，共同提升AMD的AI软件生态（ROCm）
- 核心编程与架构技能：精通C/C++和GPU编程（HIP/CUDA），深刻理解计算机体系结构、并行计算原理和GPU执行模型
- 性能工程能力：必须具备强大的性能剖析、分析和优化能力，能够定位并解决复杂计算任务中的瓶颈
- 系统级视野与实践：拥有大规模AI模型训练的实际经验，理解从单个算子到分布式训练系统的全链路
- 协作与工程能力：出色的跨团队协作能力和扎实的工程实现功底，能将优化方案稳定落地
申请策略
- 申请前深入研究AMD在AI计算领域的战略和产品线（如Instinct系列GPU、ROCm），在申请材料或面试中体现你的了解和兴趣
- 仔细阅读并理解职位描述中关于公司文化的部分（创新、协作、包容），在沟通中展现与之契合的价值观和工作风格
- 重点突出与GPU高性能算子开发、CUDA/HIP编程、以及大规模模型训练性能优化直接相关的项目经验，量化性能提升成果
- 详细描述你在计算机体系结构、并行计算方面的知识深度，以及解决复杂系统性能瓶颈的具体案例
- 展示你参与过的跨团队协作项目，特别是与硬件、编译器或框架团队合作的经验，体现你的系统视野和协作能力
- 如果对AMD ROCm生态不熟，可提前学习其文档和工具链，了解其与CUDA的异同
- 深入复习并行计算模式、内存层次结构、GPU架构细节，以及现代AI训练框架（如PyTorch）的底层执行机制
- 准备1-2个能体现你从性能分析到方案落地全过程的深度技术项目案例，用于面试详述
面试指南
- 使用STAR原则（情境、任务、行动、结果）来组织回答，特别是技术案例题，重点讲清楚技术挑战、你的分析思路、具体行动和可量化的结果
- 对于系统设计或分析类问题，展现你的分层思考能力，从算子、节点内、节点间等不同层次进行拆解，并说明权衡取舍
- 在回答协作类问题时，突出你的沟通方式、技术桥梁作用以及如何推动跨团队问题解决
- 请描述你优化过一个最复杂的GPU内核（如GEMM或Attention）的经历，遇到了什么瓶颈，你是如何分析和解决的？
- 如何诊断一个分布式大规模模型训练任务中的性能瓶颈？你会从哪些层面入手分析？
- 请比较CUDA和HIP编程的异同，在将CUDA代码移植到HIP时需要注意哪些关键点？
- 谈谈你对计算-通信重叠（compute-communication overlap）的理解，在实际优化中如何实现它？
- 你如何与硬件团队或编译器团队协作来共同解决一个性能问题？请举例说明
职位点评
Watch Jobs