超威半导体
AI Software System Design Engineer
AI Software System Design Engineer
发布于 5 个月前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
本科
软件工程
分布式计算
性能优化
机器学习
AI框架
CUDA
GPU编程
NCCL
AI 估算 · 35k–65k
岗位要求顶尖的AI与GPU全栈开发能力，涉及前沿技术，市场人才稀缺，薪资竞争力强，发展前景广阔。
职位详情
关于这个职位
作为AI软件系统设计工程师，您将负责为AMD服务器GPU进行全栈机器学习定制软件开发和技术解决方案支持
主要工作包括与客户沟通技术方案、驱动AI软件从概念验证到产品发布的全流程开发，并与跨部门团队协作优化AI训练和推理工作负载
这是一个需要深厚AI领域知识和强大编程能力的技术核心岗位
最低要求
计算机科学、计算机工程、电气工程或相关专业的学士或硕士学位
在AI分布式/框架/内核解决方案/优化（用于推理或训练）领域具备专业知识
具备扎实的C++/Python编程能力
拥有行业AI解决方案、端到端流水线、框架/SDK和内核开发的实践经验
工作职责
向顶级客户提供技术提案和支持
为客户的POC（概念验证）成功做出重大贡献
驱动AI软件的自定义需求，包括从POC需求到POR（产品发布）发布，从GPU内核到框架和分布式解决方案
与不同团队协作和互动，以分析和优化训练和推理工作负载及解决方案
分析竞争性解决方案，以识别优势与劣势，阐明价值主张
应用您的软件工程最佳实践知识
优先资格
能够独立工作，定义项目目标和范围，并主导自己的开发工作
扎实的沟通能力（英语和普通话）
具有AI框架经验（例如：vLLM, Sglang, Megatron-LM, Deepspeed, TensorRT, TensorRT-LLM）
具有AI分布式解决方案经验（例如：EP/CP/TP/PP/DP, DeepEp, DualPipe, PD aggregation, KV缓存传输和存储）
具有多GPU和多节点集体通信原语（NCCL/RCCL）、用于RDMA/GDR和高速网络的NIC/GPU驱动程序的AI分布式网络通信经验
具有使用triton, cutlass, CUDA, CK等进行GPU内核原语（如FA, PA, MOE, MLA）开发的经验
出色的Python、C++编程和软件技能，包括调试和性能分析
并行编程知识，最好是CUDA C/C++、HIP或计算机着色器
模型推理优化过程知识，如gemm/卷积调优、图优化和算子融合
Linux操作系统/驱动程序、CI和工具链（性能分析器/DCGM）开发和调试知识
Linux DRM, HSA, ROCm KMD/UMD驱动程序知识（加分项）
编译器（triton/TVM）知识（加分项）
AI 洞察
优缺点分析
优点
- 平台优势：在全球领先的半导体公司工作，能接触最前沿的GPU硬件和AI软件生态，技术视野开阔
- 技能含金量高：岗位涉及AI全栈和底层系统优化，技能组合在市场上极具竞争力和稀缺性
- 项目影响力大：直接支持顶级客户和关键项目，工作成果能产生显著的商业和技术影响
- 跨团队协作要求高：工作需要与芯片、驱动、框架等多个团队紧密协作，沟通和协调能力至关重要
- 适合拥有扎实AI和系统软件背景，热衷于解决底层技术难题，并希望在大平台参与前沿项目推动的资深工程师
缺点 / 挑战
- 技术复杂度高：需要同时精通AI算法、分布式系统、GPU硬件和底层软件，学习曲线陡峭，持续学习压力大
- 客户导向压力：需直接应对客户的技术需求和时间压力，对问题解决速度和方案质量要求极高
角色解读
- 技术专家路径：可深耕AI系统软件架构，成为GPU计算与AI框架融合领域的顶尖专家
- 解决方案架构师路径：凭借客户对接和技术方案设计经验，转向更偏重业务和战略的解决方案角色
- 负责为AMD服务器GPU提供全栈AI软件解决方案，从底层GPU内核开发到上层应用框架优化
- 直接面向顶级客户，提供技术提案支持并驱动从概念验证到产品发布的完整AI软件定制开发流程
- 与内部跨职能团队协作，分析和优化复杂的AI训练与推理工作负载，提升解决方案性能
- 深厚的全栈AI开发能力，精通C++/Python，并熟悉CUDA、Triton等GPU编程和内核开发工具
- 丰富的AI框架和分布式计算经验，如vLLM、DeepSpeed、TensorRT，以及NCCL等通信库
- 出色的系统级问题分析和性能优化能力，能够处理从驱动层到应用层的复杂技术挑战
申请策略
- 深入了解AMD在AI计算领域的战略布局和最新产品（如Instinct系列GPU），在申请和面试中展现你的关注
- 仔细阅读职位描述中关于公司文化的部分（如“direct, humble, collaborative”），并在沟通中体现与之匹配的素质
- 重点突出全栈AI项目经验，特别是涉及GPU加速、框架优化或内核开发的项目，量化性能提升指标
- 详细描述使用vLLM、TensorRT、DeepSpeed等特定AI框架或工具解决实际问题的经历
- 展示在分布式训练/推理、多GPU通信优化方面的具体实践和成果
- 如有客户支持或技术方案设计的经验，应明确写出并说明带来的价值
- 若对AMD ROCm生态不熟，可提前了解其与CUDA的异同，并尝试进行一些简单的移植或性能对比实验
- 加强对AI推理全流程优化的理解，包括算子融合、图优化、量化等具体技术点
面试指南
- 使用STAR法则（情境、任务、行动、结果）来结构化回答项目经验类问题，重点突出你的技术决策、解决问题的过程和可量化的成果
- 对于技术对比或方案选择类问题，可以先阐述不同选项的原理和适用场景，再基于具体约束条件（如性能、兼容性、开发成本）给出你的分析和选择理由
- 请详细介绍一个你参与的、涉及多GPU分布式训练的项目，你负责了哪些部分？遇到了什么挑战？如何解决的？
- 在模型推理优化中，你通常采用哪些具体的技术手段（如算子融合、内核优化）来提升性能？请举例说明
- 你如何分析一个AI工作负载的性能瓶颈？你会使用哪些工具（如DCGM, nsight）？
- 请比较一下CUDA和ROCm在编程模型和生态上的主要异同
- 描述一次你向客户或内部团队成功推销一个复杂技术方案的经历
- 深入准备1-2个最能体现你AI全栈和系统优化能力的项目案例，确保能清晰阐述技术细节、权衡思考和最终影响
职位点评
Watch Jobs