超威半导体
AI Framework Engineer
AI Framework Engineer
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Gpu Kernel Optimization
Hip/Cuda
Llvm
Pytorch
Rocm
Vllm
Distributed Inference
值不值得投
83综合评分
综合评分 83
顶尖外企AI底层技术岗，技术前沿性强，发展机会好，适合硬核技术人才
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6.3万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
95 个在招 · 其中AI算法 2 个
市场机会
选择适中
上海 · AI算法 · 31 个在招
职位详情
关于这个职位
作为核心工程师，负责优化和开发针对AMD GPU的深度学习框架
主要工作包括构建和优化分布式推理（如vLLM、SGlang）及强化学习解决方案，与内部GPU团队及开源社区协作，利用编译器技术提升多GPU/多节点系统的训练与推理性能
最低要求
计算机科学、计算机工程或电气工程等相关领域的硕士或博士学位
年以上专业技术软件开发经验，专注于GPU优化、性能工程和框架开发
在Linux环境下具备强大的C++开发与分析能力
具备优秀的解决问题能力、主动性及软件工程最佳实践意识
工作职责
End to end optimization: Build and optimize end to end distributed inference (e.g, P/D disaggregation and Large-EP) and RL solutions on mainstream frameworks like vLLM and SGlang.
Collaborate with GPU Library Teams: Work closely with internal teams to analyze and improve training and inference performance on AMD GPUs.
Collaborate with Open-Source Maintainers: Engage with framework maintainers to ensure code changes are aligned with requirements and integrated upstream.
Work in Distributed Computing Environments: Optimize deep learning performance on both scale-up (multi-GPU) and scale-out (multi-node) systems.
Utilize Cutting-Edge Compiler Tech: Leverage advanced compiler technologies to improve deep learning performance.
Optimize Deep Learning Pipeline: Enhance the full pipeline, including integrating graph compilers.
Software Engineering Best Practices: Apply sound engineering principles to ensure robust, maintainable solutions.
优先资格
GPU内核开发与优化：深入使用HIP、CUDA和汇编语言为AMD GPU设计优化深度学习内核
熟悉GCN/RDNA架构及CK、CUTLASS、Triton等工具
深度学习集成：精通将优化的GPU性能集成至PyTorch、TensorFlow、vLLM等主流大模型框架中
端到端方案优化：具备分布式推理（P/D disaggregation, Large-EP）及RL的性能调优实战经验，有文生视频/图生视频经验者优先
软件工程：精通Python和C++，具备调试、性能调优及测试设计能力
高性能计算：专家级处理异构计算集群上的大规模负载
编译器优化：深入理解LLVM和ROCm编译器理论及工具
AI 洞察
优缺点分析
优点
- 接触最前沿的AI基础设施技术栈（LLM推理优化）
- 平台稳定，技术氛围浓厚
- 全球顶级半导体公司的资源支持
- 技术门槛极高，需兼顾底层硬件与上层框架
- 热衷于底层系统编程、对AI基础设施有深厚兴趣且具备极强工程落地能力的资深工程师
缺点 / 挑战
- 分布式系统调优复杂度高，对性能极致追求带来压力
角色解读
- 可向首席科学家、高性能计算架构师或AI基础设施技术负责人方向发展
- 负责AMD GPU上深度学习框架（如vLLM, PyTorch）的底层性能优化与开发
- 精通C++/Python，深入理解GPU架构（HIP/CUDA），掌握编译器原理（LLVM/ROCm）
申请策略
- 强调跨团队协作能力，因为该角色需要频繁对接内部库团队和外部开源社区
- 突出GPU内核优化案例、分布式推理性能提升数据、以及参与开源框架（如vLLM/PyTorch）的贡献经历
- 深入研究ROCm生态，掌握LLM推理加速最新技术（如PagedAttention, Disaggregated Inference）
面试指南
- STAR法则：情境(高并发/低延迟需求)-任务(优化特定算子/框架)-行动(使用Profiler分析, 调整内存布局, 并行策略)-结果(性能提升X%)
- 如何优化LLM在AMD GPU上的推理吞吐量？
- 请解释HIP与CUDA的区别及迁移难点
- 如何在多节点分布式环境中进行性能瓶颈定位？
- 复习计算机体系结构、编译器后端知识，准备1-2个深度性能优化的具体项目案例
职位点评
薪资福利85
成长发展92
工作生活70
使命价值80
薪资福利
85较高
作为已上市的跨国巨头，提供具有市场竞争力的薪酬和完善的福利体系，满足度高。
薪资信号市场水准 (4.5千–8.0万/月)
成长发展
92较高
职位涉及AI框架底层优化与前沿编译器技术，技术壁垒高，成长空间巨大。
技术前沿前沿/新兴技术
技术栈HIP、CUDA、ROCm、LLVM、vLLM、PyTorch、CUTLASS、Triton
业务类型profit_center
工作生活
70中等
#LI-FL1标识暗示混合办公模式，但核心研发岗可能需较多现场协作，WLB视团队而定。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
致力于通过AI技术解决世界重要挑战，具有明确的社会价值和技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号ADVANCE THE WORLD、technology has the power to solve the world’s most important challenges
创新程度积极采用新技术
超威半导体 的其他在招职位
相似职位推荐
Watch Jobs