超威半导体
Product Application Engineer
Product Application Engineer
发布于 6 个月前普通员工/个人贡献者
北京市
高级经验
全职员工
仅现场办公
本科
软件工程
并行计算
性能优化
AI推理
CUDA
GPU架构
HIP
PyTorch
ROCm
AI 估算 · 35k–60k
高性能GPU内核开发专家，涉及AI/ML底层优化，技术壁垒极高，薪资处于行业顶尖。
职位详情
关于这个职位
这是一个面向数据中心AI工作负载的产品应用工程师职位
您将负责设计和优化高性能GPU内核，以最大化硬件利用率，并分析、优化内核执行的延迟和吞吐量
您需要与软件堆栈团队合作，将优化后的内核集成到高级框架和推理引擎中，确保AI模型获得应用级的性能提升
最低要求
深入理解现代GPU底层架构，包括流式多处理器（SMs/CUs）、内存层次结构（寄存器、共享内存、L1/L2缓存、HBM）以及warp/wavefront执行模型
精通C++和并行计算，在NVIDIA CUDA或AMD HIP内核编程方面拥有丰富的实践经验
具备调试和分析复杂GPU工作负载的能力，能够解读低级指标以驱动面向架构的优化
熟悉异步执行、流管理和主机-设备内存传输
拥有使用OpenAI Triton或其他基于Python的DSL进行敏捷内核开发和自动调优的经验
具备将自定义内核集成到大规模推理框架（如vLLM、SGLang或TensorRT-LLM）的实践经验
熟悉为PyTorch编写自定义扩展或算子（C++/CUDA扩展）
具备在不同GPU架构（如NVIDIA和AMD）之间移植内核或使用跨平台HPC库的经验
学士学位（必需）
工作职责
高性能内核开发：为AI/ML工作负载设计、实现和优化高性能GPU内核，以最大化硬件利用率
性能优化：分析并优化内核执行的延迟和吞吐量，解决内存带宽、指令延迟和线程分歧等方面的瓶颈
工作负载分析：评估单个内核对全栈AI模型的端到端性能影响，确保微观优化能转化为应用级的速度提升
性能剖析与调优：使用高级GPU剖析工具（例如，ROCm Profiler, Pytorch Profiler）来识别性能瓶颈、流水线停顿和内存层次结构效率低下问题
架构适配：调整实施策略，以利用现代GPU架构的特定功能（例如，矩阵核心、HBM特性）
框架集成：与软件堆栈团队合作，在高级框架和推理引擎中暴露优化后的内核
优先资格
硕士学位（优先），并拥有数年相关行业经验
AI 洞察
优缺点分析
优点
- 平台优越：AMD是全球领先的半导体公司，尤其在AI芯片领域与巨头竞争，平台能提供顶尖的技术视野和项目资源
- 行业前景：AI算力需求爆炸式增长，精通GPU性能优化的人才在芯片、云计算、自动驾驶等多个高薪领域备受追捧
- 技能复合：同时深入硬件（GPU架构）、软件（内核编程）和AI应用，构建了强大的技术护城河
- 技术门槛极高：需要同时精通计算机体系结构、并行编程和AI算法，学习曲线陡峭，对候选人的基础和技术热情要求极高
- 竞争激烈：面向的是顶级技术人才，面试和工作中都将与行业内的佼佼者同台竞技，需要持续保持学习和创新能力
- 适合对计算机底层硬件和并行计算有浓厚兴趣，具备扎实的C++和体系结构基础，并希望在AI算力基础设施领域成为顶尖专家的资深工程师
缺点 / 挑战
- 技术前沿：直接工作在AI计算的最底层（GPU内核），技术挑战高，能积累极其硬核和稀缺的GPU编程与优化经验
- 工作压力大：性能优化工作直接关系到产品竞争力，需要不断挑战硬件极限，解决复杂的技术难题，可能面临较大的交付压力
角色解读
- 技术深度上，可以从特定架构专家发展为跨平台（NVIDIA/AMD）性能优化大师，或深入特定AI领域（如大语言模型推理）成为顶尖专家
- 职业广度上，可向AI系统架构师、技术负责人（TL）或研发经理方向发展，负责更宏观的技术规划和团队管理
- 行业方向上，所积累的GPU和AI性能优化经验在芯片设计公司、云计算巨头、AI初创企业均有极高价值，职业选择面广
- 核心工作是进行高性能GPU内核的开发与优化，针对AI/ML工作负载（如LLM、生成式AI）编写底层代码，以榨取硬件最大性能
- 使用专业工具（如ROCm Profiler）对GPU内核进行深度性能剖析，识别并解决内存带宽、指令延迟等瓶颈问题
- 将优化后的内核集成到PyTorch等高级AI框架或vLLM等推理引擎中，确保技术优化能实际提升最终AI应用的运行效率
- 扎实的GPU底层架构知识，必须深刻理解流式多处理器、内存层次、线程调度模型等硬件原理
- 强大的C++编程和并行计算能力，并精通NVIDIA CUDA或AMD HIP等GPU编程模型
- 丰富的性能工程经验，能够使用剖析工具定位问题，并基于硬件特性进行针对性优化
- 熟悉主流AI框架（如PyTorch）和推理引擎（如TensorRT-LLM），具备将底层优化与上层应用结合的能力
申请策略
- 深入了解AMD在AI芯片领域的最新战略和产品（如Instinct系列），在面试中展现出你对公司业务方向的关注和认同
- 仔细阅读AMD的“负责任AI政策”，理解其AI伦理观，这体现了公司的文化价值观
- 重点突出与GPU内核开发、性能优化直接相关的项目经验，详细描述你解决的问题、使用的工具（如Nsight, ROCm）和取得的量化性能提升（如速度提升X倍）
- 清晰列出你精通的GPU编程模型（CUDA/HIP）、硬件架构知识以及熟悉的AI框架和推理引擎
- 展示你在不同GPU平台（NVIDIA/AMD）间移植或优化代码的经验，这能体现你的硬件抽象和跨平台能力
- 如果有发表相关技术文章、开源项目贡献或在大型AI系统（如推荐系统、LLM服务）中的优化经验，务必重点呈现
- 如果对AMD ROCm生态不熟，可提前学习HIP编程，并尝试在AMD GPU上运行和优化简单的内核，了解其工具链
- 深入学习现代GPU架构（特别是AMD CDNA/ RDNA架构）的细节，包括矩阵核心、HBM特性等，并思考其优化策略
面试指南
- 对于技术问题，采用“情境-任务-行动-结果”（STAR）法则来组织答案，重点用数据和事实说明你的贡献
- 回答比较类问题时，先结构化地列出对比维度（如编程语法、内存层次、性能特性），再分别阐述，最后总结适用场景
- 遇到架构或优化策略问题，从宏观到微观层层递进：先谈整体设计思路和目标，再分解到具体的技术实现细节和权衡考虑
- 请描述一个你遇到的最具挑战性的GPU内核性能瓶颈，你是如何分析并最终解决它的？
- 比较一下NVIDIA CUDA和AMD HIP在编程模型、内存模型和工具链上的主要异同
- 如何为一个新的矩阵乘法内核设计优化策略？你会考虑哪些层面的优化（线程布局、内存访问、指令集等）？
- 请解释一下GPU的L1/L2缓存和共享内存的区别，在优化内核时如何有效利用它们？
- 你如何将优化后的自定义内核集成到像vLLM这样的推理服务中？需要考虑哪些工程问题？
职位点评
Watch Jobs