超威半导体
GPU Kernel Performance Engineer
GPU Kernel Performance Engineer
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Cuda/Hip
Flashattention
Llm Optimization
Pytorch/Tensorflow
Rocm
Vllm/Sglang
值不值得投
82综合评分
综合评分 82
顶尖芯片大厂核心研发岗，技术栈极度前沿，挑战与机遇并存
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.0万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
89 个在招 · 其中高性能计算 2 个
市场机会
选择适中
上海 · 高性能计算 · 49 个在招
职位详情
关于这个职位
负责优化和开发适用于AMD GPU的深度学习框架，重点提升GPU内核、大语言模型（LLM）及多卡/多节点系统的训练与推理性能
需深入掌握vLLM/SGLang等推理框架及Transformer架构，通过底层算子调优、编译器技术及系统级优化解决性能瓶颈，并推动开源贡献
最低要求
精通 vLLM 或 SGLang 等推理框架，熟练掌握现代 LLM（如 DeepSeek, Qwen），具备 Transformer/Attention/MoE/KV Cache 理论功底
具备 FlashAttention, PagedAttention, 连续批处理 (continuous batching) 及量化 (INT8/INT4/GPTQ/AWQ) 等高级推理优化的实战经验
能够针对多 GPU 和多节点环境中的计算、内存和通信瓶颈进行性能分析、诊断和优化
拥有在异构集群上运行和优化大规模工作负载的高性能计算 (HPC) 经验
能够将优化的 GPU 内核集成到 TensorFlow/PyTorch 中，加速大规模训练和推理
具备强大的 Python/C++ 编码能力，有有效的调试测试实践，能交付可维护的性能关键软件
有开源贡献记录，具备高度自驱力
计算机科学、计算机工程、电气工程或相关领域的学士或硕士学位
工作职责
深度学习与大模型框架优化：优化主要的 DL/LLM 框架（TensorFlow, PyTorch, vLLM, SGLang）以适配 AMD GPU，并将改进贡献至上游
GPU 内核与算子优化：开发和调优 GPU 内核及性能关键算子，以最大化吞吐量并最小化延迟
模型与架构优化：适配和优化 LLM 架构（如 Llama, Qwen, DeepSeek），应用 FlashAttention, PagedAttention 和量化等先进技术
端到端性能工程：进行全面性能分析以识别瓶颈，并在多 GPU 和多节点设置中实施系统、内存和通信优化
编译器与流水线加速：利用先进的编译器和图编译器技术增强完整的深度学习和推理流水线
研究与先进技术：原型设计并整合新兴优化方法（如推测解码 speculative decoding 和权重量化 weight-only quantization）到生产系统中
跨团队与开源协作：与内部 GPU 库团队及开源维护者合作，确保无缝的上游集成
软件工程卓越：应用稳健的工程实践，交付可维护、可靠且符合生产质量标准的性能优化方案
优先资格
GPU 内核开发与优化：使用 HIP, CUDA, ASM 及 CK, CUTLASS, Triton 等工具为 AMD GPU 设计和调优高性能内核，熟悉 GCN/RDNA 架构
编译器与系统级优化：了解 LLVM, ROCm 及编译器驱动的技术
低级开发技能：有 CUDA C++ 编程经验编写/调试高性能 GPU 内核，或使用 Triton 开发优化深度学习算子
编译器知识：理解或使用过 TVM 或 MLIR 等编译器技术
分布式系统经验：有大模型分布式推理（如 Tensor Parallel, Pipeline Parallel）实战经验
AI 洞察
优缺点分析
优点
- 身处AI芯片行业最前沿，接触顶级大模型与高性能计算技术
- 平台资源丰富，利于积累硬核技术背景
- 国际化视野开阔
- 技术门槛极高，需同时懂算法、系统和硬件
- 对底层系统优化有极大热情，具备极强逻辑思维能力和动手能力的资深软件工程师
缺点 / 挑战
- 性能优化工作往往面临极大的压力和挑战，需解决复杂的并发与资源竞争问题
角色解读
- 可向首席性能工程师、AI基础设施架构师发展，或在AI芯片底层软件领域成为行业专家
- 专注于深度学习框架（如PyTorch, vLLM）在AMD GPU上的性能调优，解决大模型推理和训练中的算力瓶颈
- 精通C++/Python，深入理解GPU架构（HIP/CUDA）、编译器原理（LLVM/MLIR）及大模型推理优化技术（FlashAttention, Quantization）
申请策略
- 强调开源社区贡献经历，展示对前沿AI框架（如vLLM, SGLang）源码的理解和定制能力
- 突出在GPU内核优化、大模型推理加速方面的具体项目成果，量化性能提升指标（如吞吐量提升X%，延迟降低Y%）
- 深入学习AMD ROCm生态，掌握Triton或CUTLASS等现代算子开发工具，强化分布式训练/推理的系统级优化知识
面试指南
- 采用STAR法则（情境、任务、行动、结果），重点阐述问题分析过程、技术选型依据、具体实现细节及最终的性能收益数据
- 请描述你优化过的最复杂的GPU Kernel，使用了哪些技术？
- 如何在多节点环境下优化LLM推理的通信瓶颈？
- 解释FlashAttention的原理及其相比传统Attention的优势
- 如何利用编译器技术（如MLIR）自动优化深度学习算子？
- 复习Transformer架构细节，熟悉主流LLM推理框架的源码结构，准备关于内存管理和并行计算的底层技术问题答案
职位点评
薪资福利85
成长发展95
工作生活60
使命价值80
薪资福利
85较高
作为已上市的跨国巨头，提供具有市场竞争力的薪酬和完善的福利体系，满足高收入预期。
薪资信号偏高 (6.0千–10.0万/月)
成长发展
95较高
涉及AI芯片与LLM结合的最前沿技术领域，技术栈极具前瞻性和挑战性，个人成长空间巨大。
技术前沿前沿/新兴技术
技术栈LLM、vLLM、SGLang、FlashAttention、PagedAttention、Quantization、HIP、CUDA、ROCm、MLIR
业务类型profit_center
工作生活
60中等
作为核心研发岗位，工作强度可能较高，但地处上海张江，通勤相对便利，办公环境优越。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
致力于通过技术创新解决世界重要挑战，赋能AI突破，具有显著的社会价值和行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号technology has the power to solve the world’s most important challenges、shaping the future、technology that moves the world forward
创新程度开拓性创新（行业首创）
超威半导体 的其他在招职位
相似职位推荐
Watch Jobs