超威半导体
Sr. Software Development Engineer
Sr. Software Development Engineer
发布于 6 个月前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
本科
软件工程
Hip/Cuda
分布式系统
性能调优
GPU
LLM优化
PyTorch
TensorFlow
vLLM
AI 估算 · 45k–80k
该职位要求顶尖的AI与GPU优化技能，涉及前沿大模型技术，市场人才稀缺，且位于一线城市，薪资竞争力强。
职位详情
关于这个职位
作为资深软件开发工程师，您将专注于为AMD GPU优化和开发深度学习框架
核心工作包括优化主流DL/LLM框架（如TensorFlow, PyTorch）、开发高性能GPU内核、优化大语言模型架构，并进行端到端的性能分析与调优
您将与内部团队及开源社区紧密合作，推动前沿AI技术的落地与性能提升
最低要求
推理框架、模型架构与优化专长：具备vLLM或SGLang的深度实践经验，精通现代LLM（如DeepSeek, Qwen），对Transformer/Attention/MoE/KV Cache有扎实的理论基础，并实际应用过FlashAttention、PagedAttention、连续批处理和量化（INT8/INT4/GPTQ/AWQ）等高级推理优化技术
端到端LLM性能工程：具备在多GPU和多节点环境中分析、诊断和优化计算、内存及通信瓶颈的能力
高性能计算：拥有在异构集群上运行和优化大规模工作负载的经验，注重效率、可靠性和可扩展性
深度学习框架集成：能够将优化的GPU内核集成到TensorFlow/PyTorch中，以加速大规模训练和推理，并实现强大的扩展性和吞吐量
软件工程卓越性与社区贡献：具备扎实的Python/C++编码能力，有效的调试和测试实践，能够交付可维护的性能关键型软件，并有开源贡献记录和强烈的自我驱动力
工作职责
深度学习与LLM框架优化：优化主流DL/LLM框架（TensorFlow, PyTorch, vLLM, SGLang）以适配AMD GPU，并将改进贡献至上游
GPU内核与算子优化：开发和调优GPU内核及性能关键算子，以最大化吞吐量并最小化延迟
模型与架构优化：适配和优化LLM架构（如Llama, Qwen, DeepSeek），并应用FlashAttention、PagedAttention和量化等先进技术
端到端性能工程：进行全面性能剖析以识别瓶颈，并在多GPU和多节点设置中实施系统、内存和通信优化
编译器与流水线加速：利用先进的编译器技术和图编译器来增强完整的深度学习和推理流水线
研究与先进技术：将推测解码、仅权重量化等新兴优化方法原型化并集成到生产系统中
跨团队与开源协作：与内部GPU库团队和开源维护者协作，协调改进并确保无缝的上游集成
软件工程卓越性：应用稳健的工程实践，交付可维护、可靠且具备生产质量的性能优化
优先资格
GPU内核开发与优化（加分项）：拥有使用HIP、CUDA、ASM以及CK、CUTLASS、Triton等工具为AMD GPU设计和调优高性能GPU内核的实践经验，并对GCN/RDNA架构有深入了解
编译器与系统级优化（加分项）：具备LLVM、ROCm的基础知识，以及使用编译器驱动技术提升内核和系统性能的经验
低层级开发技能：有使用CUDA C++编写和调试高性能GPU内核的经验
或具备使用Triton开发和优化深度学习算子的实践经验
编译器知识：理解或具备TVM、MLIR等编译器技术的实践经验是显著优势
分布式系统经验：拥有大规模模型（如张量并行、流水线并行）分布式推理的实践经验
AI 洞察
优缺点分析
优点
- 技术前沿性：直接参与AI算力底层优化，接触最先进的大模型和GPU技术，技能壁垒高，未来价值大
- 平台优势：在全球领先的半导体公司工作，能接触到海量计算资源和真实业务场景，项目影响范围广
- 社区影响力：有机会与开源社区深度互动，贡献代码，建立个人技术品牌和行业影响力
- 竞争激烈：该领域汇聚全球顶尖人才，对技术深度、创新能力和产出效率要求极高
- 适合对底层系统充满热情、追求技术极致、具备强大自学和问题解决能力，并希望在AI基础设施领域建立深厚技术积累的资深工程师
缺点 / 挑战
- 技术难度极高：需要同时精通底层硬件、编译器、深度学习框架和分布式系统，学习曲线陡峭，持续学习压力大
- 工作复杂度高：优化工作涉及全栈，问题定位和解决需要极强的系统思维和debug能力，可能面临棘手的性能瓶颈
角色解读
- 技术纵深发展：可成为GPU计算、编译器优化或大模型推理架构领域的专家，主导更复杂的技术项目
- 横向扩展：积累的底层优化和系统级经验，为转向AI基础设施、高性能计算架构师或技术负责人角色奠定基础
- 核心工作是优化深度学习和大语言模型框架，使其在AMD GPU上高效运行，涉及从内核到系统级的全栈性能调优
- 需要开发高性能的GPU计算内核，并应用FlashAttention、量化等前沿技术来优化模型训练和推理过程
- 职责包括与内部研发团队及开源社区协作，将性能改进集成到主流框架中，并推动技术落地
- 必须精通C++/Python，并具备深度学习框架（TensorFlow/PyTorch）和LLM推理框架（vLLM/SGLang）的深度优化经验
- 需要扎实的GPU编程能力（如HIP/CUDA），以及对Transformer架构、注意力机制、KV缓存等核心原理的深入理解
- 必须具备在多GPU、多节点分布式环境下进行端到端性能剖析、瓶颈诊断与系统优化的实战能力
申请策略
- 申请前深入研究AMD在AI计算领域的战略和产品线（如MI系列GPU），在面试中展现对业务背景的理解
- 准备1-2个能体现“从问题定位到方案实施”全过程的复杂技术难题解决案例，用于行为面试和技术深度讨论
- 重点突出在vLLM、TensorFlow/PyTorch等框架上进行性能优化或内核开发的具体项目，量化性能提升指标（如吞吐量提升X%，延迟降低Y%）
- 详细描述在多GPU/多节点环境下解决过的复杂性能瓶颈案例，展示系统级的分析、诊断和优化能力
- 列出具体的开源贡献（如PR链接、项目名称），证明技术影响力和协作能力
- 强调对LLM架构（如Transformer, MoE）和高级优化技术（FlashAttention, 量化）的深入理解和实践
- 若CUDA经验为主，需快速补充AMD HIP编程及ROCm生态的相关知识，可通过官方文档和小型实验项目上手
- 深入研读vLLM、SGLang等新兴推理框架的源码和优化论文，理解其核心设计与瓶颈
面试指南
- 采用STAR原则（情境-任务-行动-结果）结构化回答项目问题，重点突出技术决策逻辑、权衡取舍和可量化的成果
- 对于原理性问题，先阐述核心概念，再结合自身实践或理解进行延伸分析，展示深度思考能力
- 遇到未知或不确定的问题，可以坦诚说明当前认知边界，并展示解决问题的思路（如提出假设、设计实验验证）
- 请描述一次你深度优化某个深度学习模型或算子性能的经历，你如何定位瓶颈并实施了哪些优化？
- 在多GPU分布式训练/推理中，你遇到过哪些典型的通信或内存瓶颈？是如何分析和解决的？
- 对比分析一下vLLM和SGLang在KV缓存管理、调度策略上的异同和优劣
- 请解释FlashAttention的核心思想，它是如何优化注意力计算的内存和计算复杂度的？
- 如果你发现一个自定义的GPU内核性能未达预期，你的调试和优化步骤是什么？
职位点评
Watch Jobs