超威半导体
AI Framework Engineer
AI Framework Engineer
发布于 大约 16 小时前普通员工/个人贡献者
AI 估算 · 35k–60k · AI 参考估算
Shanghai, China
专家级经验
本科
仅现场办公机器学习工程
机器学习工程
值不值得投
薪资怎么样
48K
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
37 个在招 · 其中机器学习工程 5 个
市场机会
选择面较广
机器学习工程 · 约 950 个在招
职位详情
关于这个职位
该职位是AMD GPU深度学习框架团队的核心工程师，主要负责为AMD GPU优化和开发主流深度学习框架（如TensorFlow、PyTorch、vLLM），以提升大语言模型的训练和推理性能
工作将涉及GPU内核优化、编译器技术应用以及跨团队的开源协作，旨在推动AI计算的前沿发展
最低要求
推理框架、模型架构与优化专业知识：具备vLLM或SGLang的强实用经验，精通现代大语言模型（如DeepSeek， Qwen），在Transformer/Attention/MoE/KV Cache方面有扎实的理论基础，并能实际应用FlashAttention， PagedAttention， continuous batching和量化（INT8/INT4/GPTQ/AWQ）等高级推理优化技术
端到端LLM性能工程：具备在多GPU和多节点环境中对计算、内存和通信瓶颈进行剖析、诊断和优化的能力
高性能计算：在异构集群上运行和优化大规模工作负载的专家级经验，关注效率、可靠性和可扩展性
深度学习框架集成：具备将优化后的GPU内核集成到TensorFlow/PyTorch中以加速大规模训练和推理的成熟经验，并具备良好的扩展性和吞吐量
卓越的软件工程能力与社区贡献：精通Python/C++编码技能，有效的调试和测试实践，能够交付可维护的、性能关键的软件，并有开源贡献记录和高度的自主性
GPU内核开发与优化（加分项）：具备使用HIP， CUDA， ASM以及CK， CUTLASS和Triton等工具为AMD GPU设计和调优高性能GPU内核的扎实实战经验，并对GCN/RDNA架构有深入了解
编译器与系统级优化（加分项）：具备LLVM， ROCm以及利用编译器技术提升内核和系统性能的专家级基础知识
工作职责
深度学习与LLM框架优化：为AMD GPU优化主要的DL/LLM框架（TensorFlow， PyTorch， vLLM， SGLang），并将改进贡献至上游
GPU内核与算子优化：开发和调优GPU内核及性能关键算子，以最大化吞吐量并最小化延迟
模型与架构优化：适配和优化LLM架构（例如，Llama， Qwen， DeepSeek），并应用FlashAttention， PagedAttention和量化等先进技术
端到端性能工程：进行全面的性能剖析，识别瓶颈，并在多GPU和多节点设置中实施系统、内存和通信优化
编译器与流水线加速：利用先进的编译器技术和图编译器来增强完整的深度学习和推理流水线
研究与先进技术：将诸如投机解码（speculative decoding）和权重量化（weight-only quantization）等新兴优化方法原型化并集成到生产系统中
跨团队与开源协作：与内部GPU库团队和开源维护者合作，协调改进并确保无缝的上游集成
卓越的软件工程：应用稳健的工程实践，交付可维护、可靠且具有生产质量的性能优化成果
优先资格
计算机科学、计算机工程、电气工程或相关领域的学士和/或硕士学位
底层开发技能：具备CUDA C++编程经验，能够编写和调试高性能GPU内核
或有使用Triton开发和优化深度学习算子的实践经验
编译器知识：了解或具有TVM或MLIR等编译器技术的实践经验将是一个显著优势
分布式系统经验：具有大规模模型分布式推理的实践经验（例如，Tensor Parallel， Pipeline Parallel）
AI 洞察
暂无 AI 洞察数据
超威半导体 的其他在招职位
相似职位推荐
Watch Jobs