阿里巴巴
千问事业部-大模型算子高级研发专家-杭州/北京/广州
千问事业部-大模型算子高级研发专家-杭州/北京/广州
发布于 大约 9 小时前普通员工/个人贡献者
北京市 / 杭州市
高级经验
全职员工
仅现场办公
本科
算法优化工程师
Cuda
Flashattention
Gpu Kernel
Tensor Core
Tensorrt-Llm
Vllm
大模型推理
性能优化
AI 估算 · 50k–80k
大模型算子优化为高难度技术岗，阿里平台加持，薪资竞争力强，参考市场水平。
职位详情
关于这个职位
作为阿里巴巴千问事业部的大模型算子高级研发专家，你将专注于大模型训练与推理核心算子的设计、开发和性能优化，覆盖Attention、MLP、MoE GEMM等关键算子，支撑千亿/万亿参数模型的低延迟、高吞吐推理
你将面向NVIDIA、AMD等硬件平台，研发高性能Kernel实现方案，并参与低比特推理算子的研发与优化
该岗位技术挑战高，需要扎实的C++/CUDA基础和系统化性能分析能力
最低要求
精通C++/CUDA/Python，具备扎实的计算机体系结构、并行计算和高性能计算基础，能够独立完成复杂GPU Kernel的设计、实现、调优和工程化落地
深入理解GPU硬件架构与性能优化方法，熟悉Tensor Core、Memory Hierarchy、Shared Memory、Register、Warp Scheduling、异步流水等机制，具备系统化性能分析和瓶颈定位能力
熟悉大模型推理核心算子，包括Attention、MLP、MoE GEMM、RMSNorm、RoPE、Sampling、KV Cache读写、量化/反量化等，有实际优化经验者优先
熟练使用Nsight Compute、Nsight Systems、Nsys等性能分析工具，能够针对真实业务负载开展性能归因、Benchmark建设和端到端优化
熟悉Triton、CUTLASS/CuTe、FlashAttention、FlashInfer、TensorRT-LLM、vLLM、SGLang等生态中的任一技术栈，有开源贡献或生产级优化经验者优先
工作职责
参与大模型训练、推理核心算子的设计、开发与性能优化，覆盖Attention、MLP、MoE GEMM、RMSNorm、RoPE、Sampling、KV Cache读写、量化/反量化等关键算子，支撑千亿/万亿参数模型的低延迟、高吞吐推理
面向NVIDIA、AMD及其他通用AI加速硬件，研发高性能Kernel实现方案，充分利用Tensor Core、Shared Memory、异步流水、Persistent Kernel等硬件能力，持续提升算子吞吐、延迟和资源利用率
参与FP8、FP4、INT8、INT4等低比特推理相关算子研发与优化，推动量化算子、算子融合、图级优化与推理框架协同落地，降低端到端推理成本
针对线上真实负载开展系统化性能分析、Benchmark、性能归因与问题定位，解决算子性能瓶颈、稳定性和工程化落地问题，沉淀可复用的优化方法和工程实践
AI 洞察
优缺点分析
优点
- 技术前沿性高，参与大模型核心算子的优化，紧跟AI技术发展
- 平台优势明显，阿里巴巴提供丰富的资源和技术积累
- 薪资竞争力强，且有机会接触开源社区，提升个人影响力
- 职业发展路径清晰，可向技术专家或架构师方向发展
- 技术难度大，对C++/CUDA和GPU架构要求极高，需要持续学习
- 工作强度可能较大，需要应对复杂的性能优化问题
- 竞争激烈，需要不断产出成果以保持竞争力
- 适合对GPU编程和性能优化有浓厚兴趣，具备扎实的C++/CUDA基础，并希望在AI基础设施领域深耕的技术专家
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术专家路线：在算子优化领域深耕，成为GPU性能优化专家
- 架构师路线：向大模型推理框架架构师发展，负责整体性能优化方案设计
- 技术管理路线：带领团队负责核心算子的研发与优化，向技术管理方向发展
- 负责大模型训练和推理核心算子的设计、开发与性能优化，确保千亿/万亿参数模型的高效运行
- 针对NVIDIA、AMD等GPU硬件，研发高性能Kernel，利用Tensor Core、Shared Memory等硬件特性提升计算效率
- 参与低比特量化算子的研发，推动算子融合与图级优化，降低推理成本
- 对线上真实负载进行性能分析、Benchmark和瓶颈定位，解决性能与稳定性问题
- 精通C++/CUDA/Python，具备扎实的计算机体系结构和并行计算基础
- 深入理解GPU硬件架构，熟悉Tensor Core、Memory Hierarchy等性能优化机制
- 熟悉大模型推理核心算子，有实际优化经验者优先
- 熟练使用Nsight Compute、Nsight Systems等性能分析工具
申请策略
- 了解阿里巴巴千问事业部的大模型业务方向，准备相关项目案例
- 在面试中展示对性能优化问题的系统化思考
- 突出GPU Kernel优化项目经验，特别是大模型算子的优化案例
- 强调对CUDA、Tensor Core等技术的深入理解，以及性能分析工具的使用
- 展示开源贡献或生产级优化经验，如FlashAttention、vLLM等
- 体现系统化性能分析和问题定位的能力
- 深入学习GPU架构和性能优化方法，如Tensor Core、异步流水等
- 熟悉主流大模型推理框架，如vLLM、TensorRT-LLM等
面试指南
- 采用STAR法则，清晰描述项目背景、任务、行动和结果
- 强调系统化性能分析方法和工具的使用，如Nsight Compute
- 展示对GPU架构的深入理解，并结合具体优化案例
- 请描述一次你优化GPU Kernel性能的经历，具体做了哪些优化？
- 如何分析大模型推理中的性能瓶颈？请举例说明
- 谈谈你对Tensor Core和Shared Memory的理解，以及如何利用它们优化算子
- 在量化算子优化中，你如何平衡精度和性能？
- 如何设计一个高性能的FlashAttention Kernel？
职位点评
75
综合评分
大厂核心岗位，技术前沿，薪资优厚，但工作强度大，WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合对技术有极致追求，渴望在GPU性能优化领域深耕，并能接受高强度工作的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展90
工作生活40
使命价值85
薪资福利
80较高
阿里巴巴作为上市巨头，薪资水平具有竞争力，且提供完善的福利体系，但具体薪资未在JD中披露。
薪资信号未披露（AI估算：50K-80K/月）
成长发展
90较高
该职位处于大模型技术前沿，涉及GPU性能优化，技术含量高，成长空间大，且公司平台能提供丰富的学习资源。
技术前沿前沿/新兴技术
技术栈C++、CUDA、Python、Tensor Core、FlashAttention、vLLM、TensorRT-LLM、SGLang
业务类型profit_center
工作生活
40较低
该岗位要求现场办公，且大模型优化工作强度可能较大，工作地点在北京/杭州/广州，通勤便利性一般。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
大模型技术是当前科技发展的核心方向，参与千亿参数模型的优化，对推动AI技术落地具有重要价值，使命感强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs