阿里巴巴
大模型推理前沿技术研究-阿里星/C-Star
大模型推理前沿技术研究-阿里星/C-Star
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Deepspeed
Kv Cache
Megatron-Lm
Vllm
分布式训练
推理优化
模型量化
Gpu/Npu算子开发
值不值得投
82综合评分
综合评分 82
顶尖校招计划、薪资行业天花板、大模型底层前沿技术、工作强度较大。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
5.5万
比算法优化工程师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3080 个在招 · 其中算法优化工程师 约 120 个
市场机会
选择面较广
北京 · 算法优化工程师 · 约 310 个在招
职位详情
关于这个职位
该职位专注于大模型推理与训练的核心技术突破，涵盖高性能算子开发、模型量化与压缩、万卡集群分布式通信优化及前沿推理架构落地
你将参与打造全球领先的训练与推理加速引擎，实现万亿参数模型的极致性能调优
最低要求
在MLSys、NeurIPS、ICML、ACL等顶会/顶刊发表过论文
在国际顶级竞赛（ACM/ICPC等）中取得冠亚军或优异成绩
深度参与或主导贡献过顶级开源项目（vLLM/SGLang/TensorRT-LLM/Megatron-LM等）
工作职责
极致算子与内核开发：手写高性能GPU/NPU核心算子（CUDA/Triton），针对低比特量化、稀疏计算、注意力机制等场景深度挖掘硬件算力，结合编译优化与性能剖析（Nsight系列）突破计算瓶颈
模型压缩与轻量化：研发FP8/INT4/INT8量化（PTQ/QAT）、结构化/非结构化稀疏、动态剪枝、低秩近似（LoRA）及MoE技术
利用强化学习（RL）与AutoML构建自动化压缩流水线，实现精度-效率帕累托最优
分布式训练与通信优化：深度优化Megatron-LM、DeepSpeed等框架，突破万卡集群通信瓶颈，设计拓扑感知调度、通信压缩（如梯度压缩）、计算与通信重叠等策略，提升 scaling efficiency
前沿推理架构落地：研究并部署投机采样（Speculative Decoding）、分离式推理（Disaggregated Inference）、KV Cache优化等技术，在生产环境实现延迟与吞吐的数量级提升
AI 洞察
优缺点分析
优点
- 接触全球最前沿的大模型底层技术，技术壁垒极高，个人成长空间巨大
- 依托万卡集群和海量业务场景，能产出具有全球影响力的技术成果
- 作为顶尖人才计划入选者，享有极高的薪酬待遇与内部资源倾斜
- 技术难度极大，需要同时具备算法理论与底层系统工程的复合能力
- 大模型技术迭代极快，需要保持高强度的持续学习与研究
- 面临全球顶尖AI人才的激烈竞争
- 适合拥有顶尖学术背景、极强代码能力且对AI底层系统充满热情的极客型技术人才
缺点 / 挑战
暂无明显挑战项
角色解读
- 从大模型系统优化专家向AI基础设施架构师发展
- 未来可带领团队攻坚下一代AI计算范式，或成为大模型底层技术领域的行业顶尖技术领袖
- 负责大模型底层算子开发与内核优化，突破GPU/NPU硬件算力瓶颈
- 研发模型压缩与量化技术，实现精度与效率的平衡
- 优化万卡集群的分布式训练与通信，提升扩展效率
- 落地投机采样、KV Cache优化等前沿推理架构
- 具备极强的底层系统编程能力，精通CUDA/Triton及GPU架构
- 深入理解大模型训练与推理机制，熟悉Megatron-LM、DeepSpeed、vLLM等主流框架
- 拥有扎实的机器学习理论基础，有顶会论文或顶级竞赛/开源项目经验
申请策略
- 提前了解公司在大模型基础设施方面的最新技术博客和开源贡献
- 准备好详细的技术细节，面试中可能会深入考察算子底层逻辑和分布式通信瓶颈的解决思路
- 重点突出顶会论文的核心贡献与性能提升数据
- 详细列出在vLLM/Megatron-LM等顶级开源项目中的代码贡献量或主导的模块
- 展示ACM/ICPC等竞赛的获奖证明及底层系统优化实战经验
- 深入研读最新的大模型推理加速论文
- 熟练掌握Triton/CUDA编程，提升手写高性能算子的能力
- 熟悉分布式系统通信原理及底层通信库
面试指南
- 采用“背景-挑战-方案-收益”框架：先说明业务/系统背景与性能瓶颈，再阐述你的理论推导与工程实现方案，最后用具体的数据量化收益
- 请详细介绍你在vLLM/Megatron-LM等开源项目中的核心贡献，解决了什么具体的性能瓶颈？
- 在万卡集群中，如何设计拓扑感知调度来突破通信瓶颈？请结合具体场景说明
- 针对大模型推理，投机采样和KV Cache优化的核心原理是什么？在实际部署中如何权衡？
- 请手写或描述一个针对注意力机制或低比特量化的高性能CUDA/Triton算子优化思路
- 复习并深入理解大模型分布式训练与推理的核心论文及源码
- 准备好自己过往项目中最具挑战性的底层优化案例，能够画出系统架构图并解释每一个优化细节
职位点评
薪资福利95
成长发展95
工作生活40
使命价值85
薪资福利
95较高
作为顶尖人才计划，薪资处于行业绝对头部，且享有丰厚的长期回报，补偿性动机得到极大满足。
薪资信号偏高 (4千–7万/月)
成长发展
95较高
岗位处于AI大模型最前沿，接触万卡集群和万亿参数模型，技术深度与广度均为行业顶尖，发展性动机极强。
技术前沿前沿/新兴技术
技术栈CUDA、Triton、Megatron-LM、DeepSpeed、vLLM、SGLang、TensorRT-LLM、FP8/INT4/INT8量化、MoE、KV Cache
业务类型profit_center
工作生活
40较低
顶尖技术攻坚岗位且涉及万卡集群与生产环境落地，工作强度与压力通常较大，JD未提及WLB相关信息，生活化动机满足度有限。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
推动大模型底层技术突破，打造全球领先的加速引擎，具有极高的技术使命感与行业推动价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号打造全球领先的训练与推理加速引擎
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs