阿里巴巴
机器学习系统研发工程师-推理团队
机器学习系统研发工程师-推理团队
发布于 5 小时前实习/见习
实习生仅现场办公机器学习工程
机器学习工程
Cuda
Pytorch
Vllm
大模型推理
机器学习
深度学习
算子优化
高性能计算
值不值得投
69综合评分
综合评分 69
顶尖大厂核心AI研发实习，前沿技术驱动，高成长高挑战
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
5.0千
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4440 个在招 · 其中机器学习工程 约 230 个
市场机会
选择面较广
杭州 · 机器学习工程 · 约 310 个在招
职位详情
关于这个职位
该职位是阿里巴巴推理团队的实习岗位，专注于下一代AI应用场景下的推理加速技术研发
主要工作包括探索LLM/MLLM及Diffusion模型的压缩与优化技术，以及基于CUDA等底层技术的推理引擎全栈性能优化，旨在构建高效灵活的推理加速体系
最低要求
职位要求：
技术能力：
a. 具备良好的C++/Python编程基础和代码实践能力
b. 熟悉PyTorch
c. 对底层技术有浓厚兴趣，渴望深入了解GPU架构与高性能计算
综合素质：
a. 具备强烈的求知欲、好奇心和主动性，能快速学习新知识、新工具
b. 良好的逻辑思维能力和解决问题的热情
c. 积极的沟通态度和团队协作精神
d. 实习时长满足4个月及以上
工作职责
核心职责与挑战
我们希望你对技术充满好奇，并具备出色的动手能力
在导师的指导下，你将参与到以下一项或多项富有挑战的工作中：
下一代生成模型推理技术探索:
a. LLM/MLLM: 探索针对AR的生成特点，探索超高倍投机采样、模型压缩、efficient attention、蒸馏等技术
b. Diffusion: 探索sparse attention、cache、采样步数消减等技术
c. 软硬结合的优化技术：探索极低比特量化、稀疏计算等硬件依赖的前沿加速技术
极致性能的推理引擎工程实践:
a. 深入分析与优化现有推理框架（如vLLM, TensorRT-LLM等）的性能瓶颈，进行从算子到系统层面的全栈优化
b. 精通CUDA/CUTLASS/Triton等底层编程技术，针对新型Transformer架构变种，手写高性能算子，压榨硬件的每一分潜力
c. 设计和实现高效的KV Cache管理与压缩方案，优化请求调度与批处理策略，最大化系统吞吐并降低延迟
优先资格
加分项：
有相关领域（机器学习、高性能计算、体系结构等）的论文发表
熟悉GPU编程（CUDA），并有相关的项目或实践经验
有开源社区贡献经验（例如vLLM, PyTorch, Triton等）
AI 洞察
优缺点分析
优点
- 接触业界最前沿的大模型推理技术，拥有顶级导师指导和充足的算力资源支持
- 技术门槛极高，需要同时掌握算法理论与底层硬件优化，工作强度和技术难度较大
- 对底层系统和AI交叉领域有强烈兴趣，具备扎实编程基础和快速学习能力的计算机相关专业学生
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI系统架构师、高性能计算专家或大模型底层优化工程师方向发展，积累深厚的底层技术与算法结合经验
- 参与下一代AI模型（LLM/Diffusion）的推理加速技术研究，包括模型压缩、采样优化等算法层面的创新
- 熟练掌握C++/Python编程，熟悉PyTorch框架，具备CUDA/GPU底层编程能力，了解高性能计算原理
申请策略
- 强调对底层技术的热爱和好奇心，准备好展示具体的代码实现细节和优化思路
- 突出CUDA编程、PyTorch使用经验，展示任何与模型优化、高性能计算相关的课程项目或竞赛经历
- 深入学习Transformer架构细节，尝试复现vLLM或TensorRT-LLM的核心模块，阅读相关顶会论文
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述项目经历，重点突出遇到的技术难点、解决方案及最终的性能提升数据
- 请解释一下CUDA编程中Shared Memory的使用场景和优化技巧
- 你是如何理解Attention机制中的KV Cache优化的？
- 请描述一个你使用PyTorch进行模型训练或优化的具体案例
- 对于LLM推理中的长上下文问题，你有什么优化思路？
- 复习GPU架构基础知识，熟悉主流推理框架的代码结构，准备1-2个深入的技术细节讨论点
职位点评
薪资福利65
成长发展95
工作生活40
使命价值85
薪资福利
65中等
作为大厂实习岗位，薪资虽不及正式员工，但在实习生市场中属于较高水平，且提供完善的福利保障。
薪资信号未披露（AI估算：4.0–6.0千/月）
成长发展
95较高
该职位提供极高的成长空间，涉及前沿AI技术和底层系统优化，导师制培养模式有助于快速提升专业能力。
技术前沿前沿/新兴技术
技术栈LLM、Diffusion、CUDA、PyTorch、vLLM、TensorRT-LLM、Triton
成长机会在导师的指导下
业务类型profit_center
工作生活
40较低
高强度技术研发岗位，虽然可能有弹性工作制，但核心职责要求深度专注和高性能优化，工作节奏较快。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
85较高
致力于推动下一代AI技术的广泛落地与创新突破，具有显著的社会影响力和行业前瞻性。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号为下一代AI技术的广泛落地与创新突破注入强劲动力
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs