阿里巴巴
研究型实习生-面向全场景智能的大模型效能优化与智能体演进研究
研究型实习生-面向全场景智能的大模型效能优化与智能体演进研究
发布于 3 小时前实习/见习
实习生仅现场办公机器学习工程
机器学习工程
Cuda
Diffusion
Moe
Pytorch
分布式训练
大模型
推理优化
自动驾驶
值不值得投
82综合评分
综合评分 82
大模型核心系统优化研究型实习，技术前沿且成长空间极大，适合有顶会成果的博士硬核技术人才。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
薪资怎么样
2万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3100 个在招 · 其中机器学习工程 约 180 个
市场机会
选择面较广
杭州 · 机器学习工程 · 约 260 个在招
职位详情
关于这个职位
该职位是阿里巴巴面向在读博士的研究型实习岗位，主要聚焦大模型在自动驾驶、MoE架构、图像视频生成及推荐系统等场景下的效能优化与智能体演进研究
你将参与千亿级大模型在复杂工业场景中的高性能、低延迟、高自主性系统架构设计与工程落地
最低要求
计算机科学、人工智能、电子工程等相关专业在读博士
有 AI 算法/系统、高性能计算方向的顶会/顶刊论文发表
扎实的 C/C++ 和 Python 编程能力，具备良好的代码工程素养
熟悉 PyTorch，有实际模型训练或推理的项目经验
每周至少实习 4 天，持续 3 个月以上
工作职责
你将从以下四个核心应用方向中选择一个深入参与，开展系统性研究与工程实现：
面向自动驾驶/具身智能的端到端自动驾驶大模型训练优化：参与大规模分布式训练系统的性能分析与优化，包括数据并行、模型并行、流水线并行等策略的调优
参与自动驾驶核心模型（BEV、Transformer、Diffusion 等）中关键算子的性能 Profiling 与优化
基于 Transformer 架构的自动驾驶端到端模型（如 VLA，UniAD, VAD 等）的大规模预训练与微调，优化长序列感知与预测的对齐
面向MoE大模型的训练推理优化：针对千亿级超大规模参数模型，深度参与类QWen/DeepSeek等MoE大模型的性能调优，研究并行策略（张量、流水线、数据并行）下的通信重叠与显存优化
基于开源大模型推理引擎结合各类大模型和GPU/NPU等硬件，应用PD分离/DeepEP架构，探索高性能算子实现，结合编译优化，量化等手段提升模型推理性能
图像视频与世界模型生成：参与图像/视频生成模型（Diffusion Transformer、UNet、VAE、文本编码器等）的推理性能分析与端到端优化，提升生成速度与吞吐量
针对多步采样推理流程（DDPM / DDIM / Flow Matching 等）进行调度优化，探索步数压缩、缓存复用、投机采样等加速策略
协助构建推理性能基准测试体系，持续追踪优化效果
参与生成模型推理服务的工程化落地，包括多卡并行推理、动态 Batching、流式输出等方案的设计与实现
大模型与推荐系统的融合创新，聚焦生成式算法或者推荐场景推理优化的研发：研究面向基于LLM的生成式召回技术，通过用户意图生成、Item ID/Title生成等方式，解决传统方法在语义鸿沟与长尾挖掘上的痛点，探索利用大模型直接生成召回和排序
针对生成式模型推理延迟高、资源消耗大的问题，研究算子优化能力、低精度计算、流式推理、投机采样等技术并应用模型推理技术
优先资格
有自动驾驶/图像/视频生成/推荐等领域相关项目经验者优先
熟悉训练推理优化工具链（DeepSpeed / Megatron / TensorRT / ONNX Runtime / torch.compile），有实际加速经验
有模型量化实践经验（GPTQ / AWQ / SmoothQuant / FP8 等），了解量化对生成质量的影响评估
有推理引擎开发或大规模在线推理服务经验
有 CUDA / Triton 算子开发经验，理解 GPU 架构（SM、Warp、共享内存、指令流水线等）
AI 洞察
优缺点分析
优点
- 接触千亿级大模型在复杂工业场景落地的核心难题，技术栈极具前沿性
- 依托丰富的算力资源和真实业务场景，能积累极具竞争力的工程与科研经验
- 大模型效能优化涉及底层硬件架构与复杂系统，技术门槛高，学习曲线陡峭
- 适合具备扎实系统底层基础、有顶会论文发表经历，且对大模型推理/训练优化有浓厚兴趣的在读博士生
缺点 / 挑战
- 需要在高性能、低延迟、高自主性的“不可能三角”中寻找平衡，面临较大的科研与工程压力
角色解读
- 实习表现优异可争取转正机会，成为大模型系统架构或算法优化领域的专家
- 未来可向AI系统架构师、大模型推理优化专家或具身智能算法研究员等方向发展
- 参与千亿级大模型在自动驾驶、MoE架构、图像视频生成或推荐系统等场景下的效能优化研究
- 负责分布式训练系统调优、推理引擎加速、算子开发及模型量化等工程落地工作
- 具备扎实的C/C++和Python编程能力，熟悉PyTorch框架及大模型训练/推理流程
- 需要掌握分布式训练策略、CUDA/Triton算子开发或模型量化等底层优化技术，并有顶会/顶刊论文发表证明研究能力
申请策略
- 提前了解相关大模型团队的研究方向，在面试中展现对大模型“不可能三角”问题的深刻思考与解决思路
- 重点突出在AI算法/系统、高性能计算方向的顶会/顶刊论文，以及相关的工程实现经验
- 详细列出在PyTorch、分布式训练、CUDA算子开发或模型量化等方面的具体项目成果与性能提升数据
- 深入复习GPU架构原理及CUDA/Triton编程，熟悉DeepSpeed/Megatron等主流大模型训练框架
- 了解当前MoE架构或Diffusion模型的推理优化前沿技术
面试指南
- 采用STAR法则回答项目经验，重点突出“问题定义-技术方案-性能指标提升-最终成果”
- 对于系统设计问题，从硬件架构、通信开销、显存占用等多个维度进行拆解分析
- 请详细介绍你发表的一篇关于AI系统或高性能计算的顶会论文，你在其中的核心贡献是什么？
- 在千亿级MoE大模型训练中，如何解决张量并行和流水线并行带来的通信瓶颈？
- 请谈谈你对大模型推理优化的理解，有哪些常见的加速策略？
- 在使用CUDA进行算子开发时，如何优化共享内存和指令流水线以提升性能？
- 复习大模型分布式训练（如3D并行）和推理优化（如KV Cache、PagedAttention、量化）的核心原理
- 准备1-2个自己主导的底层优化项目，能够清晰画出系统架构图并解释性能瓶颈的解决过程
职位点评
薪资福利85
成长发展95
工作生活60
使命价值85
薪资福利
85较高
博士实习生津贴在行业内处于较高水平，且头部企业实习待遇和福利保障完善。
薪资信号未披露（AI估算：1.5千–2.5万/月）
成长发展
95较高
岗位聚焦大模型前沿研究，接触千亿级参数模型和顶尖算力，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈大模型、PyTorch、MoE、CUDA、Triton、DeepSpeed、Megatron、TensorRT、Diffusion
业务类型ambiguous
工作生活
60中等
实习要求每周至少4天，持续3个月以上，工作强度有一定要求，但作为研究型实习，时间安排相对灵活。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
推动大模型在自动驾驶、具身智能等前沿领域的落地，具有较高的技术使命感和社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs