阿里巴巴
日常实习生-大模型推理&训练实习工程师
日常实习生-大模型推理&训练实习工程师
发布于 大约 7 小时前实习/见习
杭州市
无经验要求
实习生
仅现场办公
硕士
机器学习工程
Sglang
Tensorrt-Llm
Vllm
大模型
推理优化
模型蒸馏
模型量化
深度学习
AI 估算 · 4k–8k
大厂AI实习，日薪折算月薪约4-8k，技术含量高但实习生薪资处于市场中等水平。
职位详情
关于这个职位
作为一名大模型方向实习生，你将加入阿里巴巴的核心AI团队，专注于大模型推理与训练优化，包括模型量化、蒸馏、压缩以及推理框架（vLLM、SGLang等）的改进
工作涉及前沿技术研究和工程落地，有机会产出论文和开源贡献，适合对AI Infra充满热情的在校研究生
最低要求
研究生及以上学历，计算机、人工智能相关专业
扎实的数学功底和编程能力，熟悉深度学习理论和算法
精通C++、python等常见编程语言
技术热情高，具备很强的技术驱动力和自我管理能力，具有探索和创新精神
工作职责
大模型推理优化技术的研究、工程落地实验，包括但不限于，模型量化、模型蒸馏、模型压缩，token&上下文压缩、skill压缩、投机解码、并行解码等优化技术
大模型推理框架的工程优化研究，包括但不限于（sglang、vllm、tensorrt-llm），follow最新的工程落地技术，结合实际的业务场景改进已有的开源框架
大模型训练优化技术的调研，做大模型后训练环节（SFT、RL、AgenticRL）持续迭代和优化，和其他成员配合攻克大模型后训练相关的技术难题
在大模型推理优化、训练优化方面产出相关的论文和开源代码贡献
优先资格
在ACM/ICPC的亚洲区以上的级别比赛获奖者优先
有重大开源项目贡献者优先
实习时间不低于6个月优先
AI 洞察
优缺点分析
优点
- 获得大模型领域最前沿的技术实践机会，积累稀缺的优化经验
- 阿里平台资源丰富，有真实业务场景和数据支撑
- 团队学术氛围浓厚，有机会发表顶会论文
- 技术难度高，需要同时掌握系统底层和深度学习知识
- 实习工作强度可能较大，需跟上快速迭代的节奏
- 日常实习转正机会不确定，需要表现突出
- 适合对AI Infra和模型优化有强烈兴趣、自我驱动能力强、善于动手的计算机/人工智能专业在校研究生
缺点 / 挑战
暂无明显挑战项
角色解读
- 成为大模型推理/训练优化专家，深耕AI基础设施领域
- 可转正为正式员工，在团队中负责核心模块
- 未来可晋升为技术专家或技术管理者，引领团队攻克难题
- 研究并落地大模型推理加速技术，如量化、蒸馏、压缩、投机解码等
- 优化vLLM、SGLang、TensorRT-LLM等开源推理框架，满足业务性能需求
- 参与大模型后训练（SFT、RL、AgenticRL）的迭代与优化，解决训练效率问题
- 将研究成果转化为论文和开源代码，贡献社区
- 扎实的编程能力，精通C++和Python
- 熟悉深度学习理论与算法，理解Transformer架构
- 了解大模型推理/训练框架，有相关使用或开发经验
- 具备较强数学功底和问题分析能力
申请策略
- 提前了解阿里巴巴达摩院或相关AI Infra团队的研究方向
- 准备一个自己做过的小型推理优化demo，展示动手能力
- 突出深度学习项目经历，特别是涉及模型压缩、推理加速的内容
- 强调C++/Python编程能力，展示相关代码库或LeetCode/ACM成绩
- 如有开源项目贡献，重点描述在LLM相关社区的影响
- 熟悉vLLM或SGLang的源码，理解PagedAttention等核心机制
- 学习CUDA或TensorRT，了解GPU底层优化
面试指南
- 用STAR法则描述项目经历，突出量化指标和技术难点
- 从原理和工程实现两个层面回答技术问题，层层递进
- 遇到不会的问题，先说明思路再请教，展示学习能力
- 介绍一下你在项目中如何优化模型推理速度？
- 解释模型量化中PTQ和QAT的区别及适用场景
- 你对vLLM的架构了解多少？它如何实现高吞吐？
- 如何设计一个高效的投机解码采样策略？
- 在处理大模型训练显存不足时有哪些解决方案（如ZeRO、重计算等）？
职位点评
72
综合评分
大厂AI核心团队，前沿技术栈，成长空间大，但实习薪资一般且WLB未明确。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
更适合这类人
适合追求技术成长、渴望接触大模型最前沿优化技术的求职者，对短期薪资要求不高。
表现最好
成长发展
相对薄弱
工作生活
薪资福利55
成长发展92
工作生活50
使命价值80
薪资福利
55较低
实习薪资处于市场中等水平，但阿里巴巴平台稳定，福利体系健全，对实习生有一定吸引力。
薪资信号未披露（AI估算：4K-8K/月）
成长发展
92较高
该职位聚焦大模型前沿优化技术，技术含金量高，有论文和开源产出机会，成长空间极大。
技术前沿前沿/新兴技术
技术栈大模型、推理优化、量化、蒸馏、C++、Python、vLLM、SGLang、TensorRT-LLM
成长机会产出相关的论文、开源代码贡献
业务类型ambiguous
工作生活
50较低
工作地点为杭州现场办公，JD未明确工作强度，但AI技术岗通常节奏较快，生活平衡一般。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
大模型技术是当前AI发展核心，该岗位直接推动技术边界，社会价值和行业影响力高。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs