阿里巴巴
研究型实习生-面向下一代AI应用的推理加速方案
研究型实习生-面向下一代AI应用的推理加速方案
发布于 3 小时前实习/见习
实习生仅现场办公高性能计算
高性能计算
Cuda
Pytorch
Tensorrt-Llm
Vllm
高性能计算
值不值得投
80综合评分
综合评分 80
阿里AI Infra前沿实习岗，技术成长价值极高，聚焦大模型推理加速，适合硬核技术极客。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
8千
比高性能计算中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3100 个在招 · 其中高性能计算 18 个
市场机会
选择适中
杭州 · 高性能计算 · 15 个在招
职位详情
关于这个职位
该职位是阿里巴巴的研究型实习生岗位，主要参与下一代AI应用（如LLM、Diffusion）的推理加速方案探索与工程实践
你将负责从模型压缩、算子优化到推理引擎全栈性能调优，挑战极具业界影响力的高价值技术课题
最低要求
技术能力：
a. 具备良好的C++/Python编程基础和代码实践能力
b. 熟悉PyTorch
c. 对底层技术有浓厚兴趣，渴望深入了解GPU架构与高性能计算
综合素质：
a. 具备强烈的求知欲、好奇心和主动性，能快速学习新知识、新工具
b. 良好的逻辑思维能力和解决问题的热情
c. 积极的沟通态度和团队协作精神
实习时间要求（必须满足）：能保证连续实习6个月及以上
工作职责
下一代生成模型推理技术探索:
a. LLM/MLLM: 探索针对AR的生成特点，探索超高倍投机采样、模型压缩、efficient attention、蒸馏等技术
b. Diffusion: 探索sparse attention、cache、采样步数消减等技术
c. 软硬结合的优化技术：探索极低比特量化、稀疏计算等硬件依赖的前沿加速技术
极致性能的推理引擎工程实践:
a. 深入分析与优化现有推理框架（如vLLM, TensorRT-LLM等）的性能瓶颈，进行从算子到系统层面的全栈优化
b. 精通CUDA/CUTLASS/Triton等底层编程技术，针对新型Transformer架构变种，手写高性能算子，压榨硬件的每一分潜力
c. 设计和实现高效的KV Cache管理与压缩方案，优化请求调度与批处理策略，最大化系统吞吐并降低延迟
优先资格
有相关领域（机器学习、高性能计算、体系结构等）的论文发表
熟悉GPU编程（CUDA），并有相关的项目或实践经验
有开源社区贡献经验（例如vLLM, PyTorch, Triton等）
AI 洞察
优缺点分析
优点
- 接触大模型推理加速的最前沿技术，积累极具竞争力的AI Infra工程经验
- 依托丰富的算力资源与业务场景，能产出具有业界影响力的高价值成果
- 技术门槛极高，需要深入理解底层硬件架构与复杂的编译优化原理
- 适合对底层技术充满热情、具备扎实系统编程能力且有志于深耕AI Infra与大模型推理优化方向的顶尖技术人才
缺点 / 挑战
- 面临极致的性能优化压力，需要不断突破系统吞吐与延迟的瓶颈
角色解读
- 从研究型实习生成长为AI系统/推理加速领域的资深算法工程师或架构师
- 未来可向大模型底层优化、AI Infra基础架构或高性能计算专家方向发展
- 探索下一代生成模型（LLM/Diffusion）的推理加速技术，包括模型压缩、投机采样和软硬结合优化
- 负责推理引擎（如vLLM）的全栈性能调优，手写CUDA高性能算子并优化KV Cache管理
- 扎实的C++/Python编程能力与PyTorch框架使用经验
- 深入理解GPU架构，熟悉CUDA/CUTLASS/Triton等底层编程技术
- 具备高性能计算或机器学习领域的理论基础与工程实践能力
申请策略
- 提前了解阿里在AI Infra和推理加速方向的最新技术博客或开源项目，展现对业界前沿动态的关注与技术热情
- 突出在CUDA编程、GPU架构优化或高性能计算方面的项目经验
- 展示在vLLM、PyTorch等开源社区的贡献或相关顶会论文发表记录
- 深入学习CUDA/CUTLASS/Triton编程，动手实现一些基础的Transformer算子优化
- 熟悉主流推理框架（如vLLM）的源码与核心调度机制
面试指南
- 采用STAR法则描述项目，重点突出对底层硬件（如GPU内存层级、线程束调度）的理解以及性能指标（如吞吐量、延迟）的提升数据
- 对于系统设计问题，从算法原理、工程实现、硬件特性三个维度进行拆解分析
- 请详细介绍你在CUDA编程或GPU算子优化方面的一个具体项目，遇到了什么瓶颈及如何解决？
- 针对LLM推理中的KV Cache管理，你了解哪些优化策略？如何平衡内存占用与计算延迟？
- 如果让你优化一个Transformer的Attention算子，你会从哪些层面（如内存访问、计算并行度）入手？
- 谈谈你对投机采样（Speculative Decoding）原理的理解及其在LLM推理中的应用
- 复习GPU架构基础、CUDA编程模型及内存优化技巧
- 阅读vLLM、TensorRT-LLM等主流推理框架的核心论文或源码，准备1-2个自己手写的算子优化案例
职位点评
薪资福利75
成长发展95
工作生活60
使命价值85
薪资福利
75中等
实习津贴符合一线城市AI算法岗位的市场中上水平，但作为实习岗位，整体薪酬绝对值受限。
薪资信号未披露（AI估算：6.5千–1万/月）
成长发展
95较高
岗位聚焦大模型推理加速这一前沿领域，提供充分的探索空间与导师指导，技术成长价值极高。
技术前沿前沿/新兴技术
技术栈C++、Python、PyTorch、CUDA、CUTLASS、Triton、vLLM、TensorRT-LLM、LLM、Diffusion
成长机会在导师的指导下、充分的探索空间和资源支持
业务类型ambiguous
工作生活
60中等
实习要求连续6个月及以上，且涉及底层性能优化，工作强度可能较大，但具体WLB情况未明确。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
致力于构建下一代AI推理加速体系，推动大模型技术的广泛落地，具有较强的技术使命感与行业推动价值。
行业发展高速增长赛道
社会影响中性/一般
使命信号为下一代AI技术的广泛落地与创新突破注入强劲动力
创新程度开拓性创新（行业首创）
Watch Jobs