阿里巴巴
AI Infra工程师（T-Star Lab ）
AI Infra工程师（T-Star Lab ）
发布于 大约 10 小时前实习/见习
人工智能
Go
Gpu优化
Pytorch
Sglang
Tensorflow
Vllm
分布式系统
AI 估算 · 4k–6k
职位详情
关于这个职位
这是阿里巴巴淘天集团T-Star计划面向2026年10月后毕业的优秀技术同学的实习生专项招聘
你将参与构建支撑千卡/万卡规模的AI计算基础设施，通过软硬件协同优化解决大模型训练、推理、调度中的工程挑战，成为大模型技术落地的幕后推手
工作内容涵盖分布式训练优化、推理加速、资源调度与平台建设等前沿方向
最低要求
基础条件
● 计算机、软件工程等相关专业
● 热衷于数据结构和算法、在ACM大赛成绩优异者优先
有顶会论文/高影响项目/开源贡献者加分
专业能力
● 系统工程与编程能力：具备良好的系统工程基础，熟悉 Linux 开发环境，掌握 Python、Go、Java 等至少一门编程语言，具备扎实的工程实现能力
● 分布式系统：了解分布式系统基本原理（如一致性、容错、扩展性等）
● AI 系统领域专业知识：了解 AI 的基本原理与常见算法，理解模型训练任务的基本流程及其资源需求
了解主流训练推理框架（如 PyTorch、TensorFlow、vLLM、sglang）的基本使用方式及训练流程
了解异构计算或高性能计算体系，有 GPU 相关优化经验者优先
（对于以上领域中的一项或者多项具备专业能力）
能力特质
● 沟通能力：能与跨域岗位，如：算法、产品等，进行良好的沟通
● 跨域视野：有较宽的技术视野与知识面，对算法研发流程、数据、GPU调度、训练、推理等相关领域的技术逻辑都有涉猎
● 系统思维： 乐于挑战复杂系统的性能极限，具备良好的性能分析与调优能力，喜欢从底层视角拆解并解决问题
● 具备极客精神：对 AI 大模型技术充满热情，具备快速学习新技术的能力，渴望在高性能计算领域实现技术突破
工作职责
具体的职责包括以下相关方向的一项或多项：
算力基建与分布式训练：深入分布式训练架构，优化通信与底层算子性能，解决大规模集群通信瓶颈，提升模型训练的吞吐量与计算效率
参与研究新的训练框架和模式
极致推理加速：针对大规模推理场景，研发高性能推理引擎，通过kernel及框架、与算法结合的有损优化等手段，实现极致的低延迟与高并发
智能化资源调度与系统：构建大规模 GPU 集群的统一调度与编排系统，实现算力资源的弹性分配与自动化调度，设计与优化面向 AI 计算场景的高性能通信、存储系统，保障海量任务的极致的效率
工程效率与平台化建设：打造一体化的平台，覆盖大模型研发和迭代的全流程，降低模型迭代门槛，提升研发效能
AI 洞察
优缺点分析
优点
- 顶级平台，接触亿级规模数据和前沿AI技术
- 公司提供完善的培训和导师制度，助力职业发展
- 技术难度高，需要较强的学习能力和抗压能力
- 工作强度可能较大，需要适应快节奏
- 竞争激烈，需要不断学习新技术
缺点 / 挑战
- 参与核心基础设施建设，技术挑战大，成长快
- 适合对AI基础设施充满热情、具备扎实计算机基础、渴望挑战技术难题的顶尖学生
角色解读
- 从实习生转正为正式员工，深入AI基础设施领域
- 成为技术专家，在分布式系统、高性能计算等方向深耕
- 有机会晋升为技术Leader，带领团队攻克技术难题
- 参与构建大规模AI计算基础设施，优化分布式训练性能，解决通信瓶颈
- 研发高性能推理引擎，实现低延迟高并发的推理服务
- 设计GPU集群调度系统，实现算力资源弹性分配与自动化调度
- 打造一体化平台，覆盖大模型研发全流程，提升研发效能
- 扎实的编程能力，熟悉Python、Go、Java等至少一门语言
- 了解分布式系统原理，熟悉Linux开发环境
- 了解AI基本原理，熟悉主流训练推理框架如PyTorch、vLLM等
- 具备性能分析与调优能力，有GPU优化经验者优先
申请策略
- 了解阿里巴巴淘天集团的技术栈和业务方向
- 准备项目案例，展示解决复杂问题的能力
- 突出ACM竞赛成绩、顶会论文或开源贡献
- 强调分布式系统、GPU优化等相关项目经验
- 展示编程能力和系统设计能力
- 深入学习PyTorch、vLLM等框架源码
- 补充分布式系统知识，如一致性、容错等
- 练习性能调优工具，如CUDA、NCCL
面试指南
- 使用STAR法则回答行为问题，突出具体行动和结果
- 对于技术问题，先阐述原理，再结合实际经验
- 展示系统思维，从整体架构角度分析问题
- 请介绍一下你在分布式系统或AI基础设施方面的项目经验
- 如何优化大规模GPU集群的训练效率？
- 解释一下vLLM的工作原理和优势
- 如何解决分布式训练中的通信瓶颈？
- 谈谈你对AI基础设施未来发展的看法
职位点评
74
综合评分
顶尖AI基础设施实习，技术前沿，成长快，但工作强度可能较大。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
更适合这类人
适合追求技术成长、渴望挑战前沿难题、对AI基础设施充满热情的顶尖学生。
表现最好
成长发展
相对薄弱
工作生活
薪资福利60
成长发展95
工作生活50
使命价值80
薪资福利
60中等
作为实习生，薪资相对固定，但阿里巴巴平台大，福利完善，转正后薪资竞争力强。
薪资信号未披露（AI估算：4K-6K/月）
成长发展
95较高
该职位提供极具挑战的前沿课题和亿级数据场景，技术成长空间巨大，且是顶尖人才培养项目。
技术前沿前沿/新兴技术
技术栈AI Infra、分布式训练、推理加速、GPU调度、PyTorch、vLLM
成长机会顶尖人才招聘和培养项目、极具挑战的前沿课题
业务类型profit_center
工作生活
50较低
工作地点在北京，需要现场办公，未提及弹性工作，可能工作强度较大。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
参与AI基础设施建设，推动技术发展，具有较高的行业影响力和社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号为 AI 时代的算力底座注入核心动力
创新程度开拓性创新（行业首创）
Watch Jobs