阿里巴巴
AI Infra工程师 - 大模型方向（T-Star Lab日常实习）
AI Infra工程师 - 大模型方向（T-Star Lab日常实习）
发布于 3 小时前实习/见习
实习生仅现场办公人工智能
人工智能
Ai Infra
Cuda
Pytorch
分布式训练
大模型
异构计算
高性能计算
Algorithm-Training-Inference Co-Design
值不值得投
67综合评分
综合评分 67
顶尖大厂核心研发实习，前沿技术栈+直通Offer，高成长高挑战
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
5.0千
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4240 个在招 · 其中人工智能 约 410 个
市场机会
选择面较广
北京 · 人工智能 · 约 710 个在招
职位详情
关于这个职位
本职位为阿里巴巴T-Star Lab日常实习岗位，聚焦大模型基础设施（AI Infra）方向
主要职责包括超大规模稀疏/稠密模型的训练架构设计与优化、异构硬件计算性能提升以及算法-训练-推理协同设计
旨在通过系统级优化推动基座大模型在广告与营销场景的高效落地
最低要求
硕士及以上学历，2026年11月1日以后毕业，计算机科学/人工智能/机器学习/自动化等相关专业
能连续实习3个月及以上
具备扎实的编程基础（C/CUDA/C++/Python），熟悉常用算法与数据结构
掌握机器学习基础理论，了解搜推广系统/自然语言处理/多模态等至少一个领域
有PyTorch/TensorFlow等框架使用经验
对AI技术充满好奇心，主动关注大模型、搜推广系统、NLP、强化学习等领域前沿进展
具备较强的问题拆解能力，能通过数据分析定位业务痛点并提出创新思路
良好的沟通能力，能与工程师、产品经理高效协作，将技术方案转化为业务价值
对电商场景有基本认知，愿意深入理解用户需求与商业逻辑
工作职责
超大规模Sparse-Dense模型（for 广告）和Dense大模型（for GenAI应用）的训练架构设计优化并推动生产落地
大规模异构硬件Training系统的计算性能与效率优化
Algorithm-Training-Inference Co-Design，整体提升模型效率
优先资格
参与过算法竞赛（Kaggle/天池等）或开源项目者优先
在顶级会议或高水平期刊发表过论文，或有复现前沿论文的经验者优先
【加分项】有大模型训练（如Megatron、DeepSpeed等）/微调（如Llama、GPT、Qwen、多模态模型）/推理（如vLLM、TRT-LLM等）经验或搜推广算法工程相关项目经历
【加分项】有海量数据处理经验或者大厂实习经验
【加分项】在算法竞赛中获得优异成绩（ACM-ICPC/挑战赛TOP10等）或者顶会论文发表
【加分项】实习最好达到半年以上
AI 洞察
优缺点分析
优点
- 接触业界最前沿的大模型与搜推广技术，拥有博士及Senior/Staff Engineer的贴身指导
- 涉及超大规模模型训练与异构硬件优化，技术难度高，对底层系统和算法结合能力要求极高
- 计算机/AI相关专业硕士，对底层系统优化和大模型训练有浓厚兴趣，具备扎实编程基础和科研潜力的学生
缺点 / 挑战
暂无明显挑战项
角色解读
- 从实习工程师成长为具备系统级优化能力的AI Infra专家，优秀者可直通阿里T-Star正式Offer，向高级算法工程师或系统架构师方向发展
- 负责超大规模稀疏和稠密大模型的训练架构设计与优化，确保其在生产环境中的高效运行
- 需要扎实的C/CUDA/C++/Python编程能力，深入理解机器学习理论，并熟悉PyTorch/TensorFlow等主流框架
申请策略
- 强调对电商搜推广场景的理解，展示解决复杂系统问题的思维能力和过往项目中的实际贡献
- 突出C++/CUDA编程能力、分布式训练框架使用经验、算法竞赛成绩或顶会论文发表情况
- 深入学习Megatron、DeepSpeed等大模型训练框架，了解MoE架构原理，加强Linux系统编程和网络通信知识
面试指南
- 采用STAR法则描述项目经历，重点阐述遇到的问题、采用的技术手段（如并行策略、内存优化）、量化结果及反思
- 请介绍你使用过的深度学习框架及其底层实现原理
- 如何优化大规模稀疏模型的训练效率？
- 解释一下CUDA编程中内存管理的关键点
- 你是如何进行系统性能瓶颈分析和优化的？
- 复习操作系统、计算机网络、编译原理基础知识，准备1-2个深入的技术项目案例，了解大模型最新发展趋势
职位点评
薪资福利65
成长发展95
工作生活40
使命价值75
薪资福利
65中等
作为日常实习岗位，薪资通常为固定津贴，虽符合大厂标准但非核心吸引力；主要优势在于潜在的秋招直通机会。
薪资信号未披露（AI估算：4.0–6.0千/月）
成长发展
95较高
提供顶尖导师资源、前沿技术课题及直通正式Offer的机会，职业发展路径清晰且极具含金量。
技术前沿前沿/新兴技术
技术栈AI Infra、大模型、CUDA、PyTorch、Megatron、DeepSpeed、vLLM、MoE
成长机会博士及大模型技术相关算法工程化领域senior/staff engineer 的贴身指导、秋招直通T-Star的正式Offer
业务类型profit_center
工作生活
40较低
大厂研发岗位通常工作强度较大，且要求连续实习3个月以上，WLB相对有限，需做好高强度心理准备。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
致力于提升广告营销场景的效率和技术边界，具有明确的商业价值和行业影响力，但社会公益性较弱。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs