百度
AI Infra 实习生（J104435）
AI Infra 实习生（J104435）
发布于 大约 14 小时前实习/见习
北京市
无经验要求
实习生
仅现场办公
学历未注明
机器学习工程
Cuda
Deepspeed
Megatron
Pytorch
Sglang
Vllm
分布式训练
模型压缩
AI 估算 · 5k–8k
AI Infra实习技术含量高，但实习薪资受限，百度平台提供学习机会，综合估算。
职位详情
关于这个职位
这是一份百度AI基础设施方向的实习岗位，你将参与大模型训练和推理的优化工作，包括模型压缩、知识蒸馏、分布式训练框架改进以及推理引擎加速
适合对AI底层技术有浓厚兴趣、希望深入大模型工程化的同学
最低要求
精通C/C++/python一种，有良好的编程习惯和扎实的算法基础，有大模型相关框架、工程实践经验
了解前沿ai技术，熟悉大模型基本原理，熟悉Pytorch等深度学习框架，熟悉Megatron、DeepSpeed等分布式训练框架
具备GPU集群性能分析和调优经验、熟悉CUDA编程、算子优化，及主流推理框架（vLLM、SGlang等），能够分析计算和通信效率
优秀的分析问题和解决问题的能力，沟通能力和团队合作意识强，热爱挑战，自驱力强持续学习
工作职责
负责公司基础大模型和专精大模型业务适配优化工作，通过SFT、RL、模型压缩、知识蒸馏、推理加速等技术保障大模型能力更好的落地业务
负责构建各类大模型（文本、图像、语音）的高效分布式训练框架并持续优化，支持各类Post-train、RL、蒸馏技术方案高效训练和实验，跟踪Megatron/Deepspeed等框架核心进展，优化并行策略、通信掩盖、混合精度等持续提升模型效果
对核心场景、核心模型的推理引擎极致优化，不限于pd分离、KVcache、投机解码、量化压缩等手段，降低TTFT持续提升decode吞吐，对超万亿参数模型积累部署推理优化经验
持续为上亿流量产品的大模型部署推理成本优化负责
构建高效、灵活的强化学习工具链，探索Agentic、多轮环境交互的RL链路，提升训推rollout一致性
设计复用离线验证评估链路，支持算法高效迭代评估
AI 洞察
优缺点分析
优点
- 站在AI浪潮前沿，接触最先进的大模型技术栈
- 百度拥有大规模GPU集群和海量业务场景，实践机会丰富
- 实习考核通过后有机会转正，获得大厂工作经历
- 团队技术氛围浓厚，能快速提升工程能力
- 技术门槛高，需要扎实的编程和系统能力
- 工作节奏可能较快，需要应对复杂的性能优化问题
- 竞争激烈，需要持续学习和自驱
- 适合对AI底层技术充满热情、具备较强编程能力和自学能力的研究生或高年级本科生
缺点 / 挑战
暂无明显挑战项
角色解读
- 深入AI基础设施领域，成为大模型训练/推理专家
- 有机会参与核心框架研发，向技术专家或架构师方向发展
- 积累大规模分布式系统经验，未来可转向AI平台或基础架构方向
- 负责大模型训练和推理的性能优化，包括模型压缩、知识蒸馏等
- 参与分布式训练框架的搭建与优化，支持超大规模模型训练
- 优化推理引擎，降低延迟、提升吞吐，支撑上亿流量产品
- 探索强化学习工具链，支持Agentic训练与评估
- 精通C/C++/Python，扎实的算法基础
- 熟悉PyTorch、Megatron、DeepSpeed等框架
- 具备GPU性能调优经验，熟悉CUDA编程
- 良好的问题分析和团队协作能力
申请策略
- 关注百度AI基础技术部的业务方向，了解其开源项目（如PaddlePaddle）
- 在简历中明确表达对AI Infra的热情和长期规划
- 突出大模型或深度学习相关的项目经验，包括训练、推理优化等
- 展示分布式系统或高性能计算方面的实践，如CUDA编程、框架二次开发
- 强调编程能力和算法基础，可附上GitHub或技术博客
- 如有竞赛或论文，可以增强竞争力
- 提前熟悉Megatron/DeepSpeed源码，理解并行策略
- 学习vLLM、SGlang等推理加速框架的实现原理
面试指南
- 从项目背景、技术方案、结果量化三部分回答，突出系统性思考
- 针对优化问题，先用数据定位瓶颈，再给出优化策略并对比效果
- 对理论问题，结合实例说明原理和应用场景
- 介绍一个你参与过的分布式训练项目，遇到哪些问题？
- 如何优化一个Transformer模型的推理延迟？
- 并行训练中数据并行、模型并行、张量并行的区别？
- 解释KV cache和投机解码的原理
- 如何诊断GPU利用率低下的原因？
职位点评
65
综合评分
百度AI Infra实习，前沿技术栈，技术成长极佳，但工作强度可能较大。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
更适合这类人
最看重技能成长和技术前沿性的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利55
成长发展92
工作生活35
使命价值85
薪资福利
55较低
作为实习生，薪资处于行业一般水平，但百度平台稳定，简历价值高。
薪资信号未披露（AI估算：5K-8K/月）
成长发展
92较高
技术前沿，能接触最先进的大模型基础设施，成长曲线陡峭。
技术前沿前沿/新兴技术
技术栈C++、Python、PyTorch、Megatron、DeepSpeed、CUDA、vLLM、SGlang、分布式训练、模型压缩
业务类型cost_center
工作生活
35较低
未提及工作生活平衡，AI基础设施岗位通常强度较大，需适应快节奏。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
AI大模型行业前景广阔，工作内容对技术发展有重要贡献。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
百度 的其他在招职位
相似职位推荐
Watch Jobs