百度
大模型AI Infra后端架构研发（J98278）
大模型AI Infra后端架构研发（J98278）
发布于 3 天前实习/见习
北京市
无经验要求
实习生
仅现场办公
本科
分布式系统
PyTorch
RAG
GO
LLM
SGLang
vLLM
RLHF
PaddlePaddle
AI 估算 · 4k–8k
百度核心大模型实习，技术前沿但实习月薪通常偏低，综合市场行情估算约4000-8000元/月
职位详情
关于这个职位
加入百度大模型核心团队，参与AI Infra后端架构研发，聚焦大模型推理优化、RLHF、Agent等前沿技术
你将学习并实践Transformer、vLLM等框架，提升系统高可用与高性能
适合对AI基础设施有强烈兴趣、渴望深度参与大模型技术落地的同学
最低要求
计算机相关专业本科及以上学历，拥有扎实的计算机基础理论知识，对数据结构和算法设计有较为深刻的理解
熟悉LLM、RL领域技术、任意一种RLHF框架，有大模型项目经验的优先包括但不限于预训练/后训练、Prompt tuning、RL、Agent/RAG等，对相关技术有自己的理解
熟悉至少一种深度学习框架（如PyTorch、PaddlePaddle等），熟练Python或者Go开发，熟悉Linux 基本使用，熟悉常见开发与调试工具，希望有较强的代码实现能力以及对新技术的探索热情
优秀的分析问题和解决问题的能力，能够熟练阅读英文文献，具备一定的科研素养，善于思考，具备良好的沟通能力和理解能力
工作积极主动，具有强烈的责任心和良好的团队合作精神，能够按期完成任务，实习至少6个月及以上，期望尽快到岗
工作职责
参与大模型前沿技术的研究、学习与实践（如Transformer架构、RLHF等），深入推理调度系统的调研探索，改进与优化，建设有竞争力的算法与策略能力，落地技术组件和应用框架
参与Agent、RL、推理架构优化等项目，优化和改进算法与策略并完成工程落地，协助进行模型推理性能优化，提高效果与效率，配合团队完成技术方案验证、问题定位与调试
参与大模型核心系统的架构研发和优化工作，保障系统按时交付、具有高可用性、高稳定性和高可扩展性
通过技术专项攻坚和新技术调研，解决系统疑难问题，发挥技术对业务的前瞻性价值
通过研发团队成员进行技术交流，互相促进技术能力的提升
优先资格
了解或使用过 LLM 推理/Serving 框架，如 FastDeploy、vLLM、SGLang 等加分
了解 LLM 推理优化技术（如 KV Cache、Batching、并行/并发调度等）加分
ACM或者ML/DL/NLP方向竞赛获奖经历加分
AI 洞察
优缺点分析
优点
- 直接参与行业最前沿的大模型技术研发，技术含金量高
- 百度大平台，资源丰富，有机会发表高质量技术成果
- 团队技术氛围浓厚，与资深工程师协作，快速成长
- 技术难度高，需同时掌握算法与工程能力，学习曲线陡峭
- 实习期要求至少6个月，时间投入较大，需对研究有持续热情
- 适合计算机基础扎实、对大模型基础设施有强烈兴趣、愿意长期投入技术攻坚的实习生
缺点 / 挑战
- 大公司内部流程复杂，沟通协调成本较高
角色解读
- 从实习到正式员工，深入大模型推理与AI Infra方向，成为技术专家
- 可横向迁移至其他AI基础设施团队，如分布式训练、模型服务平台
- 长期可向架构师或技术Leader发展，主导大模型系统设计
- 参与大模型推理调度系统优化，研究Transformer、RLHF等前沿技术并落地工程组件
- 负责Agent、RL项目中的算法改进与工程实现，协助模型推理性能优化
- 参与核心系统架构设计，保障系统高可用、高稳定、高可扩展
- 扎实的计算机基础，精通数据结构和算法
- 熟悉LLM、RLHF及相关框架，有深度学习框架（PyTorch等）使用经验
- 熟练掌握Python或Go，了解Linux开发环境与调试工具
- 具备优秀的英文文献阅读能力和科研素养，善于分析和解决问题
申请策略
- 提前了解百度在AI Infra方面的技术博客和开源项目，面试中展现技术热情
- 准备1-2个自己主导的、与LLM或推理优化相关的项目案例，能清晰讲述挑战和方案
- 突出大模型相关项目经验，如预训练/微调、RLHF、推理加速等
- 强调编程竞赛获奖（ACM、ML/NLP竞赛）或开源贡献
- 详细描述在分布式系统、性能优化方面的实践经历
- 系统学习vLLM、SGLang等推理框架的源码和原理
- 补充强化学习、RLHF的理论知识并动手实践
- 提升C++/CUDA编程能力，以应对底层优化需求
面试指南
- 对于原理性问题：先给出核心定义，再逐步展开细节，结合公式或示意图说明
- 对于优化问题：先明确优化目标，再提出方案，对比不同方案的优劣，最后总结
- 对于项目问题：采用 STAR 法则（背景、任务、行动、结果），突出思考过程和量化结果
- 请简述Transformer的Attention机制以及KV Cache的原理
- RLHF的训练流程是怎样的？各阶段使用的模型和损失函数是什么？
- 如何优化大模型推理的延迟和吞吐？请列举几种优化技术
- 描述一次你参与过的分布式系统性能调优经历
- 在PyTorch中，如何实现自定义算子并将其用于模型推理？
匹配度报告
60
综合匹配度
百度大模型核心实习，前沿技术栈、高成长性，但薪资和WLB一般。
适合人群
适合追求技术成长、对薪资要求不高、能投入长时间学习的求职者。
最强匹配
成长发展匹配
最弱匹配
薪资福利匹配
薪资福利35
成长发展95
工作生活40
使命价值70
薪资福利匹配
35较低
实习岗位薪资水平一般，福利未在JD中明确，补偿性动机满足程度较低。
薪资信号未披露（AI估算：4K-8K/月）
成长发展匹配
95较高
岗位涉及大模型前沿技术，技术栈新，学习资源丰富，成长空间极大，发展性动机得到高度满足。
技术前沿前沿/新兴技术
技术栈LLM、RLHF、Transformer、PyTorch、PaddlePaddle、vLLM、SGLang、Agent、RAG
成长机会参与大模型前沿技术的研究、学习与实践
业务类型profit_center
工作生活匹配
40较低
仅现场办公，未提及弹性工作或WLB，生活化动机满足有限。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值匹配
70中等
大模型是高速增长赛道，但社会影响力中性；创新性较强，意义感有一定满足。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs