百度
北京-大模型训练Infra研发工程师（基座研发方向）(J101258)
北京-大模型训练Infra研发工程师（基座研发方向）(J101258)
发布于 大约 15 小时前普通员工/个人贡献者
北京市
中级经验
全职员工
仅现场办公
本科
软件工程
深度学习
PyTorch
TensorFlow
CUDA
分布式训练
大模型
PaddlePaddle
AI 估算 · 35k–60k
百度大模型Infra岗位技术难度高，市场需求大，属于核心研发，薪资具有竞争力。
职位详情
关于这个职位
你将加入百度文心大模型团队，负责大规模分布式训练基础设施的研发与优化，包括飞桨框架的分布式训练功能、高性能计算库以及工程效能平台
这是一个技术驱动型岗位，适合对深度学习框架、高性能计算和AI Infra有浓厚兴趣的工程师，你将与顶尖团队一起探索前沿大模型训练技术
最低要求
本科及以上学历，计算机软件或相关专业，有Linux/Unix下开发经验，熟悉多线程编程、网络编程
熟练掌握C++、Python等编程语言，深入理解至少一种深度学习框架（PaddlePaddle、Pytorch、Tensorflow）的原理，具备丰富的开发经验
工作职责
参与负责百度文心大模型的训练优化，百度飞桨的分布式训练功能和架构开发，以及训练工程效率相关系统的研发和优化工作
参与前沿大模型训练技术和超大规模分布式训练架构技术的探索和研究，探索深度学习大语言模型、跨模态模型等领域的算法-工程协同优化方案
跟进深度学习前沿软件栈，优化飞桨框架编译安装流程，提升对不同操作系统和硬件平台的兼容性
负责高性能计算平台的设计、研发，高性能计算库、通信库开发与优化
建设和维护CI/CE等工程设施，保障飞桨框架基础能力、大模型性能等关键指标的稳定性
根据整体技术方案完成高质量的开发、自测及项目文档编写
探索业界工程效能度量和保障相关自动化平台和技术，推广新理念、新技术、新方法，提升团队研发效率
优先资格
熟悉大模型训练技术（高性能，算法策略，集群容错）或优化技术，熟悉CUDA编程，高性能优化者优先
了解飞桨或其他深度学习分布式训练框架技术如DeepSpeed，Megatron等经验者优先
对分布式计算有深入理解，特别是通信策略在AI计算中的应用
熟练使用Cublas、Cudnn、MIopen、OpenBlas、MKL、Eigen等主流计算库
精通CUDA、OpenCL和ARM-GPU等开发，有过并行计算优化协同开发经验
熟悉AI training通信过程，熟悉MPI、NCCL、RDMA、GPU Direct等通信技术
精通常用硬件平台性能分析工具链，如CodeXL\NVVP\GPA等
熟悉Kubernetes、OCI/Docker、Istio等技术的应用，掌握其核心原理和实现机制，能够熟练运用这些技术构建云原生应用
具有深度学习框架开发、DevOps、研发效能平台、开源项目贡献等
AI 洞察
优缺点分析
优点
- 参与百度文心大模型的核心研发，技术前沿且有影响力
- 百度飞桨是国内领先的深度学习框架，生态丰富，技术积累深厚
- 团队技术氛围浓厚，能接触到业界最顶尖的分布式训练技术和硬件资源
- 大模型赛道持续火热，该经验市场认可度高，职业前景广阔
- 技术栈深且广，需要同时掌握分布式系统、深度学习框架、高性能计算等多领域知识，学习曲线陡峭
- 岗位技术导向强，对沟通协作能力要求不高，但需频繁与算法、工程团队对齐
缺点 / 挑战
- 大模型训练对工程效率要求极高，可能面临较大的工作强度和技术压力
- 适合对深度学习框架和高性能计算有浓厚兴趣、喜欢底层技术挑战、追求技术深度的工程师
角色解读
- 可向分布式系统架构师或AI Infra专家方向发展，主导超大规模训练平台的设计
- 深入底层硬件优化，成为高性能计算（HPC）领域的技术大牛
- 有机会参与开源项目（如飞桨），成为社区核心贡献者，提升行业影响力
- 负责百度文心大模型的训练优化与飞桨分布式训练框架的架构开发
- 探索前沿大模型训练技术，如超大规模分布式训练、算法-工程协同优化
- 研发高性能计算库、通信库，优化CI/CE工程设施，保障模型性能稳定性
- 精通C++和Python，深入理解至少一种深度学习框架（PaddlePaddle、PyTorch、TensorFlow）
- 熟悉CUDA编程和GPU高性能优化，掌握NCCL、MPI等通信技术
- 了解大模型训练技术（如DeepSpeed、Megatron）和分布式系统原理
- 熟悉Kubernetes、Docker等云原生技术，具备AI Infra经验
申请策略
- 在简历中明确写出你对大模型训练技术的理解，例如通信模式、并行策略等，展现技术深度
- 关注百度飞桨开源社区，尝试提交PR或参与issue讨论，能显著加分
- 突出分布式训练或高性能计算相关项目经验，如大模型训练优化、框架开发等
- 强调C++/Python编程能力，以及CUDA优化、NCCL等具体技术实践
- 如果有飞桨、PyTorch等框架的源码阅读或贡献经历，务必展示
- 展示对系统性能调优的理解，如使用NVVP等工具进行性能分析的案例
- 补充CUDA编程和GPU优化知识，可通过NVIDIA官方课程或GTC演讲学习
- 熟悉分布式训练框架如DeepSpeed、Megatron的源码和原理
面试指南
- 针对并行策略问题：先明确不同并行方式的原理，再结合具体场景（如模型大小、带宽）分析选择依据，最后可举例说明
- 针对性能优化问题：按照“问题定位→分析方法（如profile）→优化措施→效果验证”的流程回答，体现系统思维
- 针对源码类问题：坦诚说出熟悉程度，但可结合自己看过的模块（如通信、梯度同步）谈理解，展示学习能力
- 请解释大模型训练中数据并行、模型并行、流水线并行的区别与适用场景
- 如何优化GPU间的通信效率？请结合NCCL或MPI说明
- 描述一个你参与过的高性能计算项目，重点介绍优化思路和效果
- 你对飞桨框架的了解程度？是否看过其分布式训练部分的源码？
- 如何诊断和解决分布式训练中的性能瓶颈？
职位点评
72
综合评分
百度大模型核心Infra岗，前沿技术栈，薪资竞争力强，但工作强度可能较大。
更适合这类人
最看重技术成长和前沿挑战、能接受一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展95
工作生活40
使命价值75
薪资福利
80较高
百度作为上市公司薪资福利有竞争力，但JD中未明确具体薪资，所以薪酬信号为未披露。五险一金等福利常规。
薪资信号未披露（AI估算：35K-60K/月）
成长发展
95较高
该岗位处于AI大模型前沿技术栈，涉及分布式训练、高性能计算等热门方向，成长机会极佳。JD提到探索前沿技术，但未明确提及晋升通道。
技术前沿前沿/新兴技术
技术栈大模型、分布式训练、CUDA、NCCL、Kubernetes
成长机会探索和研究前沿、推广新理念、新技术、新方法
业务类型profit_center
工作生活
40较低
JD未明确工作模式，但百度北京位于科技园，通常为现场办公。未提及WLB，大模型岗位可能工作强度较大。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
75中等
大模型技术属于高速增长赛道，百度文心系列有社会影响力，但JD未强调使命感。技术创新性高。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
百度 的其他在招职位
相似职位推荐
Watch Jobs