百度
北京-AI异构计算工程师(J101236)
北京-AI异构计算工程师(J101236)
发布于 大约 7 小时前普通员工/个人贡献者
北京市
中级经验
全职员工
仅现场办公
本科
研究与开发 (研发)
PyTorch
SFT
CUDA
知识蒸馏
大模型
RL
DeepSpeed
vLLM
推理加速
AI 估算 · 30k–60k
大模型核心岗位，技术难度高，市场紧缺，百度薪资有竞争力。
职位详情
关于这个职位
该职位负责百度大模型的训练与推理优化，包括SFT、RL、模型压缩、推理加速等，需要精通C/C++/Python、CUDA及主流分布式框架，是前沿技术岗位
最低要求
本科及以上学历，计算机、电子工程等相关专业优先
精通C/C++/Python一种，有良好的编程习惯和扎实的算法基础，有大模型相关框架、工程实践经验
了解前沿AI技术，熟悉大模型基本原理，熟悉Pytorch等深度学习框架，熟悉Megatron、DeepSpeed等分布式训练框架
具备GPU集群性能分析和调优经验、熟悉CUDA编程、算子优化，及主流推理框架（vLLM、SGlang等），能够分析计算和通信效率
优秀的分析问题和解决问题的能力，沟通能力和团队合作意识强，热爱挑战，自驱力强持续学习
工作职责
负责公司基础大模型和专精大模型业务适配优化工作，通过SFT、RL、模型压缩、知识蒸馏、推理加速等技术保障大模型能力更好的落地业务
负责构建各类大模型（文本、图像、语音）的高效分布式训练框架并持续优化，支持各类Post-train、RL、蒸馏技术方案高效训练和实验，跟踪Megatron/Deepspeed等框架核心进展，优化并行策略、通信掩盖、混合精度等持续提升模型效果
对核心场景、核心模型的推理引擎极致优化，不限于pd分离、KVcache、投机解码、量化压缩等手段，降低TTFT持续提升decode吞吐，对超万亿参数模型积累部署推理优化经验
持续为上亿流量产品的大模型部署推理成本优化负责
构建高效、灵活的强化学习工具链，探索Agentic、多轮环境交互的RL链路，提升训推rollout一致性
设计复用离线验证评估链路，支持算法高效迭代评估
AI 洞察
优缺点分析
优点
- 百度大模型业务核心，技术前沿性强
- 接触超大规模模型部署，积累宝贵经验
- 薪资待遇优厚，福利完善
- 团队技术氛围浓厚，成长快
- 工作强度大，模型迭代快，需要持续学习
- 技术难度高，需深入底层优化
- 竞争激烈，需要不断突破
- 适合热爱技术、追求极致优化、愿意在大模型领域深耕的工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术专家方向：成为大模型训练/推理优化领域的顶尖专家
- 架构师方向：主导大规模分布式系统架构设计
- 管理方向：带领团队负责核心模型落地
- 负责大模型适配优化，应用SFT、RL等技术提升模型落地效果
- 构建高效分布式训练框架，优化并行策略和通信效率
- 对推理引擎进行极致优化，降低延迟提升吞吐
- 构建强化学习工具链，支持Agentic等前沿技术
- 精通C/C++/Python，扎实算法基础
- 熟悉大模型原理及Pytorch、Megatron、DeepSpeed等框架
- 具备GPU性能分析和CUDA编程经验，熟悉vLLM等推理框架
- 优秀的分析和解决问题能力
申请策略
- 关注百度飞桨生态，了解PaddlePaddle相关技术
- 准备系统设计和技术深度的面试题
- 突出大模型相关项目经验，特别是训练/推理优化
- 展示分布式框架（Megatron/DeepSpeed）使用经历
- 提供GPU性能调优案例（如CUDA算子优化）
- 强调解决复杂问题的能力
- 深入学习CUDA编程和GPU架构
- 掌握最新推理框架（vLLM, SGlang）
面试指南
- 从原理出发，结合实践经验，给出具体方案和对比
- 分步骤分析，先定位问题，再提出优化方法
- 举例说明过往项目中的挑战和解决思路
- 如何优化Transformer推理的KVcache？
- 解释Megatron-LM的模型并行策略
- 如何诊断GPU训练中的性能瓶颈？
- 谈谈你对投机解码的理解
- 如何设计一个高效的RLHF训练流程？
职位点评
71
综合评分
大模型核心岗位，技术前沿薪资优厚，但工作强度大。
更适合这类人
适合重视技术成长和薪资回报，对工作生活平衡要求不高的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活40
使命价值80
薪资福利
75中等
职位薪资在行业内有竞争力，但未明确具体福利，稳定性较好。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
90较高
大模型技术前沿，涉及大量优化技术，晋升通道清晰。
技术前沿前沿/新兴技术
技术栈大模型、SFT、RL、知识蒸馏、Megatron、DeepSpeed、CUDA、vLLM
业务类型profit_center
工作生活
40较低
工作地点北京，现场办公，互联网行业工作强度普遍较高，且JD未提及WLB相关福利。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
大模型技术对社会有广泛正面影响，行业处于高速增长期，技术革新性强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs