百度
深圳-AI异构计算工程师(J101237)
深圳-AI异构计算工程师(J101237)
发布于 大约 7 小时前普通员工/个人贡献者
深圳市
高级经验
全职员工
仅现场办公
本科
软件工程
PyTorch
强化学习
CUDA
模型压缩
分布式训练
推理优化
大模型
DeepSpeed
vLLM
AI 估算 · 25k–45k
百度核心AI岗位，大模型方向人才稀缺，薪资竞争力强；深圳高级工程师市场薪资水平较高。
职位详情
关于这个职位
作为百度的AI异构计算工程师，你将负责大模型的训练和推理优化工作，涉及分布式框架（Megatron/DeepSpeed）、推理引擎（vLLM/SGlang）及CUDA编程，通过模型压缩、知识蒸馏、强化学习等技术提升模型效率
这个岗位技术深度极高，适合对大模型底层技术有热情、追求极致性能的工程师
最低要求
本科及以上学历，计算机、电子工程等相关专业优先
精通C/C++/python一种，有良好的编程习惯和扎实的算法基础，有大模型相关框架、工程实践经验
了解前沿AI技术，熟悉大模型基本原理，熟悉Pytorch等深度学习框架，熟悉Megatron、DeepSpeed等分布式训练框架
具备GPU集群性能分析和调优经验、熟悉CUDA编程、算子优化，及主流推理框架（vLLM、SGlang等），能够分析计算和通信效率
优秀的分析问题和解决问题的能力，沟通能力和团队合作意识强，热爱挑战，自驱力强持续学习
工作职责
负责公司基础大模型和专精大模型业务适配优化工作，通过SFT、RL、模型压缩、知识蒸馏、推理加速等技术保障大模型能力更好的落地业务
负责构建各类大模型（文本、图像、语音）的高效分布式训练框架并持续优化，支持各类Post-train、RL、蒸馏技术方案高效训练和实验，跟踪Megatron/Deepspeed等框架核心进展，优化并行策略、通信掩盖、混合精度等持续提升模型效果
对核心场景、核心模型的推理引擎极致优化，不限于pd分离、KVcache、投机解码、量化压缩等手段，降低TTFT持续提升decode吞吐，对超万亿参数模型积累部署推理优化经验
持续为上亿流量产品的大模型部署推理成本优化负责
构建高效、灵活的强化学习工具链，探索Agentic、多轮环境交互的RL链路，提升训推rollout一致性
设计复用离线验证评估链路，支持算法高效迭代评估
AI 洞察
优缺点分析
优点
- 百度AI核心部门，技术前沿，涉及最新大模型技术栈
- 百度平台大，资源丰富，职业发展空间广阔
- 技术深度要求高，需要持续学习最新框架和算法
- 大模型训练和推理优化工作强度较大，可能涉及紧急问题处理
- 竞争激烈，需要较强的自驱力和抗压能力
- 适合对AI底层技术充满热情、喜欢钻研性能优化、具备较强编程和系统能力的工程师
缺点 / 挑战
- 工作内容具有挑战性，能快速积累大规模分布式系统和GPU优化经验
角色解读
- 技术深耕：成为大模型训练/推理领域的专家，主导核心优化技术
- 架构升级：向系统架构师方向发展，设计大规模AI基础设施
- 跨领域扩展：结合业务场景，转型AI产品化或技术管理岗位
- 负责百度基础大模型和专精大模型的业务适配优化，通过SFT、RL、压缩蒸馏等手段提升模型效果
- 构建高效分布式训练框架，优化并行策略、通信掩盖和混合精度，支持大规模模型训练
- 对推理引擎进行极致优化，包括KVcache、投机解码、量化压缩等，降低延迟并提升吞吐
- 构建强化学习工具链，探索Agentic多轮交互，提升训推一致性
- 精通C/C++/Python，扎实的算法基础和编程习惯
- 深入理解大模型原理，熟悉Pytorch、Megatron、DeepSpeed等框架
- 具备CUDA编程和GPU集群性能调优经验，熟悉vLLM、SGlang等推理框架
- 优秀的分析问题和解决问题的能力，良好的沟通和团队协作能力
申请策略
- 了解百度大模型业务方向（如文心一言），思考如何将自身经验与公司需求结合
- 准备一个完整的技术案例，展示从问题分析到优化落地的全过程
- 突出大模型相关项目经验，特别是分布式训练或推理优化案例
- 详细描述CUDA编程、算子优化或GPU集群调优的具体成果
- 展示对Megatron、DeepSpeed、vLLM等框架的深入理解和使用经验
- 补充强化学习（RL）相关知识，了解PPO、GRPO等算法
- 学习最新的推理加速技术，如投机解码、KVcache量化等
面试指南
- 使用STAR法则：情境、任务、行动、结果，清晰展示问题解决过程
- 从原理到实践：先阐述理论背景，再结合具体项目经验说明实现细节和效果
- 请解释大模型分布式训练中常见的并行策略（数据并行、张量并行、流水线并行）的优缺点
- 如何优化一个大模型的推理延迟？请从算法和系统层面分别讨论
- 你如何理解和实现FlashAttention？它解决了什么问题？
- 描述一次你通过CUDA算子优化提升模型训练/推理性能的经历
- 对于RLHF中的强化学习链路，你如何保证训推一致性？
- 复习Megatron、DeepSpeed的源码架构，理解关键优化点
职位点评
70
综合评分
百度AI核心岗，前沿技术栈，高成长但工作强度大，现场办公。
更适合这类人
适合以技术成长为首要目标，能够承受高强度工作，追求AI前沿技术栈的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展90
工作生活40
使命价值70
薪资福利
80较高
百度作为上市巨头，薪资福利有竞争力，但深圳生活成本较高。JD未披露具体薪资，但通常百度AI岗位薪资处于市场偏上水平。
薪资信号未披露（AI估算：25K-45K/月）
成长发展
90较高
岗位涉及最前沿的大模型技术栈，能够深度参与分布式训练、推理优化等核心工作，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈大模型、分布式训练、推理优化、CUDA、Megatron、DeepSpeed、vLLM、强化学习
业务类型profit_center
工作生活
40较低
深圳现场办公，无远程选项。JD未提及WLB信息，百度大模型团队可能面临高强度工作。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
百度大模型方向属于AI核心赛道，技术影响力大，但社会价值层面中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs