百度
上海-AI异构计算工程师(J101238)
上海-AI异构计算工程师(J101238)
发布于 大约 2 小时前普通员工/个人贡献者
上海市
中级经验
全职员工
仅现场办公
本科
软件工程
深度学习
PyTorch
CUDA
模型优化
分布式训练
大模型
DeepSpeed
vLLM
推理加速
AI 估算 · 45k–70k
百度上海AI异构计算岗位，大模型方向薪资高，需顶尖技能，市场竞争力强。
职位详情
关于这个职位
本职位负责百度大模型（文本、图像、语音）的适配优化、分布式训练框架构建及推理引擎极致优化，涉及SFT、RL、模型压缩、KVcache等技术，要求精通C++/Python、CUDA编程及主流框架（Megatron、DeepSpeed、vLLM），适合有大模型工程经验、热爱技术挑战的工程师
最低要求
本科及以上学历，计算机、电子工程等相关专业优先
精通C/C++/python一种，有良好的编程习惯和扎实的算法基础，有大模型相关框架、工程实践经验
了解前沿AI技术，熟悉大模型基本原理，熟悉Pytorch等深度学习框架，熟悉Megatron、DeepSpeed等分布式训练框架
具备GPU集群性能分析和调优经验、熟悉CUDA编程、算子优化，及主流推理框架（vLLM、SGlang等），能够分析计算和通信效率
优秀的分析问题和解决问题的能力，沟通能力和团队合作意识强，热爱挑战，自驱力强持续学习
工作职责
负责公司基础大模型和专精大模型业务适配优化工作，通过SFT、RL、模型压缩、知识蒸馏、推理加速等技术保障大模型能力更好的落地业务
负责构建各类大模型（文本、图像、语音）的高效分布式训练框架并持续优化，支持各类Post-train、RL、蒸馏技术方案高效训练和实验，跟踪Megatron/Deepspeed等框架核心进展，优化并行策略、通信掩盖、混合精度等持续提升模型效果
对核心场景、核心模型的推理引擎极致优化，不限于pd分离、KVcache、投机解码、量化压缩等手段，降低TTFT持续提升decode吞吐，对超万亿参数模型积累部署推理优化经验
持续为上亿流量产品的大模型部署推理成本优化负责
构建高效、灵活的强化学习工具链，探索Agentic、多轮环境交互的RL链路，提升训推rollout一致性
设计复用离线验证评估链路，支持算法高效迭代评估
AI 洞察
优缺点分析
优点
- 百度是AI领域巨头，大模型技术前沿，能接触超大规模模型和顶级流量产品
- 技能积累丰富，涵盖训练、推理、优化全栈，市场价值高
- 团队技术实力强，有顶级开源框架贡献机会，成长空间大
- 薪资福利优厚，百度上市稳定，股票期权等激励机制
- 技术深度要求高，需同时掌握多种框架和优化技术，学习曲线陡峭
- 工作强度较大，涉及上亿流量产品优化，可能需应对紧急问题
- 大模型领域竞争激烈，需要持续跟进最新研究和工程进展
缺点 / 挑战
- 适合热爱技术挑战、有大模型或高性能计算背景、追求顶尖技术平台的资深工程师
角色解读
- 技术深耕：成为大模型训练/推理专家，领导核心优化项目
- 架构方向：负责分布式系统架构设计，推动技术演进
- 管理路径：发展为技术团队负责人，带领团队攻克难题
- 负责大模型训练与推理的优化，包括SFT、RL、模型压缩等，提升模型落地效果
- 构建高效分布式训练框架，跟踪Megatron/DeepSpeed等框架进展，优化并行策略和通信
- 对推理引擎进行极致优化，通过KVcache、投机解码、量化等技术降低延迟和成本
- 构建强化学习工具链，支持Agentic和多轮交互，提升训推一致性
- 精通C++/Python，扎实的算法和编程能力
- 深入理解大模型原理，熟悉PyTorch、Megatron、DeepSpeed等框架
- CUDA编程和GPU性能优化经验，熟悉vLLM、SGlang等推理框架
- 分析解决问题能力强，沟通合作意识好，自驱学习
申请策略
- 面试前了解百度大模型产品（文心一言等）的技术架构，展示兴趣
- 准备一个完整的优化案例，从问题分析到方案实施和效果评估
- 突出大模型相关项目经验，特别是分布式训练、推理优化、CUDA算子开发
- 展示对Megatron/DeepSpeed/vLLM等框架的实际使用和改进经验
- 量化性能提升成果，如训练速度、推理延迟、成本降低等数据
- 强调开源贡献或技术博客，体现技术影响力
- 深入理解Transformer架构和主流大模型（GPT、LLaMA）细节
- 实践CUDA kernel优化和通信库（NCCL）调优
面试指南
- 结构化回答：先明确问题目标，分析瓶颈，提出方案并对比优劣，最后用数据展示效果
- 注意突出个人贡献和思考过程
- 请描述你如何优化一个大模型的训练效率，具体使用哪些并行策略？
- 解释Megatron和DeepSpeed的主要区别和你选择的依据
- 如何通过CUDA优化降低推理延迟？请举例
- 介绍你在模型压缩或知识蒸馏方面的经验
- 如何设计一个强化学习训练链路，确保训推一致性？
- 复习大模型基础知识：注意力机制、位置编码、分布式并行原理
职位点评
74
综合评分
顶尖大模型技术岗，高速成长，薪资优厚，但工作强度大
更适合这类人
最看重技术成长和前沿挑战的求职者
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展95
工作生活40
使命价值75
薪资福利
85较高
百度作为上市公司，薪资和福利有竞争力，但未在JD中明确具体数字，但整体薪酬处于行业高端。
薪资信号未披露（AI估算：45K-70K/月）
成长发展
95较高
职位涉及最前沿的大模型技术，包括训练、推理、强化学习，技术栈新，成长空间巨大。
技术前沿前沿/新兴技术
技术栈大模型、CUDA、Megatron、DeepSpeed、vLLM、PyTorch、模型压缩
业务类型profit_center
工作生活
40较低
JD未提及远程或弹性工作，百度上海总部通常现场办公，且涉及核心业务优化，预计工作强度较高。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
大模型技术是当前热点，对社会影响力显著，但JD未具体提及使命感，整体偏向技术实现。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs