百度
公有云模型训推加速工程师（J104555）
公有云模型训推加速工程师（J104555）
发布于 大约 7 小时前普通员工/个人贡献者
北京市 / 上海市
高级经验
全职员工
仅现场办公
本科
机器学习工程
Cuda
Gpu
Nccl
Pytorch
Tensorrt-Llm
Vllm
分布式训练
性能优化
模型量化
AI 估算 · 30k–50k
大厂高级技术岗，AI基础设施方向，技术门槛高，市场稀缺，薪资竞争力强。
职位详情
关于这个职位
作为百度公有云模型训推加速工程师，你将专注于大模型训练与推理的性能优化，包括分布式训练策略、模型量化、算子优化等，使用CUDA/CUTLASS等底层技术挖掘GPU潜力，并跟踪业界主流框架的最佳实践
该职位要求扎实的计算机基础和丰富的性能调优经验，适合对AI基础设施充满热情的技术专家
最低要求
计算机科学、电子信息或相关专业，本科及以上学历
掌握 PyTorch 框架及底层机制，了解 autograd、dispatcher、CUDA graph 等原理
掌握大模型分布式训练方案，理解 NCCL 通信原语、混合精度训练（BF16/FP8）原理
掌握主流推理加速框架（vLLM / TensorRT-LLM / TGI / SGLang 等），有实际部署优化经验
具备性能调优实战经验，能熟练使用 Nsight Systems / Compute、PyTorch Profiler 等工具
良好的工程能力与团队协作意识，能推动优化方案从原型到生产落地
工作职责
负责大模型训练阶段（SFT&RL）的性能优化，包括数据并行、张量并行、流水线并行等分布式训练策略的设计与实现
负责大模型推理阶段的加速优化，涵盖模型量化（INT8/INT4/FP8）、算子融合、KV Cache 优化、投机解码等技术落地
掌握cuda/cutlass dsl等编程，发掘GPU硬件特性，完成常见算子flashattention/gemm等优化工作
熟练使用Nsight Systems/Compute对算法的运行效率如速度、显存占用等进行优化，保证模型精度下提升模型的计算效率
跟踪业界主流框架（如 DeepSpeed、Megatron-LM、vLLM、SGLang 等），评估并引入最佳实践
AI 洞察
优缺点分析
优点
- 百度在AI领域投入大，平台资源丰富，可接触大规模真实业务场景
- 薪资竞争力强，福利待遇好，有股票期权等激励
- 技术难度高，需要扎实的底层功底和持续学习能力
- 工作强度可能较大，需要应对快速迭代的技术需求
- 竞争激烈，需不断跟踪业界最新进展，保持技术领先
- 适合对AI底层技术有浓厚兴趣，具备较强工程能力和性能调优经验的技术专家
缺点 / 挑战
- 处于AI基础设施前沿，技术挑战大，成长空间广阔
角色解读
- 从性能优化工程师向AI基础设施架构师发展，主导大规模训练和推理系统设计
- 可转向技术管理岗位，带领团队负责AI平台的整体性能优化
- 在AI领域持续深耕，成为大模型训推加速的专家，影响行业标准
- 负责大模型训练和推理的性能优化，包括分布式训练策略的设计与实现
- 进行模型量化、算子融合、KV Cache优化等推理加速技术的落地
- 使用CUDA/CUTLASS等编程优化GPU算子，提升计算效率
- 跟踪并引入业界主流框架（如DeepSpeed、vLLM）的最佳实践
- 精通PyTorch框架及底层机制，了解autograd、dispatcher、CUDA graph等原理
- 掌握分布式训练方案，理解NCCL通信原语和混合精度训练
- 熟悉主流推理加速框架（vLLM、TensorRT-LLM等），有实际部署优化经验
- 具备性能调优实战经验，熟练使用Nsight Systems/Compute等工具
申请策略
- 关注百度云AI平台的发展方向，了解其技术栈和业务场景
- 准备展示个人技术博客或开源项目，体现技术深度
- 突出大模型训练或推理优化的项目经验，量化性能提升成果
- 强调对CUDA、CUTLASS等底层编程的熟练程度
- 展示对主流框架（如vLLM、DeepSpeed）的深入理解和实际应用
- 体现团队协作和推动项目落地的能力
- 深入学习CUDA编程和GPU架构，掌握算子优化技巧
- 熟悉NCCL通信原理和分布式训练调优方法
面试指南
- 结合项目经验，用STAR法则描述优化过程，突出量化指标
- 展示对底层原理的理解，如CUDA内存模型、并行计算等
- 强调系统性思维，从算法、框架、硬件多层面分析问题
- 如何优化大模型训练中的分布式并行策略？
- 介绍你使用vLLM或TensorRT-LLM进行推理优化的经验
- 如何利用Nsight工具定位性能瓶颈？
- 解释FlashAttention的原理和优化点
- 如何平衡模型精度与推理速度？
职位点评
74
综合评分
大厂AI基础设施前沿岗位，技术挑战大，薪资竞争力强，但工作强度可能较高。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术深度和职业成长，对薪资和稳定性有一定要求，能接受一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展95
工作生活40
使命价值70
薪资福利
80较高
百度作为上市大厂，薪资福利具有竞争力，但具体薪资未披露，需面议。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
95较高
岗位处于AI基础设施前沿，技术挑战大，成长空间广阔，符合发展性动机。
技术前沿前沿/新兴技术
技术栈PyTorch、CUDA、CUTLASS、vLLM、TensorRT-LLM、NCCL、DeepSpeed、Megatron-LM、SGLang
业务类型profit_center
工作生活
40较低
工作地点在北京或上海，现场办公，未提及弹性工作，可能工作强度较大。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
AI基础设施对推动技术发展有积极意义，但社会影响相对中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs