百度
AI Infra 研发工程师（J104808）
AI Infra 研发工程师（J104808）
发布于 大约 4 小时前普通员工/个人贡献者
北京市 / 上海市
中级经验
全职员工
仅现场办公
本科
平台工程
Ai基础设施
Cuda
Deepspeed
Pytorch
Vllm
分布式训练
推理优化
AI 估算 · 35k–60k
职位详情
关于这个职位
作为百度AI Infra研发工程师，你将参与建设业界领先的AI异构算力容器平台（百舸），负责将SOTA模型训练推理优化手段工程实践化，并在自研芯片上适配大模型、开发调优算子
该岗位深度涉及Kubernetes、分布式训练、推理优化等前沿技术，适合对AI基础设施有热情、具备扎实编码和系统能力的工程师
你将与顶尖团队合作，探索业界最新技术方向，并参与开源社区建设，是技术深耕与成长的绝佳平台
最低要求
本科及以上学历，有一定程度的计算机相关专业知识背景
优秀的编码能力，熟悉Golang/Python/Java/C/C++至少一项，有扎实的算法及数据结构基础，有良好的编程习惯
熟悉PyTorch，了解Megatron、DeepSpeed、vLLM、SGLang等大模型训推框架，做过测试、开发等工作
有独立的分析问题和解决问题的能力，有强烈的责任心，较强的学习能力和沟通能力
工作职责
建设业界领先的AI异构算力容器平台，提供高性能、高稳定性、高易用性的百舸产品，支持AIGC、智算中心、金融、能源等客户AI应用高效部署和使用
结合SOTA模型训练推理优化原理，深入模型结构与设计思路，将训练推理优化手段工程实践化，为客户提供系统性加速方案，提升训推效率
在自研芯片上适配常见大模型，结合深度学习训推框架特性，开发或调优相关算子，提升模型在芯片上的性能和精度表现，辅助客户进行芯片选型和应用
针对大规模异构集群场景下，探索训推任务管理、异构资源调度、虚拟化混布、容器存储、高性能网络、分布式训练和推理等技术的创新和应用
探索业界最新技术方向，参与机器学习框架等开源社区，提升百度混合云AI核心竞争力
优先资格
对GPU芯片架构有一定了解者优先，熟悉CUDA、OpenCL等高性能计算编程经验优先，有大规模训练推理实践经验者优先
具备以下至少一个领域的深度实践经验优先：
推理优化：FlashAttention、PD分离、专家并行、负载均衡、模型压缩（蒸馏/量化）、缓存策略、异构计算加速
训练优化：分布式训练、显存优化（如Zero/Offload）、计算通信Overlap、混合精度、MoE架构调优
熟悉Kubernetes工作原理，熟悉调度器、资源扩展机制、容器运行时、容器网络等技术，有Kubernetes开发和维护经验优先
AI 洞察
优缺点分析
优点
- 技术前沿性强，深度涉及AI基础设施、大模型训练推理优化等热门领域，个人技术成长快
- 平台优势明显，百度在AI领域有深厚积累，能接触到大规模真实业务场景和自研芯片
- 薪资待遇优厚，大厂福利完善，职业发展空间大
- 技术栈深且复杂，对分布式系统、高性能计算、底层硬件等要求高，学习曲线陡峭
- 工作强度可能较大，需要持续跟进业界最新技术动态，保持技术敏感度
- 岗位对综合能力要求高，需要同时具备工程能力、算法理解能力和硬件知识
缺点 / 挑战
- 适合对AI基础设施、高性能计算有浓厚兴趣，具备扎实的编码功底和分布式系统经验，渴望在技术深度上不断挑战自我的工程师
角色解读
- 技术专家路线：在AI基础设施、高性能计算、分布式系统等方向深耕，成为领域专家
- 架构师路线：负责复杂系统的整体架构设计，主导技术选型和系统演进
- 管理路线：带领团队负责核心模块或产品线，向技术管理者方向发展
- 负责建设AI异构算力容器平台，为AIGC、智算中心等客户提供高性能、高稳定性的AI应用部署和调度能力
- 将SOTA模型训练推理优化技术（如FlashAttention、分布式训练）工程化，为客户提供系统性加速方案
- 在百度自研芯片上适配主流大模型，开发或调优算子，提升模型在芯片上的性能和精度
- 探索大规模异构集群下的任务管理、资源调度、高性能网络等前沿技术，并参与开源社区建设
- 扎实的编码能力，精通Golang、Python、Java、C/C++中至少一种，并有良好的算法和数据结构基础
- 熟悉PyTorch框架，了解Megatron、DeepSpeed、vLLM、SGLang等主流大模型训练推理框架
- 深入理解Kubernetes工作原理，包括调度器、资源扩展、容器运行时等，有相关开发经验者优先
- 对GPU架构和CUDA编程有了解，具备大规模训练推理实践经验者优先
申请策略
- 在申请时，可以表达对百度AI技术方向的认同和对AI基础设施的热情
- 提前了解百舸产品，在面试中能展现出对业务的理解
- 重点突出Kubernetes相关开发经验，包括调度器、资源管理、容器网络等具体项目
- 详细描述在大模型训练或推理优化方面的实践，如使用过DeepSpeed、vLLM等框架，并量化性能提升成果
- 展示对GPU架构和CUDA编程的理解，如有相关优化经验务必提及
- 强调独立解决复杂技术问题的能力和项目中的关键贡献
- 系统学习Kubernetes的架构设计和源码，深入理解调度器、控制器等核心组件
- 动手实践大模型训练推理框架，如尝试用vLLM部署服务，或使用DeepSpeed进行模型训练
面试指南
- 对于项目经验类问题，采用STAR法则（情境、任务、行动、结果）清晰阐述
- 对于技术原理类问题，先阐述基本概念，再深入细节，最后结合自己的理解提出优化思路
- 对于系统设计类问题，从需求分析、架构设计、技术选型、难点攻克等维度进行回答
- 请详细描述你过去使用Kubernetes的项目经验，包括遇到的问题和解决方案
- 谈谈你对vLLM或DeepSpeed的理解，以及它们是如何优化大模型推理或训练的？
- 如何设计一个支持大规模异构GPU集群的容器调度系统？
- 你对CUDA编程有哪些了解？请举例说明如何优化一个算子
- 在大规模分布式训练中，如何解决通信瓶颈问题？
职位点评
80
综合评分
技术前沿、成长空间大，薪资有竞争力，但工作强度可能较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
该职位最适合以技术成长为首要目标，对AI基础设施有热情，能接受一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展95
工作生活50
使命价值80
薪资福利
85较高
百度作为上市公司，提供有竞争力的薪酬和福利，但具体薪资需面议。
薪资信号面议 (35K-60K/月)
成长发展
95较高
该岗位技术前沿，涉及AI基础设施、大模型优化等热门领域，能提供极佳的技术成长空间。
技术前沿前沿/新兴技术
技术栈Kubernetes、PyTorch、CUDA、DeepSpeed、vLLM、分布式训练、推理优化
业务类型profit_center
工作生活
50较低
岗位要求现场办公，未提及弹性工作，互联网大厂的工作节奏可能较快。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
AI基础设施是推动AI产业发展的关键，岗位具有较高的技术价值和行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs