百度
大模型训推框架技术架构师（J102502）
大模型训推框架技术架构师（J102502）
发布于 1 天前中层管理(经理/总监)
北京市
高级经验
全职员工
仅现场办公
学历未注明
软件工程
Ai芯片架构
分布式推理
国产芯片
多模态
大模型训练
异构计算
强化学习
推理框架
算子优化
AI 估算 · 40k–70k
百度大模型技术架构师，北京核心岗位，薪资因技能稀缺性处于市场高端水平。
职位详情
关于这个职位
该职位是百度AI基础设施的核心技术岗位，负责大模型训练与推理框架的整体架构设计与优化
你将主导MoE、多模态等前沿模型的技术规划与研发，推动国产芯片生态建设，并带领团队提升框架性能和行业影响力
适合在AI系统、分布式计算领域有深厚经验的资深技术专家
最低要求
专业技术能力：具备扎实的AI软硬件结合优化能力，深入理解AI芯片架构、异构计算及大模型训练/推理框架底层原理，在大规模分布式训练、高性能推理服务软件技术、算子研发等领域有丰富的实战经验，具备面向前沿模型架构（如长文本、多模态、MoE等）的技术规划与协同创新能力
团队管理能力：具备优秀的团队管理和人才梯队建设经验，能够有效吸引、挖掘和培养优秀技术人才，能够打造技术内聚力强、具备行业影响力的研发团队
综合业务素养：具备良好的业务敏感度，能将技术规划与业务目标相结合，推动技术到业务的闭环，具备较强的跨团队沟通协调与推动能力，能有效推进芯片、底层框架与顶层模型研发的协同落地
工作职责
大模型训推框架架构设计与演进：负责大模型训练与推理框架的整体架构设计、技术规划与研发落地，针对MoE、强化学习等模型架构进行训练框架的性能优化，主导多模态等前沿模型训练框架的自研与开源工作，持续提升框架在开源社区及行业内的认可度，承担AI基础设施核心技术建设，保障系统性能优势，支持AI IaaS业务的技术突破
大规模推理服务性能优化与降本：负责大模型推理框架及底层引擎的深度优化，深入进行算子优化，提升硬件算力利用率，建设和优化大规模分布式推理系统（包括KV传输与存储系统的设计优化），有效降低用户访问延迟，推动推理引擎与集群调度系统的协同优化，提升集群整体资源利用率，降低模型调用及推理运营成本
国产异构算力使能与生态建设：负责万卡规模国产AI芯片集群的大模型训练技术研发，提升系统稳定性和训练性能，对标行业主流旗舰芯片水平，推动国产算力对MoE、多模态、具身智能等前沿领域主流模型的支持与适配，提升模型覆盖率和适配效率，完善相关开发和性能分析工具链，缩短新模型的硬件适配周期，参与建设国产芯片软件生态
AI 洞察
优缺点分析
优点
- 百度在AI领域的技术积累和品牌影响力，为个人发展提供强大平台
- 岗位涉及大模型最前沿技术（MoE、多模态、强化学习），技能积累价值高
- 有机会主导国产芯片生态建设，具有国家战略意义
- 团队管理和技术领导角色，提升综合能力
- 技术难度大，需要同时精通芯片、系统和算法，学习曲线陡峭
- 国产芯片生态尚不成熟，适配和优化工作可能面临较多不确定性
缺点 / 挑战
- 工作强度较高，可能需要应对紧急技术问题和高性能要求
- 适合在AI系统领域有深厚经验、渴望挑战技术前沿、同时具备团队管理能力的高级技术专家
角色解读
- 技术方向：成为AI基础设施领域的顶尖专家，影响行业技术标准
- 管理方向：晋升为更高级别的技术总监或首席架构师，负责更大范围的技术战略
- 生态方向：主导开源项目，提升个人和公司在AI社区的声望
- 负责大模型训练与推理框架的架构设计和技术规划，确保框架在性能和扩展性上领先
- 针对MoE、多模态等前沿模型，优化训练框架和推理引擎，提升算力利用率和降低延迟
- 推动国产芯片在万卡集群上的适配与优化，建设国产AI软件生态
- 管理技术团队，培养人才，协调跨团队合作，实现技术到业务的闭环
- 精通AI芯片架构、异构计算和大模型训练/推理框架底层原理
- 在大规模分布式训练、高性能推理、算子优化等领域有丰富实战经验
- 具备团队管理能力和技术规划能力，能带领团队突破技术难题
- 了解MoE、强化学习、多模态等前沿模型架构，有相关优化经验
申请策略
- 关注百度飞桨（PaddlePaddle）生态，了解其大模型框架（如PaddleNLP）的技术特点
- 在面试中展示技术热情和对AI基础设施未来趋势的见解
- 突出在大规模分布式训练或推理框架上的实际项目经验和量化成果（如延迟降低、吞吐提升）
- 展示对AI芯片架构（如NVIDIA GPU或国产芯片）的深入理解及优化案例
- 强调团队管理经验，包括带团队规模、人才培养和技术规划
- 提及开源贡献或技术社区影响力，如主导过知名项目
- 深入学习MoE、强化学习等前沿模型架构的底层原理和优化方法
- 熟悉国产芯片（如华为昇腾、寒武纪）的编程模型和性能分析工具
面试指南
- 使用STAR方法：描述场景、任务、行动和结果，突出量化数据
- 展示系统性思维：从芯片特性、框架设计到算法协同，分层分析问题
- 强调团队协作和技术领导力，如何推动跨团队决策
- 请描述一个你主导的分布式训练优化项目，你如何设计架构并解决性能瓶颈？
- 你对MoE模型在训练和推理中的优化有哪些经验？
- 在国产芯片上适配大模型时，你遇到了哪些挑战？如何解决？
- 你如何平衡团队内的技术探索和业务交付？
- 如何看待大模型推理中的KV cache优化？你有何方案？
职位点评
74
综合评分
百度核心AI大模型框架技术架构岗，前沿技术栈与国产芯片布局，高成长高薪酬但WLB一般。
更适合这类人
最适合看重技术成长和行业影响力、能接受高强度工作的资深技术专家。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展92
工作生活40
使命价值85
薪资福利
80较高
百度作为上市巨头，薪资福利具有竞争力，但JD未明确披露薪资范围，面试可能面议。
薪资信号未披露（AI估算：40K-70K/月）
成长发展
92较高
该职位涉及最前沿的大模型训推技术，能深度参与国产芯片生态建设，成长空间极大。
技术前沿前沿/新兴技术
技术栈大模型训练、推理框架、MoE、强化学习、多模态、算子优化、分布式推理、国产芯片、AI芯片架构、异构计算
成长机会团队管理、人才梯队建设
业务类型profit_center
工作生活
40较低
职位仅现场办公，北京核心地段，但未提及WLB，百度通常工作强度较大。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
85较高
参与国产芯片生态建设具有国家战略意义，推动AI基础设施发展，社会价值较高。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号国产芯片软件生态
创新程度积极采用新技术
Watch Jobs