华为
Agent 训推研究员
Agent 训推研究员
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cann
Cuda
Deepspeed
Fsdp
Kv Cache
Megatron
Mindspore
Pytorch
Sglang
值不值得投
74综合评分
综合评分 74
前沿AI基础设施岗，技术含金量高、成长性强，WLB信息不明。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.5万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 690 个在招 · 其中机器学习工程 15 个
市场机会
选择面较广
上海 · 机器学习工程 · 约 410 个在招
职位详情
关于这个职位
该岗位隶属于华为2012实验室，聚焦Agent训推全链路系统的架构设计与工程落地，支撑万亿级大模型在超大规模集群上的高效训练与推理
工作覆盖递归自我改进（RSI）、分布式训练、高性能推理三大方向，涉及昇腾/CANN与GPU/CUDA全栈优化，是典型的AI基础设施与系统工程核心研发岗
最低要求
本科及以上学历，3年以上相关领域研发经验，编程基础扎实，熟练掌握C++或Python，深入理解AI框架相关技术
至少深入以下一个方向：
· 训练（Megatron/DeepSpeed/FSDP/torchtitan）
· 推理（vLLM/SGLang/TensorRT-LLM及推理加速实战）
· 强化学习（verl/slime、Agentic RL）
熟悉昇腾/CANN或GPU/CUDA，具备硬件感知优化及算法—系统—硬件全栈设计能力
工作职责
标准职责：负责Agent训推全链路系统的架构设计与工程实现，支撑万亿级模型在超大规模集群上的高效训推与持续进化，涵盖递归自我改进、分布式训练与高性能推理三大方向
负责Agent递归自我改进（RSI）系统架构设计与实现，优化训推混合调度、分布式rollout、训推一致性、资源协同及异步RL，打通训推评测闭环，支撑真实任务持续进化并提升效率与资源利用率
负责Agent分布式训练系统架构构建，协同优化计算、通信与存储，支撑万亿级以上参数模型在万卡以上超节点集群高效训练，实现高性能与高可用
负责Agent高性能推理服务构建，优化KV Cache管理、连续批处理、投机解码及量化压缩，支撑万级QPS高并发低延迟推理，推动昇思MindSpore/PyTorch成果落地与开源建设，增强生态竞争力
优先资格
主流训推及AI框架开源贡献者优先
AI 洞察
优缺点分析
优点
- 处于大模型与Agent系统前沿，技术栈覆盖面广、含金量高
- 可接触万卡超节点集群、万亿级模型的真实工程场景，积累稀缺的分布式系统经验
- 背靠华为2012实验室，研发资源与算力平台支撑强
- 涉及训练、推理、强化学习多方向，成长空间大
- 系统规模庞大、涉及软硬件全栈协同，技术门槛与调试难度高
- 前沿方向迭代快，需要持续学习并跟进最新框架与论文
- 适合具备扎实系统功底、热爱AI基础设施与分布式系统、愿意在前沿大规模场景中攻坚的工程师
缺点 / 挑战
- 万亿级模型训推的稳定性与性能优化压力大，需较强的工程攻坚能力
角色解读
- 深度参与万亿级模型训推系统，成长为AI基础设施与分布式系统领域的资深专家
- 可向系统架构师、技术专家或技术管理方向发展，主导更大规模集群与前沿方向
- 通过开源贡献与生态建设积累行业影响力
- 设计与实现Agent递归自我改进（RSI）系统，打通训推评测闭环，优化混合调度与异步RL
- 构建分布式训练系统，协同优化计算、通信与存储，支撑万亿级模型在万卡超节点集群高效训练
- 构建高性能推理服务，优化KV Cache、连续批处理、投机解码与量化压缩，支撑万级QPS低延迟推理
- 推动昇思MindSpore/PyTorch成果落地与开源生态建设
- 扎实的C++或Python编程能力，深入理解AI框架底层机制
- 至少精通训练（Megatron/DeepSpeed/FSDP/torchtitan）、推理（vLLM/SGLang/TensorRT-LLM）或强化学习（verl/slime、Agentic RL）其中一个方向
- 熟悉昇腾/CANN或GPU/CUDA，具备硬件感知优化与算法—系统—硬件全栈设计能力
- 理解分布式系统、并行计算、内存管理与高并发服务优化
申请策略
- 提前了解华为昇思MindSpore生态与昇腾硬件体系，体现对技术栈的匹配度
- 关注华为2012实验室的研究方向与近期开源项目，在沟通中展现技术洞察
- 突出在训练或推理框架（Megatron/DeepSpeed/FSDP/vLLM/SGLang等）上的实战或源码级经验
- 量化呈现优化成果，如吞吐提升、延迟降低、显存/带宽优化等具体指标
- 展示C++/Python高性能编程、分布式与CUDA/CANN相关项目经验
- 如有主流AI框架开源贡献，务必重点列出
- 补强大模型并行训练（张量/流水/数据并行）与推理加速的系统知识
- 熟悉昇腾CANN或CUDA编程，积累硬件感知优化经验
面试指南
- 采用STAR结构，先讲背景与瓶颈，再讲方案设计、取舍与量化结果
- 对于框架类问题，先讲原理与关键机制，再结合自己的实践说明优化点
- 面对系统设计题，先梳理需求与约束，再分层给出架构方案与权衡
- 坦诚说明遇到的技术难点与解决思路，体现工程攻坚能力
- 请介绍你在分布式训练或推理加速中的一次深度优化实践及效果
- vLLM/SGLang中连续批处理与KV Cache管理是如何实现的？你做过哪些优化？
- 如何实现训推一致性？在异步RL场景下如何保证训练稳定？
- 万卡集群训练中如何做计算、通信与存储的协同优化？
职位点评
薪资福利75
成长发展92
工作生活48
使命价值74
薪资福利
75中等
JD未披露具体薪资与福利，但岗位技术门槛高、方向前沿，通常对应较有竞争力的市场水平。
薪资信号未披露（AI估算：4.0千–7.0万/月）
成长发展
92较高
面向万亿级模型训推与Agent前沿方向，技术栈深、成长信号强，技能积累价值高。
技术前沿前沿/新兴技术
技术栈Megatron、DeepSpeed、FSDP、torchtitan、vLLM、SGLang、TensorRT-LLM、KV Cache、异步RL、Agentic RL、CUDA、CANN、昇腾、MindSpore、PyTorch
业务类型ambiguous
工作生活
48较低
JD未提及办公模式、作息或加班情况，WLB信息不明确，且岗位涉及大规模系统工程，工作强度可能较高。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
74中等
聚焦大模型与Agent基础设施并推动开源生态建设，处于高速发展赛道，具一定技术影响力与生态价值。
行业发展高速增长赛道
社会影响中性/一般
使命信号增强生态竞争力
创新程度积极采用新技术
华为 的其他在招职位
相似职位推荐
Watch Jobs