阿里巴巴
AI Agent基础设施&系统架构-阿里星/A Star
AI Agent基础设施&系统架构-阿里星/A Star
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Agent Infra
Agentic Rl
Ai Infra
Cuda Kernel
Llm
Megatron
Moe
Vllm
推理优化
值不值得投
78综合评分
综合评分 78
顶尖校招AI Infra岗，技术前沿、成长性强，薪资福利与WLB未披露。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较职业起点。
薪资怎么样
4.8万
比人工智能中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4140 个在招 · 其中人工智能 约 400 个
市场机会
选择面较广
杭州 · 人工智能 · 约 470 个在招
职位详情
关于这个职位
该岗位在阿里巴巴AI Agent基础设施与系统架构团队，负责模型训练/推理优化及Agent全生命周期基础设施设计，打造支撑Agent产品快速研发与大规模落地的技术底座
你将深入MoE、长上下文、多模态等场景的性能优化，并参与Agent运行时、沙箱、记忆系统等核心能力建设
最低要求
计算机、数学、电子等相关专业毕业，博士优先
熟悉机器学习以及AI相关的算法，熟悉最新的LLM大语言模型、多模态模型、视频模型，有相关模型架构设计和优化经验者优先
有AI Infra相关的经验者优先，包括但不限于训练框架(Megatron、deepspeed，verl), 推理引擎(vLLM, SGLang, trt-llm)的设计和优化，以及Agentic RL等
有Agent Infra相关经验者优先，包括但不限于Agent框架(e.g. Hermes, google ADK, openClaw，LangGraph等)，沙箱和隔离、长短记忆、ReAct、MCP等
熟悉计算机系统，了解GPU等芯片架构，有系统调度优化，高性能计算等方面经验者优先
良好的问题解决能力和程序设计能力，比如python，rust，c++等，对于AI native研发模型有了解，熟悉AI coding
工作职责
模型训练优化上，解决基础的计算、存储和数据等方面优化的同时，设计agentic的方法，支持AI native的模型后训练（e.g. Agentic RL），自动化模型训练过程，降低人力干预，实现在线服务的模型自动化训练和更新
模型推理优化上，针对agent业务产品需求，在MoE、长上下文，以及LLM/多模态/视频生成等场景下进行推理性能优化，包括调度、量化（INT4/INT8/FP8）、算子融合、CUDA Kernel定制设计，以及算法和infra结合优化（e.g. token压缩，模型压缩等），提升计算性能，降低推理latency，降低模型服务成本
Agent Infra上，进行Agent全生命周期基础设施的打造，包括网关、运行时、沙箱、agent编排与协作、记忆系统、skills/生态、可观测和安全保障等，支持agent产品的快速研发和落地应用，保障agent服务质量
优先资格
博士优先
有相关模型架构设计和优化经验者优先
有AI Infra相关经验者优先，包括但不限于训练框架(Megatron、deepspeed，verl)、推理引擎(vLLM, SGLang, trt-llm)的设计和优化，以及Agentic RL等
有Agent Infra相关经验者优先，包括但不限于Agent框架(e.g. Hermes, google ADK, openClaw，LangGraph等)、沙箱和隔离、长短记忆、ReAct、MCP等
有系统调度优化、高性能计算等方面经验者优先
AI 洞察
优缺点分析
优点
- 技术栈覆盖模型训练、推理优化与Agent Infra，处于AI应用落地的基础设施核心位置
- 可深入MoE、长上下文、Agentic RL、CUDA Kernel等前沿方向，技术深度积累明显
- 技术面广且深，需要同时理解训练框架、推理引擎和Agent运行时系统
- 前沿领域迭代快，需持续跟踪新模型、新框架与新协议
- 顶尖校招项目竞争激烈，对项目深度和系统能力要求高
- 适合对AI基础设施有强烈热情、追求技术深度成长、具备系统思维并愿意持续钻研前沿技术的应届博士/硕士
缺点 / 挑战
- 岗位直接支撑Agent产品大规模落地，业务影响面和技术挑战兼具
- 顶尖校招项目，平台资源与技术曝光度较高
角色解读
- 可从单点训练或推理优化方向逐步扩展到Agent全栈基础设施架构，成为AI Infra技术专家
- 随着Agent产品规模化落地，可向系统架构师、技术负责人或AI平台方向纵深发展
- 前沿技术栈覆盖训练、推理与Agent系统，未来在AI基础设施领域具备较强迁移能力
- 负责AI Agent基础设施与系统架构设计，打造支撑Agent产品快速研发和规模化落地的技术底座
- 优化大模型训练流程，探索Agentic RL等AI native后训练方法，降低训练中的人力干预
- 针对MoE、长上下文、多模态和视频生成等场景做推理性能优化，降低延迟与服务成本
- 建设Agent全生命周期基础设施，包括网关、运行时、沙箱、记忆系统、可观测与安全保障
- 扎实的机器学习与AI算法基础，熟悉LLM、多模态模型、视频模型及其架构
- 掌握AI Infra技术栈，如Megatron、DeepSpeed、verl、vLLM、SGLang、TensorRT-LLM等
- 熟悉Agent框架与协议，如LangGraph、ReAct、MCP、沙箱隔离、长短记忆等
- 具备系统级编程与性能优化能力，熟悉Python/Rust/C++、GPU架构、CUDA Kernel与调度优化
申请策略
- 关注阿里星/A Star校招申请节点，提前准备技术项目材料和研究总结
- 面试中重点展示对AI Infra全栈的理解，以及从算法到系统落地的权衡能力
- 突出大模型训练或推理优化项目，写清吞吐、延迟、成本等量化收益
- 展示AI Infra工具链经验，如Megatron、DeepSpeed、vLLM、SGLang、TensorRT-LLM等
- 如有Agent框架、沙箱、记忆系统、MCP或Agentic RL实践，应作为重点案例呈现
- 体现系统编程与性能优化能力，包括Python/Rust/C++、CUDA Kernel、GPU调度等
- 提前阅读vLLM/SGLang/Megatron等核心框架源码，理解调度、量化和并行策略
- 补强CUDA Kernel优化、GPU体系结构与高性能计算实践
面试指南
- 用STAR结构讲清问题背景、方案设计、技术权衡和量化结果
- 对系统设计题先拆解目标与约束，再给出分层架构、关键模块和评估指标
- 对前沿技术题结合论文/开源实现与自己的实践，说明适用边界和风险
- 请介绍你在大模型训练或推理优化方面的项目经验，如何提升吞吐或降低延迟？
- 针对MoE或长上下文场景，你会如何设计推理调度、量化和算子优化方案？
- 如何设计Agent Infra的沙箱隔离、记忆系统和可观测性？
- 你如何理解Agentic RL与自动化模型训练？有哪些实践或思考？
- 在GPU集群上做过哪些系统调度或CUDA Kernel优化？
职位点评
薪资福利75
成长发展95
工作生活50
使命价值80
薪资福利
75中等
JD未披露具体薪资与福利，补偿性信息有限；作为顶尖校招技术岗，薪酬包预计具备竞争力，具体需面试确认。
薪资信号未披露（AI估算：3.5千–6.0万/月）
成长发展
95较高
岗位覆盖训练、推理与Agent Infra全栈，技术栈前沿，成长空间大；JD未明确培训或晋升机制。
技术前沿前沿/新兴技术
技术栈AI Infra、Agent Infra、Agentic RL、MoE、长上下文、LLM、多模态、视频生成、量化、CUDA Kernel、Megatron、DeepSpeed、verl、vLLM、SGLang、TensorRT-LLM、LangGraph、MCP、Python、Rust、C++
业务类型ambiguous
工作生活
50较低
JD未提及办公模式、弹性安排或加班情况，WLB信息不足，需在面试中进一步确认。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
AI Agent基础设施处于高速发展赛道，岗位推动AI应用规模化落地，技术正向价值明显；JD未披露具体使命表述。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs