Alibaba logo
阿里巴巴
阿里云智能-AI/Agent基础软件技术专家-北京/上海/杭州

阿里云智能-AI/Agent基础软件技术专家-北京/上海/杭州

发布于 2 小时前

普通员工/个人贡献者

AI 估算 · 6.0–11.0万 · AI 参考估算
专家级经验
学历未注明
全职员工仅现场办公AI算法
AI算法
Agent运行时
Cuda
Kvcache
Sglang
Vllm
异构计算
操作系统内核

值不值得投

75综合评分

综合评分 75

AI与Agent底层系统专家岗,技术前沿且攻坚性强,WLB信息未披露

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

8.5万

比AI算法中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 5110 个在招 · 其中AI算法 96 个

市场机会

选择面较广

杭州 · AI算法 · 约 110 个在招

职位详情

关于这个职位

该职位聚焦阿里云面向AI与Agent场景的基础软件研发,核心工作是优化大模型推理、Agent运行时、异构计算与系统内核能力

你将参与从前沿技术调研、系统原型探索到规模化落地的全过程,解决性能、弹性、稳定性和安全性等关键问题

最低要求

计算机科学、软件工程或相关专业,具备扎实的计算机系统基础理论知识,丰富的C/C++/Rust/Python开发经验

对如下一个或多个领域有经验:
对CUDA编程、多线程并发处理、异构计算平台有深入理解和实践经验,熟悉操作系统内核层面的异构计算支持(如GPU驱动、内核态异构调度、统一内存管理),以及CPU/GPU异构环境下的内存与显存管理、换入换出、快照与恢复、数据传输优化(如GDR/RDMA、长任务状态持久化)
有主流AI推理框架(vLLM/SGLang)开发经验,熟悉KVCache系统(如Mooncake/LMCache)及推理系统端到端性能优化,有相关项目研发或开源社区贡献经验优先
有模型分发与加载优化经验,熟悉模型权重分发、P2P分发、模型缓存、按需加载,具备支撑模型高效分发的存储IO、网络传输等系统级优化经验
有Agent运行时与工具执行基础设施开发经验,涵盖工具调用/函数执行链路、MCP等工具协议、记忆/状态管理,以及运行时可观测性、稳定性与安全性(故障恢复、性能剖析)
有强烈技术热情和好奇心,自驱力和学习力强
具备良好的分析与解决问题的能力、沟通以及团队合作能力
喜欢挑战性的技术研发工作,善于攻坚克难,有创新热情,积极乐观,坚韧抗压,结果导向,能够持续推动问题的解决和突破

工作职责

负责面向AI与Agent的基础软件研发与优化,支撑阿里云客户及内部业务的相关需求

跟踪业界最新研究成果和技术动态,结合硬件架构、模型结构、AI框架、高速互联、模型分发、Agent运行时等前沿进展,负责相关技术的调研论证与系统原型探索
针对大模型推理与Agent执行场景,设计和开发CPU/GPU异构计算与操作系统内核级优化技术,涵盖内存与显存管理、快照与恢复、数据传输与模型分发加载,提升服务启动效率、弹性恢复速度与运行性能
设计和开发Agent运行时与工具执行基础设施,涵盖工具调用链路、长程任务状态与记忆管理、运行时可观测性等,提升Agent执行的效率、稳定性与安全性
通过跨层协同优化AI推理框架与KVCache,加速模型训练与推理
与业务团队紧密合作,推动相关技术的规模化落地
在技术方向上承担规划与攻坚,牵引方案演进并带动团队技术成长

优先资格

有主流AI推理框架(vLLM/SGLang)开发经验,熟悉KVCache系统(如Mooncake/LMCache)及推理系统端到端性能优化,有相关项目研发或开源社区贡献经验优先

AI 洞察

优缺点分析

优点

  • 岗位处于AI与Agent基础设施核心方向,技术栈前沿,能积累大模型推理、异构计算和运行时系统的稀缺经验
  • 工作内容覆盖从前沿调研、原型验证到规模化落地,技术影响面广,适合希望做底层系统创新的工程师
  • 与云智能业务结合紧密,能够接触真实客户和内部业务场景,技术成果更容易形成可验证的业务价值
  • 职位强调技术规划和攻坚,对希望提升系统架构能力和技术牵引力的候选人有较好成长空间
  • 技术跨度大,需要同时理解操作系统、GPU异构计算、AI框架、网络存储和Agent运行时,学习曲线较陡
  • JD强调攻坚克难、坚韧抗压和结果导向,说明岗位可能面对复杂问题和高要求交付节奏
  • 适合具备扎实系统软件功底、对AI基础设施有强烈兴趣,并希望在异构计算、推理框架或Agent运行时方向做深度技术攻坚的专家型工程师

缺点 / 挑战

  • 多领域经验要求高,候选人需要在系统底层优化或AI推理基础设施中已有较深积累,竞争门槛较高

角色解读

  • 可向AI基础设施专家、推理系统架构师、异构计算与操作系统内核专家等方向深入发展
  • 有机会从关键技术攻坚者成长为技术负责人,牵引AI基础软件平台、Agent运行时或推理加速体系的方案演进
  • 长期可拓展到云上AI平台架构、AI系统全栈优化、开源社区影响力建设以及跨团队技术治理等方向
  • 面向大模型推理和Agent执行场景,研发底层基础软件,包括CPU/GPU异构计算、内核级优化、显存与内存管理、快照恢复和数据传输等能力
  • 参与AI推理框架、KVCache、模型分发加载和Agent运行时的设计与优化,提升服务启动、弹性恢复、运行性能和稳定性
  • 跟踪硬件架构、AI框架、高速互联、模型分发和Agent运行时等前沿进展,做技术调研、方案论证和系统原型探索
  • 与业务团队协作推动技术规模化落地,并在技术方向规划、关键问题攻坚和团队技术成长方面发挥牵引作用
  • 需要扎实的计算机系统基础,以及丰富的C/C++/Rust/Python工程开发能力,能够完成高性能、高可靠系统研发
  • 需要深入理解CUDA、多线程并发、异构计算平台,以及GPU驱动、统一内存管理、GDR/RDMA、快照恢复等系统级技术
  • 熟悉vLLM、SGLang、KVCache、Mooncake、LMCache或模型分发加载优化经验会形成明显优势
  • 具备Agent运行时、工具调用链路、MCP协议、状态与记忆管理、可观测性和故障恢复经验,能支撑Agent基础设施稳定性与安全性

申请策略

  • 投递前建议确认目标城市,北京、杭州、上海三地的团队方向和岗位匹配度可能不同
  • 面试前可准备一个完整的系统优化案例,讲清楚问题背景、瓶颈定位、方案取舍、量化收益和落地过程
  • 重点突出C/C++/Rust/Python大型系统项目经历,尤其是性能优化、并发处理、内存管理、内核态支持或稳定性治理成果
  • 明确写出与CUDA、GPU驱动、RDMA/GDR、快照恢复、模型分发加载、KVCache或vLLM/SGLang相关的具体贡献和量化结果
  • 如果有开源社区贡献、推理系统优化项目或Agent运行时基础设施建设经验,应单独列出项目链接、职责范围和性能收益
  • 强调跨团队协作和技术牵引经历,例如主导方案设计、推动落地、解决疑难问题、带动团队技术成长
  • 可补强大模型推理系统知识,重点理解vLLM/SGLang、KVCache管理、连续批处理、显存优化和端到端性能剖析方法
  • 可加强CPU/GPU异构计算与系统底层能力,包括CUDA编程、统一内存、RDMA/GDR、快照恢复和内核态调度相关实践

面试指南

  • 技术深挖类问题采用“背景约束—瓶颈定位—方案设计—实验验证—线上收益”的结构回答,并尽量给出量化结果
  • 系统设计类问题先明确业务场景和性能指标,再分层拆解计算、存储、网络、调度、可观测性和容错方案,最后说明取舍
  • 行为与协作类问题用STAR框架,突出你如何推动跨团队协作、处理技术分歧、持续攻坚并沉淀可复用能力
  • 请介绍一个你主导的C/C++/Rust/Python高性能系统项目,你负责了哪些核心模块,最终取得了什么性能收益?
  • 在CPU/GPU异构环境下,如何设计内存与显存管理、换入换出或快照恢复机制?
  • 你如何定位大模型推理服务的性能瓶颈?会从计算、通信、显存、调度和KVCache哪些角度入手?
  • 如果让你设计Agent运行时基础设施,如何保证工具调用链路的可观测性、稳定性和安全性?
  • 面对模型权重分发和按需加载场景,如何优化存储IO、网络传输和缓存命中?

职位点评

薪资福利78
成长发展92
工作生活45
使命价值82

薪资福利

78中等

JD未披露薪资与福利信息,但岗位为专家级AI基础软件方向,要求较高的系统底层与推理优化能力,通常对资深技术人才具备较强吸引力。稳定性与福利部分未提及,无法进一步判断。

薪资信号未披露(AI估算:6.0千–11.0万/月)

成长发展

92较高

岗位明确涉及前沿技术调研、系统原型探索、跨层协同优化和技术规划攻坚,对技能深度和技术视野的成长非常有利。JD还提到带动团队技术成长,说明具备一定技术影响力空间,但未明确晋升通道或培训机制。

技术前沿前沿/新兴技术
技术栈AI、Agent、CPU/GPU异构计算、操作系统内核、CUDA、AI框架、高速互联、模型分发、Agent运行时、vLLM、SGLang、KVCache、Mooncake、LMCache、MCP
成长机会跟踪业界最新研究成果和技术动态、系统原型探索、技术方向上承担规划与攻坚、带动团队技术成长
业务类型ambiguous

工作生活

45较低

JD仅明确北京、杭州、上海三地,未说明远程、混合办公、弹性工时或休假制度。由于办公模式与WLB相关信息未提及,生活化动机满足程度难以判断。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

82较高

岗位服务于AI与Agent基础软件建设,涉及大模型推理效率、Agent执行稳定性和安全性,技术方向具备较强行业前景。JD未直接描述社会使命或公共价值,意义感主要来自前沿技术落地和基础设施能力提升。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs