阿里巴巴
阿里云智能-AI基础软件高级技术专家-北京/上海/杭州
阿里云智能-AI基础软件高级技术专家-北京/上海/杭州
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda
Vllm
内存管理
分布式系统
大模型推理
异构计算
性能优化
值不值得投
79综合评分
综合评分 79
顶尖大厂核心AI基建岗，技术前沿挑战大，薪资丰厚但工作强度较高
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4680 个在招 · 其中AI算法 44 个
市场机会
选择适中
杭州 · AI算法 · 43 个在招
职位详情
关于这个职位
负责阿里云AI基础软件的研发与优化，聚焦大模型推理场景下的异构计算（CPU/GPU）性能提升
通过内存管理、显存快照、跨层协同等技术手段，加速模型训练与推理效率，并推动技术规模化落地，解决高难度技术攻坚问题
最低要求
计算机科学、软件工程或相关专业，具备扎实的计算机系统基础理论知识
丰富的C/C++/Rust/Python开发经验
对以下领域之一有经验：
CUDA编程、多线程并发处理及异构计算平台深入理解
大模型推理快速启动与弹性恢复技术经验（进程级快照、显存管理、GPU直连传输等）
KVCache、分布式缓存与存储系统开发经验（熟悉Mooncake/LMCache等机制优先）
主流AI推理框架（vLLM/SGLang）开发经验，熟悉底层优化原理
大模型推理系统端到端性能优化相关经验
有强烈技术热情、自驱力、良好的分析与解决问题能力及团队合作能力
工作职责
负责面向AI的基础软件研发与优化，支撑阿里云客户对AI基础设施使用的相关需求
跟踪业界最新研究成果和技术动态，结合最新硬件架构、模型结构、AI框架、高速互联等技术前沿进展，负责相关技术的调研论证与系统原型探索
针对AI场景，设计和开发CPU/GPU等异构环境下的内存管理、显存快照与恢复、数据传输与计算优化技术，提升大模型推理服务的启动效率、弹性恢复速度与运行性能
通过跨层协同，优化AI框架以加速模型训练和推理效率，改善Agent运行环境
与业务团队紧密合作，推动相关技术的规模化落地
在技术方向上承担规划与攻坚，牵引方案演进并带动团队技术成长
优先资格
有技术带头人经验者优先
有相关项目研发或开源社区贡献经验优先
AI 洞察
优缺点分析
优点
- 接触最前沿的大模型推理技术与阿里云核心基础设施，技术壁垒极高，行业影响力大
- 技术难度极大，需同时掌握底层硬件特性与上层AI框架，对系统级编程能力和性能优化经验要求苛刻
- 具有深厚计算机系统功底、热衷于底层性能优化、能解决复杂工程难题的高级技术专家
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI基础设施架构师、首席科学家或技术总监方向发展，成为AI底层系统领域的权威专家
- 专注于AI基础软件栈的深度优化，特别是针对大模型推理场景的异构计算资源调度与性能调优
- 精通C++/Rust等系统级语言，深入理解CUDA编程、GPU内存管理及异构计算原理，熟悉vLLM等主流推理框架底层机制
申请策略
- 准备详细的技术案例，说明如何通过底层优化解决具体的性能瓶颈问题，体现技术深度与广度
- 突出展示在大模型推理加速、异构计算优化、CUDA编程或AI框架内核修改方面的具体项目成果与性能提升数据
- 深入研究vLLM/SGLang源码，掌握GPU显存管理机制（如GDR/RDMA），强化C++/Rust高性能编程能力
面试指南
- 采用STAR法则（情境、任务、行动、结果），重点阐述遇到的技术难点、采用的底层优化策略（如内存复用、算子融合、异步流水线等）以及最终带来的量化性能提升
- 请详细描述你在大模型推理引擎中进行性能优化的具体案例及采用的技术手段
- 如何设计高效的GPU显存管理与换入换出策略以提升吞吐量？
- 对比分析vLLM与SGLang在连续批处理（Continuous Batching）上的实现差异
- 在异构计算环境下，如何解决CPU与GPU之间的数据传输瓶颈？
- 复习操作系统原理、计算机体系结构、并行计算知识，熟悉主流AI框架的源码实现，准备1-2个深度的技术攻坚故事
职位点评
薪资福利90
成长发展95
工作生活40
使命价值75
薪资福利
90较高
作为已上市巨头企业的核心研发岗，薪资包极具竞争力，包含高额现金、年终奖及股票期权，远超市场平均水平。
薪资信号偏高 (6.0千–10.0万/月)
成长发展
95较高
处于AI基础设施最前沿，涉及大模型推理、异构计算等尖端技术，技术成长空间巨大，能接触到行业顶级难题。
技术前沿前沿/新兴技术
技术栈CUDA、vLLM、SGLang、KVCache、Rust、异构计算
成长机会技术带头人经验优先、带动团队技术成长
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗通常工作强度较大，虽可能有弹性工作制，但高压攻坚性质意味着加班不可避免，WLB一般。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
75中等
支撑阿里云AI基础设施，推动AI技术规模化落地，对社会智能化发展有积极意义，但商业属性较强。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号支撑阿里云客户对AI基础设施使用的相关需求
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs