阿里巴巴
大模型推理KV Cache系统：从存储架构到软硬协同的全栈演进-阿里星/A Star
大模型推理KV Cache系统：从存储架构到软硬协同的全栈演进-阿里星/A Star
发布于 大约 20 小时前普通员工/个人贡献者
全职员工仅现场办公研究与开发 (研发)
研究与开发 (研发)
Gpu优化
Kv Cache
Rdma
Vllm
分布式系统
大模型推理
存储架构
值不值得投
76综合评分
综合评分 76
前沿技术、高成长性，但工作强度可能较大，适合技术驱动型人才。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
40K
比研究与开发 (研发)中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2140 个在招 · 其中研究与开发 (研发) 18 个
市场机会
选择面较广
北京 · 研究与开发 (研发) · 约 2410 个在招
职位详情
关于这个职位
该职位专注于大模型推理中的KV Cache系统优化，涉及存储架构设计、软硬协同和全栈性能调优
你将参与构建下一代推理基础设施，推动算法、系统与硬件的深度融合，解决行业核心挑战
适合对系统性能优化和前沿技术有热情的博士人才
最低要求
博士在读或即将毕业，计算机科学、数据库、人工智能、机器学习等相关专业背景
在大模型推理、数据库和存储等领域有深入研究和系统实践经验
熟悉分布式系统原理，熟悉各类存储协议和硬件特性
具备扎实的计算机基础，具备良好的编程能力和编程规范，熟悉 C/C++/Python/Go/Rust 至少一门语言
学习能力强，自驱、专注、善于拆解复杂问题并推动工程落地，愿意思考问题本质，具备质疑精神
具备良好的学术研究与工程化落地能力
工作职责
负责设计和实现面向大规模推理的存储系统，深度融合推理引擎，构建从显存、本地内存至分布式冷存储的全局多级存储池
基于特征识别实现数据的智能调度与分布管理，推动计算存储分离、弹性资源池等核心能力落地，建立高扩展、高可靠的推理存储系统底座
定义存储与推理引擎间的统一数据访问抽象层，通过零侵入式接口设计实现计算存储解耦，为多级缓存、预取调度等高级策略提供标准化支撑
建立 KV Cache 资源评估与治理体系，通过数据驱动的方式识别优化空间，在保障服务品质的前提下持续降低推理成本、提升资源 ROI
联合上下游团队，深入 KV Cache 全栈优化和技术攻关，建立端到端 KV Cache 系统
跟踪学术界与工业界 KV Cache 最新进展，推动量化、压缩、调度等创新技术在大规模生产环境中的落地
优先资格
有大模型推理 KV Cache 相关的研究或技术落地经验
在国际顶会（如 NeurIPS、ICML、VLDB、FAST、SIGMOD 等）发表过高水平论文
参与过推理引擎开源社区（如 vLLM、SGLang 等）
参与过数据库/存储等相关实践或开源项目
熟悉分布式缓存系统，例如（Redis、Alluxio、JuiceFS）
熟悉NVLink、RDMA、NCCL、GPU Direct等技术，有GPU 和存储性能优化经验
AI 洞察
优缺点分析
优点
- 阿里巴巴平台资源丰富，可接触大规模生产环境
- 与顶尖团队合作，有机会发表高水平论文
- 技术难度高，需要深厚的系统功底和快速学习能力
- 工作强度可能较大，需应对快速迭代的技术需求
- 竞争激烈，需要持续创新和突破
- 适合对系统性能优化有热情、具备扎实计算机基础、渴望在AI基础设施领域深耕的博士人才
缺点 / 挑战
- 处于大模型推理前沿领域，技术挑战大，成长空间广阔
角色解读
- 成为大模型推理基础设施领域的专家，主导核心系统架构
- 向技术管理方向发展，带领团队进行技术攻关
- 在学术界和工业界持续发表高水平论文，提升影响力
- 设计和实现大规模推理的存储系统，构建多级存储池，优化KV缓存管理
- 与团队合作，推动计算存储分离、弹性资源池等核心能力落地
- 定义存储与推理引擎间的数据访问抽象层，支持多级缓存和预取调度
- 跟踪学术界和工业界最新进展，推动量化、压缩等创新技术在生产环境落地
- 扎实的计算机基础，熟悉分布式系统原理和存储协议
- 精通至少一门编程语言（C/C++/Python/Go/Rust），具备良好的编程能力
- 熟悉大模型推理、数据库或存储领域，有系统实践经验
- 具备学术研究与工程化落地能力，善于解决复杂问题
申请策略
- 了解阿里巴巴在AI基础设施方面的布局，展示对业务的兴趣
- 准备展示项目成果和论文，突出创新点
- 突出大模型推理或存储系统的研究项目，展示技术深度
- 强调分布式系统、存储协议和硬件特性的实践经验
- 列出在顶级会议发表的论文或参与的开源项目
- 展示编程能力和解决复杂问题的能力
- 深入学习KV Cache相关技术，如量化、压缩、调度
- 熟悉主流推理引擎（如vLLM、SGLang）的架构
面试指南
- 结合项目经验，阐述技术选型和权衡
- 从系统架构角度分析问题，强调可扩展性和可靠性
- 展示对前沿技术的了解，并联系实际应用
- 请介绍你在KV Cache或存储系统方面的研究经验
- 如何设计一个高效的KV Cache存储系统？
- 如何平衡推理性能与成本？
- 谈谈你对计算存储分离的理解
- 如何将学术研究成果转化为工程落地？
职位点评
薪资福利70
成长发展95
工作生活50
使命价值80
薪资福利
70中等
薪资水平未明确，但作为阿里巴巴的博士岗位，薪资竞争力较强，福利体系完善。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
95较高
该岗位处于大模型推理前沿，技术挑战大，成长空间广阔，且鼓励发表论文和参与开源社区。
技术前沿前沿/新兴技术
技术栈KV Cache、大模型推理、分布式系统、存储架构、C++、Python、Rust、GPU优化、vLLM、RDMA
成长机会跟踪学术界与工业界最新进展、推动创新技术落地
业务类型profit_center
工作生活
50较低
工作地点在北京或杭州，未提及工作模式，但技术岗位可能需要现场办公，工作强度可能较大。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
大模型推理是当前热门赛道，对AI基础设施有重要贡献，社会影响力较大。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs