阿里巴巴
阿里云智能-大模型推理存储研发工程师-稳定性、可观测方向
阿里云智能-大模型推理存储研发工程师-稳定性、可观测方向
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Kv Cache
分布式存储
可观测性
性能优化
故障诊断
系统稳定性
值不值得投
77综合评分
综合评分 77
顶尖大厂核心AI基建岗，技术前沿极具挑战性，薪资丰厚但工作强度大
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4490 个在招 · 其中后端开发 约 130 个
市场机会
选择面较广
杭州 · 后端开发 · 约 230 个在招
职位详情
关于这个职位
负责阿里云大模型推理存储（KVCacheStore）的稳定性支撑系统设计与研发，构建可观测、诊断与恢复体系
通过源码分析与性能剖析定位故障，建设自动化运维控制能力，保障高并发场景下的系统可靠性与可维护性
最低要求
具备存储、分布式缓存、KV系统或数据库存储相关的实际研发或稳定性建设经验，熟悉数据路径及故障模式
具备扎实的软件研发能力，熟悉Linux、网络通信、并发与I/O等系统基础，熟练掌握C++、Golang、Python中至少一门编程语言
在可观测、故障诊断、自动恢复、运维控制或稳定性验证等至少一个方向有深入实践
具备跨组件分析能力，能从业务请求出发结合指标、日志、链路追踪定位问题
具备严谨的实验和验证意识
理解大模型推理及KV Cache的基本原理，愿意深入推理框架与存储接口进行分析
主动运用AI工具辅助技术调研、源码分析及故障诊断
有强烈的技术热情，自驱力强，具备良好的沟通及团队协作能力
工作职责
负责 KVCacheStore 稳定性支撑系统的设计与研发，面向推理引擎接入、缓存服务及分层存储访问链路，建设可观测、诊断、恢复和运维控制等系统能力，持续提升系统可靠性与可运维性
构建贯通推理请求与 KV 存储操作的联合可观测体系，结合客户负载和服务质量要求，设计低开销的指标、日志、事件与链路追踪
关联分析缓存访问与推理性能，支撑端到端问题定位和效果评估
研发跨组件性能分析与故障诊断能力，针对缓存未产生预期收益、读取变慢、传输阻塞、资源争用及异常回退等问题，通过源码分析、性能剖析、问题复现和受控实验建立证据，定位关键原因，并与存储及推理框架研发协作完成代码、接口或配置改进
建设故障快速恢复与运维控制能力，围绕节点异常、容量及性能高水位、发布变更和扩缩容等场景，研发状态感知、风险校验、故障隔离、灰度回滚及恢复编排机制
与组件研发共同完善故障处置机制，保障恢复过程安全可控，并验证恢复效果
建设覆盖典型负载、故障和变更场景的稳定性验证体系，研发故障注入、回归验证和恢复演练工具，验证组件异常及其跨链路传播行为，持续完善故障检测、诊断和恢复能力，推动重复问题得到系统性解决
参与客户方案验证、生产问题排查和关键设计评审，与架构师、存储研发及推理框架团队共同制定观测规范、诊断接口和稳定性验收标准
牵引跨组件问题闭环，将故障经验与验证结果纳入研发改进计划，沉淀可复用的软件能力和运行实践
优先资格
有推理平台、KV Cache、存储观测或跨层性能诊断实践者优先
有AI辅助诊断、自动恢复或相关开源项目落地经验者优先
AI 洞察
优缺点分析
优点
- 接触最前沿的大模型基础设施技术，技术栈深厚，能显著提升系统级工程能力
- 系统复杂度高，需处理海量并发下的极端故障场景，对底层原理掌握要求极高
- 热衷于底层系统研发、喜欢解决复杂技术难题、具备极强自驱力的工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 向高级系统架构师发展，或在云原生存储、大模型基础设施领域成为技术专家
- 负责大模型推理存储系统的稳定性建设，包括可观测体系搭建和故障自动恢复机制开发
- 精通C++/Golang，深入理解分布式存储原理，具备极强的系统级故障排查与性能调优能力
申请策略
- 强调对大模型推理场景的理解，展示使用AI工具提升研发效率的实践
- 突出分布式系统稳定性建设经验，展示具体的故障排查案例和性能优化成果
- 复习操作系统内核知识，深入理解KV存储原理，熟悉主流可观测性工具链
面试指南
- 采用STAR法则，重点描述问题现象、根因分析逻辑、解决方案及最终效果量化
- 请分享一次你解决的最复杂的线上故障经历
- 如何设计低开销的可观测系统？
- KV Cache在LLM推理中的关键瓶颈是什么？
- 准备1-2个深度技术案例，复习Linux网络编程和并发模型，了解LLM推理架构
职位点评
薪资福利85
成长发展95
工作生活40
使命价值75
薪资福利
85较高
作为上市巨头企业的核心研发岗，薪资福利处于行业顶尖水平，稳定性高。
薪资信号偏高 (3.5千–6.0万/月)
成长发展
95较高
处于AI与大模型基础设施的最前沿，技术挑战极大，个人成长空间广阔。
技术前沿前沿/新兴技术
技术栈KV Cache、大模型推理、C++、Golang、可观测性、分布式存储
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗，工作强度通常较大，WLB相对受限。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
75中等
参与构建国家人工智能基础设施，具有显著的行业价值和技术影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs