京东
分层 KV 存储工程师
分层 KV 存储工程师
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Kv Cache
Llm Inference
分布式系统
大模型基础设施
架构设计
缓存优化
高性能计算
值不值得投
75综合评分
综合评分 75
AI Infra前沿技术岗，发展性极强，但工作强度较高，适合技术极客
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1920 个在招 · 其中后端开发 52 个
市场机会
选择面较广
北京 · 后端开发 · 约 460 个在招
职位详情
关于这个职位
该职位隶属于京东云AI Infra团队，主要负责大模型训练与推理平台的核心存储架构设计
候选人需主导多级KV Cache的规划、演进及落地实施，解决高并发场景下的性能瓶颈与稳定性问题，并具备跨团队协作与技术指导能力，以支撑京东内外的大模型业务生态
最低要求
具备分布式KV共享与缓存池化经验，主导过多级缓存架构设计与演进路线制定
能够制定缓存淘汰策略与容量治理方案，系统性识别并解决性能瓶颈与稳定性风险
具备从架构规划到落地实施的全流程推动能力，善于提炼共性经验并指导团队提升技术水平
在跨团队协作中保持开放心态，以开阔视野推动复杂技术方案达成共识并落地执行
符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信
工作职责
主导多级KV Cache架构规划与设计，制定演进路线并推动方案落地
负责架构方案实施与效果跟踪，建立防劣化机制，提升系统性能与稳定性
承担跨模块重点项目需求分析与方案设计，形成可复用解决方案并推动落地
识别关键技术卡点，提出架构优化主张，推动跨团队协作解决难题
提炼共性开发经验并指导团队，提升成员技术能力与传承
AI 洞察
优缺点分析
优点
- 具备深厚分布式系统功底、追求技术深度且能承受高压的资深工程师
缺点 / 挑战
- 处于大模型基础设施核心赛道，技术挑战性强，能接触业界领先的AI Infra项目
- 对架构设计和全局视野要求极高，需解决复杂的性能瓶颈，工作压力较大
角色解读
- 可向首席架构师、技术专家方向发展，或在AI Infra领域成为行业顶尖人才
- 负责大模型推理平台底层KV Cache存储架构的设计与演进，解决高并发下的性能与稳定性问题
- 精通分布式缓存原理、KV存储架构设计、性能调优及大规模系统稳定性保障
申请策略
- 准备详细的架构设计文档或博客，展示解决复杂技术问题的思路和能力
- 突出主导过的缓存架构设计案例，强调性能提升数据（如吞吐量、延迟降低比例）及稳定性建设成果
- 深入理解LLM推理原理，熟悉vLLM、TGI等主流框架的存储实现，强化分布式一致性协议知识
面试指南
- 采用STAR法则（情境、任务、行动、结果），重点阐述技术选型的权衡过程、量化成果及复盘思考
- 请描述你设计过的最复杂的缓存架构，遇到的最大挑战是什么？
- 如何在大模型高并发场景下优化KV Cache的命中率与内存使用？
- 如何设计防劣化机制来保证系统的长期稳定性？
- 跨团队协作中遇到技术分歧如何解决？
- 复习分布式系统经典理论，研究大模型推理引擎的存储优化论文或源码，准备1-2个深度技术案例
职位点评
薪资福利85
成长发展90
工作生活40
使命价值75
薪资福利
85较高
作为已上市的巨头企业，提供具有市场竞争力的薪酬和完善的福利体系，满足度高。
薪资信号未披露（AI估算：3.5千–6.0万/月）
成长发展
90较高
处于AI Infra前沿领域，技术栈先进，成长空间广阔，满足度极高。
技术前沿前沿/新兴技术
技术栈KV Cache、大模型、分布式系统、架构设计
成长机会广阔的成长空间、富有挑战性的项目、指导团队
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗，工作强度通常较高，WLB一般，满足度有限。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
75中等
支持大模型技术创新与应用，具有明确的行业价值和使命感，满足度较好。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号致力于前沿的大模型技术创新与应用、高效支持和驱动京东集团内外部的大模型业务生态
创新程度积极采用新技术
Watch Jobs