阿里云智能-服务器AI缓存技术开发专家-上海/北京

优缺点分析

角色解读

• 可沿AI基础设施/高性能计算专家路线发展，深耕GPU内存池与推理优化
• 有机会成长为分布式内存架构师，负责更大规模基础设施设计
• 在云厂商AI平台核心团队中积累大规模落地经验，技术影响力较强
• 面向数据中心业务研发KV Cache内存分层优化方案，并在算力芯片上做负载调优
• 构建面向GPU的KV Cache分布式内存池，对接和优化SGLang、vLLM等AI推理框架
• 设计高并发、高带宽、高可靠的分布式内存扩展与共享架构
• 跟进内存分层共享前沿技术，参与下一代AI基础设施定义
• 扎实的C++或Python底层系统开发能力，能处理内存、并发、网络等系统问题
• 丰富的性能分析与调优经验，能独立定位系统瓶颈并落地优化
• 理解分布式共享内存、全局地址空间和一致性机制
• 掌握AI基础知识，熟悉KV Cache、大模型推理框架和GPU显存管理

申请策略

• 投递时注明上海或北京的城市偏好，便于HR匹配团队
• 面试前了解阿里云AI基础设施方向，准备一个完整的性能优化闭环案例
• 突出C++/Python底层系统项目，尤其是内存管理、并发、网络或存储方向
• 用量化指标展示性能优化成果，如延迟、吞吐、显存占用或成本改善
• 强调分布式内存池、共享内存、RDMA或GPU显存管理经验
• 如有SGLang/vLLM适配、KV Cache优化或AI Coding工具实践，建议单独列出
• 补充分布式共享内存、全局地址空间和一致性协议等系统知识
• 阅读vLLM/SGLang中KV Cache管理相关源码，理解长上下文内存优化机制

面试指南

• 性能优化题按“现象—定位—方案—指标—复盘”回答，突出数据和权衡
• 架构设计题先讲约束与目标，再讲分层、并发、一致性和容错方案
• 框架经验题结合具体版本、改动点和线上效果，说明你解决了什么问题
• 如何设计一个面向GPU的KV Cache分布式内存池？
• 你如何定位并优化一个高并发内存系统的性能瓶颈？
• 分布式共享内存场景下如何保证一致性和可靠性？
• 你有SGLang或vLLM对接、优化经验吗？请举例说明
• 长上下文场景下KV Cache的内存优化有哪些思路？