阿里巴巴
AI推理平台-AI 推理系统工程师（RSI 方向）-杭州
AI推理平台-AI 推理系统工程师（RSI 方向）-杭州
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Sglang
Vllm
大模型推理
性能优化
系统设计
值不值得投
75综合评分
综合评分 75
前沿大模型技术、高薪潜力、高强度研发、重技术成长
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.5万
与AI算法中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4680 个在招 · 其中AI算法 24 个
市场机会
选择适中
杭州 · AI算法 · 21 个在招
职位详情
关于这个职位
负责构建和优化大模型推理系统（RSI方向），通过数据采集、分析与策略优化闭环，提升推理效率与任务效果
需结合模型与Agent特性，解决性能瓶颈并降低计算成本，推动实验方案在真实场景中落地
最低要求
计算机或相关专业本科及以上学历，具备扎实的编程能力，熟练使用 Python，掌握 C++、Go 等语言之一
具备大模型推理系统开发或优化经验，熟悉 vLLM、SGLang 等推理框架，理解请求调度、Batching、KV Cache 等基本机制
理解大模型与 Agent 的基本工作流程，能够结合运行数据和任务结果，定位效果或性能问题，并提出可验证的优化方案
具备实验设计和评测能力，能够搭建自动化实验与反馈流程，评估优化对任务成功率、时延、吞吐和成本的影响
能够独立推进模块开发与问题排查，与算法、基础设施团队协作完成方案落地
工作职责
参与构建运行数据采集、问题分析、策略优化和效果验证的闭环，让系统能够基于实际运行反馈持续改进
结合模型与 Agent 的执行特点，优化推理效率、任务效果和计算成本
推动实验方案在真实场景中落地
优先资格
有自动调优、Agent 反馈闭环、推理策略优化或强化学习相关经验者优先
AI 洞察
优缺点分析
优点
- 适合对系统底层优化有浓厚兴趣，具备扎实工程能力和算法思维的中级以上技术人员
缺点 / 挑战
- 接触业界最前沿的大模型推理技术与 Agent 应用，技术挑战性强，成长空间大
- 需要处理复杂的系统性能瓶颈，对底层机制理解要求极高，工作压力较大
角色解读
- 可向 AI 基础设施专家、系统架构师方向发展，或深入探索 Agent 系统与强化学习结合的前沿领域
- 负责大模型推理系统的架构设计与性能优化，确保高并发下的低延迟与高吞吐
- 精通 Python/C++/Go 编程语言，深入理解 vLLM/SGLang 等主流推理框架原理
申请策略
- 准备关于如何平衡推理速度与成本的案例，体现系统性思维
- 突出在大模型推理框架（如 vLLM）上的二次开发或优化经验，展示具体的性能提升数据
- 深入学习 KV Cache 管理、动态 Batching 等核心技术细节，了解 Agent 执行链路
面试指南
- 采用 STAR 法则描述项目经历，重点阐述遇到的问题、采用的技术手段（如 profiling 工具使用）、以及最终的性能量化结果
- 请解释 vLLM 中 PagedAttention 的原理及其优势
- 如何设计一个高效的动态 Batching 策略？
- 在 Agent 场景下，推理系统的延迟和吞吐量面临哪些特殊挑战？
- 如何定位并解决推理服务中的长尾延迟问题？
- 复习操作系统网络编程知识，梳理大模型推理全流程，准备至少一个深度优化的实战案例
职位点评
薪资福利85
成长发展90
工作生活40
使命价值70
薪资福利
85较高
作为上市巨头企业的核心研发岗，提供具有竞争力的薪酬福利和稳定的职业平台，满足度高。
薪资信号偏高 (3.0千–6.0万/月)
成长发展
90较高
岗位聚焦大模型推理与 Agent 前沿技术，技术栈领先，能提供极高的技能成长空间和行业视野。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、Agent、KV Cache、Batching
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗通常工作强度较大，JD未提及弹性或远程，推测为高强度现场办公模式。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
70中等
推动 AI 技术在真实场景落地，提升智能系统效率，具有一定的行业影响力和社会价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
点评技术-大模型算法专家
美团 · 上海市
AI 估算 · 4.0–7.0万1 小时前发布
Industrial Engineering ES
德科斯米尔 · 沈阳市
AI 估算 · 1.8–3.0万2 小时前发布
【集团】大模型算法管培生
极兔速递 · 上海市
AI 估算 · 1.5–2.5万4 小时前发布
百度公有云大模型训练加速实习生（J107176）
百度 · 北京市
AI 估算 · 0.4–0.6千12 小时前发布
Agent工程师实习生（J107185）
百度 · 北京市
AI 估算 · 0.3–0.4千12 小时前发布
高级／资深算法工程师（销售 Agent 方向）
美团 · 成都市
AI 估算 · 4.0–7.0万1 天前发布
Watch Jobs