阿里巴巴
研究型实习生-面向 Agent/复杂工作流的推理基础设施研究
研究型实习生-面向 Agent/复杂工作流的推理基础设施研究
发布于 3 小时前实习/见习
实习生仅现场办公人工智能
人工智能
Pagedattention
Pytorch
分布式Kv存储
大模型推理
显存管理
Radix Tree
推理基础设施
值不值得投
82综合评分
综合评分 82
大模型推理基础设施前沿研究岗，技术挑战极大、成长空间顶格，适合有志于系统顶会的博士实习生。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
1.2万
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3290 个在招 · 其中人工智能 约 350 个
市场机会
选择面较广
北京 · 人工智能 · 约 620 个在招
职位详情
关于这个职位
该职位是阿里巴巴的研究型实习生，主要研究面向Agent和复杂工作流的大模型推理基础设施
你将探索上下文状态的资产化管理与有状态负载的闭环治理，解决长上下文显存管理与系统承载资源之间的矛盾，提升系统在高水位下的有效吞吐
最低要求
计算机科学、人工智能、电子工程或相关专业博士
精通 PyTorch 框架，具备良好的代码工程能力
熟悉大模型推理架构，深入理解PagedAttention及Radix Tree机制、分布式KV存储、长上下文显存管理、Chunked Prefill调度器、推测解码等技术原理
具备优秀的科研创新能力、问题抽象能力与跨团队协作精神
工作职责
上下文状态的资产化管理：打破平权缓存，建立状态价值的统一度量：V(state) = 期望避免的未来重算成本 − 持有成本 − 迁移成本 − 形态转换成本，重点刻画价值的负载依赖性，实现负载感知的动态定价
构建“原始 KV → 压缩 KV → 语义摘要 → 丢弃待重算”的状态形态连续谱系，让高价值状态获得更高存储层级
有状态负载的闭环治理：治理单元从请求升级为会话，建立资源画像与会话级服务目标
设计调度、降级多时间尺度控制环，共享同一份系统状态估计
核心贡献在于状态与负载的协同控制——价值模型向治理环暴露状态压力指数，治理决策反过来实时修正价值模型的负载参数，使系统在90%以上的高水位显存压力下，贴着 Thrashing 临界点稳定运行于最大有效吞吐
优先资格
在 OSDI / SOSP / EuroSys / MLSys / ASPLOS / NeurIPS / ICML / ICLR 等顶级会议发表过相关论文者优先
AI 洞察
优缺点分析
优点
- 接触大模型推理系统最前沿的核心痛点，研究内容具有极高的学术价值与工业落地意义
- 依托丰富的算力资源与真实业务场景，研究成果易验证且具备冲击系统级顶会的潜力
- 适合具有计算机系统或AI背景、对大模型底层推理机制有浓厚兴趣，且有志于在系统顶会发表成果的博士在校生
缺点 / 挑战
- 研究问题极具挑战性，涉及系统底层与AI算法的深度交叉，对数学抽象和工程落地能力要求极高
- 面临显存物理极限与复杂负载调度的双重压力，科研突破难度大，需要极强的抗压与钻研能力
角色解读
- 从研究型实习生成长为AI基础设施领域的顶尖研究员或算法专家，未来可主导大模型推理引擎的核心架构演进
- 积累深厚的系统级AI优化经验，成为学术界或工业界在AI System方向的领军人物
- 研究并优化面向Agent和复杂工作流的大模型推理基础设施，解决长上下文和会话级状态管理的显存瓶颈
- 设计状态价值度量模型与闭环治理机制，提升系统在高水位显存压力下的有效吞吐与任务经济性
- 精通PyTorch及大模型推理架构（如PagedAttention、Radix Tree等），具备深厚的系统底层优化与分布式KV存储知识
- 拥有极强的科研抽象能力，有系统领域或AI领域顶会论文发表经验，能独立推进前沿课题
申请策略
- 提前了解阿里在大模型推理和Agent方向的最新技术博客或开源项目，在面试中展现对“会话级状态管理”这一痛点的独到见解
- 重点突出在OSDI/SOSP/MLSys等系统顶会或NeurIPS等AI顶会的发表记录，证明科研实力
- 详细阐述在PyTorch底层优化、大模型推理引擎（如vLLM等）或分布式系统方面的项目经验与代码贡献
- 深入研读PagedAttention、Radix Tree及推测解码等最新推理优化论文，尝试复现或改进开源推理框架的核心模块
- 补充系统级性能分析工具的使用经验，提升对显存碎片、调度延迟等底层指标的敏感度
面试指南
- 采用“背景痛点-核心抽象-解决方案-实验验证”的框架
- 先明确系统瓶颈（如显存碎片、重算开销），再提出理论模型（如状态价值函数），接着给出工程实现方案，最后用吞吐量/延迟等指标证明有效性
- 请详细解释PagedAttention和Radix Tree在长上下文推理中的工作原理及局限性
- 针对Agent多轮交互导致的显存Thrashing问题，你会如何设计状态价值的度量函数？
- 在分布式KV存储中，如何平衡节点间的负载均衡与缓存命中率？
- 分享一个你在系统或AI底层优化中解决过的最复杂的工程或科研问题
- 复习大模型推理系统的经典论文（如vLLM, FlashAttention等），并准备1-2个自己主导的底层系统优化项目
- 能够深入讲解代码实现细节和性能调优过程，展现扎实的工程落地能力
职位点评
薪资福利85
成长发展95
工作生活60
使命价值85
薪资福利
85较高
博士实习生岗位，虽然未明确具体薪资，但基于对顶会博士实习生的市场定价，实习津贴处于行业高位。
薪资信号未披露（AI估算：8千–1.5万/月）
成长发展
95较高
岗位聚焦大模型推理最前沿的Agent负载治理，研究内容极具深度，极易产出系统级顶会成果，对个人学术和工程能力成长巨大。
技术前沿前沿/新兴技术
技术栈PyTorch、PagedAttention、Radix Tree、分布式KV存储、Chunked Prefill、推测解码
业务类型ambiguous
工作生活
60中等
研究型实习通常工作节奏由个人驱动，但大模型底层研究面临较大的科研和工程压力，WLB情况未明确说明。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
解决大模型推理在Agent时代的系统性瓶颈，推动AI基础设施的演进，具有较高的技术使命感与行业推动价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度开拓性创新（行业首创）
Watch Jobs