Lenovo logo
联想
AI Infra高级研究员

AI Infra高级研究员

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 5.0–8.0万 · AI 参考估算
高级经验
硕士
全职员工仅现场办公AI算法
AI算法
Cuda
Gpu调度
Pytorch
Vllm
分布式系统
大模型推理
性能优化

值不值得投

80综合评分

综合评分 80

顶尖大厂、前沿AI Infra技术、高成长潜力、薪资优厚、WLB待确认

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

6.5万

比AI算法中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 330 个在招 · 其中AI算法 6 个

市场机会

选择面较广

北京 · AI算法 · 约 220 个在招

职位详情

关于这个职位

负责大模型推理引擎的核心优化,包括混合Attention架构下的并行策略调优及推理服务的弹性伸缩机制

需深入理解KV Cache管理与显存优化,结合vLLM等前沿框架提升集群吞吐与SLA保障能力

最低要求

计算机/分布式系统/AI相关硕士及以上学历(博士优先),具备5年以上分布式AI系统或高性能计算一线研发经验

具备扎实的研究素养,能搭建从线上指标采集到效果验证的闭环观测链路,从监控里的反常数据中提炼出边界清晰、可通过A/B实验验证的技术命题
深入理解主流大模型多卡并行范式(Tensor/Pipeline/Expert/Sequence Parallel),有在真实业务中调优并行拓扑、解决跨机通信瓶颈和显存不足问题的落地经验
熟悉现代推理服务核心机制(连续批处理、KV Cache管理、Prefill-Decode分离等),拥有大规模训练或高QPS线上推理集群的完整交付经历,真实处理过资源争抢、长尾慢请求、突发流量打满等生产级故障
深度理解长上下文与Agent多轮会话下的KV Cache生命周期和显存压力模型,熟悉前缀缓存复用(prefix caching)、KV驱逐/显存卸载(Offload)、分离部署间的KV流转机制,能联动调度层协同设计缓存复用与回收策略,系统性缓解集群显存碎片与尾延迟毛刺
具备扎实的Python/C++工程能力,熟悉Kubernetes、Docker等容器部署环境,能独立推进技术方案从设计、开发到灰度上线的完整链路

工作职责

主导混合Attention架构(MHA/GQA/MLA等)下的大模型推理并行策略优化:结合线上请求长度分布、KV显存布局与跨机互联带宽,动态适配并行切分方案,针对性化解不同Attention变体带来的显存墙与通信热点,持续抬升单卡与集群整体推理吞吐

负责大模型推理服务的弹性伸缩与算力资源治理:结合线上流量潮汐、请求排队水位与上下文缓存占用情况,设计能感知推理实时负载的自动扩缩容机制,优化推理实例冷启动与GPU资源池化调度,在保障SLA的同时压缩闲置算力开销,平稳承接突发流量与长尾请求洪峰
抽象AI Agent原生工作负载特征,针对性优化底层运行引擎,做好会话状态复用、子任务异步编排和多模型动态降级兜底,缩短Agent端到端响应耗时,减少无效计算和Token消耗
持续追踪vLLM/SGLang/Dynamo/FlashInfer等社区前沿推理框架,主导内部推理引擎迭代,推动关键优化在生产环境落地,并同步沉淀技术专利或学术论文

优先资格

有Prefill-Decode分离部署、KV显存卸载(KV Offloading)、Serverless GPU弹性调度、细粒度Checkpoint热加载相关落地经验

对AI Agent底层运行有实际体感:熟悉LangGraph/AutoGen/Pi等至少一种Agent框架,或自研过Agent Loop/Tool-Call调度层,能清晰讲清上层Agent行为是如何传导成底层推理资源负载特征的
在MLSys/OSDI/SOSP/ASPLOS等系统领域顶会发表过论文,或是vLLM/SGLang开源社区活跃Contributor
了解GPU显存层级与机间互联拓扑,能和系统底层团队用同一套技术语言高效对齐和排查问题

AI 洞察

优缺点分析

优点

  • 处于AI基础设施最前沿,技术栈极具竞争力(vLLM/K8s/GPU调度)
  • 依托联想全球平台,资源充足且业务场景丰富
  • 有机会产出顶级会议论文,学术与工业界双重认可
  • 技术门槛极高,需同时兼顾系统底层与算法上层知识
  • 对候选人的工程落地能力和研究素养要求双高
  • 适合拥有深厚分布式系统背景、对大模型推理性能极致追求的高级工程师或研究员

缺点 / 挑战

  • 生产环境优化压力大,需直接面对高并发、低延迟的挑战

角色解读

  • 可向首席科学家或AI系统架构师方向发展,成为大模型基础设施领域的专家
  • 也可转向AI Infra产品负责人,统筹底层平台建设与商业化落地
  • 专注于大模型推理引擎的底层性能优化,解决显存墙和通信瓶颈问题
  • 设计并实现推理服务的弹性伸缩机制,平衡算力成本与服务SLA
  • 跟踪并集成vLLM等前沿框架,推动新技术在生产环境落地
  • 精通Python/C++及分布式系统原理,深入理解Transformer架构及各类并行策略(Tensor/Pipeline等)
  • 熟练掌握GPU内存管理、KV Cache优化及容器化部署(K8s)
  • 具备极强的系统调优能力和线上故障排查经验

申请策略

  • 准备详细的项目案例,重点阐述如何发现瓶颈、设计解决方案及最终效果
  • 关注联想在AI领域的最新战略方向,展现对行业趋势的理解
  • 突出展示在大模型推理加速、显存优化或分布式调度方面的具体项目成果
  • 量化性能提升指标(如吞吐量提升%、延迟降低ms)
  • 强调顶会论文或开源社区贡献
  • 深入研读vLLM、SGLang等源码,掌握其调度与内存管理机制
  • 补充GPU硬件架构与NCCL通信库相关知识
  • 强化Linux内核级性能分析工具的使用技能

面试指南

  • 采用STAR法则(情境、任务、行动、结果)描述项目
  • 先界定问题边界,再阐述技术选型依据,最后用数据证明优化效果
  • 对于系统设计题,先画架构图,再逐层拆解模块
  • 请详细描述你优化过的最大规模推理集群及其遇到的挑战
  • 如何设计一个支持多种Attention变体的动态并行策略?
  • 解释KV Cache的管理机制及显存卸载的实现细节
  • 如何在保证SLA的前提下实现GPU资源的弹性伸缩?
  • 复习分布式系统经典理论(如一致性协议、负载均衡算法)

职位点评

薪资福利85
成长发展92
工作生活60
使命价值75

薪资福利

85较高

作为上市巨头企业的高级研究员岗位,薪资水平处于市场中上游,福利体系完善,稳定性高。

薪资信号偏高 (5.0千–8.0万/月)

成长发展

92较高

岗位涉及大模型推理前沿技术,技术栈先进,且有明确的学术产出期望,成长空间巨大。

技术前沿前沿/新兴技术
技术栈vLLM、SGLang、FlashInfer、Kubernetes、CUDA、PyTorch
成长机会沉淀技术专利或学术论文、追踪社区前沿推理框架
业务类型profit_center

工作生活

60中等

未明确提及弹性工作制,但作为研究型岗位,相比纯业务开发可能有一定的自主性,不过高强度技术攻关期加班不可避免。

工作模式未明确
办公地点市区核心地段
加班情况未提及(无法判断)

使命价值

75中等

致力于提升AI基础设施效率,推动AI技术普惠化,具有明确的技术使命感和社会价值。

行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs