阿里巴巴
AI推理平台-AIGC与世界模型服务研发工程师/技术专家-北京/杭州
AI推理平台-AIGC与世界模型服务研发工程师/技术专家-北京/杭州
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Ai Infra
Diffusion
Dit
Gpu调度
Pytorch
Sglang
Tensorflow
Vllm
分布式系统
值不值得投
80综合评分
综合评分 80
核心AI业务线、前沿大模型推理技术栈、技术成长空间极大，但业务节奏可能较快。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.5万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3250 个在招 · 其中机器学习工程 约 180 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 470 个在招
职位详情
关于这个职位
该职位负责AIGC与世界模型（如图像、视频生成）的底层服务架构与推理引擎研发
你需要优化GPU资源调度、提升模型推理效率与系统稳定性，打通从算法到生产服务的交付链路
适合具备分布式系统与AI Infra经验，致力于大模型落地应用的研发工程师
最低要求
计算机、软件工程、人工智能或相关专业本科及以上学历
具备 2 年及以上大模型架构、AI Infra 或者分布式系统开发相关工作经验，有使用PyTorch/TensorFlow等机器学习框架的经验
熟悉 PyTorch，理解 Diffusion、DiT、Flow Matching 等生成模型的基本架构和推理流程
熟悉 Kubernetes、任务调度、可观测性、弹性伸缩或 GPU 资源管理中的一项或多项
具备出色的问题解决能力，能够快速定位并解决技术难题
有强烈的责任心，具备良好的沟通能力、执行力及团队合作精神
工作职责
AIGC 模型服务化：面向图像生成、视频生成、实时生成及世界模型场景，负责高可用服务架构与端到端方案设计，适配一方及第三方模型
支持同步、异步、流式及长任务等各种服务形态
调度与资源效率：面向不同workload请求，建设任务队列、批处理、流量路由、QoS 和弹性伸缩能力，优化容量匹配与资源分配，提升 GPU 利用率并降低单位生成成本
研发与交付效率：打通模型从算法代码到生产服务的交付链路，完善 CI/CD、问题回放和自动化准出能力，提升模型 Day-0 上线及持续迭代效率
用户体验与稳定性：面向多模型、大流量、长耗时和复杂 Pipeline 场景，保障线上服务slo
持续优化端到端耗时、用户调用体验，完善服务观测、故障恢复、灰度及回滚体系
优先资格
有 vllm-omni/sglang-omni 等推理引擎使用经验，或有算法框架研发经验
有图像生成、视频生成、实时生成、世界模型或具身智能相关模型服务经验
有长任务、多 Stage Pipeline、GPU 调度、容量规划或成本优化经验
有生成模型数据、训练、后训练、偏好优化、Reward Model 或质量评测相关实践
有高影响力项目、顶会论文或开源社区贡献
AI 洞察
优缺点分析
优点
- 处于AIGC与世界模型核心赛道，接触业界最前沿的大模型推理与调度技术
- 依托核心业务平台，拥有海量算力资源与真实大流量场景，技术成长空间巨大
- 团队技术氛围浓厚，有机会产出顶会论文或开源贡献
- 大模型推理优化与GPU调度技术门槛高，需持续跟进前沿算法与底层硬件发展
- 适合具备扎实分布式系统基础、对AI Infra和大模型推理优化有强烈热情，且能在高压环境下解决复杂技术难题的资深研发工程师
缺点 / 挑战
- 多模型、大流量场景下的稳定性保障压力大，需应对复杂的线上故障与性能瓶颈
角色解读
- 可向AI Infra技术专家、架构师方向发展，深入大模型底层核心技术
- 或转型为AI平台技术负责人，统筹模型服务化与商业化落地
- 负责AIGC与世界模型的底层服务架构设计与推理引擎优化
- 建设GPU资源调度、任务队列与弹性伸缩能力，提升资源利用率
- 打通模型交付链路，保障高并发场景下的服务稳定性与用户体验
- 精通分布式系统与AI Infra开发，熟悉Kubernetes与GPU资源管理
- 深入理解PyTorch及Diffusion/DiT等生成模型架构
- 具备高可用架构设计与性能调优能力
申请策略
- 提前了解百炼平台及通义千问系列模型的产品形态与技术架构
- 准备1-2个在复杂Pipeline或长任务调度中解决极端性能瓶颈的深度技术案例
- 突出在AI Infra、分布式系统或大模型服务化方面的实际项目经验
- 量化在GPU利用率提升、推理耗时降低或系统稳定性保障方面的具体收益
- 展示对PyTorch、vLLM/SGLang等推理引擎的深入理解或源码级贡献
- 深入学习vLLM/SGLang等主流推理引擎的底层实现与优化技巧
- 补充Kubernetes高级调度、GPU虚拟化及云原生AI平台的相关知识
面试指南
- 采用STAR法则，先明确业务场景与痛点（如长任务导致的资源阻塞），再阐述架构设计或优化方案（如异步化、批处理、显存复用），最后用具体数据（如GPU利用率提升X%，耗时降低Y%）证明结果
- 如何设计一个支持高并发、长耗时的AIGC模型服务架构？
- 在GPU资源紧张的情况下，如何优化任务调度以提升整体利用率和吞吐量？
- 针对Diffusion或DiT模型，你在推理加速和显存优化方面做过哪些具体工作？
- 如何保障多模型、大流量场景下的线上服务SLO？
- 复习分布式系统核心原理、Kubernetes调度机制及主流推理引擎（vLLM/SGLang）的技术细节
- 梳理过往项目中遇到的最复杂的技术难题及解决思路
职位点评
薪资福利85
成长发展95
工作生活50
使命价值85
薪资福利
85较高
核心AI业务线，薪资具备市场竞争力，福利体系完善，但具体薪资取决于定级。
薪资信号未披露（AI估算：3千–6万/月）
成长发展
95较高
处于AIGC与世界模型最前沿赛道，接触核心大模型推理与调度技术，技术成长与行业视野极佳。
技术前沿前沿/新兴技术
技术栈PyTorch、TensorFlow、vLLM、SGLang、Kubernetes、Diffusion、DiT、Flow Matching
业务类型profit_center
工作生活
50较低
核心AI业务线通常节奏较快，大流量场景下的稳定性保障可能带来一定的工作压力，JD未明确提及WLB。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
推动AIGC与世界模型的技术落地，赋能千行百业，具有极高的行业前瞻性与社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs