Alibaba logo
阿里巴巴
智能引擎-多模态/世界模型基础架构研发工程师-AI Infra

智能引擎-多模态/世界模型基础架构研发工程师-AI Infra

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 5.0–9.0万 · AI 参考估算
高级经验
学历未注明
全职员工仅现场办公AI算法
AI算法
Cuda
世界模型
多模态模型
大模型分布式训练

值不值得投

79综合评分

综合评分 79

前沿大模型Infra核心岗,技术成长强,办公与生活节奏信息未披露。

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

7.0万

比AI算法中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 5250 个在招 · 其中AI算法 约 120 个

市场机会

选择面较广

杭州 · AI算法 · 约 130 个在招

职位详情

关于这个职位

该岗位面向多模态理解、多模态生成和世界模型的基础架构研发,核心是设计分布式训推框架并优化大规模模型训练与推理效率

你将参与万亿参数模型的5D并行、显存优化、通信计算重叠、算子融合与模型加速,支撑工业级大模型从训练到AI创新应用落地

最低要求

计算机相关专业背景,有极佳的工程实现能力,精通 C/C++ 与 Python

具备扎实的数据结构与算法功底,熟练掌握 GDB / Nsight 等调试与性能分析工具
对大模型训推框架,以及其中的并行优化技术的原理有深刻的理解,有大模型分布式训练工程经验者优先
对Diffusion、LLM大模型结构及其核心算法原理有深入理解,对模型加速、量化、蒸馏算法工程有实践经验者优先
熟悉异构计算体系结构,有CUDA、Triton 和 Cutlass 等硬件 DSL编程经验者优先
加分项:对钻研技术有热情,勤于动手,善于动脑,不惧困难

工作职责

多模态/世界模型训推架构:负责万亿参数多模态理解、多模态生成模型、世界模型分布式训推框架的设计和实现

通过5D并行策略、细粒度显存优化、通信计算Overlap等手段,实现多模态场景高效的预训练/后训练Pipeline
模型联合的深度算子优化:结合多模态理解生成场景,通过算子融合,定制Attention、MoE等算子,并达到SOTA的训推MFU
模型加速工程:使用蒸馏、量化、剪支等加速技术,在AIGC、实时生成等场景达到极致的模型效果-性能平衡点
AI创新应用落地支撑:作为算力基座的核心支撑,支持行业顶尖的多模态生成模型在 AI 创新应用场景的业务落地,解决工业级大模型训练中的迭代基建问题,确保模型从训练到应用的顺畅衔接

优先资格

有大模型分布式训练工程经验者优先

对模型加速、量化、蒸馏算法工程有实践经验者优先
有CUDA、Triton 和 Cutlass 等硬件 DSL编程经验者优先
对钻研技术有热情,勤于动手,善于动脑,不惧困难

AI 洞察

优缺点分析

优点

  • 岗位处于大模型与多模态基础架构核心方向,技术深度高,能积累分布式训练、GPU优化和模型加速的稀缺经验
  • 工作内容直接支撑行业顶尖多模态生成模型落地,项目复杂度高,对技术成长和履历含金量有明显帮助
  • 北京/杭州均有办公选择,便于在AI产业密集城市积累人脉和行业视野
  • 技术栈跨度大,既要懂底层系统和GPU性能,又要理解大模型结构与训练流程,学习曲线陡峭
  • 万亿参数模型、5D并行和算子优化涉及复杂工程协同,问题定位周期可能较长,对耐心和排障能力要求高
  • JD未说明办公模式、工作节奏和具体团队分工,入职前需要进一步确认边界与协作方式
  • 适合具备扎实系统编程和GPU性能优化能力,希望深入大模型Infra、多模态训练和异构计算方向的资深工程师

缺点 / 挑战

暂无明显挑战项

角色解读

  • 可向大模型基础设施专家方向发展,深耕分布式训练、推理加速、GPU算子优化和集群效率提升
  • 也可成长为AI平台架构师,负责更大规模训练平台、算力调度、训推一体化和模型工程体系建设
  • 长期可转向技术专家或团队负责人,主导多模态/世界模型训练基座和AI应用落地技术路线
  • 负责万亿参数多模态理解、生成模型与世界模型的分布式训推框架设计和实现,重点解决大规模训练中的并行、显存和通信瓶颈
  • 围绕Attention、MoE等核心模块进行算子融合和定制优化,提升训推MFU,让模型训练与推理在GPU集群上更高效
  • 结合蒸馏、量化、剪枝等模型加速技术,在AIGC和实时生成场景中平衡模型效果与性能
  • 作为算力基座团队成员,支撑多模态生成模型在AI创新应用中的落地,打通训练、优化和应用衔接
  • 需要精通C/C++与Python,具备扎实的数据结构、算法和工程实现能力,能够写出高性能、可维护的底层系统代码
  • 需要深入理解大模型训推框架、分布式并行策略、显存优化和通信计算重叠,有大规模训练工程经验更有竞争力
  • 需要理解Diffusion、LLM等模型结构和核心算法,并具备量化、蒸馏、剪枝等模型加速实践经验
  • 需要熟悉异构计算体系,掌握CUDA、Triton、Cutlass等硬件DSL或GPU性能分析工具,能用GDB、Nsight定位瓶颈

申请策略

  • 申请前建议梳理1-2个能深入讲清楚的高性能计算或大模型Infra项目,准备从瓶颈发现到方案取舍完整展开
  • 可提前了解阿里在多模态大模型、AI应用和算力基座方向的公开技术文章,面试中结合业务场景表达技术判断
  • 突出参与过的大模型训练或推理框架项目,写清楚模型规模、集群规模、并行策略、MFU提升、显存节省等量化结果
  • 重点展示C/C++、Python、CUDA、Triton、Cutlass、Nsight等技能,以及底层性能分析和问题定位经历
  • 如果有Attention、MoE、算子融合、量化、蒸馏、剪枝实践,建议单独列项目说明实现方案和性能收益
  • 强调工程落地能力,例如如何把优化方案接入训练Pipeline、如何保障稳定性、如何解决工业级迭代效率问题
  • 补强大模型分布式训练知识,包括数据并行、张量并行、流水并行、序列并行、专家并行和通信计算重叠
  • 加强GPU性能分析与算子优化能力,熟悉Nsight、CUDA Profiler、Triton kernel编写和Cutlass模板使用

面试指南

  • 回答架构设计题时,按模型规模、硬件资源、并行策略、显存预算、通信开销、容错与可观测性逐层展开
  • 回答性能优化题时,使用“瓶颈定位—方案设计—实验验证—收益量化—风险取舍”的结构,避免只讲概念
  • 回答项目经历题时,用STAR框架说明背景、任务、关键难点、个人贡献和最终指标,尤其要准备可量化的性能结果
  • 如何设计一个万亿参数多模态模型的分布式训练Pipeline?5D并行中各维度如何切分,瓶颈在哪里?
  • 在Attention或MoE算子优化中,你如何定位性能瓶颈?如何衡量MFU提升是否可信?
  • 请解释通信计算Overlap的实现思路,以及在大规模GPU集群中可能遇到的同步与带宽问题
  • 量化、蒸馏、剪枝分别适用于哪些场景?如何在模型效果和推理性能之间做权衡?
  • 你用过CUDA、Triton或Cutlass实现过哪些算子?如何保证数值正确性和性能稳定性?

职位点评

薪资福利82
成长发展92
工作生活55
使命价值78

薪资福利

82较高

JD未披露薪资与福利信息,但岗位属于高门槛的大模型基础架构研发,通常对资深技术人才有较强薪酬吸引力。稳定性与福利细节需面试确认。

薪资信号未披露(AI估算:5.0千–9.0万/月)

成长发展

92较高

岗位直接涉及万亿参数多模态模型、世界模型、5D并行、算子优化和模型加速,技术深度与成长空间非常突出。JD未提及明确晋升通道或培训机制。

技术前沿前沿/新兴技术
技术栈多模态、世界模型、大模型训推框架、5D并行、显存优化、通信计算Overlap、Attention、MoE、CUDA、Triton、Cutlass、蒸馏、量化、剪支
业务类型profit_center

工作生活

55较低

JD仅说明北京/杭州两个工作城市,未提及远程、弹性、双休或加班情况,办公模式与工作节奏无法从原文判断。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

78中等

岗位支撑多模态生成模型和AI创新应用落地,参与大模型算力基座建设,技术影响面较大。JD未直接描述社会使命或公共价值。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs