
阿里巴巴
智能引擎-多模态/世界模型基础架构研发工程师-AI Infra
智能引擎-多模态/世界模型基础架构研发工程师-AI Infra
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda
世界模型
多模态模型
大模型分布式训练
值不值得投
79综合评分
综合评分 79
前沿大模型Infra核心岗,技术成长强,办公与生活节奏信息未披露。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
7.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 5250 个在招 · 其中AI算法 约 120 个
市场机会
选择面较广
杭州 · AI算法 · 约 130 个在招
职位详情
关于这个职位
该岗位面向多模态理解、多模态生成和世界模型的基础架构研发,核心是设计分布式训推框架并优化大规模模型训练与推理效率
你将参与万亿参数模型的5D并行、显存优化、通信计算重叠、算子融合与模型加速,支撑工业级大模型从训练到AI创新应用落地
最低要求
计算机相关专业背景,有极佳的工程实现能力,精通 C/C++ 与 Python
具备扎实的数据结构与算法功底,熟练掌握 GDB / Nsight 等调试与性能分析工具
对大模型训推框架,以及其中的并行优化技术的原理有深刻的理解,有大模型分布式训练工程经验者优先
对Diffusion、LLM大模型结构及其核心算法原理有深入理解,对模型加速、量化、蒸馏算法工程有实践经验者优先
熟悉异构计算体系结构,有CUDA、Triton 和 Cutlass 等硬件 DSL编程经验者优先
加分项:对钻研技术有热情,勤于动手,善于动脑,不惧困难
工作职责
多模态/世界模型训推架构:负责万亿参数多模态理解、多模态生成模型、世界模型分布式训推框架的设计和实现
通过5D并行策略、细粒度显存优化、通信计算Overlap等手段,实现多模态场景高效的预训练/后训练Pipeline
模型联合的深度算子优化:结合多模态理解生成场景,通过算子融合,定制Attention、MoE等算子,并达到SOTA的训推MFU
模型加速工程:使用蒸馏、量化、剪支等加速技术,在AIGC、实时生成等场景达到极致的模型效果-性能平衡点
AI创新应用落地支撑:作为算力基座的核心支撑,支持行业顶尖的多模态生成模型在 AI 创新应用场景的业务落地,解决工业级大模型训练中的迭代基建问题,确保模型从训练到应用的顺畅衔接
优先资格
有大模型分布式训练工程经验者优先
对模型加速、量化、蒸馏算法工程有实践经验者优先
有CUDA、Triton 和 Cutlass 等硬件 DSL编程经验者优先
对钻研技术有热情,勤于动手,善于动脑,不惧困难
AI 洞察
优缺点分析
优点
- 岗位处于大模型与多模态基础架构核心方向,技术深度高,能积累分布式训练、GPU优化和模型加速的稀缺经验
- 工作内容直接支撑行业顶尖多模态生成模型落地,项目复杂度高,对技术成长和履历含金量有明显帮助
- 北京/杭州均有办公选择,便于在AI产业密集城市积累人脉和行业视野
- 技术栈跨度大,既要懂底层系统和GPU性能,又要理解大模型结构与训练流程,学习曲线陡峭
- 万亿参数模型、5D并行和算子优化涉及复杂工程协同,问题定位周期可能较长,对耐心和排障能力要求高
- JD未说明办公模式、工作节奏和具体团队分工,入职前需要进一步确认边界与协作方式
- 适合具备扎实系统编程和GPU性能优化能力,希望深入大模型Infra、多模态训练和异构计算方向的资深工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向大模型基础设施专家方向发展,深耕分布式训练、推理加速、GPU算子优化和集群效率提升
- 也可成长为AI平台架构师,负责更大规模训练平台、算力调度、训推一体化和模型工程体系建设
- 长期可转向技术专家或团队负责人,主导多模态/世界模型训练基座和AI应用落地技术路线
- 负责万亿参数多模态理解、生成模型与世界模型的分布式训推框架设计和实现,重点解决大规模训练中的并行、显存和通信瓶颈
- 围绕Attention、MoE等核心模块进行算子融合和定制优化,提升训推MFU,让模型训练与推理在GPU集群上更高效
- 结合蒸馏、量化、剪枝等模型加速技术,在AIGC和实时生成场景中平衡模型效果与性能
- 作为算力基座团队成员,支撑多模态生成模型在AI创新应用中的落地,打通训练、优化和应用衔接
- 需要精通C/C++与Python,具备扎实的数据结构、算法和工程实现能力,能够写出高性能、可维护的底层系统代码
- 需要深入理解大模型训推框架、分布式并行策略、显存优化和通信计算重叠,有大规模训练工程经验更有竞争力
- 需要理解Diffusion、LLM等模型结构和核心算法,并具备量化、蒸馏、剪枝等模型加速实践经验
- 需要熟悉异构计算体系,掌握CUDA、Triton、Cutlass等硬件DSL或GPU性能分析工具,能用GDB、Nsight定位瓶颈
申请策略
- 申请前建议梳理1-2个能深入讲清楚的高性能计算或大模型Infra项目,准备从瓶颈发现到方案取舍完整展开
- 可提前了解阿里在多模态大模型、AI应用和算力基座方向的公开技术文章,面试中结合业务场景表达技术判断
- 突出参与过的大模型训练或推理框架项目,写清楚模型规模、集群规模、并行策略、MFU提升、显存节省等量化结果
- 重点展示C/C++、Python、CUDA、Triton、Cutlass、Nsight等技能,以及底层性能分析和问题定位经历
- 如果有Attention、MoE、算子融合、量化、蒸馏、剪枝实践,建议单独列项目说明实现方案和性能收益
- 强调工程落地能力,例如如何把优化方案接入训练Pipeline、如何保障稳定性、如何解决工业级迭代效率问题
- 补强大模型分布式训练知识,包括数据并行、张量并行、流水并行、序列并行、专家并行和通信计算重叠
- 加强GPU性能分析与算子优化能力,熟悉Nsight、CUDA Profiler、Triton kernel编写和Cutlass模板使用
面试指南
- 回答架构设计题时,按模型规模、硬件资源、并行策略、显存预算、通信开销、容错与可观测性逐层展开
- 回答性能优化题时,使用“瓶颈定位—方案设计—实验验证—收益量化—风险取舍”的结构,避免只讲概念
- 回答项目经历题时,用STAR框架说明背景、任务、关键难点、个人贡献和最终指标,尤其要准备可量化的性能结果
- 如何设计一个万亿参数多模态模型的分布式训练Pipeline?5D并行中各维度如何切分,瓶颈在哪里?
- 在Attention或MoE算子优化中,你如何定位性能瓶颈?如何衡量MFU提升是否可信?
- 请解释通信计算Overlap的实现思路,以及在大规模GPU集群中可能遇到的同步与带宽问题
- 量化、蒸馏、剪枝分别适用于哪些场景?如何在模型效果和推理性能之间做权衡?
- 你用过CUDA、Triton或Cutlass实现过哪些算子?如何保证数值正确性和性能稳定性?
职位点评
薪资福利82
成长发展92
工作生活55
使命价值78
薪资福利
82较高
JD未披露薪资与福利信息,但岗位属于高门槛的大模型基础架构研发,通常对资深技术人才有较强薪酬吸引力。稳定性与福利细节需面试确认。
薪资信号未披露(AI估算:5.0千–9.0万/月)
成长发展
92较高
岗位直接涉及万亿参数多模态模型、世界模型、5D并行、算子优化和模型加速,技术深度与成长空间非常突出。JD未提及明确晋升通道或培训机制。
技术前沿前沿/新兴技术
技术栈多模态、世界模型、大模型训推框架、5D并行、显存优化、通信计算Overlap、Attention、MoE、CUDA、Triton、Cutlass、蒸馏、量化、剪支
业务类型profit_center
工作生活
55较低
JD仅说明北京/杭州两个工作城市,未提及远程、弹性、双休或加班情况,办公模式与工作节奏无法从原文判断。
工作模式未明确
办公地点未明确
加班情况未提及(无法判断)
使命价值
78中等
岗位支撑多模态生成模型和AI创新应用落地,参与大模型算力基座建设,技术影响面较大。JD未直接描述社会使命或公共价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs