小米
大模型 AI 算力工程师
大模型 AI 算力工程师
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Cuda
Go
Gpu集群调度
Megatron
Pytorch
Sglang
Volcano
大模型训练
值不值得投
78综合评分
综合评分 78
核心大模型算力底座岗位，技术前沿且成长空间巨大，薪资竞争力强，但集群保障压力较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
5.3万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3290 个在招
市场机会
选择适中
北京 · 高性能计算 · 18 个在招
职位详情
关于这个职位
该职位主要负责小米万卡级GPU集群的建设、调度与运营管理，通过GPU池化、虚拟化及训推混部等技术提升算力利用率
同时探索前沿GPU芯片特性，进行国产卡适配与模型量化优化，支撑小米自研大模型MiMo的训练与推理业务
最低要求
熟悉主流 GPU 训练和推理芯片，熟悉 CUDA 生态
熟悉 Kubernetes 和 GPU 算力管理
熟练 Go/Python/C++至少一门语言
计算机相关专业，本科及以上学历
工作职责
万卡集群调度与管理：基于 Kubernetes 建设和运营万卡级 GPU 集群，负责 GPU 适配、拓扑感知调度、Gang 调度、GPU 故障自愈、全链路可观测等核心能力，支撑小米自研大模型 MiMo 的训练和推理等重点业务场景
GPU 池化和利用率提升：统一纳管小米 GPU 资源，推进 GPU 调度优化、资源池化、GPU 虚拟化、训推混部等关键技术研发，持续提升全集团 GPU 资源利用率，实现技术降本增效
GPU 核心能力建设：持续探索前沿 GPU 芯片的技术特性，包括国产卡适配、混合精度、模型量化、显存优化等技术，将芯片能力转化为业务竞争力，有力支撑集团 AI 战略落地
优先资格
有大模型训练和推理优化经验优先
有万卡集群建设和 GPU 利用率提升经验优先
有 PyTorch/Volcano/Megatron/SGLang 框架熟悉者优先
AI 洞察
优缺点分析
优点
- 接触万卡级超大规模GPU集群，积累国内顶尖的大模型算力调度与优化经验
- 深度参与小米自研大模型MiMo的底层支撑，业务核心度高，技术壁垒深厚
- 大模型技术迭代极快，需要持续跟进最新的GPU芯片特性与框架优化技术
- 适合具备扎实分布式系统基础、对底层算力优化有浓厚兴趣，且能在高压环境下解决复杂工程问题的资深技术人才
缺点 / 挑战
- 万卡集群的故障排查与稳定性保障压力较大，需要应对复杂的分布式系统问题
角色解读
- 可向AI基础架构专家、算力平台技术总监方向发展，成为大模型底层算力优化的核心骨干
- 也可横向拓展至大模型训练/推理框架研发，成为全栈AI系统架构师
- 负责小米万卡级GPU集群的建设、调度与日常运营管理，保障大模型训练与推理的算力稳定性
- 推进GPU资源池化、虚拟化及训推混部等核心技术落地，提升整体算力利用率
- 探索前沿GPU芯片特性，进行国产卡适配与模型量化等底层优化
- 精通Kubernetes及GPU算力管理，具备万卡集群调度与拓扑感知调度的实战经验
- 熟练掌握Go/Python/C++至少一门语言，熟悉PyTorch、Volcano等主流AI框架
- 深入理解CUDA生态及主流GPU芯片的底层架构与优化技术
申请策略
- 了解小米自研大模型MiMo的最新进展及业务场景，在面试中展现对大模型算力瓶颈的深刻理解及解决思路
- 重点突出参与过的千卡/万卡级集群建设经验，以及在GPU利用率提升、训推混部方面的具体量化成果
- 详细列出在CUDA生态、GPU虚拟化或国产卡适配方面的深度实践
- 深入学习Volcano、SGLang等针对大模型调度的专用框架，掌握最新的混合精度与显存优化技术
面试指南
- 采用STAR法则，先描述面临的万卡集群或资源利用率的具体挑战，再阐述采用的技术方案（如Gang调度、资源池化），最后用具体数据（如利用率提升百分比、故障恢复时间）证明成果
- 在万卡集群中，如何解决GPU故障导致的训练中断问题？
- 请详细讲解一下你是如何提升GPU集群整体利用率的？
- 在训推混部场景下，如何保证推理任务的延迟要求？
- 针对国产GPU卡，你在适配过程中遇到过哪些最大的挑战？
- 复习Kubernetes底层原理及GPU Device Plugin机制，准备1-2个自己主导的算力优化或集群调度项目的完整技术细节
职位点评
薪资福利85
成长发展90
工作生活50
使命价值80
薪资福利
85较高
大模型算力方向属于当前市场高薪赛道，能提供具有竞争力的薪酬，但JD未明确披露具体薪资与福利细节。
薪资信号未披露（AI估算：3.5千–7万/月）
成长发展
90较高
岗位涉及万卡集群、大模型训推优化等前沿技术，能接触到行业最顶尖的算力基础设施，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈Kubernetes、GPU集群调度、CUDA、Go、Python、C++、PyTorch、Volcano、Megatron、SGLang、训推混部
业务类型cost_center
工作生活
50较低
JD未提及工作模式与加班情况，但万卡集群的运维与保障通常需要较高的响应要求，WLB情况无法明确判断。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
支撑小米自研大模型MiMo的战略落地，属于AI时代的核心基础设施建设，具有较高的行业前景与技术使命感。
行业发展高速增长赛道
社会影响中性/一般
使命信号有力支撑集团 AI 战略落地
创新程度积极采用新技术
Watch Jobs