米哈游
【提前批-基础研究】Infra 推理优化工程师（3D生成）
【提前批-基础研究】Infra 推理优化工程师（3D生成）
发布于 大约 15 小时前普通员工/个人贡献者
上海市
中级经验
全职员工
仅现场办公
硕士
研究与开发 (研发)
PyTorch
CUDA
DeepSpeed
推理加速
大模型训练
FSDP
Flashattention
Megatron
分布式优化
AI 估算 · 30k–60k
米哈游为超大型游戏公司，基础研究岗薪资高，硕士起薪3-6万/月，16薪，技术难度高且稀缺。
职位详情
关于这个职位
该职位负责支撑米哈游3D生成等大模型的训练与推理优化，涉及架构设计、底层算子优化、分布式训练加速等核心工作
你将深入研究大规模异构集群的调度与通信优化，提升硬件利用效率，并参与前沿技术（如FP8、FlashAttention）的落地探索
适合对系统性能调优有热情、熟悉CUDA和深度学习框架的工程人才
最低要求
硕士及以上学历，具有扎实的计算机基础，熟悉操作系统和计算机体系结构等，熟练掌握 C++/Python，对数据结构与算法设计有较深刻的理解
熟悉至少一种主流的深度学习框架（如 PyTorch）和至少一种主流的训练框架（如 Megatron/Deepspeed/FSDP）
熟练掌握 CUDA 相关编程，有内核级优化经验者优先
了解大模型训练基本范式，熟悉 Transformer 架构及其优化方法（如 FlashAttention、GQA/MLA 等）者优先
责任心强，思路清晰，技术视野开阔，对业界新技术敏感，喜欢钻研，具有良好的学习能力并注重团队合作
工作职责
支撑团队不同大模型任务下的训练及推理优化，包括但不限于：架构设计、检查点优化、训练容错恢复、底层算子优化及通信优化等
研究和优化大规模异构加速集群调度、存储、通信互联、监控、Profiling等组件，提升整体硬件利用效率
针对具体任务调研并进行对应的 Scale Up 实验及优化，包括但不限于并行化策略优化、ZeRO/FSDP 优化、FP8、激活值优化等，加速模型训练，优化显存开销
优先资格
具有 LLM / Diffusion Transformer 部署和推理加速实战经验
具有长序列推理优化及大规模的推理服务实际落地经验
有硕士/博士阶段的计算机系统方向研究背景，或在国际顶级系统会议上（OSDI/SOSP/SIGCOMM/ASPLOS/NSDI等）发表过论文者优先
AI 洞察
优缺点分析
优点
- 米哈游资金充裕，福利好，项目前沿，能接触到3D生成等最新应用
- 团队基础研究氛围浓厚，有机会与顶级系统方向专家共事
- 要求高，需要同时掌握深度学习框架、CUDA、分布式系统等多领域知识
- 技术迭代快，需要持续学习前沿论文和工具
- 适合对系统性能极致追求、热爱底层优化、有扎实计算机系统背景的技术型人才
缺点 / 挑战
- 技术挑战大，能深入到底层优化，积累顶尖的系统研发经验
- 工作强度可能较大，涉及大规模集群的调试和优化，压力不小
角色解读
- 纵向发展为系统性能专家或分布式训练架构师，成为大模型基础设施领域的核心人才
- 横向可转向AI Infra方向，覆盖训练、推理、部署全链路，成为技术负责人
- 优秀者可参与国际顶会论文发表，提升行业影响力
- 负责大模型训练与推理的性能优化，包括底层算子、通信、显存等方向的调优
- 研究和改进大规模异构集群的调度与监控系统，提升整体硬件利用效率
- 针对具体模型进行Scale Up实验，探索并行策略、FP8等先进技术以加速训练
- 扎实的计算机基础，熟悉操作系统和体系结构，精通C++/Python
- 熟练掌握PyTorch及至少一种分布式训练框架（如Megatron/DeepSpeed）
- CUDA编程能力，有内核级优化经验
- 了解Transformer架构及其优化方法
申请策略
- 提前了解米哈游在3D生成和AI Infra方面的布局，面试时展现技术热情
- 准备一个端到端的训练/推理优化项目案例，细致讲解优化思路和效果
- 突出CUDA内核优化、分布式训练框架的实战项目，例如用Megatron训练过大规模模型
- 展示在OSDI/ASPLOS等顶会发表的系统论文或相关研究经历
- 强调对Transformer架构和FlashAttention等优化技术的深入理解
- 如果对CUDA优化不熟，建议系统学习CUDA编程和GPU架构
- 补充大模型训练范式知识，动手实践FSDP、ZeRO等并行策略
面试指南
- 对于优化类问题，先明确优化目标和当前瓶颈，然后从计算、内存、通信三个维度分别提出方案，并量化效果
- 对于经验题，采用STAR法则：背景、任务、行动、结果，强调自己的技术贡献和量化收益
- 如何优化一个Transformer模型的训练速度？请从算子、通信、显存等角度展开
- 解释FlashAttention的原理及其对长序列训练的优势
- CUDA kernel优化中常用的编程技巧有哪些？举例说明
- 在大规模分布式训练中，如何检测和解决通信瓶颈？
- 你写过最满意的优化代码是什么？带来了多少性能提升？
- 复习CUDA编程模型、GPU内存层次结构，熟悉NVIDIA Nsight等profiling工具
职位点评
77
综合评分
高薪前沿技术岗，深度学习系统优化方向，发展空间极大但工作强度可能较高。
更适合这类人
最适合追求顶尖技术成长和职业发展的求职者，不太适合追求高WLB的人。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展92
工作生活60
使命价值70
薪资福利
85较高
米哈游作为超大型游戏公司，薪资福利具有竞争力，该职位为技术核心岗，薪资水平市场领先，且16薪制度稳定。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
92较高
该职位涉及大模型训练推理前沿技术，有大量研究性质的优化工作，技术成长空间极大，且有机会发表顶会论文。
技术前沿前沿/新兴技术
技术栈CUDA、PyTorch、Megatron、DeepSpeed、FSDP、FlashAttention、FP8
业务类型ambiguous
工作生活
60中等
工作地点在上海，仅现场办公，未提及弹性工作制。游戏公司技术岗强度可能较高，但米哈游福利良好。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
3D生成和大模型属于前沿技术，有较强的技术创新意义，但游戏行业本身社会影响力中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs