米哈游
基础研究-AI 推理优化工程师
基础研究-AI 推理优化工程师
发布于 大约 9 小时前普通员工/个人贡献者
上海市
无经验要求
全职员工
仅现场办公
本科
算法优化工程师
Cuda
Llm
Rocm
Tensorrt
Vllm
性能优化
模型并行
AI 估算 · 25k–35k
职位详情
关于这个职位
该职位负责AI模型在多硬件平台的生产级推理部署与性能优化，包括模型服务化、推理引擎选型调优、性能建模分析、Benchmark体系搭建及线上稳定性保障
你将与算法团队紧密协作，将工程约束前置到模型设计环节，适合对AI推理优化有浓厚兴趣的2027届毕业生
最低要求
届本科及以上，有推理部署或 AI 性能优化经验
熟悉至少 2 种主流推理引擎（TensorRT / vLLM / Triton / SGlang 等）的原理与调优手段
熟悉 NVIDIA GPU 生态（CUDA、cuDNN、TensorRT、NCCL），了解其架构演进（A100 → H100 → B200 等）
了解 AMD ROCm 或国产 NPU 至少其一的演进路径、算子支持与生态现状
有开源大模型（LLM / 扩散模型 / 多模态） 部署优化实战经验
扎实的性能建模能力：能基于 FLOPs、带宽、显存、Batch Size、Sequence Length 等参数进行数学推导与方案设计
熟练使用 Linux、容器化（Docker / K8s）、网络、性能分析工具（nsight、nvprof、perf、bpf 等）
工作职责
模型部署：负责 LLM、CV、语音等多类模型的推理服务化部署，覆盖 NVIDIA（CUDA / TensorRT）、AMD（ROCm） 及国产卡（昇腾 CANN、寒武纪、燧原、摩尔线程等） 硬件平台
推理引擎选型与调优：能基于业务场景（吞吐 / 时延 / 成本）对比 TensorRT、vLLM、Triton、SGlang 等引擎，输出选型与调优方案
性能建模与分析：基于 Roofline 模型、计算 / 访存比、并行策略、KV Cache、Continuous Batching 等进行量化分析，定位瓶颈并给出优化建议
Benchmark 体系：搭建离线 / 在线压测与回归测试框架，输出量化评估报告
线上稳定性：推理服务监控、告警、异常排查与性能回归治理
跨团队协作：对接算法团队，理解模型结构、算子特性与精度约束，将工程约束前置反馈到模型设计与训练环节
优先资格
有推理框架二次开发或开源社区贡献（PR、Issue、博客）
熟悉量化（INT8 / FP8 / INT4 / GPTQ / AWQ）、剪枝、Speculative Decoding、PagedAttention 等优化技术
熟悉模型并行（TP / PP / EP / SP）策略与分布式推理
有训练-推理全链路经验（Megatron、DeepSpeed 等）
良好的文档输出与跨团队沟通能力
AI 洞察
优缺点分析
优点
- 米哈游作为游戏巨头，技术投入大，平台稳定，薪资福利优厚
- 接触前沿AI推理技术，如LLM、多模态模型，技术成长快
- 跨团队协作多，能提升沟通和项目管理能力
- 工作地点上海，一线城市，职业发展机会多
- 技术难度高，需要扎实的底层知识和持续学习
- 工作强度可能较大，尤其在项目上线和性能调优期间
- 对硬件生态了解要求广，需关注多种平台
缺点 / 挑战
- 适合对AI推理优化有浓厚兴趣，具备扎实计算机基础，喜欢挑战技术难题的应届生
角色解读
- 从推理优化工程师起步，逐步成为AI基础设施专家，负责大规模推理系统架构
- 可向AI平台架构师或技术专家方向发展，主导推理优化框架的研发
- 有机会参与前沿技术研究，如模型压缩、分布式推理，成为领域专家
- 负责AI模型在多种硬件平台上的推理部署，包括NVIDIA、AMD和国产芯片，确保模型高效运行
- 进行推理引擎的选型和调优，根据业务场景对比TensorRT、vLLM等引擎，优化吞吐、时延和成本
- 搭建性能基准测试框架，进行压测和回归测试，输出量化评估报告
- 监控线上推理服务，处理异常和性能回归，保障服务稳定性
- 熟悉主流推理引擎（TensorRT、vLLM、Triton等）的原理和调优方法
- 掌握NVIDIA GPU生态（CUDA、TensorRT、NCCL）及硬件架构演进
- 具备性能建模能力，能基于FLOPs、带宽等参数进行数学推导和优化
- 熟悉Linux、容器化（Docker/K8s）和性能分析工具（nsight、perf等）
申请策略
- 关注米哈游技术博客和开源项目，了解其技术栈
- 准备项目案例，展示如何解决推理性能问题
- 突出推理部署或性能优化相关项目经验，如使用TensorRT或vLLM部署模型
- 强调对CUDA、GPU架构的理解，如有性能分析工具使用经验
- 展示开源贡献或推理框架二次开发经历，体现技术深度
- 提及量化、剪枝等优化技术，显示对前沿技术的关注
- 深入学习TensorRT、vLLM等引擎的源码和调优技巧
- 掌握性能分析工具（nsight、perf）的使用，提升性能建模能力
面试指南
- 结合具体项目，从问题定义、分析、方案、结果四步回答
- 强调量化分析和实验验证，体现工程思维
- 展示对硬件和软件协同优化的理解
- 如何优化一个LLM的推理时延？请举例说明
- TensorRT和vLLM在性能上有什么差异？如何选择？
- 解释Roofline模型，并说明如何用它分析性能瓶颈
- 如何设计一个Benchmark体系来评估推理性能？
- 在分布式推理中，如何选择模型并行策略？
职位点评
79
综合评分
技术前沿、薪资优厚，但工作强度可能较大，WLB一般。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
更适合这类人
适合追求技术成长、对AI推理优化有热情，能接受一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展90
工作生活60
使命价值70
薪资福利
85较高
米哈游作为大厂，薪资福利优厚，稳定性高，补偿性动机满足度高。
薪资信号未披露（AI估算：25K-35K/月）
成长发展
90较高
岗位技术前沿，涉及多种硬件平台和优化技术，成长空间大，发展性动机强。
技术前沿前沿/新兴技术
技术栈TensorRT、vLLM、CUDA、ROCm、量化、模型并行
业务类型ambiguous
工作生活
60中等
工作地点上海，但未提及远程或弹性工作，可能加班，生活化动机一般。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
AI推理优化对技术发展有贡献，但游戏行业社会影响力中性，意义感一般。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs