米哈游
AI推理工程师
AI推理工程师
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公平台工程
平台工程
Go
Gpu
Mlops
Sglang
Vllm
值不值得投
80综合评分
综合评分 80
头部游戏大厂AI基建核心岗，薪资丰厚、技术前沿、成长空间大，但需适应较快的工作节奏与线上稳定性压力。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
5万
比平台工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 930 个在招
市场机会
选择适中
上海 · 平台工程 · 37 个在招
职位详情
关于这个职位
该职位主要负责AI模型（LLM、CV等）推理服务的工程化部署与稳定性保障，建设推理平台能力，推动模型服务标准化与自动化
你需要与算法、SRE等团队协作，保障线上服务SLA，解决资源异常、性能抖动等线上问题，支持模型从实验到生产的落地
最低要求
有 2 年以上后端开发、平台工程、AI 基础设施、MLOps 或推理服务部署经验
熟悉 Linux、Docker、Kubernetes、网络、负载均衡、服务发现等基础设施能力
熟悉至少一种推理服务框架或部署方式，如 Triton、vLLM、SGLang、TensorRT-LLM、FastAPI/gRPC 推理服务等
熟悉 GPU 服务器和容器化运行环境，了解 NVIDIA Driver、CUDA、Container Runtime、NCCL、显存管理和 GPU 监控
具备服务稳定性建设经验，熟悉监控告警、日志分析、压测、容量评估、灰度发布、故障应急和复盘机制
熟练掌握 Go/Python/Shell 至少一种语言，能够开发平台模块、自动化工具或运维脚本
具备较强的问题定位和跨团队协作能力，能支持算法模型从实验环境到生产环境的稳定落地
工作职责
负责 AI 模型推理服务的工程化部署和生产环境稳定性保障，覆盖 LLM、CV、语音、多模态等模型服务
负责推理平台能力建设，包括模型发布、服务编排、灰度发布、回滚、弹性扩缩容、流量治理、实例管理和资源隔离
基于 Docker、Kubernetes、Triton、vLLM、SGLang 等技术栈，推动模型服务标准化、自动化和平台化
建设推理服务监控、日志、告警、压测和性能回归体系，保障线上服务 SLA 和性能稳定性
负责推理服务线上问题排查与稳定性治理，包括资源异常、服务超时、性能抖动、显存不足、实例异常等问题定位
与算法、SRE、基础设施和业务团队协作，支持模型从实验环境到生产环境的落地
优先资格
有 AI 推理平台、模型服务平台、MLOps 平台或在线推理系统建设经验
熟悉 Prometheus、Grafana、Loki、ELK、OpenTelemetry 等可观测体系建设
有 Kubernetes GPU 调度、NVIDIA Device Plugin、MIG/MPS、RDMA/RoCE/NCCL 相关经验
有多模型混部、弹性扩缩容、流量调度、资源利用率优化或成本治理经验
有公有云或私有云 GPU/NPU 资源池运维经验
AI 洞察
优缺点分析
优点
- 处于AI大模型落地的核心环节，技术栈前沿（vLLM、SGLang等），行业需求旺盛
- 米哈游作为头部游戏公司，拥有庞大的算力需求和丰富的多模态AI应用场景
- 技术迭代极快，需要持续跟进最新的推理框架和GPU硬件特性，学习成本高
- 适合具备扎实后端与云原生基础，对AI底层技术和GPU调度有浓厚兴趣，且抗压能力强的工程师
缺点 / 挑战
- 超大型企业平台，基础设施完善，能接触到大规模GPU集群和复杂的工程化挑战
- AI推理服务对SLA要求极高，线上问题排查（如显存不足、性能抖动）压力大
角色解读
- 纵向可发展为AI基础设施专家或架构师，深入底层GPU调度与推理性能极致优化
- 横向可向AI平台技术负责人或MLOps团队Leader转型，统筹整体AI工程化体系
- 负责AI模型（LLM、CV等）推理服务的工程化部署，保障生产环境的高可用与稳定性
- 建设推理平台能力，实现模型发布、弹性扩缩容、流量治理等标准化与自动化流程
- 排查线上资源异常、性能抖动等问题，与算法和SRE团队协作推动模型落地
- 精通Kubernetes、Docker等容器化技术，熟悉GPU服务器及NVIDIA底层驱动与显存管理
- 掌握Triton、vLLM等主流推理框架，具备Go/Python开发能力以构建自动化运维工具
- 具备扎实的服务稳定性建设经验，熟悉监控告警、压测及故障应急机制
申请策略
- 了解米哈游在AI领域的业务布局（如AI NPC、AI美术生成等），在面试中结合业务场景探讨推理需求
- 突出在Kubernetes环境下部署和管理GPU资源的实际经验，特别是NVIDIA Device Plugin或MIG相关实践
- 详细列举使用vLLM、Triton等框架进行模型推理优化的具体案例及性能提升指标
- 展示在监控告警、压测、故障应急等稳定性建设方面的系统性成果
- 深入学习vLLM、SGLang等最新LLM推理框架的底层原理及显存优化机制（如PagedAttention）
- 补充RDMA/RoCE等高性能网络知识，了解多机多卡分布式推理的通信优化
面试指南
- STAR法则：针对排查和优化问题，清晰描述背景、任务、具体行动（如查看日志、分析监控、调整参数）和最终结果（如延迟降低、吞吐提升）
- 架构设计题：从需求分析、技术选型、核心模块设计、高可用与扩展性保障、监控与运维五个维度展开
- 在Kubernetes中如何高效调度GPU资源？遇到显存碎片化或OOM时如何排查和解决？
- vLLM和Triton在架构和适用场景上有什么区别？如何针对特定模型选择或优化推理框架？
- 如何设计一个高可用的AI推理服务架构？在灰度发布和流量治理方面有哪些最佳实践？
- 描述一次你处理过的最复杂的线上推理服务性能抖动或超时问题，你的排查思路是什么？
- 复习Kubernetes核心组件及GPU调度机制，熟悉Prometheus/Grafana等监控体系的搭建与告警规则配置
- 深入了解1-2个主流推理框架（如vLLM）的源码或核心优化点，准备具体的性能调优案例
职位点评
薪资福利85
成长发展90
工作生活60
使命价值75
薪资福利
85较高
米哈游提供极具竞争力的薪资和丰厚的项目奖金，整体薪酬在行业内处于高位。
薪资信号偏高 (3.5千–6.5万/月)
成长发展
90较高
岗位处于AI大模型工程化落地的最前沿，能接触到顶尖的算力集群和最新的推理技术，技术成长空间巨大。
技术前沿前沿/新兴技术
技术栈LLM、vLLM、SGLang、Triton、Kubernetes、GPU、CUDA、NCCL
业务类型cost_center
工作生活
60中等
游戏行业头部公司通常工作节奏较快，AI基础设施岗需保障线上SLA，可能面临一定的On-call和排障压力。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
推动AI大模型在游戏及泛娱乐场景的落地，具有较高的技术成就感，但社会公共价值属性相对中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs