米哈游
大模型平台 SRE（MaaS方向）
大模型平台 SRE（MaaS方向）
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公DevOps/SRE
DevOps/SRE
Go
Sglang
Sre
Vllm
大模型推理
值不值得投
80综合评分
综合评分 80
头部企业大模型SRE核心岗，技术前沿、薪资极具竞争力，但需承担较高的稳定性保障与On-call压力。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.5万
比DevOps/SRE中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 940 个在招 · 其中DevOps/SRE 7 个
市场机会
选择面较广
上海 · DevOps/SRE · 约 160 个在招
职位详情
关于这个职位
该职位主要负责米哈游大模型推理服务的部署、运维与稳定性保障，建设可观测体系并进行容量规划与资源优化
你需要与GPU集群团队及研发紧密协作，保障大模型服务的高可用与高性能，是MaaS平台背后的核心技术支撑
最低要求
本科及以上学历，相关实践经验可替代学历要求
具备 SRE、平台工程、云原生或分布式在线服务的生产经验
有大模型或其他在线推理服务运维实践
熟悉 Linux、容器、Kubernetes、服务发现、负载均衡和弹性伸缩，能够独立定位生产服务问题
理解至少一种推理服务框架的部署和运行方式，能排查模型加载失败、显存不足、请求积压及性能下降等问题
熟悉 Prometheus、Grafana、日志和链路追踪，能够设计服务指标、告警和故障排查路径
熟悉 Python、Go 等至少一种语言，能够开发运维工具
理解 SLI/SLO、故障响应、复盘及容量规划
具备跨团队协作能力，能够参与生产值班和故障应急
工作职责
负责大模型推理服务的部署、发布、扩缩容、回滚和下线，建设包含模型文件、配置、镜像及依赖版本的标准化交付流程，完善容量校验、预热和上线验证
建设模型服务可观测体系，围绕可用性、错误率、请求延迟、首 token 延迟、输出速度、吞吐量及排队情况制定 SLI、SLO 和告警策略，持续治理监控盲区与告警噪声
负责生产模型服务稳定性，参与值班、故障止损、流量切换和跨团队应急
主导服务侧复盘并推动改进项闭环
结合流量、输入输出长度、模型规格和推理并行方式开展容量规划，保障新模型上线及流量突增场景的服务能力
在服务目标和资源隔离要求下，优化实例规格、副本数量、弹性伸缩和请求路由，提升吞吐与资源效率，治理闲置副本和过度预留
与 GPU 集群 SRE、模型研发及业务团队共同定位模型加载、推理性能和底层资源问题，将常见处置流程沉淀为自动化工具与SOP
优先资格
熟悉 vLLM / SGLang 等推理引擎的指标体系与常见故障模式
理解连续批处理、KV Cache、量化、模型并行及请求路由，并有实际性能调优经验
有多地域服务容灾、GPU 资源成本分析或单位推理成本优化经验
AI 洞察
优缺点分析
优点
- 处于AI大模型爆发的核心赛道，技术壁垒高，个人成长空间与行业前景极佳
- 米哈游作为头部科技公司，能提供充足的算力资源和复杂的业务场景，技术实践机会丰富
- 薪资福利在行业内具有极强竞争力，大模型方向享有显著的技术溢价
- 大模型推理服务对延迟和吞吐量要求极高，故障排查涉及软硬件多层，技术难度大
- 适合具备扎实云原生/SRE基础，对AI大模型底层技术有浓厚兴趣，且抗压能力强、渴望在AI基础设施领域深耕的技术人才
缺点 / 挑战
- 需要参与生产值班和故障应急，大模型服务的高敏感性可能带来较大的On-call压力
角色解读
- 从大模型SRE向MaaS平台架构师或AI基础设施技术专家发展，掌控大规模算力调度
- 深入GPU集群调度与推理引擎优化，成为AI算力优化与成本治理领域的稀缺人才
- 负责大模型推理服务的全生命周期运维，包括部署、扩缩容、发布及下线，建设标准化交付流程
- 建设可观测体系，制定SLI/SLO并治理告警噪声，保障服务稳定性并处理突发故障
- 进行容量规划与资源优化，提升GPU利用率与推理效率，治理闲置副本和过度预留
- 扎实的云原生与SRE基础，精通Linux、K8s、服务发现及监控工具链（Prometheus/Grafana）
- 熟悉大模型推理框架（如vLLM/SGLang）及底层资源调度，能排查显存不足、请求积压等问题
- 具备Python/Go开发能力以编写自动化运维工具，理解SLI/SLO及容量规划方法论
申请策略
- 了解米哈游的AI业务布局及大模型应用场景（如游戏NPC、内容生成等），在面试中展现对业务场景与底层技术结合的思考
- 突出在K8s、服务网格及可观测性体系建设的实战经验，展示如何治理监控盲区与告警噪声
- 重点展示大模型推理服务（如vLLM部署、KV Cache优化）或GPU资源调优的相关项目经历
- 强调故障排查、容量规划及自动化脚本（Python/Go）的开发能力，体现工程化思维
- 深入学习vLLM/SGLang等主流推理引擎的底层原理与指标体系，掌握Continuous Batching等机制
- 了解GPU显存管理、模型并行技术及多地域容灾架构，提升成本优化与高可用设计能力
面试指南
- 采用STAR法则，结合具体场景说明问题背景、排查思路（从监控告警到日志链路，再到代码/配置层）、解决动作及最终收益（如延迟降低、成本节约、可用性提升）
- 如何设计大模型推理服务的SLI/SLO？首Token延迟和吞吐量之间如何平衡？
- 在K8s环境下，如何处理大模型推理服务的弹性伸缩和GPU资源隔离？
- 遇到模型加载失败或显存不足（OOM）时，你的排查思路和处置流程是什么？
- 请分享一个你主导的容量规划或GPU资源成本优化的成功案例
- 复习大模型推理引擎（如vLLM）的核心机制（PagedAttention、Continuous Batching）及常见故障模式
- 准备1-2个复杂的线上故障排查或资源优化案例，体现系统性思维与跨团队协作能力
职位点评
薪资福利90
成长发展90
工作生活50
使命价值80
薪资福利
90较高
米哈游作为超大型盈利企业，薪资水平在行业内极具竞争力，大模型方向享有显著的技术溢价。
薪资信号偏高 (3千–6万/月)
成长发展
90较高
处于AI大模型基础设施核心位置，能接触前沿推理引擎与大规模GPU集群，技术成长空间巨大。
技术前沿前沿/新兴技术
技术栈Kubernetes、vLLM、SGLang、Prometheus、Grafana、Python、Go、Linux
业务类型cost_center
工作生活
50较低
JD明确要求参与生产值班和故障应急，且大模型服务对稳定性要求极高，On-call压力较大，WLB可能受限。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
80较高
支撑大模型平台发展，赋能AI应用落地，具有较高的行业前瞻性和技术使命感。
行业发展高速增长赛道
社会影响中性/一般
创新程度开拓性创新（行业首创）
米哈游 的其他在招职位
相似职位推荐
Watch Jobs