米哈游
大模型推理服务可靠性工程师
大模型推理服务可靠性工程师
发布于 大约 7 小时前普通员工/个人贡献者
全职员工仅现场办公DevOps/SRE
DevOps/SRE
Go
Gpu
Llm
Sre
故障处理
混沌工程
值不值得投
72综合评分
综合评分 72
前沿AI Infra技术栈、高系统复杂度、强工程文化，但需适应潜在的高强度运维节奏。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
24K
比DevOps/SRE中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 930 个在招 · 其中DevOps/SRE 6 个
市场机会
选择面较广
上海 · DevOps/SRE · 约 110 个在招
职位详情
关于这个职位
这是负责保障大模型（LLM）推理服务稳定运行的核心技术岗位
你需要构建和维护推理链路（模型、框架、网关等）的全链路可靠性，确保服务的高可用性和性能（如TTFT/TPOT）
工作内容包括处理线上故障、建设监控体系、执行容灾演练以及开发自动化运维工具，以持续提升系统的健壮性和运维效率
最低要求
必须满足：
计算机相关专业本科及以上，3 年以上 SRE / 运维开发 / 稳定性相关经验
熟练使用 Kubernetes：有实际的 K8s 集群运维或平台使用经验（Pod/Deployment/Service/HPA/调度/排障）
有 SRE 方法论实践：On-call 机制、监控告警、SLO/错误预算、故障应急响应
具备工具/系统开发能力：熟练使用 Python 或 Go 编写运维工具、自动化脚本或平台
工作职责
工作职责:
岗位定位
负责 LLM 推理服务全链路的稳定性，让模型、框架、Router、网关等每个环节都处于可控、可观测、可回滚、可恢复、可容灾的状态
通过持续容灾演练和自研工具/系统，持续提升推理系统的可靠性与运维效率
职责（5-7 条）
负责推理服务的部署与发布稳定性：建立覆盖模型/框架/Router/网关的可观测、灰度、回滚、恢复机制，对推理服务的可用性与核心SLO（TTFT/TPOT/成功率）负责
建设和维护推理全链路监控体系：从推理、网络、Workload 三个维度建设黄金指标与看板，能从网关 → Router → Runtime → GPU/NCCL逐层下钻定位问题
承担 On-call，作为 P0/P1 故障 IC 主导定位、止血、恢复与复盘，持续压降 MTTR
制定并执行容灾演练计划：覆盖多 AZ/多集群故障转移、GPU/NCCL/网关/Router 等故障注入，推动发现的韧性缺陷闭环修复
开发和迭代运维工具/平台（如一键切流/回滚、自动巡检、自愈规则、故障注入平台、容量与流量水位看板），提升运维自动化率
负责容量与水位管理：基于流量趋势和 workload 特征做容量规划与扩缩容
编写 Runbook、Postmortem 与故障案例库，沉淀诊断方法与工具
优先资格
加分项：
有维护推理服务或相关 AI 系统的经验，了解推理链路（模型）及核心组件
了解 GPU 与推理框架（vLLM/TRT-LLM/SGLang 等）基本原理，能看懂推理与 GPU 指标
有混沌工程/容灾演练的组织与落地经验
有 Prometheus/Grafana/OpenTelemetry 等可观测性栈的建设经验
有多集群/多 AZ 容灾、K8s Operator/Controller 开发经验
AI 洞察
优缺点分析
优点
- 身处AI大模型推理这一前沿技术领域，能深入接触到GPU集群、分布式系统等核心技术栈
- 岗位解决的是高价值业务（AI服务）的核心痛点，工作成果直接影响产品核心体验和技术竞争力
- 米哈游作为头部游戏公司，具备丰富的工程实践和高并发场景，能积累宝贵的系统稳定性经验
- 大模型推理链路技术栈复杂，涉及模型、框架、网络、硬件等多个层面，学习曲线较陡
- 需要持续跟进AI推理技术和基础设施的快速演进，并不断更新自身的工具与知识体系
- 适合对系统稳定性和基础设施有浓厚兴趣，喜欢通过工程手段解决复杂问题，具备较强责任心和抗压能力，并希望深入AI技术底层的技术工程师
缺点 / 挑战
- 作为稳定性工程师，需承担On-call职责，处理线上紧急故障，可能面临较高的工作压力和响应要求
角色解读
- 技术专家路线：深入AI Infra领域，成为推理系统可靠性与性能优化的权威
- 架构师路线：负责更大规模、更复杂的分布式AI系统的整体架构设计与可靠性保障
- 技术管理路线：带领SRE/稳定性团队，负责AI平台整体的可靠性战略规划与团队建设
- 保障大模型（LLM）推理服务全链路的稳定性和高可用性，对核心服务指标（SLO）负责
- 建设和维护从网关到GPU的完整监控体系，快速定位和解决复杂的线上故障
- 通过容灾演练、故障注入和自研工具，持续提升系统的韧性和运维自动化水平
- 扎实的SRE方法论和运维开发经验，精通Kubernetes集群管理与排障
- 具备使用Python或Go开发运维工具、自动化平台的能力
- 理解AI推理服务架构，了解GPU资源与推理框架（如vLLM）的基本工作原理
申请策略
- 研究米哈游的技术博客或开源项目，了解其在AI Infra和工程文化方面的实践，以便在面试中展现诚意
- 准备一个清晰的、体现你系统思维和排障能力的线上故障处理案例
- 详细描述过往SRE/运维开发中负责过的系统，特别是涉及高可用、高并发、监控体系建设的项目
- 突出使用Python/Go开发自动化工具或平台的具体案例，说明其解决的问题和带来的效率提升
- 强调Kubernetes集群的实战经验，包括部署、调度、故障排查等具体场景
- 如果缺乏AI推理领域的经验，可以提前了解主流推理框架（如vLLM, TensorRT-LLM）的基本原理和常见问题
- 深入学习和实践混沌工程工具与理念，并尝试在模拟环境中进行故障注入演练
- 巩固Prometheus/Grafana等可观测性工具链的深度使用和指标体系设计能力
面试指南
- 对于故障处理问题，遵循“发现-定位-止血-恢复-复盘”的结构化框架，强调使用监控数据和工具进行分层排查
- 对于系统设计问题，从“分层（网关/路由/运行时/硬件）”、“指标（黄金信号）”、“告警”、“平台化”几个维度展开回答
- 对于工具开发问题，重点阐述“问题背景-技术方案选择-实现过程-效果量化”的逻辑
- 请描述一个你处理过的最复杂的线上故障（P0/P1），你的定位和解决思路是什么？
- 如何为大模型推理服务设计一套完整的可观测性监控体系？你会关注哪些黄金指标？
- 你如何制定和执行针对一个AI推理集群的容灾演练计划？需要覆盖哪些故障场景？
- 如果你负责的推理服务在发布后SLO（如TTFT）出现显著劣化，你会如何排查？
- 你开发过的最复杂的运维工具是什么？它解决了什么问题？请介绍技术选型和实现难点
职位点评
薪资福利65
成长发展85
工作生活60
使命价值80
薪资福利
65中等
该职位对补偿性动机的满足程度中等。JD未提及具体薪资和福利，但作为超大型企业的技术岗位，预计薪酬具备市场竞争力。
薪资信号未披露（AI估算：18K-30K/月）
成长发展
85较高
该职位对发展性动机的满足程度很高。岗位直接处于AI大模型推理这一技术前沿，涉及GPU、分布式系统、云原生等多个高价值技能领域，且有明确的工具开发和平台建设职责，有利于个人技术栈的深度和广度拓展。
技术前沿前沿/新兴技术
技术栈LLM、Kubernetes、GPU、vLLM、Prometheus、Grafana、Python、Go
成长机会持续提升推理系统的可靠性与运维效率、开发和迭代运维工具/平台、沉淀诊断方法与工具
业务类型cost_center
工作生活
60中等
该职位对生活化动机的满足程度一般。JD未明确说明办公模式和WLB政策，且包含On-call职责，意味着可能需要随时响应线上故障。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
80较高
该职位对意义感动机的满足程度较高。AI大模型是当前科技发展的核心驱动力之一，保障其服务的稳定运行具有重要业务价值。工作内容直接关系到AI系统的可用性和用户体验，能产生实际影响力。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs