腾讯
腾讯云-MAAS SRE工程师
腾讯云-MAAS SRE工程师
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公DevOps/SRE
DevOps/SRE
Cuda
Go
Gpu
Sre
Vllm
容器化
容灾架构
性能优化
值不值得投
75综合评分
综合评分 75
高技术挑战、前沿AI Infra岗位，成长空间大，但对SRE能力要求全面，工作强度需有准备。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.9万
比DevOps/SRE中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2040 个在招 · 其中DevOps/SRE 7 个
市场机会
选择适中
深圳 · DevOps/SRE · 16 个在招
职位详情
关于这个职位
作为腾讯云Maas平台的SRE工程师，你将负责保障大规模AI推理服务的稳定性、性能与成本效率
你将深入GPU架构、容器化及推理引擎，通过设计高可用架构、深度性能优化和自动化运维，确保高并发场景下服务的可靠运行，并推动前沿技术在业务中的落地
最低要求
本科及以上学历，3年以上工作经验，其中至少1年大规模在线服务（推理/训练/高性能计算）SRE或平台运维经验
熟练掌握Go/Python/Shell中一种或多种语言，具备开发生产级自动化工具与运维平台的能力
熟悉容器技术，掌握K8s、Docker的技术原理（调度器/网络/存储/探针），有GPU容器化（Device Plugin、拓扑感知调度、共享GPU）的实际运维经验
深入了解GPU架构与并行计算：熟悉GPU显存层级与带宽特性、SM与算子执行模型，掌握CUDA编程实践
熟悉RDMA网络通信、NCCL集合通信，能独立排查通信hang/降级/带宽不达预期问题
理解大模型分布式推理与训练架构及模型压缩/量化技术
熟悉主流推理引擎与serving框架（vLLM/SGLang/TensorRT-LLM/Triton等）的内部机制，理解Continuous Batching、PagedAttention、投机解码等关键优化手段，具备实际调优经验
具备较强的架构抽象与问题拆分能力，能将复杂业务系统拆解为可度量、可治理的单元
良好的沟通协调与团队协作能力，责任心强，具备一定抗压能力
工作职责
推理服务全链路稳定性：负责MaaS推理服务（网关/调度/协议适配/引擎）的可用性与性能，主导SLA定义与达成，落地容量水位管理与反压（限流/熔断/优先级调度）机制，保障高并发下服务稳定
推理性能与效率深度优化：定位并优化TTFT/TPOT/吞吐/首包时延等核心指标瓶颈，深入推理引擎（vLLM/SGLang/TensorRT-LLM等）的批调度、KV Cache、量化与并行策略，联合研发持续提升单卡与单节点产出
多站点与容灾架构：设计并落地多可用区/多站点条带化部署架构与切流方案，主导故障演练与AZ级切换，消除跨AZ带宽与单点风险
成本与容量运营：建立推理服务的容量量化模型（TPM/水位/单副本承载力），基于真实压测数据做资源规划与成本优化，提升GPU资源整体利用率
运维自动化与智能化：建设推理服务的可观测体系（指标/链路追踪/日志）与排障自动化能力，探索基于AI Agent的根因归因、自动巡检与自愈
前沿技术跟踪：跟踪大模型推理加速、异构算力、新型集合通信等方向，推动在业务中落地
AI 洞察
优缺点分析
优点
- 能够接触到业界最先进的GPU集群、推理引擎和大规模分布式系统实践
- 在大型技术平台中工作，视野开阔，有机会推动技术方案在复杂业务场景落地
- 技术栈复杂，需要同时深入GPU、容器、网络和AI推理多个领域，学习曲线陡峭
- 适合拥有扎实SRE/运维基础，对GPU计算、容器化和AI推理技术有浓厚兴趣，并渴望在解决大规模复杂系统稳定性与性能问题中实现技术价值的工程师
缺点 / 挑战
- 直接参与和支撑公司核心的AI云服务，技术挑战高，成长空间大
- SRE岗位需要7x24小时保障服务稳定，可能存在值班和应急响应压力
- 在大规模系统中进行变更和优化，对方案的严谨性和风险控制要求极高
角色解读
- 技术专家路线：深耕AI Infra领域，成为GPU集群管理、推理性能优化方面的资深专家
- 架构师路线：主导更大规模、更复杂的云原生AI基础设施的设计与规划
- 技术管理路线：带领SRE或平台团队，负责AI PaaS产品的整体运维体系与效能提升
- 负责腾讯云AI推理平台（Maas）的稳定性保障，确保高并发下服务的可用性和性能指标
- 深入GPU、容器和推理引擎底层，进行性能瓶颈分析与深度优化，提升资源效率和产出
- 设计并实施多站点容灾架构，主导故障演练与切换，消除系统性风险
- 通过可观测体系和自动化工具建设，探索AIOps在推理服务运维中的应用
- 扎实的系统运维和SRE功底，精通Linux、网络和故障排查
- 深入的GPU架构、CUDA编程及大规模分布式系统知识
- 熟练掌握容器化技术（K8s/Docker）及至少一种编程语言（Go/Python）
- 熟悉主流AI推理引擎（如vLLM）及其性能优化技术
申请策略
- 面试前，研究腾讯云Maas（模型即服务）的产品定位和技术博客，了解其面临的典型挑战
- 准备一个关于如何定位和解决复杂性能问题或设计高可用方案的深度案例
- 突出处理过大规模在线服务（尤其是GPU相关或AI训练/推理）的SRE或运维经验
- 详细描述使用Go/Python开发过的自动化工具、平台或解决具体运维痛点的项目
- 列举使用过的容器技术（K8s、Docker）和推理引擎（如vLLM）及相关的调优案例
- 系统学习GPU架构、CUDA编程和NCCL通信，了解大模型分布式训练/推理的原理
- 深入学习至少一种主流推理引擎（如vLLM）的源码和架构，理解其性能优化点
- 实践使用Prometheus、Grafana、ELK等工具链构建可观测体系，并尝试编写自动化巡检脚本
面试指南
- 使用STAR法则（情境、任务、行动、结果）清晰描述过往经验
- 阐述思路时，先明确目标与约束，再拆解技术点，最后说明监控与验证方法
- 对于架构设计问题，从高可用、可扩展性、成本、可观测性等多个维度展开
- 请描述一个你处理过的最复杂的线上服务稳定性问题，你是如何定位并解决的？
- 如果让你负责一个高并发AI推理服务的容量规划，你会如何建立量化模型和制定扩容策略？
- 在GPU集群运维中，你遇到过哪些与通信（如NCCL）或显存相关的问题？如何排查？
- 你如何理解Continuous Batching？它对推理服务的性能有什么影响？
- 请设计一个针对MaaS推理服务的多可用区容灾方案，需要考虑哪些关键点？
职位点评
薪资福利75
成长发展85
工作生活60
使命价值80
薪资福利
75中等
作为大型上市科技公司的核心技术岗位，平台稳定，薪资福利体系应较为完善，但JD未提供具体信息。
薪资信号未披露（AI估算：2.8千–5万/月）
成长发展
85较高
岗位要求深入GPU、容器化、分布式系统等前沿技术，技术挑战高，且有探索AIOps的明确方向，技能成长空间显著。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、TensorRT-LLM、K8s、Docker、CUDA、NCCL、RDMA、AI Agent
业务类型profit_center
工作生活
60中等
JD未明确办公模式和WLB情况，但作为SRE岗位，通常需要应对线上故障，工作压力和响应要求可能较高。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
岗位聚焦AI推理基础设施，处于AI赋能各行业的高速增长赛道，参与构建支撑大模型应用的底层服务，具有明确的技术价值感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
腾讯 的其他在招职位
相似职位推荐
Watch Jobs