快手
大模型MaaS平台系统工程师
大模型MaaS平台系统工程师
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公平台工程
平台工程
Go
Maas
Vllm
分布式系统
大模型
微服务
高并发
值不值得投
78综合评分
综合评分 78
前沿大模型MaaS平台核心研发岗，技术成长空间极大，薪资竞争力强，但WLB未明确且稳定性保障压力较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
5万
比平台工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2600 个在招 · 其中平台工程 5 个
市场机会
选择适中
北京 · 平台工程 · 44 个在招
职位详情
关于这个职位
该职位负责快手大模型MaaS平台的核心后端能力建设，涵盖推理服务稳定性、流量调度、模型部署与资源优化等关键模块
你需要与算法和基础架构团队紧密协作，打造高可用、高并发的大模型推理基础设施，推动大模型能力的标准化与规模化落地
最低要求
本科及以上学历，计算机、软件工程、人工智能等相关专业
具备扎实的计算机基础，熟悉操作系统、网络、分布式系统、数据结构与算法
熟悉 Java / Go / Python / C++ 至少一种后端开发语言，具备良好的工程实践能力和代码质量意识
熟悉微服务架构，具备高并发、高可用系统设计经验，理解限流、熔断、降级、重试、超时控制、负载均衡等稳定性治理手段
熟悉 Kubernetes、容器化、服务编排、服务发现、弹性伸缩、资源调度等云原生技术
熟悉监控告警、日志分析、链路追踪等可观测体系，有线上问题排查和稳定性治理经验
具备良好的系统抽象能力和问题拆解能力，能够在复杂业务和技术约束下设计可落地、可演进的平台方案
具备良好的沟通协作能力，能够与算法、业务、基础架构等多角色团队高效协作
工作职责
负责大模型 MaaS 平台核心后端能力建设，支撑公司内外部大模型推理、部署、调用与运维场景
负责大模型推理服务的稳定性体系建设，包括高可用架构、限流降级、熔断容灾、故障自愈、容量治理、SLA 保障等
负责大模型推理流量调度能力建设，包括多模型、多集群、多地域、多租户场景下的流量路由、负载均衡、灰度发布、弹性调度与成本优化
负责模型服务编排与部署系统建设，支持模型实例生命周期管理、自动化部署、版本管理、滚动升级、弹性伸缩、资源隔离与异构资源调度
深入优化推理链路的性能与资源利用率，包括请求排队、批处理、缓存、并发控制、GPU/CPU 资源利用、延迟与吞吐优化等
建设平台可观测能力，包括指标、日志、链路追踪、告警、故障诊断工具和稳定性运营看板，提升问题发现、定位和恢复效率
与算法、基础架构、业务团队协作，抽象通用平台能力，推动大模型能力标准化、产品化和规模化落地
参与平台架构设计与技术演进，保障系统在高并发、高可用、多租户和复杂业务场景下的稳定运行
优先资格
有大模型推理平台、MaaS 平台、AI Infra、模型部署平台、在线推理服务相关经验
熟悉 vLLM、Triton Inference Server、TensorRT-LLM、Ray Serve、KServe、Seldon、TorchServe 等推理或模型服务框架
熟悉大模型推理优化技术，如动态 batching、KV Cache、Prefix Cache、Speculative Decoding、PagedAttention、多卡并行、量化等
有 GPU 集群调度、异构资源管理、弹性伸缩、成本优化相关经验
有多租户平台、企业级 PaaS / SaaS 平台、API Gateway、服务网格或流量治理系统建设经验
有大规模在线系统稳定性建设经验，参与过核心链路 SLA 保障、故障治理、容量规划或应急体系建设
对大模型工程化落地有深入理解，关注模型服务性能、稳定性、成本和体验之间的平衡
AI 洞察
优缺点分析
优点
- 处于大模型与AI Infra的风口，技术栈前沿，能积累极具竞争力的MaaS平台工程经验
- 技术氛围好，能与顶尖的算法和基础架构团队紧密协作，拓宽技术视野
- 大模型推理优化和GPU资源调度技术门槛高，需要持续学习前沿的AI Infra技术
- 适合具备扎实后端与分布式系统基础，对大模型底层基础设施和AI Infra有浓厚兴趣，且抗压能力强的技术人才
缺点 / 挑战
- 依托海量业务场景，能接触到超大规模、高并发的真实大模型推理与调度挑战
- 系统稳定性要求极高，可能面临较大的线上故障排查和SLA保障压力
角色解读
- 纵向可发展为资深平台架构师或技术专家，主导更大规模的AI Infra基础设施建设
- 横向可向AI产品化、大模型商业化落地或技术管理方向发展，成为懂算法与工程的复合型人才
- 负责大模型MaaS平台的核心后端研发，构建支撑大模型推理、部署和调用的底层基础设施
- 设计并实现高可用、高并发的推理服务架构，负责流量调度、弹性伸缩及资源优化
- 建设平台的可观测性体系，保障系统稳定性，并与算法和基础架构团队协作推动大模型能力落地
- 扎实的计算机基础与后端开发能力，精通Java/Go/Python/C++至少一种语言
- 深入理解微服务架构、分布式系统，具备高并发、高可用系统的设计与稳定性治理经验
- 熟悉Kubernetes等云原生技术，了解大模型推理优化及GPU资源调度
申请策略
- 了解快手在大模型领域的业务布局（如可灵大模型等），在面试中结合公司业务场景思考平台架构设计
- 突出在高并发、高可用分布式系统或微服务架构方面的实际项目经验与性能优化成果
- 强调Kubernetes、云原生技术栈的使用经验，以及线上问题排查和稳定性治理的实战案例
- 若有大模型推理平台、AI Infra或GPU调度相关经验，务必在简历中重点展示
- 提前了解vLLM、Triton等主流大模型推理框架，以及KV Cache、PagedAttention等推理优化技术
- 复习并深化对分布式系统、服务网格、流量治理及可观测性体系的理解
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述项目经验，重点突出你在复杂约束下的技术选型和权衡过程
- 对于架构设计问题，从需求分析、核心模块设计、高可用/扩展性保障、监控与容灾等维度结构化回答
- 请描述一个你主导设计的高并发、高可用系统架构，你是如何保障其稳定性的？
- 在大模型推理场景下，如何优化GPU资源利用率和降低推理延迟？
- 如果线上大模型推理服务出现偶发性延迟飙升，你的排查思路是什么？
- 在多租户、多集群场景下，如何设计流量路由和弹性调度策略？
- 准备1-2个自己主导的复杂系统架构设计案例，能够深入讲解其中的技术难点和解决方案
- 熟悉大模型推理的基础原理及主流优化技术，了解快手大模型相关的业务场景和产品
职位点评
薪资福利85
成长发展90
工作生活50
使命价值80
薪资福利
85较高
作为大模型核心研发岗，薪资处于市场较高水平，能较好地满足补偿性动机。
薪资信号未披露（AI估算：3.5千–6.5万/月）
成长发展
90较高
岗位涉及大模型MaaS平台核心能力建设，技术栈前沿，能极大满足技术成长与前沿技术探索的发展性动机。
技术前沿前沿/新兴技术
技术栈大模型、MaaS、Kubernetes、vLLM、Triton、TensorRT-LLM、Ray Serve、KV Cache、PagedAttention
业务类型ambiguous
工作生活
50较低
JD未明确提及工作模式与WLB相关信息，且大模型核心研发岗通常面临较高的稳定性保障压力，生活化动机满足程度有限。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
大模型属于当前科技领域的高速增长赛道，岗位推动大模型能力规模化落地，具有较高的行业前景与技术使命感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs