腾讯
腾讯云-MaaS平台推理研发高级工程师(北/杭/深)
腾讯云-MaaS平台推理研发高级工程师(北/杭/深)
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Api设计
Token管理
分布式系统
后端开发
多模态Ai
大模型推理
微服务架构
高并发处理
值不值得投
78综合评分
综合评分 78
前沿AI技术栈、高薪大厂平台、技术成长迅速，但工作强度较大。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.0万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2180 个在招 · 其中后端开发 59 个
市场机会
选择面较广
深圳 · 后端开发 · 约 140 个在招
职位详情
关于这个职位
该职位专注于腾讯云MaaS平台的核心推理引擎研发，负责构建多模态AI模型接入、调度与服务化能力
你将主导大模型API的流式响应优化、Token管理与智能路由设计，持续提升平台的高并发处理能力、端到端延迟及整体稳定性
最低要求
本科及以上学历，计算机、软件工程或相关专业优先
熟悉分布式系统及常见后端技术，理解高并发、异步任务、缓存、消息队列和数据库设计，重视数据一致性、幂等性与异常恢复，能够根据业务特点选择合理的实现方案
理解大模型推理服务的工程特点，熟悉模型 API 接入、流式响应、Token 与上下文管理，了解工具调用等机制，能够处理不同模型及供应商的接口与能力差异
具备较强的系统设计和抽象能力，能够将具体业务需求转化为边界清晰、可扩展、可维护的平台模块，避免重复建设和过度设计
具有较强的主动性、责任心和跨团队协作能力
工作职责
负责推理、评测、训练等平台业务的设计、开发和维护，完善任务编排、状态管理、结果管理及服务衔接能力，提升平台的稳定性、可扩展性和业务迭代效率
建设 Token Plan、模型单元等平台业务，完善套餐权益、配额管理、服务配置及生命周期管理能力，提升推理服务的产品化能力与业务交付效率
建设智能路由、Harness等平台能力，完善模型选择、任务编排、工具调用和执行反馈机制，平衡模型效果、响应时延、可用性与调用成本
负责图像、音频、视频等多模态推理能力的接入与服务化，支持多模态输入输出、实时流式交互和异步任务，优化端到端延迟、可靠性与使用体验
建设Chat/Response/Message三类推理协议的统一接入与兼容适配能力，完善请求响应转换、流式事件处理、工具调用适配及兼容性测试，降低模型与供应商接入成本
建设内容审核、计量计费、限流、Tokenizer、Embedding 等通用能力，完善统一服务接口与调用链路，保障内容安全、用量计费准确性及多租户服务稳定性，沉淀可复用的平台组件
AI 洞察
优缺点分析
优点
- 接触行业最前沿的大模型推理与MaaS平台技术
- 平台级项目经验对职业生涯含金量极高
- 大模型推理领域技术迭代极快，需持续跟进最新论文与工程实践
- 高并发与低延迟优化难度大，系统稳定性要求极高
- 跨部门协同复杂，需平衡多方需求
- 适合热衷于AI底层技术研发、具备扎实后端功底且追求技术深度的工程师
缺点 / 挑战
- 依托腾讯云庞大生态，业务场景丰富且技术挑战性强
角色解读
- 可向AI基础设施架构师或技术专家方向发展
- 积累大模型底层优化经验后，可转型至核心算法工程或云原生AI平台负责人角色
- 负责腾讯云MaaS平台的核心推理引擎开发与架构设计
- 搭建多模态AI模型的接入、调度与服务化能力
- 优化大模型API的响应延迟、并发处理与成本控制
- 精通分布式系统与高并发后端架构设计
- 深入理解大模型推理机制（Token管理、流式响应、工具调用）
- 掌握多模态数据处理与微服务治理技术
- 具备优秀的系统抽象与跨团队协作能力
申请策略
- 提前研究腾讯云MaaS平台现有产品形态
- 准备针对大模型推理瓶颈（如首字延迟TTFT、吞吐量）的技术解决方案案例
- 突出分布式系统设计经验与大模型/AI相关项目落地成果
- 详细阐述高并发场景下的性能优化指标与架构演进思路
- 补充LangChain/LlamaIndex等大模型应用框架源码阅读
- 强化GPU集群调度与模型量化部署相关知识
面试指南
- 采用STAR法则描述过往高并发系统架构设计
- 结合具体业务场景说明技术选型权衡过程
- 展示对大模型推理链路全链路的性能监控与调优思路
- 如何设计一个支持千万级QPS的大模型推理网关？
- 如何处理多模态输入的流式传输与状态同步？
- 在模型切换与路由策略中如何平衡成本与效果？
- 复习分布式一致性协议与消息队列底层原理
- 梳理大模型推理服务的关键技术指标（TTFT、TPOT、Throughput）
职位点评
薪资福利85
成长发展90
工作生活50
使命价值75
薪资福利
85较高
腾讯大厂背景提供具有竞争力的薪酬福利，符合市场高水平标准。
薪资信号偏高 (3.5千–6.5万/月)
成长发展
90较高
聚焦大模型推理与MaaS平台前沿技术，技术成长空间广阔。
技术前沿前沿/新兴技术
技术栈大模型推理、分布式系统、多模态、Token管理、流式响应
业务类型profit_center
工作生活
50较低
互联网大厂节奏较快，虽未明确加班文化，但高强度研发环境属常态。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
推动AI基础设施商业化落地，赋能企业智能化转型，具备显著的行业价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs