腾讯
TIONE-AI智能网关高级后台研发工程师-上海/杭州/深圳/北京
TIONE-AI智能网关高级后台研发工程师-上海/杭州/深圳/北京
发布于 1 天前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Api网关
Gpu优化
Maas
大模型推理
微服务
值不值得投
73综合评分
综合评分 73
AI基础设施核心岗位，技术成长空间极大，平台与挑战并存，但工作生活平衡需自行评估。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
4万
比后端开发中位数高
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 2030 个在招 · 其中后端开发 39 个
市场机会
选择面较广
上海 · 后端开发 · 约 220 个在招
职位详情
关于这个职位
负责腾讯云AI推理平台（TIONE）核心架构研发，打造高吞吐、低延时的模型推理服务，并设计开发AI智能调度系统与API网关
你需要保障大规模AI服务的高可用、高稳定和高性能，并协同多团队推动混元等大模型的快速上线与优化
最低要求
本科及以上学历，计算机、软件工程、人工智能等相关专业，3年及以上云原生/AI工程化研发经验
精通至少一种主流语言（Golang/Java/Python），具备扎实的数据结构、算法、操作系统、网络基础，有高并发分布式系统实践优先
熟悉云原生技术栈：K8s、Docker、微服务、RPC/HTTP、消息队列、数据库、缓存，有云厂商或中间件研发经验优先
了解大模型全流程：训练、微调、RAG、推理引擎、量化、蒸馏、向量数据库等，有MaaS/LLM Inference服务开发经验优先
熟悉AI Infra：GPU使用与优化、异构算力纳管、分布式任务调度、性能压测与调优，有大规模模型服务上线运维经验优先
具备良好的系统设计、问题定位与跨团队协作能力，能独立负责复杂模块/系统，执行力强
对AGI与MaaS有强烈热情，学习能力强，关注混元、DeepSeek等主流模型及行业竞品，愿意长期深耕AI工程化领域
有AI安全合规、内容审核、企业级私有化交付、金融/政务等高安全要求场景经验者优先
工作职责
负责腾讯云TIONE推理平台核心架构研发，打造高吞吐、低延时的模型推理服务，涉及模型部署，框架集成，推理调用等全生命周期优化
负责MaaS产品AI智能调度系统与API网关设计开发，包括请求路由，智能调度，模型框架优化及其他相关模块开发，保障系统高可用、高稳定、高性能，并最大化算力利用效率
协同算法、产品、算力、安全团队，完成模型适配、性能优化、工程化封装、合规加固，推动混元及第三方模型快速上线与稳定服务
跟踪业界大模型工程化、云原生、分布式系统技术趋势，持续优化架构，提升研发效率与产品竞争力
优先资格
有云厂商或中间件研发经验优先
有MaaS/LLM Inference服务开发经验优先
有大规模模型服务上线运维经验优先
有AI安全合规、内容审核、企业级私有化交付、金融/政务等高安全要求场景经验者优先
AI 洞察
优缺点分析
优点
- 处于AI基础设施的核心赛道，技术前沿，能深度参与大模型工程化的全流程，技术积累价值高
- 依托腾讯云平台，处理的是大规模、高并发的真实业务场景，对系统设计能力的锤炼极佳
- 技术复杂度高，需要同时兼顾性能、稳定性与架构优雅性，对个人技术深度和广度要求严苛
- 涉及多团队协同（算法、产品、算力、安全），跨团队沟通和推动能力至关重要
- 适合对云原生、分布式系统有热情，并希望深入AI工程化领域解决大规模复杂系统问题的资深后端工程师
缺点 / 挑战
- 公司平台大，资源丰富，能接触到业界顶尖的技术挑战和优秀的协作团队
- AI技术迭代迅速，需要持续投入精力跟踪前沿并应用于实践，学习压力较大
角色解读
- 技术专家路线：深入AI Infra或分布式系统领域，成为特定方向的技术权威，负责架构规划与核心技术攻坚
- 技术管理路线：带领小团队负责某个子系统或模块，逐步承担更多团队管理与技术规划职责
- 负责AI模型推理服务的核心架构设计与开发，确保服务在高并发场景下的高性能与稳定性
- 设计和构建AI智能调度系统与API网关，实现请求的智能路由与算力资源的最优分配
- 深度参与大模型从训练到部署的全生命周期工程化工作，推动模型快速上线与迭代优化
- 扎实的编程能力与计算机基础，精通Golang/Java/Python至少一门语言及并发编程
- 深入的云原生技术栈知识，熟练掌握Kubernetes、Docker及微服务架构设计与实践
- 对大模型技术栈（如推理引擎、量化、向量数据库）有清晰认知，并有AI Infra（GPU优化、分布式调度）相关经验
- 优秀的系统设计能力与工程化思维，能够解决复杂的性能与稳定性问题
申请策略
- 研究腾讯云TIONE产品及其竞品（如其他云厂商的AI平台），理解其架构特点与业务价值
- 在面试中展现你对AI工程化领域（如MaaS、推理优化）的热情与思考，而不仅仅是执行开发任务
- 重点突出与云原生（K8s, 微服务）和高并发分布式系统相关的项目经验与成果
- 详细描述参与过的大模型服务、GPU集群管理、性能调优或API网关开发等具体案例
- 强调在跨团队协作中推动技术方案落地或解决关键问题的经历
- 系统复习和深化云原生技术栈（特别是Kubernetes网络与调度）以及Golang/Java的并发编程模型
- 通过实际项目或开源贡献，补充AI Infra相关知识，如GPU虚拟化、异构计算框架（如CUDA基础）、模型推理性能分析工具
- 了解主流大模型（如混元、DeepSeek）的技术特点及其在工程化部署中的挑战
面试指南
- 对于系统设计题，采用分层思路：先明确核心功能和非功能需求（如QPS、SLA），再设计模块（如路由、鉴权、负载均衡、监控），最后讨论扩展性和容错方案
- 对于性能优化题，从全链路角度分析：客户端SDK、网络传输、服务端负载均衡、应用逻辑、RPC框架、底层依赖（数据库/缓存）以及硬件资源（CPU/GPU）等
- 对于项目经验题，使用STAR法则：清晰阐述背景、任务、具体行动（技术选型、攻关过程）和量化结果
- 请设计一个支持多模型、高并发的API网关，需要考虑哪些关键组件和设计要点？
- 如何优化一个大模型推理服务的延迟和吞吐量？可以从哪些层面入手？
- 在设计一个AI智能调度系统时，如何根据任务类型、资源利用率和延迟要求进行资源分配？
- 请描述一个你主导的、涉及复杂性能调优或架构重构的项目，遇到了哪些困难，如何解决的？
- 梳理自己过去项目中的系统设计文档、架构图和性能优化报告，准备好清晰的讲述线索
职位点评
薪资福利75
成长发展90
工作生活50
使命价值70
薪资福利
75中等
该职位未披露具体薪资与福利明细，但作为大型科技公司的高级技术岗位，通常提供具有市场竞争力的薪酬包。
薪资信号未披露（AI估算：3千–5万/月）
成长发展
90较高
该职位处于AI工程化与云原生技术的前沿，涉及高难度系统架构与性能优化，能提供极佳的技术深度与广度成长空间。
技术前沿前沿/新兴技术
技术栈Kubernetes、Docker、微服务、Golang、Java、GPU优化、LLM Inference、MaaS
成长机会跟踪业界技术趋势、持续优化架构、提升研发效率与产品竞争力、愿意长期深耕AI工程化领域
业务类型profit_center
工作生活
50较低
工作地点明确为一线/新一线城市，但JD未提及任何办公模式（如远程、弹性）或工作生活平衡相关信息。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
参与构建AI基础服务平台，推动大模型落地应用，具有较强的技术驱动力和一定的行业影响力，但对直接的社会价值未做强调。
行业发展高速增长赛道
社会影响中性/一般
使命信号生态共创者、帮助更多协作团队拓展新的思考
创新程度积极采用新技术
Watch Jobs