腾讯
TIONE-高级后台研发工程师-上海/杭州/深圳/北京
TIONE-高级后台研发工程师-上海/杭州/深圳/北京
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Go
Gpu集群
Grpc
Sglang
Vllm
分布式系统
高并发
值不值得投
78综合评分
综合评分 78
技术前沿、薪资有竞争力、AI推理方向、WLB未知
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.5万
比后端开发中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2010 个在招 · 其中后端开发 33 个
市场机会
选择面较广
上海 · 后端开发 · 约 220 个在招
职位详情
关于这个职位
负责腾讯云AI平台大模型推理服务的平台化建设，包括模型接入、服务编排、弹性扩缩容和稳定性保障
需要具备Go/Python开发、容器技术和分布式系统经验，以优化推理性能和降低成本
最低要求
大学本科及以上学历，计算机相关专业，3 年以上后台研发经验
熟悉 Linux 操作系统，熟练掌握 Go、Python 等开发语言
熟练掌握容器与云原生技术栈（Docker / Kubernetes ），具备 GPU 集群上服务编排与资源调度的实践经验
熟悉高并发、高可用分布式系统的设计与运营，掌握限流、熔断、优雅上下线等服务治理手段
熟悉 HTTP、gRPC、SSE 等协议，具备流式长连接场景下的问题定位能力
具备良好的沟通表达能力及团队协作精神，有较强的主动性、责任心与执行力，能独立承担任务并具备系统进度把控能力
工作职责
负责腾讯云 AI 平台大模型推理服务的平台化建设：模型接入与版本管理、服务编排与一键部署、弹性扩缩容、流量调度与多租户隔离、灰度发布与容灾切换
负责主流推理引擎的服务化部署与调优：完成引擎封装与参数调优（并行策略、批处理调度、KV Cache 与前缀缓存、量化模型加载等），持续优化 TTFT、TPOT、吞吐与单位 token 成本
负责推理链路的稳定性与可观测性：指标采集与看板建设、容量评估与压测、SLO 保障、故障定位与根因分析
参与异构算力部署适配（NVIDIA / AMD / 国产加速卡）及新技术落地（长上下文、多模态推理、PD 分离、多级缓存等），持续提升业务指标
优先资格
加分项：了解 vLLM、SGLang 等推理引擎的核心机制（连续批处理、PagedAttention、前缀缓存、TP/PP 并行、PD 分离等），有部署、调优或性能定位经验
AI 洞察
优缺点分析
优点
- 技术前沿，深入AI推理和云计算领域，技能积累价值高
- 大公司平台，资源丰富，有机会参与大规模系统建设
- 团队协作环境，代码资产共享，架构思维得到锻炼
- 适合有扎实后台开发经验、对AI和云计算有热情、追求技术深度的工程师
缺点 / 挑战
- 技术难度较高，需要持续学习新引擎和优化技术
- 工作节奏可能较快，需应对高并发和稳定性挑战
角色解读
- 从高级工程师成长为技术专家或架构师，专注于AI基础设施领域
- 可向技术管理方向发展，负责团队或项目的技术规划
- 负责构建和优化腾讯云AI平台的大模型推理服务，确保高效、稳定运行
- 设计并实现容器化部署方案，管理GPU集群资源，提升推理性能
- 参与异构算力适配和新技术落地，推动AI推理技术的创新应用
- 精通Go或Python编程，具备3年以上后台开发经验
- 熟练使用Docker和Kubernetes进行容器编排和云原生部署
- 熟悉分布式系统设计和高并发场景下的服务治理
申请策略
- 提前研究腾讯云AI平台和大模型推理业务，了解其技术方向
- 准备系统设计案例，展示高并发、高可用系统的实践
- 突出Go/Python项目经验，特别是分布式系统或云原生相关
- 展示容器技术（Docker/Kubernetes）的实际应用案例
- 强调性能优化或GPU集群管理经验，如有
- 学习vLLM、SGLang等推理引擎的原理和调优方法
- 深入了解GPU算力调度和异构计算适配技术
面试指南
- 使用STAR法则（情境、任务、行动、结果）回答案例问题
- 从架构设计、技术选型、优化策略等方面结构化回答系统设计问题
- 如何设计一个高可用的AI推理服务平台？
- 在GPU集群上如何进行资源调度和优化？
- 遇到推理性能瓶颈时，你会如何排查和解决？
- 描述一个你参与过的分布式系统故障定位案例
- 复习分布式系统、容器编排和AI推理相关技术知识
- 准备具体项目案例，量化说明技术成果和挑战
职位点评
薪资福利85
成长发展90
工作生活50
使命价值75
薪资福利
85较高
该职位提供市场有竞争力的薪资和稳定的工作环境，但具体福利未在JD中提及。
薪资信号未披露（AI估算：2.5千–4.5万/月）
成长发展
90较高
职位涉及前沿AI推理技术，提供技能深度成长和新技术落地机会。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、Kubernetes、GPU集群
业务类型profit_center
工作生活
50较低
JD未明确工作模式和WLB信息，无法判断办公灵活性和工作强度。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
AI和云计算是高速增长领域，推动技术进步，但社会影响力一般。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs