腾讯
TIONE-高级AI Infra后台研发工程师-K8S云原生方向-上海/杭州/深圳/北京
TIONE-高级AI Infra后台研发工程师-K8S云原生方向-上海/杭州/深圳/北京
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Go语言
Operator开发
云原生架构
分布式系统
大模型基础设施
高性能网络(Rdma)
值不值得投
79综合评分
综合评分 79
前沿AI Infra技术栈、高薪潜力大、侧重底层架构与海外基建，WLB一般但成长极快
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6.3万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2180 个在招 · 其中后端开发 59 个
市场机会
选择面较广
上海 · 后端开发 · 约 310 个在招
职位详情
关于这个职位
该职位主要负责基于Kubernetes构建大模型推理云原生平台，主导GPU/NPU资源调度与核心插件开发，支撑混元等大模型高效稳定上线
同时参与海外机房建设与硬件验收，保障高弹性、多租户的AI基础设施架构设计与持续迭代
最低要求
本科及以上学历，计算机、软件工程、电子信息等相关专业
精通Go语言（核心），熟悉C++/Python
具备大型分布式系统与高并发、高可用服务设计与编码能力
具备海外视角，可以外派海外如欧美、东南亚等支持IDC建设及GPU验收等
深入理解Kubernetes核心机制，包括但不限于：Scheduler Framework、CRD/Operator（controller-runtime）、Admission/Webhook、Device Plugin，以及CSI/CNI插件原理与开发
熟悉GPU/NPU资源管理（设备插件、共享/虚拟化、拓扑调度）与高性能网络（RDMA/RoCE、CNI定制）
熟悉x86服务器硬件体系与GPU服务器（HGX系列/A100、H800、L20等）架构：拓扑、供电、散热、PCIe/NVLink互联、BMC/BIOS
熟悉数据中心网络：VLAN/BGP、Bonding、RDMA/RoCE无损网络原理与调优，有专线开通或验收经验
工作职责
负责基于 Kubernetes 的大模型推理云原生平台建设，主导推理场景下的 K8s 调度、资源管理与核心插件 （Operator / CSI / CNI / 设备插件）研发，构建高弹性、多租户、异构算力统一调度的大模型推理服务平台， 支撑混元及第三方模型高效、稳定上线
负责海外机房建设进展跟综及GPU、网络等相关验收
云原生推理平台架构：基于 K8s 主导 TIONE 推理平台控制面与数据面架构设计，构建高弹性、多租户的大模型推理服务，覆盖模型部署、弹性伸缩与推理调用全生命周期
K8s 调度与资源管理：深度定制 K8s 调度器（Scheduler Framework / 调度插件），实现 GPU / NPU 拓扑感知调度、优先级抢占、配额与算力池化
Operator 与 CRD 开发：设计推理平台核心 CRD（Model / InferenceService / Deployment 等）与 Controller，基于 controller-runtime 实现生命周期管理、状态协调与故障自愈
设备插件 / CSI / CNI：开发 GPU / NPU 设备插件（Device Plugin）完成异构算力发现与分配
落地 CSI 存储插件支撑模型与 Checkpoint 高效挂载
集成并定制 CNI（RDMA / RoCE 高性能网络）保障推理 Pod 网络与跨节点通信
AI 洞察
优缺点分析
优点
- 聚焦前沿AI Infra赛道，技术栈深厚且直接支撑大模型核心业务
- 依托大厂平台接触海量真实算力与复杂工程场景
- 具备海外出差机会，拓宽国际视野
- 技术门槛极高，需兼顾底层内核优化与上层业务稳定性
- 异构算力调度调试周期长、容错率低
- 具备扎实K8s源码功底、对AI算力调度有浓厚兴趣，且能接受一定工作强度与出差安排的资深技术开发者
缺点 / 挑战
- 可能面临高强度交付压力与频繁海外出差安排
角色解读
- 向AI基础设施架构师或首席技术专家发展
- 可横向拓展至全球数据中心规划、云原生生态治理及异构算力标准化方向
- 负责K8s大模型推理平台架构设计与核心组件开发，保障高弹性与多租户隔离
- 深度定制调度器实现GPU/NPU异构算力的高效分配与抢占
- 搭建海外IDC基础设施并完成硬件与网络验收
- 精通Go语言与K8s底层机制（Scheduler/Operator/CRD/Admission）
- 掌握GPU/NPU资源管理与高性能网络(RDMA)调优
- 具备大型分布式系统架构设计与高可用编码能力
申请策略
- 提前了解腾讯混元大模型及TIONE平台背景，面试时重点展示底层原理剖析、性能瓶颈定位与系统性解决思路
- 突出K8s二次开发实战经验、GPU调度优化案例及分布式高可用系统设计成果，量化性能提升指标
- 强调海外项目或跨地域协同经验
- 深入研读K8s Scheduler Framework与Controller Runtime源码
- 补充RDMA网络调优、GPU虚拟化与BMC/BIOS底层知识
面试指南
- 采用STAR法则阐述项目背景、技术选型、难点突破与量化结果
- 结合源码级理解解释底层机制交互与边界条件处理
- 提供对比实验数据证明方案有效性
- 请详细描述你定制K8s调度器的具体场景、扩展点选择与实现方案
- 如何设计多租户GPU算力隔离、优先级抢占与配额管理机制？
- 面对RDMA网络拥塞或丢包，你会如何进行链路诊断与参数调优？
- 在大规模集群中，如何保证Operator的状态协调与故障自愈可靠性？
- 复习K8s核心组件交互流程与扩展点机制
职位点评
薪资福利85
成长发展90
工作生活55
使命价值75
薪资福利
85较高
薪资水平对标一线大厂资深技术岗，整体薪酬竞争力强，福利体系完善，补偿性动机满足度较高。
薪资信号偏高 (4.5千–8.0万/月)
成长发展
90较高
深度参与大模型推理平台核心架构与海外基建，技术前沿性强且成长空间广阔，职业发展路径清晰。
技术前沿前沿/新兴技术
技术栈Kubernetes、Go、GPU/NPU调度、Operator、RDMA、云原生
业务类型profit_center
工作生活
55较低
技术攻坚性质明显，可能伴随高强度开发与海外出差安排，工作生活平衡一般。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
致力于构建高效稳定的AI基础设施，推动大模型商业化落地，具备较强的行业价值与技术使命感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs