Xiaohongshu logo
小红书
大模型平台算力运管与调度系统工程师/专家

大模型平台算力运管与调度系统工程师/专家

发布于 2 小时前

普通员工/个人贡献者

AI 估算 · 4.0–8.0万 · AI 参考估算
高级经验
学历未注明
全职员工仅现场办公AI算法
AI算法
Gpu调度
Llmops
Rdma
Volcano
云原生
分布式系统

值不值得投

79综合评分

综合评分 79

顶尖AI基础设施专家岗,技术前沿性极高,薪资丰厚,但工作强度大,适合追求技术深度的硬核工程师

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

6.0万

比AI算法中位数低

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 2490 个在招 · 其中AI算法 16 个

市场机会

选择面较广

北京 · AI算法 · 约 240 个在招

职位详情

关于这个职位

负责小红书万卡级GPU算力平台的运管与调度系统建设,涵盖资源治理、集群调度及LLMOps平台融合

需深入理解大模型训练/推理负载特性,通过潮汐混部、弹性伸缩等策略提升资源效率与集群稳定性,并探索下一代AI调度技术

最低要求

熟悉云原生生态及工具,如 Kubernetes、Kubeflow、Volcano、Kueue 等,有调度系统开发经验优先

熟悉 GPU 集群调度、潮汐资源调度、Quota 管理、故障容错、资源弹性伸缩、高速网络 / 存储等方向中的至少一类
了解大模型训练、后训练、推理、部署等生命周期,理解不同负载对 GPU 资源、网络、存储和调度策略的差异化诉求
熟练掌握 Python、Golang、C++ 或其他编程语言中的一门或多门,具备良好的工程实现能力
具备优秀的逻辑分析能力和系统抽象能力,能够基于真实业务负载进行问题拆解、策略设计和工程落地
有良好的沟通协作能力,能与平台、云原生、算法、业务、IDC、网络和存储团队协同推进复杂项目

工作职责

万卡 GPU 算力运管:建设平台化,自动化,智能化的GPU资源运管平台和GPU全生命周期的追溯和治理能力

万卡 GPU 调度系统建设: 参与大规模 GPU 集群调度系统建设,围绕 Quota、优先级、抢占、弹性伸缩、碎片整理、拓扑感知调度等能力提升资源效率
训推统一调度: 面向大模型训练、后训练、推理服务等不同负载,设计训推统一调度、潮汐混部、在线离线协同和资源弹性策略
资源利用率治理: 建设 GPU 资源利用率分析体系,基于真实负载数据识别低效资源、资源碎片、潮汐空闲和调度瓶颈
LLMOps 平台融合: 参与构建面向大模型训练、微调、推理、部署全流程的 LLMOps 能力,支撑业务千卡预训练和推理服务启动效率和稳定性
集群稳定性建设: 与云原生、IDC、网络、存储和业务团队协作,提升大规模 AI 集群的故障恢复能力、资源周转效率和任务稳定性
前沿技术探索: 持续关注 Kubernetes、Volcano、Kueue、Ray、弹性调度等相关技术,探索下一代 AI 资源调度系统

优先资格

有大模型场景下负载特征分析、GPU 集群调度、资源利用率优化、高性能网络 / 存储等实践经验

有 在线 / 离线混部、潮汐调度、抢占式调度、碎片整理等落地经验
有大规模训练或推理集群端到端优化经验,理解训练和推理负载在调度侧的差异
熟悉 RDMA、IB、RoCE、NCCL 等通信机制,能结合网络拓扑优化调度策略
有 Kubernetes Scheduler、Volcano、Kueue、Ray、YARN、Airflow 等调度系统开发经验

AI 洞察

优缺点分析

优点

  • 需要处理超大规模集群下的复杂调度难题,对系统稳定性要求极高,跨部门协作(IDC、网络、算法)协调成本高
  • 具有深厚云原生功底、对AI底层基础设施有强烈兴趣且具备极强问题解决能力的资深工程师

缺点 / 挑战

  • 接触业界领先的万卡级AI算力集群,技术挑战极大,能积累稀缺的大模型基础设施运维经验

角色解读

  • 可向首席架构师、AI基础设施技术总监方向发展,或在通用云计算、大模型基础设施领域成为顶级专家
  • 负责构建和维护支持万卡级GPU集群的算力运营管理与调度平台,确保大规模AI训练和推理任务的稳定高效运行
  • 精通Kubernetes及其扩展组件(如Volcano/Kueue),掌握Python/Golang/C++编程,深入理解GPU集群调度算法、潮汐混部及高性能网络通信机制

申请策略

  • 准备详细的技术方案阐述,说明如何平衡资源利用率与任务SLA,以及如何解决大规模集群中的碎片化和抖动问题
  • 突出展示大规模集群调度系统的开发经验,特别是涉及GPU资源管理、潮汐调度、故障容错的具体案例和数据成果
  • 深入研究Kubernetes Scheduler插件开发,补充RDMA/RoCE网络知识,了解主流大模型训练框架的资源需求特点

面试指南

  • 使用STAR法则(情境、任务、行动、结果)回答,重点强调遇到的极端场景、采用的技术选型理由、量化带来的性能提升指标
  • 请描述你设计过的最复杂的调度系统,如何解决资源碎片化问题?
  • 在大模型训练场景下,如何设计在线与离线任务的混部策略以最大化资源利用率?
  • 面对GPU节点故障,你的调度系统如何实现快速感知和任务迁移?
  • 如何评估和优化大规模集群的网络带宽对训练性能的影响?
  • 复习Kubernetes源码中Scheduler部分的逻辑,准备关于Volcano/Kueue在实际生产环境中遇到的问题及解决方案的案例

职位点评

薪资福利90
成长发展95
工作生活40
使命价值75

薪资福利

90较高

作为C轮后超大型互联网公司的核心基础设施专家岗,薪资极具竞争力,通常包含高额股票期权和年终奖,福利体系完善。

薪资信号未披露(AI估算:4.0千–8.0万/月)

成长发展

95较高

处于AI基础设施最前沿,涉及万卡集群调度和LLMOps,技术栈极度前沿,个人成长空间巨大,职业壁垒高。

技术前沿前沿/新兴技术
技术栈Kubernetes、GPU调度、LLMOps、Volcano、Kueue、Ray、RDMA、Python、Golang、C++
业务类型cost_center

工作生活

40较低

互联网大厂核心研发岗,工作强度通常较大,虽未明确提及加班,但保障万卡集群稳定运行的责任重大,WLB压力较高。

工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词

使命价值

75中等

支撑大模型业务发展,推动AI技术落地,具有较高的行业影响力和技术使命感,但属于内部支撑角色,社会直接影响力间接。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs