
小红书
大模型平台算力运管与调度系统工程师/专家
大模型平台算力运管与调度系统工程师/专家
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Gpu调度
Llmops
Rdma
Volcano
云原生
分布式系统
值不值得投
79综合评分
综合评分 79
顶尖AI基础设施专家岗,技术前沿性极高,薪资丰厚,但工作强度大,适合追求技术深度的硬核工程师
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
6.0万
比AI算法中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2490 个在招 · 其中AI算法 16 个
市场机会
选择面较广
北京 · AI算法 · 约 240 个在招
职位详情
关于这个职位
负责小红书万卡级GPU算力平台的运管与调度系统建设,涵盖资源治理、集群调度及LLMOps平台融合
需深入理解大模型训练/推理负载特性,通过潮汐混部、弹性伸缩等策略提升资源效率与集群稳定性,并探索下一代AI调度技术
最低要求
熟悉云原生生态及工具,如 Kubernetes、Kubeflow、Volcano、Kueue 等,有调度系统开发经验优先
熟悉 GPU 集群调度、潮汐资源调度、Quota 管理、故障容错、资源弹性伸缩、高速网络 / 存储等方向中的至少一类
了解大模型训练、后训练、推理、部署等生命周期,理解不同负载对 GPU 资源、网络、存储和调度策略的差异化诉求
熟练掌握 Python、Golang、C++ 或其他编程语言中的一门或多门,具备良好的工程实现能力
具备优秀的逻辑分析能力和系统抽象能力,能够基于真实业务负载进行问题拆解、策略设计和工程落地
有良好的沟通协作能力,能与平台、云原生、算法、业务、IDC、网络和存储团队协同推进复杂项目
工作职责
万卡 GPU 算力运管:建设平台化,自动化,智能化的GPU资源运管平台和GPU全生命周期的追溯和治理能力
万卡 GPU 调度系统建设: 参与大规模 GPU 集群调度系统建设,围绕 Quota、优先级、抢占、弹性伸缩、碎片整理、拓扑感知调度等能力提升资源效率
训推统一调度: 面向大模型训练、后训练、推理服务等不同负载,设计训推统一调度、潮汐混部、在线离线协同和资源弹性策略
资源利用率治理: 建设 GPU 资源利用率分析体系,基于真实负载数据识别低效资源、资源碎片、潮汐空闲和调度瓶颈
LLMOps 平台融合: 参与构建面向大模型训练、微调、推理、部署全流程的 LLMOps 能力,支撑业务千卡预训练和推理服务启动效率和稳定性
集群稳定性建设: 与云原生、IDC、网络、存储和业务团队协作,提升大规模 AI 集群的故障恢复能力、资源周转效率和任务稳定性
前沿技术探索: 持续关注 Kubernetes、Volcano、Kueue、Ray、弹性调度等相关技术,探索下一代 AI 资源调度系统
优先资格
有大模型场景下负载特征分析、GPU 集群调度、资源利用率优化、高性能网络 / 存储等实践经验
有 在线 / 离线混部、潮汐调度、抢占式调度、碎片整理等落地经验
有大规模训练或推理集群端到端优化经验,理解训练和推理负载在调度侧的差异
熟悉 RDMA、IB、RoCE、NCCL 等通信机制,能结合网络拓扑优化调度策略
有 Kubernetes Scheduler、Volcano、Kueue、Ray、YARN、Airflow 等调度系统开发经验
AI 洞察
优缺点分析
优点
- 需要处理超大规模集群下的复杂调度难题,对系统稳定性要求极高,跨部门协作(IDC、网络、算法)协调成本高
- 具有深厚云原生功底、对AI底层基础设施有强烈兴趣且具备极强问题解决能力的资深工程师
缺点 / 挑战
- 接触业界领先的万卡级AI算力集群,技术挑战极大,能积累稀缺的大模型基础设施运维经验
角色解读
- 可向首席架构师、AI基础设施技术总监方向发展,或在通用云计算、大模型基础设施领域成为顶级专家
- 负责构建和维护支持万卡级GPU集群的算力运营管理与调度平台,确保大规模AI训练和推理任务的稳定高效运行
- 精通Kubernetes及其扩展组件(如Volcano/Kueue),掌握Python/Golang/C++编程,深入理解GPU集群调度算法、潮汐混部及高性能网络通信机制
申请策略
- 准备详细的技术方案阐述,说明如何平衡资源利用率与任务SLA,以及如何解决大规模集群中的碎片化和抖动问题
- 突出展示大规模集群调度系统的开发经验,特别是涉及GPU资源管理、潮汐调度、故障容错的具体案例和数据成果
- 深入研究Kubernetes Scheduler插件开发,补充RDMA/RoCE网络知识,了解主流大模型训练框架的资源需求特点
面试指南
- 使用STAR法则(情境、任务、行动、结果)回答,重点强调遇到的极端场景、采用的技术选型理由、量化带来的性能提升指标
- 请描述你设计过的最复杂的调度系统,如何解决资源碎片化问题?
- 在大模型训练场景下,如何设计在线与离线任务的混部策略以最大化资源利用率?
- 面对GPU节点故障,你的调度系统如何实现快速感知和任务迁移?
- 如何评估和优化大规模集群的网络带宽对训练性能的影响?
- 复习Kubernetes源码中Scheduler部分的逻辑,准备关于Volcano/Kueue在实际生产环境中遇到的问题及解决方案的案例
职位点评
薪资福利90
成长发展95
工作生活40
使命价值75
薪资福利
90较高
作为C轮后超大型互联网公司的核心基础设施专家岗,薪资极具竞争力,通常包含高额股票期权和年终奖,福利体系完善。
薪资信号未披露(AI估算:4.0千–8.0万/月)
成长发展
95较高
处于AI基础设施最前沿,涉及万卡集群调度和LLMOps,技术栈极度前沿,个人成长空间巨大,职业壁垒高。
技术前沿前沿/新兴技术
技术栈Kubernetes、GPU调度、LLMOps、Volcano、Kueue、Ray、RDMA、Python、Golang、C++
业务类型cost_center
工作生活
40较低
互联网大厂核心研发岗,工作强度通常较大,虽未明确提及加班,但保障万卡集群稳定运行的责任重大,WLB压力较高。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
75中等
支撑大模型业务发展,推动AI技术落地,具有较高的行业影响力和技术使命感,但属于内部支撑角色,社会直接影响力间接。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
小红书 的其他在招职位
相似职位推荐
AI Agent工程师 / LLM应用工程师(西安)(J14513)
中科曙光 · 西安市
AI 估算 · 1.8–3.0万2 小时前发布
SGLang 推理框架架构师(郑州)(J14530)
中科曙光 · 郑州市
AI 估算 · 4.0–7.0万2 小时前发布
AI Agent工程师 / LLM应用工程师(青岛)(J14550)
中科曙光 · 青岛市
AI 估算 · 2.0–3.5万2 小时前发布
SGLang 推理框架架构师(天津)(J14527)
中科曙光 · 天津市
AI 估算 · 4.0–7.0万2 小时前发布
端到端模型量化&压缩工程师
地平线 · 北京市
AI 估算 · 2.5–4.5万3 小时前发布
R&D Pioneer 计划科研实习生(J107367)
百度 · 北京市
AI 估算 · 0.3–0.6千3 小时前发布
2027届-博士-Al后训练研究员-北京/上海
康龙化成 · 北京市
AI 估算 · 3.0–6.0万6 小时前发布
Advisory Engineer, On-Device AI Systems & Inference Optimization
联想 · 北京市
AI 估算 · 4.0–7.0万11 小时前发布
Watch Jobs