后端调度编排工程师-Data AML

优缺点分析

角色解读

• 技术深耕：成为分布式调度和ML基础设施领域的专家，主导核心组件设计
• 架构转型：向系统架构师发展，负责大规模分布式系统的整体架构设计
• 管理路线：未来可转向技术团队管理，带领团队推进调度和编排平台的建设
• 设计和优化分布式调度系统，基于Kubernetes等框架提升集群资源利用率
• 参与超大规模推荐模型的训练与推理架构建设，包括弹性分布式训练Runtime和在线编排
• 开发AutoScaling和资源自动优化工具，通过负载建模实现全局最优资源分配
• 负责多集群、多地域、多云场景的调度适配，以及资源抢占和混部功能
• 精通Go或Python，熟悉Linux环境下的系统编程
• 深入理解分布式系统原理，有Kubernetes等调度框架的实践或二次开发经验
• 了解机器学习系统（MLSys）基础，熟悉模型训练/推理流程
• 熟悉至少一种分布式编排系统，如Ray、vLLM、veRL等

申请策略

• 关注字节跳动Data AML团队的技术博客和开源项目，提前了解其技术栈和业务方向
• 准备一个完整的分布式系统设计案例，展示从问题分析到方案落地的能力
• 突出Kubernetes、Yarn等调度框架的项目经验，尤其是优化资源利用率的成果
• 展示机器学习系统相关项目，如模型分布式训练、推理部署、AutoScaling等
• 强调Go/Python编程能力，以及系统性能调优案例
• 如果有参与开源项目（如Kubernetes、Ray）的经验，务必列出
• 补充学习分布式系统经典理论（如一致性、容错性）
• 实践Kubernetes的二次开发，了解Operator和Scheduler扩展机制

面试指南

• 先明确问题背景和约束，再给出分层解决方案：从资源抽象、调度策略、监控反馈等层面展开
• 结合实际项目经验，先说遇到的挑战，再讲具体设计和效果，最后总结可推广的经验
• 对于开放性问题，先画系统框图，定义核心模块和接口，再逐步细化
• 请描述Kubernete scheduler的调度流程，如何实现自定义调度策略？
• 如何优化大规模GPU集群的资源利用率？请从分配、抢占、混部等角度说明
• 对于推荐模型的在线推理，如何处理高并发和低延迟？谈谈你的架构设计
• 解释一下Model parallelism和Pipeline parallelism的区别，以及在分布式训练中的应用
• 如果一个任务长时间占用了大量GPU资源，但实际利用率不高，你如何设计一个自动资源回收方案？