AML机器学习系统调度研发工程师-Data

优缺点分析

角色解读

• 在技术深度上，可成为分布式调度/云原生领域的专家，主导核心组件的架构演进
• 在广度上，可横向拓展至AI Infra、HW/SW Co-Design等前沿方向，或转向技术管理
• 字节跳动内部有丰富的数据和算力场景，成长空间大，可接触业界领先的机器学习基建实践
• 设计和开发机器学习资源调度系统，优化GPU/CPU等异构资源的编排与使用
• 利用Kubernetes等容器技术管理大规模分布式集群，实现训练和推理任务的高效调度
• 处理多机房、多地域、多云场景下的在离线任务调度，保证负载均衡和资源利用率
• 与算法和业务团队紧密合作，理解训练/推理需求，持续改进调度策略
• 精通Go或Python，熟练掌握Linux环境开发
• 深入理解Kubernetes架构和生态，熟悉Docker/Containerd等容器技术
• 掌握分布式系统原理，有大规模分布式系统的设计、开发和维护经验
• 逻辑分析能力强，能抽象业务需求并转化为可扩展的系统设计

申请策略

• 关注字节跳动AML团队的技术博客和开源项目，面试中体现对团队方向的了解和热情
• 准备一个完整的分布式调度系统设计题，包括资源建模、调度算法、容错等
• 突出Kubernetes相关项目经验，如自研调度器、集群管理、资源优化等
• 展示大规模分布式系统设计案例，强调架构决策和性能调优细节
• 如果涉及机器学习框架或GPU调度，重点描述相关工作和成果
• 用数据量化成效，如资源利用率提升百分比、调度延迟降低等
• 深入学习Kubernetes调度器源码和调度策略（如binpacking、拓扑感知）
• 了解主流GPU虚拟化技术（如vGPU、MIG）及RDMA网络原理

面试指南

• 对于设计类问题，先明确需求场景和约束，然后提出架构方案（模块划分、数据流），最后讨论权衡和优化
• 对于原理类问题，从底层机制讲起，结合实践经验说明常见问题和解决策略
• 对于调优类问题，强调监控、分析瓶颈、提出改进措施，并用量化效果来增强说服力
• 请设计一个容器调度器，支持GPU资源的显存和算力分配
• Kubernetes调度器的默认调度策略有哪些？如何实现自定义调度器？
• 大规模分布式训练中，如何解决网络瓶颈？（RDMA vs TCP）
• 如何处理集群中GPU资源碎片化问题？
• 在离线任务混合部署时，如何保证对性能敏感的在线任务不受干扰？