Machine Learning Engineer (Training Optimization)

优缺点分析

角色解读

• 从训练优化工程师起步，可向AI系统架构师或资深研究科学家发展，负责更大规模集群的架构设计
• 积累对底层硬件的理解，未来可转向AI芯片或编译器方向，或成为团队技术负责人
• 在Canva内部，表现优异者可参与核心模型研发，甚至主导下一代基础模型的设计
• 设计并优化大规模分布式训练系统，使用Megatron-LM、NeMo等框架提升训练效率
• 深入底层进行性能调优，包括编写自定义CUDA/Triton内核，减少通信开销和内存占用
• 与算法研究团队紧密合作，确保训练系统适配新型模型结构，推动技术落地
• 精通Python和PyTorch/JAX，熟悉分布式训练框架（Megatron-LM、DeepSpeed等）
• 具备CUDA/Triton内核开发经验，能进行底层性能优化
• 理解LLM、多模态模型或扩散模型的训练原理和常见优化技术（FSDP、梯度检查点等）

申请策略

• 在简历中量化你的优化成果（如“将训练速度提升2倍”），用数据说话
• 了解Canva的AI产品方向（如智能设计、视频生成），在面试中展示你的技术如何赋能业务
• 突出分布式训练项目经验，包括使用的框架、集群规模、优化成果（如吞吐量提升百分比）
• 强调CUDA或Triton内核开发的具体案例，展示底层优化能力
• 如有LLM/多模态模型相关研究或工业落地经历，重点描述模型架构与训练策略
• 系统学习Megatron-LM或DeepSpeed的源码，理解并行策略（TP/PP/DP）的实现细节
• 动手实践CUDA编程，例如实现一个简单的算子并进行性能分析
• 关注最新的大模型训练优化论文和开源框架，保持技术前沿敏感度

面试指南

• 技术对比类问题：先定义核心概念，然后列举关键差异（如通信模式、显存占用），再结合实际场景给出选择理由
• 优化诊断类问题：遵循“观察→假设→实验→验证”的步骤，强调系统性分析和数据驱动
• 方案设计类问题：明确目标（吞吐/显存/扩展性），分步阐述模型并行、数据并行、优化器选择等，并说明权衡
• 请解释Megatron-LM中的张量并行和流水线并行的原理及优缺点
• 如何在训练过程中诊断GPU利用率低的问题？你通常会采取哪些优化步骤？
• 描述你过去使用CUDA编写内核的经历，遇到了哪些内存或计算瓶颈？如何解决？
• FSDP和DeepSpeed ZeRO-3有何异同？在什么场景下选择其中一个？
• 如果我们要训练一个1B参数的扩散模型，你会如何设计分布式训练方案？