Machine Learning Engineer (Training Optimization）

优缺点分析

角色解读

• 从训练系统工程师成长为AI基础设施架构师，主导更大规模的训练平台设计
• 向生成式AI前沿研究方向发展，参与核心模型算法创新
• 在Canva内部可晋升为技术主管或团队负责人，带领优化团队
• 设计并实现大规模分布式训练系统，优化多模态及基础模型的训练性能
• 使用Megatron-LM、NeMo、FSDP、Triton等框架，提升GPU利用率和计算效率
• 与研究团队合作，将新算法高效集成到训练流程中
• 编写自定义CUDA/Triton内核，进行低层性能调优
• 精通Python，熟悉C++或Rust更佳，掌握PyTorch或JAX
• 深入理解分布式训练框架（Megatron-LM、NeMo、DeepSpeed）
• 熟悉FSDP/ZeRO、梯度检查点、低精度训练等优化技术
• 具备CUDA/Triton内核编写经验，能进行GPU级优化

申请策略

• 在求职信中表达对Canva AI方向的理解和热情，例如提及对AI辅助设计的兴趣
• 提前了解Canva的产品和技术博客，面试时展示你对公司愿景的认同
• 突出分布式训练项目经验，详细说明使用的框架和优化的具体性能指标（如吞吐量、内存节省）
• 展示CUDA/Triton内核编写经历，包括优化前后对比和实现细节
• 强调对LLM、多模态或扩散模型的理解，以及模型训练调优的实战案例
• 提供GitHub或个人博客链接，展示相关技术贡献或开源项目
• 深入学习Megatron-LM和NeMo的源码，理解其设计原理
• 练习编写CUDA/Triton内核，完成如FlashAttention等经典算子复现

面试指南

• 使用STAR法则：先描述场景和任务，然后说明你采取的行动（具体技术方案），最后量化结果（如训练速度提升xx%）
• 从系统角度出发：分析瓶颈（计算、内存、通信），然后针对性优化，并比较不同方案的优劣
• 请描述你如何设计一个大规模分布式训练系统，包括数据并行、模型并行和流水线并行策略？
• 你如何优化GPU训练的效率？请列举你使用过的具体技术（如混合精度、梯度累积）
• 编写CUDA/Triton内核时，如何处理共享内存和线程同步？
• 当训练出现OOM或通信瓶颈时，你的调试思路是什么？
• 你对Megatron-LM的tensor parallelism和sequence parallelism有什么理解？
• 复习分布式训练的核心概念（数据并行、模型并行、流水线并行、ZeRO等），并准备实际项目案例