蚂蚁集团-训推系统研发专家-杭州/北京/上海

优缺点分析

角色解读

• 技术深耕：成为AI系统领域专家，主导核心基础设施架构
• 横向拓展：从训推系统延伸到整个AI计算平台
• 管理路径：带领团队负责系统设计与项目推进
• 设计并开发训推一体框架，支撑蚂蚁内部的强化学习场景
• 构建高效的显存管理体系和高性能数据存储方案
• 优化分布式训练与推理性能，包括算子融合、编译优化、模型量化等技术
• 与算法团队紧密合作，联合优化重点项目
• 精通Python/Go/C++，具备优秀的编码能力
• 深入理解分布式系统和并行计算，有实际优化经验
• 代码级掌握主流深度学习框架（PyTorch/TensorFlow等）及扩展库
• 熟悉编译优化、模型量化、混合精度等性能优化技术

申请策略

• 关注蚂蚁在AI基础设施方向的技术博客和开源项目，面试中可展示对团队工作的了解
• 准备一个复杂的系统设计案例，体现架构能力和性能优化思路
• 突出分布式训练或推理系统的项目经验，说明具体优化效果
• 展示对主流深度学习框架的源码级理解，如自定义算子或框架修改
• 如有RLHF相关项目或框架贡献，重点描述
• 强调性能调优案例，如加速比、显存节省等量化结果
• 提前学习RLHF框架（如OpenRLHF、veRL）的使用和原理
• 熟悉编译优化相关技术（如TVM、XLA）和GPU编程（CUDA）

面试指南

• 采用STAR法则：先说明背景和问题，再讲你的解决方案和具体措施，最后量化结果
• 对于设计类问题，先明确目标约束（如显存、带宽），再逐步展开方案，并讨论权衡
• 请描述一个你优化过的分布式训练系统，具体性能提升多少？
• 如何设计显存管理方案以支持超大模型训练？
• 谈谈你对RLHF框架的理解，训练和推理如何协同？
• 在算子融合或编译优化方面你有何经验？
• 面对训练不稳定或性能瓶颈，你的排查思路是什么？
• 复习分布式训练常见优化技巧（数据并行、模型并行、流水线并行等）及其适用场景