蚂蚁集团-具身智能训练系统优化工程师-上海

优缺点分析

角色解读

• 从系统优化工程师成长为分布式训练专家或AI基础设施负责人
• 深入具身智能领域，成为该方向的技术专家
• 有机会向技术管理岗位发展
• 设计并演进具身智能训练框架的核心架构，进行技术选型和落地
• 与算法团队协作，适配业务需求，优化框架功能和易用性
• 通过计算图、分布式、IO优化提升大模型训练效率和稳定性
• 跟踪前沿技术，持续改进模型性能
• 熟悉分布式训练框架如FSDP、Megatron、VeRL，能进行调优和二次开发
• 了解CT、SFT、RL等训练范式
• 有LLM、VLM、VLA、Diffusion等模型训练经验
• 具备性能分析和系统调优能力

申请策略

• 提前了解蚂蚁集团的AI基础设施和具身智能布局，在面试中展现兴趣
• 准备一个完整的技术分享，展示你如何优化训练效率
• 突出分布式训练框架的使用和调优经验，如FSDP、Megatron
• 强调参与过大模型训练的实战案例，及性能优化成果
• 展示对计算图优化、IO优化等底层技术的理解和项目实践
• 如有具身智能或机器人相关项目，务必突出
• 深入学习PyTorch分布式训练原理和torch.distributed
• 阅读FSDP、Megatron源码，理解其设计思想

面试指南

• 从问题分析入手，明确瓶颈，再针对性提出方案，并用数据验证
• 结合实际项目经验，说明使用的工具和效果
• 强调系统性思考和权衡，如计算、通信、IO的平衡
• 如何优化一个大模型训练的速度和稳定性？
• 解释FSDP的工作原理和适用场景
• 遇到训练显存不足时如何解决？
• 如何做分布式训练的故障恢复？
• 如何看待具身智能训练与一般大模型训练的区别？