蚂蚁集团-AI Infra 工程师-杭州

优缺点分析

角色解读

• 可向AI Infra架构师方向发展，主导大规模训练推理平台的设计
• 也可转向机器学习算法工程师，深入模型优化与训练
• 在蚂蚁集团内部有机会参与前沿AI基础设施项目，技术视野广阔
• 负责LLM后训练阶段的训推调优，包括负载均衡策略优化，提升训练和推理效率
• 搭建RL训练工程环境，包括MCP工具、沙箱、Agent等，确保大规模训练的稳定性和高性能
• 对设计的功能进行测试和调优，保证在不同环境下的运行效率，解决分布式系统中的性能瓶颈
• 熟练掌握至少一门编程语言（Java、C++、Go等），熟悉Redis、数据库、分布式和高并发系统设计
• 具备云原生运维环境经验，能进行程序性能分析和优化
• 了解CUDA编程和AI Infra相关技术为加分项

申请策略

• 在简历中明确标注与AI Infra相关的项目，并用量化指标展示效果
• 面试前准备一个分布式系统性能优化的案例，体现分析能力
• 突出分布式系统、高并发、云原生相关项目经验，尤其是性能优化成果
• 强调编程语言掌握情况和实际工程项目，最好有大型系统调优案例
• 如果有LLM或RL训练相关经验，务必详细描述
• 展示问题解决能力和独立算法设计能力
• 系统学习CUDA编程和GPU性能优化，提升在AI Infra领域的竞争力
• 了解主流LLM训练框架（如DeepSpeed、Megatron）和推理优化技术

面试指南

• 对于性能优化问题，先分析瓶颈（计算/IO/通信），再提出具体策略（如数据流水线、模型并行等）
• 对于系统设计问题，从需求出发，考虑可扩展性、容错性和成本，给出层次化架构
• 对于环境搭建问题，列举关键组件和配置，强调稳定性与监控
• 如何优化大规模LLM训练中的负载均衡？
• 描述你在分布式系统中遇到的一个性能问题及解决过程
• RL训练环境搭建中需要注意哪些关键点？
• CUDA编程中如何优化内存访问模式？
• 如何设计一个高可用的训练推理平台？