蚂蚁数字科技-数字科技线-大模型训推引擎工程师

优缺点分析

角色解读

• 技术专家方向：深耕大模型训练/推理系统，成为分布式计算或 AI Infra 领域的权威
• 技术管理方向：带领团队负责大模型引擎架构，逐步向技术总监或架构师发展
• 产品化方向：将引擎能力封装为平台产品，转向 AI 平台产品经理或架构师
• 设计并调优大规模分布式训练策略（TP/PP/DP/EP/CP组合），提升集群效率与稳定性
• 负责推理服务搭建、调优与量化落地，在精度与吞吐之间取得商业最优解
• 从零搭建 Agentic RL 训练沙箱环境，设计标准接口并优化资源管控
• 参与专项数据合成与模型训练，将引擎能力转化为实际模型提升
• 精通 Python 和 C++，具备 GPU 编程经验（CUDA/Triton）或分布式系统实战经验
• 对 Megatron-LM / DeepSpeed / vLLM / SGLang 至少一项有源码级理解
• 具备出色的协作与 Ownership，能深入技术细节也能推动跨团队落地

申请策略

• 在面试中准备一个完整的大模型训练/推理案例，从问题分析到方案落地，体现系统性思考
• 了解蚂蚁在 AI Infra 领域的布局（如 AntLLM、AI 平台），在交流中表达你的技术热情和匹配度
• 突出分布式训练或推理优化的实战项目，详细描述你如何调优并行策略、解决稳定性问题
• 展示对 Megatron-LM / DeepSpeed / vLLM 等框架的源码级理解，最好附上阅读笔记或修改点
• 强调 GPU 编程经验（CUDA/Triton），尤其是性能优化（kernel fusion、显存管理）相关成果
• 如果有开源贡献，列出具体 PR 或 issue，凸显技术影响力
• 深入学习 Megatron-LM 的并行策略（TP/PP/DP/EP）源码，尝试构建小规模实验
• 熟悉 vLLM 的推理调度和 PagedAttention 机制，了解量化方法（GPTQ、AWQ）

面试指南

• 对于训练/推理优化类问题：先明确目标指标（MFU/吞吐/延迟），然后分析瓶颈（计算/通信/显存），提出具体策略（并行度调整、算子优化、量化）并给出实验对比
• 对于故障排查类问题：描述系统性排查步骤——从日志、监控、profiling 工具定位
• 复现问题
• 逐个假设验证
• 根因分析
• 给出长期改进方案
• 对于协作类问题：突出你如何沟通技术方案、设定里程碑、推动多方共识，并举例说明在冲突时的决策逻辑
• 如何设计千卡级分布式训练策略？请具体说明 TP、PP、DP 的权衡与组合