蚂蚁集团-大语言模型后训练算法专家-杭州/上海/北京

优缺点分析

角色解读

• 技术专家路线，可在后训练算法方向深耕，成为领域权威
• 有机会转向技术管理，带领团队负责更大规模的模型研发
• 蚂蚁集团平台大，可接触业务场景，向AI架构师或技术负责人方向发展
• 负责大模型后训练阶段的核心算法研发，包括SFT、RL、知识蒸馏等，优化模型性能
• 针对推理、通用Agent和Coding Agent等专项任务，设计训练策略，提升模型能力上限
• 探索新型模型架构，并优化训练与推理效率，如算子优化、显存优化等
• 扎实的机器学习/深度学习基础，对大模型训练原理有深入理解
• 熟练使用PyTorch等框架，熟悉Megatron、SGLang、vLLM等分布式训练和推理工具
• 具备优秀的工程能力，能独立解决大规模训练中的稳定性问题

申请策略

• 关注蚂蚁集团在AI领域的技术分享，了解其技术栈
• 在简历中量化成果，如模型效果提升的具体指标
• 突出大模型后训练相关项目经验，如SFT、RLHF等具体工作
• 展示分布式训练经验，包括使用Megatron等框架的实践
• 如有顶级论文或高影响力开源项目，务必重点突出
• 强调解决复杂问题的案例，特别是训练稳定性调优
• 熟悉至少一种分布式训练框架，如Megatron-LM
• 了解最新RLHF/DPO等算法，阅读相关论文

面试指南

• 采用STAR法则，从背景、任务、行动、结果四方面回答项目问题
• 对算法问题，先阐述原理，再结合实践案例说明
• 对工程问题，强调系统思维和排查问题的逻辑
• 请详细介绍你参与的大模型后训练项目，包括使用的算法和遇到的技术难点
• SFT和RLHF相比，各自的优缺点是什么？如何选择？
• 如何在千亿级模型上进行高效训练？谈谈你对分布式训练的理解
• 如何设计训练策略来提升模型的推理能力？
• 模型收敛不稳定时，你如何定位和解决？