蚂蚁集团-后训练算法工程师-智能风控

优缺点分析

角色解读

• 技术深度方向：后训练算法专家 → 大模型技术负责人 → 风控AI科学家
• 业务广度方向：风控算法工程师 → 风控技术架构师 → 安全业务负责人
• 跨领域方向：积累大模型与Agent经验后，可转至通用AI平台或AI产品团队
• 负责大模型的后训练优化，包括SFT、RL等方法，解决多任务合训中的干扰和长度偏差问题，提升模型在风控场景的指令遵循能力
• 进行知识蒸馏，将大参数量教师模型的推理能力迁移到小参数量学生模型，通过CoT蒸馏和逻辑对齐降低部署成本
• 研究数据合成与自动标注技术，构建高质量训练数据飞轮，提升数据多样性和标注准确率
• 建设Agent模型能力，优化工具调用、记忆压缩和多轮交互，通过轨迹采集和强化学习提升自主决策能力
• 扎实的大模型后训练经验，熟悉SFT、RLHF、DPO等算法，有百亿级参数模型训练经验者优先
• 精通PyTorch及分布式训练框架（DeepSpeed/Megatron），具备工程化落地能力
• 对知识蒸馏、数据合成、Agent优化有深入理解，能独立设计实验方案
• 较强的分析问题和解决问题能力，自我驱动，善于沟通协作

申请策略

• 蚂蚁集团面试非常注重算法原理和工程细节，准备时不要只懂调参，要理解底层数学推导
• 可以提前了解蚂蚁风控的业务背景，在面试中展示技术如何与业务结合
• 突出大模型后训练项目经验，包括使用的算法、模型规模、训练框架以及效果提升指标
• 强调分布式训练工程能力，如DeepSpeed/Megatron的使用经验，以及训练效率优化案例
• 如果有知识蒸馏、数据合成或Agent相关项目，单独列出并说明技术方案和结果
• 列出顶会论文或竞赛奖项，即使是大模型相关方向的项目也可以
• 系统学习强化学习在语言模型中的应用（RLHF、DPO、GRPO等），尝试复现相关论文
• 动手实践Agent框架（如LangChain、AutoGPT），熟悉工具调用和记忆机制

面试指南

• 对于算法对比问题：先阐述原理，然后结合实际项目经验说明选择依据和效果差异
• 对于工程问题：描述具体场景、难点、解决方案和最终效果，突出分析过程和实验设计
• 对于开放性问题：从问题定义、现有方法、你的创新点、实验验证、总结反思的结构回答
• 请详细讲解DPO与GRPO的区别，以及你在实际项目中如何选择？
• 你在多任务合训中遇到过任务干扰问题吗？如何解决的？
• 描述一下你做过的一个知识蒸馏项目，教师和学生模型的结构差异，以及蒸馏策略
• Agent的Tool调用准确率如何提升？请结合强化学习思路说明
• 如何处理训练数据中的噪声？你设计过哪些数据筛选或合成策略？