ATH事业群-大模型安全算法专家-杭州

优缺点分析

角色解读

• 在阿里巴巴这样的巨头平台，可以深入大模型安全与对齐这一前沿领域，成为技术专家
• 有机会参与全球顶尖的AI研究项目，与业界大牛合作，快速提升科研和工程能力
• 未来可向技术管理方向发展，带领团队负责大模型安全与评测体系，或成为该领域的顶尖专家
• 构建自动化评测方案，挖掘大模型在复杂任务、长尾场景和不同语种下的弱点，并设计高质量数据集
• 参与设计并实现 LLM-as-a-Judge 方案，训练高精度的奖励模型（Reward Model），以建模人类偏好，提升模型在指令遵循、安全性和复杂逻辑上的表现
• 设计高效的奖励信号并合成数据，通过强化学习（RL）算法持续提升模型的能力上限与泛化性
• 开发 Evaluation 与 Reward System 所需的工程框架，简化多任务测试流程，提升大规模模型集成与实验的效率
• 深入理解 Transformer 架构及大语言模型基础知识，熟悉模型评测（Evaluation）或后训练（Post-training，如 SFT、RL）经验
• 精通 Python 编程，熟练使用 PyTorch、TensorFlow 等深度学习框架，具备卓越的代码工程能力
• 具备系统性研究思维，有在顶级会议（如 NeurIPS、ICML、ICLR）发表一作论文或知名开源社区、顶级竞赛（如 ACM/ICPC、Kaggle）的突出成果
• 具备跨学科视野，良好的沟通能力和团队协作精神

申请策略

• 在简历中明确展示你对大模型安全与对齐的理解和热情，并准备相关项目案例
• 面试前了解阿里巴巴AI安全团队的业务方向和技术栈，以便更好地展示匹配度
• 重点突出大模型评测、后训练（SFT、RL）或奖励模型相关的项目经验，并量化成果
• 强调在顶级会议（如NeurIPS、ICML）发表的论文或开源项目、竞赛获奖经历，突出研究能力
• 展示精通Python、PyTorch等工具，并突出模型训练、推理加速或自动化数据合成等工程能力
• 深入学习强化学习（RL）和RLHF相关算法，并动手实践
• 关注大模型安全、对齐、评测的最新研究，如Agent评测、多模态对齐等
• 可以尝试复现或参与开源项目，提升代码工程能力和项目经验

面试指南

• 回答项目经验时，可以遵循STAR法则（情境-任务-行动-结果），突出你的技术选型、实现过程和量化成果
• 对于设计类问题，可以提出一个系统性的框架，从数据、模型、评测指标等维度进行阐述，并说明其可扩展性
• 对于前沿技术问题，可以结合自己的理解，阐述其核心挑战和潜在解决方案，展现你的思考深度
• 请详细介绍一下你在大模型评测或后训练（如RLHF）方面的项目经验，并说明你如何评估模型的安全性？
• 如何设计一个自动化评测方案来挖掘大模型在长尾场景下的弱点？请举例说明
• 在训练Reward Model时，你如何处理人类偏好的不一致性问题？
• 你如何理解大模型对齐中的安全性与有用性之间的平衡？
• 请谈谈你对Agent评测、多模态对齐等前沿方向的看法