蚂蚁集团-算法工程师-阿福模型安全

优缺点分析

角色解读

• 从算法工程师向大模型安全/评测专家方向发展
• 有望成为医疗AI领域的资深专家或团队负责人
• 可拓展到AI合规、风险管理等前沿交叉方向
• 负责医疗健康大模型"阿福"的风险管理与评测，构建风险评估体系和风险识别模型
• 应用大模型后训练、Agentic RL等前沿技术，优化模型在医疗场景的安全性、鲁棒性和合规性
• 设计用药/诊断建议安全、医疗幻觉控制等风险识别Agent，并在真实业务中迭代
• 建设评测体系，包括高质量Benchmark、基于LLM的自动评估模型等
• 精通Python，具备扎实的算法和工程能力，能独立完成数据处理与分析
• 深刻理解LLM及后训练技术（SFT/DPO/GRPO），熟悉Agent/RAG的失败模式与评测要点
• 了解医疗行业场景，有风险控制、模型安全评估经验者优先
• 具备跨团队协作能力和创新精神

申请策略

• 强调对医疗健康场景的理解和兴趣
• 在简历中量化风险识别效果或模型优化成果
• 突出大模型后训练（SFT/DPO等）或Agent相关项目经验
• 强调医疗行业算法实战或安全评估案例
• 展示Python和数据处理能力，以及顶会论文（如有）
• 复习LLM后训练和强化学习（RLHF/RL）相关原理
• 了解Agent/RAG的常见失败模式和评测方法
• 学习医疗AI安全、合规相关知识

面试指南

• 用具体项目案例，按背景-方案-结果的结构回答
• 强调方法论和量化结果，突出对安全的理解
• 逻辑清晰，分点回答
• 请介绍你在大模型后训练方面的工作经验，如何做SFT或DPO？
• 如何评估一个医疗大模型的风险？你会设计哪些评测指标？
• 针对医疗幻觉控制，你有什么解决方案？
• 你如何理解Agentic RL？在安全场景如何应用？
• 准备1-2个与LLM安全或医疗AI相关的项目案例