蚂蚁集团-大模型安全攻防专家-杭州/北京

优缺点分析

角色解读

• 可向AI安全首席科学家、安全技术负责人方向发展，或在通用人工智能安全领域成为行业权威
• 专注于大语言模型（LLM）及其应用场景的安全研究，识别并挖掘潜在的安全漏洞
• 需要掌握大模型底层原理，具备红队测试、对抗样本生成等攻防实战能力，熟悉传统网络安全技术

申请策略

• 准备详细的技术案例，展示如何解决复杂的LLM安全问题
• 了解蚂蚁集团在AI安全方面的布局和业务场景
• 突出大模型安全相关的研究成果、漏洞挖掘案例、顶级会议论文或专利
• 强调在LLM攻防方面的实战经验
• 深入学习Transformer架构、RLHF等大模型核心技术，掌握最新的LLM攻击与防御技术（如Prompt Injection, Jailbreaking等）

面试指南

• 采用STAR法则（情境、任务、行动、结果）描述项目经历
• 结合理论深度与实践案例，展现系统性思维和创新能力
• 请描述你发现的一个典型的LLM安全漏洞及其修复方案
• 如何评估一个智能体系统的安全性？
• 面对不断演进的LLM攻击手法，你的研究思路是什么？
• 传统Web安全与大模型安全有哪些异同？
• 复习大模型核心论文，梳理主流LLM攻击向量（如数据投毒、提示注入、越狱等），准备至少两个深入的技术案例