易盾-Agent安全算法实习生

优缺点分析

角色解读

• 专业方向上可深耕AI安全攻防，成为该领域的安全算法专家或研究员
• 技术广度上可扩展至整个大模型应用栈的安全，如数据安全、模型鲁棒性等
• 职业发展上，实习表现优异可获得转正机会，或作为跳板进入AI安全领域的顶尖公司或研究机构
• 构建和优化AI Agent（智能体）在运行各环节的安全防护算法，防止恶意攻击
• 设计并搭建针对Agent安全性的评测框架与自动化测试工具，量化安全风险
• 追踪AI安全领域的前沿学术动态，并尝试复现和评估新的攻击与防御技术
• 扎实的AI算法基础，理解大语言模型(LLM)、RAG和Agent的核心原理
• 熟练掌握PyTorch等深度学习框架，具备将算法模型工程化落地的能力
• 对AI安全攻防有强烈兴趣，能快速阅读和理解相关学术论文
• 良好的问题分析能力、学习能力和团队协作精神

申请策略

• 深入理解网易易盾的产品和业务，思考Agent安全技术如何应用于其内容安全、业务安全等实际场景
• 在求职信或面试中，可以结合具体论文或技术点，阐述你对Agent安全某个子方向的思考和见解
• 重点突出与AI、大模型或信息安全相关的课程项目、竞赛经历或研究成果
• 详细描述任何使用PyTorch进行模型训练、部署或相关安全评测的实践经验
• 如果有阅读和复现相关领域论文的经历，务必在简历中体现，并简述心得
• 强调你的学习能力、对技术难题的热情以及独立解决问题的案例
• 系统复习大语言模型(LLM)、RAG（检索增强生成）和Agent（智能体）的基本架构和工作原理
• 深入学习PyTorch框架，并尝试复现一个简单的Agent或安全攻防模型

面试指南

• 对于原理类问题：先清晰定义概念，再结合具体技术组件（如规划器、工具调用接口）分析风险点，最后尝试给出简单的防御思路（如输入过滤、权限控制）
• 对于设计类问题：从攻击者和防御者双重视角出发，考虑评测的全面性（涵盖多种攻击类型、评估防御效果）、客观性（明确的指标）和可自动化
• 对于论文/学习类问题：展示你的主动学习和批判性思维能力，不仅描述论文内容，还要指出其优点和潜在不足
• 请解释一下你对LLM Agent安全风险的理解，并举例说明一个可能的攻击场景
• 你熟悉哪些针对大模型的攻击方法？请简述其中一种的原理和防御思路
• 如果让你设计一个针对RAG应用的安全评测Benchmark，你会考虑哪些维度和指标？
• 请介绍一个你印象最深的AI安全相关论文，以及它的核心贡献和局限性
• 你如何跟进和学习AI安全领域的最新研究进展？