阿里巴巴
日常实习生-Agent安全评测与审计
日常实习生-Agent安全评测与审计
发布于 大约 1 小时前实习/见习
信息安全
Ai安全
Llamaindex
Sql
安全评测
渗透测试
Garak
Promptfoo
AI 估算 · 0k–0k
职位详情
关于这个职位
这是一份阿里巴巴的日常实习生岗位，专注于Agent安全评测与审计
你将深入了解Agent应用，制定评测方案，执行安全评测，覆盖注入攻击、越权调用、敏感数据泄露等风险，并产出评测报告
同时，你将参与离线安全审计，识别异常行为，并参与评测能力建设，如扩充数据集、编写自动化脚本等
适合对AI安全方向有热情、具备基本数据处理能力的在校学生
最低要求
学历与经验：本科及以上学历在读（大三、大四或研一、研二优先），网络安全、应用安全、AI安全、计算机科学、人工智能等相关专业
技术能力：
对Agent工作流（感知-规划-行动-记忆）有基本认知，了解常见的AI安全风险（如注入攻击、越权、幻觉等）
具备基本的数据处理能力，能熟练使用 SQL 或 Python 进行日志查询、数据清洗与分析
具备良好的英文文献阅读能力，能快速跟进AI安全领域的最新风险动态
学习能力：对AI安全方向有学习热情，能在指导下快速掌握风险框架、设计评测方案、构建评测集、配合团队完成评测和审计工作
综合素质：工作细致、责任心强，对数据安全和保密规范有高度敬畏心
具备扎实的数据分析能力，擅长从数据中提炼问题及解决方案，具备出色的团队协作能力
实习时长：每周至少4天，持续3个月以上
工作职责
安全评测执行：深入了解Agent应用，制定评测方案，执行安全评测，覆盖直接\间接注入、工具调用越权、敏感数据泄露等风险，产出评测报告包括安全水位、风险清单等
离线安全审计：对Agent执行轨迹进行离线审计，识别越权调用、异常数据流转、疑似注入攻击、记忆污染、skill投毒等风险行为，定期产出风险审计报告
评测能力建设：结合业务特性及行业发展，参与风险分类分级，扩充评测数据集，维护攻击方法库，编写自动化评测脚本，优化评测工具，沉淀可复用的评测资产
优先资格
有CTF比赛经历、网络安全相关课程项目或学术研究成果
熟悉LangChain、LlamaIndex等主流Agent开发框架原理
有使用Promptfoo、Garak等自动化评测工具的经验
对AI红队测试（Red Teaming）有浓厚兴趣或实践经验
AI 洞察
优缺点分析
优点
- 接触前沿AI安全领域，技术含量高
- 阿里巴巴平台大，资源丰富，能积累宝贵经验
- 团队专业，有导师指导，学习成长快
- 对安全知识要求高，需要快速学习
- 工作细致，需要高度责任心
- 适合对AI安全有浓厚兴趣、具备一定技术基础、希望在大平台积累经验的在校学生
缺点 / 挑战
- 实习期可能面临较大工作压力
角色解读
- 在AI安全领域积累专业经验，成为安全评测专家
- 有机会转正为正式员工，深入参与核心安全项目
- 向AI红队、安全研究等方向发展
- 制定并执行Agent应用的安全评测方案，覆盖注入、越权、数据泄露等风险
- 对Agent执行轨迹进行离线审计，识别异常行为并产出审计报告
- 参与评测能力建设，扩充数据集、编写自动化脚本、优化评测工具
- 熟悉Agent工作流和常见AI安全风险，如注入攻击、越权等
- 掌握SQL或Python进行数据处理和分析
- 具备英文文献阅读能力，能跟进AI安全动态
申请策略
- 了解阿里巴巴安全团队的业务方向
- 在简历中展示对AI安全的热情和思考
- 突出网络安全、AI安全相关项目或课程经历
- 强调Python/SQL数据处理能力
- 如有CTF或红队经验，务必突出
- 学习Agent框架如LangChain，了解其原理
- 熟悉自动化评测工具如Promptfoo、Garak
- 加强英文文献阅读，关注AI安全最新研究
面试指南
- 对于技术问题，先阐述概念，再结合实际经验或案例，最后总结要点
- 对于设计类问题，采用结构化思维，从目标、步骤、工具、输出等方面回答
- 请解释什么是Agent注入攻击？如何防御？
- 你如何设计一个Agent安全评测方案？
- 你使用过哪些自动化安全评测工具？请举例说明
- 如何从日志中识别异常行为？
- 你对AI红队测试有何了解？
- 复习AI安全基础知识，如OWASP LLM Top 10
职位点评
60
综合评分
大厂实习，前沿AI安全领域，技术成长快，但工作强度可能较高。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
更适合这类人
适合追求技术成长、对AI安全有热情、能接受一定工作强度的学生。
表现最好
成长发展
相对薄弱
工作生活
薪资福利50
成长发展85
工作生活40
使命价值70
薪资福利
50较低
实习薪资为日薪制，处于市场中等水平，但公司平台大，福利完善，稳定性好。
薪资信号未披露（AI估算：0K-0K/月）
成长发展
85较高
该职位提供AI安全领域的深度实践机会，技术前沿，有导师指导，成长空间大。
技术前沿前沿/新兴技术
技术栈Agent、AI安全、注入攻击、LangChain、LlamaIndex、Promptfoo、Garak
成长机会在指导下快速掌握、学习热情、积累经验
业务类型ambiguous
工作生活
40较低
实习要求每周至少4天，持续3个月以上，工作强度可能较大，但未明确加班情况。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
AI安全领域具有重要社会价值，保护用户数据安全，行业前景广阔。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号数据安全、保密规范
创新程度积极采用新技术
Watch Jobs