阿里巴巴
阿里巴巴研究型实习生-智能体及应用安全评测研究
阿里巴巴研究型实习生-智能体及应用安全评测研究
发布于 1 小时前实习/见习
实习生仅现场办公信息安全
信息安全
Ai Agent
Pytorch
可信Ai
大模型安全
安全评测
对抗样本
强化学习
提示注入
值不值得投
薪资怎么样
8.0千
比信息安全中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4140 个在招 · 其中信息安全 57 个
市场机会
选择面较广
杭州 · 信息安全 · 约 100 个在招
职位详情
关于这个职位
这是阿里巴巴面向在读博士开放的「研究型实习生」岗位，聚焦智能体（AI Agent）与大模型应用的安全评测研究
你将在导师指导下开展越狱攻击、提示注入、对抗样本等攻防实验，构建智能体风险建模方法与安全护栏算法，并搭建可复现的安全评测基准与工具链，研究成果有望形成学术论文与技术方案
最低要求
计算机科学、人工智能、网络安全、数学等相关专业在读博士，具备 AI 安全、强化学习或大模型相关研究背景
熟悉大语言模型（如 GPT、LLaMA、Qwen 等）的基本原理，熟悉深度学习框架（如 PyTorch、TensorFlow）
对 AI 安全攻防有浓厚兴趣，熟悉常见攻击方式（提示注入、对抗样本、数据投毒等）或防御技术（鲁棒优化、内容安全检测、代理模型防御等）
具备良好的研究能力和论文阅读能力，精通 Python/C++/Java 中至少一门语言，具备扎实的数据结构、算法基础及工程化能力，能够快速理解前沿工作并复现相关实验
具备良好的团队协作意识与沟通能力，能够在导师指导下推进课题研究
工作职责
参与智能体（AI Agent）及其应用场景的安全风险研究，探索智能体在复杂交互环境中的攻击面、威胁建模与防御机制
协助开展大模型安全攻防实验，包括越狱攻击、提示注入、对抗样本构造等，评测不同智能体架构在任务执行中的鲁棒性与防御能力
研究智能体决策过程中的风险建模方法（如基于马尔可夫决策过程的行为建模），并设计相应的安全护栏与防御算法
跟踪前沿研究进展，调研智能体安全、可信 AI 与大模型内容安全相关的学术论文与技术方案，为团队提供前沿洞察
协助构建安全评测基准与工具链，形成可复现的安全评测流程，支持团队在多任务、多场景下的风险分析与能力验证
优先资格
在 AI 安全、智能体或机器学习相关领域有论文发表（如 ACL、CCS、NeurIPS、ICLR 等）、竞赛获奖或开源项目经验者优先
AI 洞察
优缺点分析
优点
- 方向处在智能体安全与大模型可信 AI 的前沿，学术与产业价值兼具，研究选题稀缺
- 有明确的研究型实习定位与导师带教机制，适合积累论文与实验成果
- 可接触真实的智能体应用场景与评测体系，工程与科研能力可同步提升
- AI 安全领域变化快，需要持续跟踪最新攻击与防御工作，学习成本不低
- 实习周期内的成果产出存在不确定性，需要较强的时间管理与心态调节
- 适合正在攻读博士、希望把大模型/智能体安全作为长期研究方向的候选人，尤其适合有攻防实验或论文积累、愿意在导师指导下深入做课题的同学
缺点 / 挑战
- 研究与工程并重，既要读论文提出方法，也要落地评测工具链，节奏和自驱要求较高
角色解读
- 实习期可依托导师指导产出高水平论文或技术方案，为进入大模型安全研究方向打下基础
- 后续可向 AI 安全研究、可信 AI/对齐、安全评测与红队、大模型内容安全工程等方向发展
- 研究型实习表现优秀者通常有机会延续为长期合作或转为正式研究岗
- 围绕智能体与大模型应用做安全风险研究，识别攻击面并建立威胁模型
- 设计并执行越狱攻击、提示注入、对抗样本等攻防实验，评测不同智能体架构的鲁棒性
- 研究智能体决策过程的风险建模方法，提出安全护栏与防御算法，并沉淀可复现的评测基准与工具链
- 扎实的大模型原理理解与深度学习工程能力，熟悉 PyTorch/TensorFlow
- 掌握常见攻防技术，如提示注入、对抗样本、数据投毒、鲁棒优化与内容安全检测
- 较强的论文阅读与实验复现能力，精通 Python/C++/Java 中至少一门并具备良好算法基础
- 对强化学习、马尔可夫决策过程等决策建模方法有一定了解
申请策略
- 投递前了解阿里巴巴在智能体安全、可信 AI 方向的公开研究与技术博客，面试时能对接团队方向
- 明确自己的研究兴趣与可投入的实习周期，主动说明期望产出的研究成果形式（论文/工具/基准）
- 突出博士研究方向与 AI 安全、强化学习、大模型的相关性，写明具体课题与成果
- 列出攻防实验经历，如提示注入、越狱、对抗样本构造与防御方案，说明实验设计与结论
- 展示论文发表、竞赛获奖或开源项目，尤其是 ACL、CCS、NeurIPS、ICLR 等顶会成果
- 体现工程能力：PyTorch/TensorFlow 使用经验、评测工具链或实验框架的搭建经历
- 系统梳理 LLM 安全攻防的代表性工作，能讲清攻击原理与防御思路的对应关系
- 补强强化学习与马尔可夫决策过程相关基础，便于开展智能体行为风险建模
面试指南
- 研究类问题采用「问题背景—现有方法不足—我的思路—实验验证—结论与局限」的结构回答，体现科研完整性
- 工程类问题突出「可复现」：说明环境、数据、指标、基线对比和你解决的具体工程难点
- 开放性问题先给出框架再展开细节，例如评测基准可从攻击类型、任务场景、防御手段、度量指标四个维度切入
- 请介绍一下你目前的博士研究方向，以及与 AI 安全/大模型安全的关系
- 你做过哪些攻防实验？提示注入或对抗样本的具体构造方法和评测指标是什么？
- 如何对智能体的决策过程做风险建模？你了解马尔可夫决策过程在其中的作用吗？
- 如果要设计一个智能体安全评测基准，你会如何划分任务场景与评价维度？
- 请讲一篇你最近精读的 AI 安全论文，它的方法与局限分别是什么？
Watch Jobs