阿里巴巴
智能体威胁识别与对抗防御研究-阿里星
智能体威胁识别与对抗防御研究-阿里星
发布于 大约 20 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai Security
Cross-Team Collaboration
Vla
值不值得投
73综合评分
综合评分 73
前沿AI安全研究岗位，技术深度高，杭州办公，发展机会好，WLB待确认。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
40K
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2610 个在招 · 其中人工智能 约 260 个
市场机会
选择面较广
杭州 · 人工智能 · 约 290 个在招
职位详情
关于这个职位
该职位专注于智能体安全研究，负责端管云全链路场景下的威胁识别与对抗防御，探索VLA对抗样本生成与防御技术，以及智能体幻觉问题的检测与缓解，旨在提升大模型安全能力
最低要求
对大模型相关技术有项目实操及研究经历，有智能体安全、大模型安全、VLA对抗样本相关经历优先
对安全攻防领域有较深入的理解，对以下至少一个领域有相关经历优先：移动安全、Web安全、协议安全、IoT安全
具备优秀的研究能力，在NDSS、IEEE S&P、CCS、USENIX Security等顶级安全会议有工作发表优先
在安全风控领域相关比赛中有获奖经历优先
具备良好的合作与沟通能力，能够推进较为复杂的跨团队协作项目
工作职责
负责集团端管云全链路场景下的智能体安全能力建设，针对不同意图与形态的智能体（GUI Agent、API Agent 等）构建高效的威胁识别、行为分析与对抗防御体系
探索面向 VLA 的对抗样本生成与防御技术，包括跨模型/跨任务可迁移的通用对抗攻击、感知-决策链路的鲁棒性评估及防御机制设计
探索智能体幻觉问题的检测与缓解，覆盖感知幻觉（界面元素误识别、属性/关系错误）与推理幻觉（指令偏离、逻辑谬误、事实捏造），构建幻觉诊断基准并设计缓解机制
参与基础安全域模型的安全能力建设与迭代，探索解决安全域样本标注昂贵稀缺、可读性差等核心瓶颈问题
AI 洞察
优缺点分析
优点
- 专注于前沿AI安全领域，技术深度和创新性强
- 参与大型集团项目，有良好的技术资源和平台
- 有机会在顶级安全会议发表，提升学术影响力
- 研究课题复杂，需要处理智能体安全的新问题
- 需要持续跟进技术发展，保持竞争力
- 适合对AI安全有浓厚兴趣、具备研究能力和安全攻防经验、追求技术前沿的求职者
缺点 / 挑战
- 跨团队协作项目可能沟通成本较高
角色解读
- 成为AI安全领域的专家，推动前沿技术研究
- 参与跨团队项目，提升领导力和协作能力
- 负责智能体安全能力建设，识别和防御端管云场景下的智能体威胁
- 探索VLA对抗样本生成与防御技术，提升模型的鲁棒性
- 检测和缓解智能体的感知与推理幻觉问题，确保AI系统可靠性
- 大模型技术及智能体安全的研究经验
- 安全攻防领域知识，特别是移动、Web、协议或IoT安全
- 顶级安全会议发表能力及优秀研究技能
申请策略
- 关注阿里巴巴在AI安全领域的最新动态，了解业务方向
- 在面试中展示解决复杂安全问题的思路和案例
- 突出大模型和智能体安全相关的项目经验或研究成果
- 强调在顶级安全会议的发表经历或获奖情况
- 展示安全攻防领域的技术专长，如移动安全或Web安全
- 深入学习VLA和对抗样本相关技术，准备面试
- 加强安全研究能力，练习论文写作和发表
面试指南
- 结合个人项目经验，用具体例子说明技术深度和解决问题的能力
- 阐述对智能体安全领域的技术见解和未来趋势
- 强调团队协作和沟通的重要性，分享成功合作的经验
- 请介绍你对智能体安全的理解以及相关研究经历
- 你如何设计对抗样本生成与防御技术？
- 请分享一个你解决AI幻觉问题的案例
- 你如何与跨团队协作推进复杂项目？
- 复习大模型和安全攻防的基础知识，特别是VLA和幻觉检测
职位点评
薪资福利70
成长发展90
工作生活40
使命价值85
薪资福利
70中等
职位未披露具体薪资，但基于岗位层级和城市市场，补偿性动机满足程度中等。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
90较高
涉及前沿AI安全技术，有顶级会议发表机会，发展性动机很强。
技术前沿前沿/新兴技术
技术栈智能体安全、大模型、VLA、对抗攻击、幻觉检测
业务类型ambiguous
工作生活
40较低
工作地点在杭州园区，办公模式未明确，WLB信号不足。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
AI安全是高速增长赛道，具有正向社会影响力，创新性强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs