阿里巴巴
阿里巴巴研究型实习生-多模态大模型安全评测及原生安全增强
阿里巴巴研究型实习生-多模态大模型安全评测及原生安全增强
发布于 大约 8 小时前实习/见习
实习生仅现场办公人工智能
人工智能
Ai安全
Gpt-4V
Llava
Pytorch
Tensorflow
多模态大模型
对抗攻击
值不值得投
73综合评分
综合评分 73
前沿AI安全研究实习，技术成长空间大，但薪资一般。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
薪资怎么样
5K
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2090 个在招 · 其中人工智能 约 150 个
市场机会
选择面较广
杭州 · 人工智能 · 约 160 个在招
职位详情
关于这个职位
这是一个阿里巴巴的研究型实习生岗位，专注于多模态大模型（MLLM）的安全评测与原生安全增强
你将参与前沿的AI安全研究，探索跨模态攻击面，开发防御算法，并构建评测基准
适合对AI安全、对抗机器学习有浓厚兴趣的硕博在读学生
最低要求
学历背景：计算机科学、人工智能、网络安全等相关专业，硕士或博士在读
算法基础：熟悉 Transformer 结构，深入理解主流多模态大模型架构（如 LLaVA, GPT-4V, Gemini, Stable Diffusion 等）及其训练/推理机制
攻防经验：了解对抗攻击（Adversarial Attacks）经典算法（如 PGD, FGSM），或有大模型越狱（Jailbreak）、Prompt Engineering 相关研究经验者优先
编程能力：熟练掌握 Python 及 PyTorch/TensorFlow 框架，具备良好的代码实现能力，能快速复现 Paper 中的算法
学术能力：在 AI 安全、CV、NLP 等领域的顶级会议（CVPR, ICCV, ACL, NeurIPS, CCS, USENIX Security 等）发表过论文者优先
工作职责
参与多模态大模型（MLLM）及其应用场景的安全风险研究，探索文本、图像、视频、音频等跨模态交互中的新型攻击面（如跨模态语义鸿沟利用、隐写攻击），进行威胁建模与风险定级
协助开展多模态安全攻防实验，包括视觉/语音越狱（Visual/Audio Jailbreak）、对抗样本生成（Adversarial Perturbation）、跨模态提示注入等，评测主流多模态模型在复杂输入下的鲁棒性与防御边界
研究多模态大模型的原生安全增强技术，探索基于潜在空间防御（Latent Space Defense）的改进算法，从模型底层提升安全性
跟踪前沿研究进展，调研多模态学习、对抗机器学习、模型对齐与可信AI领域的顶级会议论文（如CVPR, NeurIPS, ICLR等）及技术方案，为团队提供前沿技术洞察
协助构建多模态安全评测基准与自动化工具链，沉淀高质量的跨模态攻击数据集，形成可复现的评测流程，支持团队在多维感知场景下的风险分析与能力验证
AI 洞察
优缺点分析
优点
- 接触前沿AI安全研究，与顶尖团队合作
- 阿里巴巴平台资源丰富，数据与算力支持
- 实习期间可积累高质量论文和项目经验
- 研究难度大，需要较强的自学和探索能力
- 竞争激烈，对学术背景要求高
- 可能面临高强度工作节奏
- 适合对AI安全有浓厚兴趣、具备扎实深度学习基础、有志于学术研究的硕博在读学生
缺点 / 挑战
暂无明显挑战项
角色解读
- 在AI安全领域积累前沿研究经验，发表顶会论文
- 有机会转正为阿里巴巴正式研究员，深入安全方向
- 未来可成为AI安全专家，或转向模型对齐、可信AI等方向
- 研究多模态大模型的安全风险，包括跨模态攻击面、越狱、对抗样本等
- 开展攻防实验，评测主流模型的鲁棒性
- 探索原生安全增强技术，如潜在空间防御
- 构建评测基准和工具链，沉淀攻击数据集
- 扎实的深度学习基础，熟悉Transformer和多模态架构
- 了解对抗攻击算法，如PGD、FGSM
- 熟练使用Python和PyTorch/TensorFlow
- 具备论文复现和实验设计能力
申请策略
- 关注阿里巴巴AI安全团队的研究方向
- 在简历中突出与岗位匹配的科研项目
- 突出多模态或安全相关的研究项目
- 展示论文发表或竞赛获奖经历
- 强调Python和PyTorch的熟练度
- 提及对抗攻击或越狱相关经验
- 深入学习对抗攻击和防御算法
- 复现经典论文，如PGD、FGSM
面试指南
- 结合具体项目经验，展示研究思路
- 强调对基础原理的理解，并联系实际应用
- 展示对前沿论文的跟踪和思考
- 请介绍你熟悉的多模态大模型架构及其安全弱点
- 如何设计一个跨模态攻击实验？
- 你如何评估模型的鲁棒性？
- 请谈谈你对潜在空间防御的理解
- 复习对抗攻击和防御的经典算法
职位点评
薪资福利50
成长发展90
工作生活60
使命价值80
薪资福利
50较低
实习岗位薪资水平一般，但阿里巴巴平台提供较好的福利和稳定性。
薪资信号面议 (3K-6K/月)
成长发展
90较高
岗位聚焦前沿AI安全研究，提供丰富的技术成长机会，可接触顶级会议论文和先进算法。
技术前沿前沿/新兴技术
技术栈多模态大模型、对抗攻击、越狱、潜在空间防御、PyTorch、Transformer
业务类型profit_center
工作生活
60中等
工作地点在杭州，未提及远程或弹性办公，可能以现场办公为主。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
AI安全领域具有重要社会价值，岗位有助于提升模型安全性，推动可信AI发展。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs