阿里巴巴
日常实习生-大模型安全评测与原生安全机制研究
日常实习生-大模型安全评测与原生安全机制研究
发布于 大约 22 小时前实习/见习
实习生仅现场办公人工智能
人工智能
Pytorch
Sglang
Vllm
可解释性
大模型
安全评测
值不值得投
81综合评分
综合评分 81
阿里大模型安全核心实习，技术前沿、成长性强，但要求高、现场办公、WLB未知。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
薪资怎么样
6K
与人工智能中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2610 个在招 · 其中人工智能 约 260 个
市场机会
选择面较广
杭州 · 人工智能 · 约 290 个在招
职位详情
关于这个职位
这是阿里巴巴提供的一个面向AI安全方向的日常实习岗位
实习生将直接参与大模型安全领域的前沿研究与落地，工作内容涵盖安全评测、风险感知机制、模型可解释性以及原生安全防护算法的研发与优化，有机会在阿里云或达摩院等技术团队深入探索大模型安全的核心挑战
最低要求
硕士及以上学历在读，计算机、人工智能、网络安全、数学等相关专业优先
具备扎实的深度学习基础，熟悉 Qwen、DeepSeek、GLM、Gemma 等主流大模型架构及训练/推理机制
熟悉深度学习框架（PyTorch）和主流大模型推理框架（vLLM、SGLang），具备较强的算法实现与实验能力
了解模型安全、模型可解释性、Representation Learning、Alignment/Guardrail 等相关AI安全研究方向，有相关项目、研究经验和顶会论文者优先
具备良好的论文阅读与复现能力，能够跟踪并理解前沿学术研究工作
熟练掌握 Python 编程，具备良好的工程实现能力和代码规范意识
具备较强的逻辑分析能力、学习能力和问题拆解能力，对大模型安全研究有浓厚兴趣
工作地点杭州，每周至少实习4天，持续3个月以上
工作职责
参与大模型端到端安全评测体系建设，围绕内容安全、对抗鲁棒性、越狱攻击、防御有效性等方向设计并执行系统化评测方案，推动模型安全能力量化与评估标准完善
参与大模型隐层表征风险感知能力研究，构建面向风险识别/安全判别的内部表征分析框架，探索模型在不同语义空间下的风险感知与决策机制
参与大模型可解释性与模型探针（Model Probing）研究与落地，基于探针技术分析模型内部知识编码、风险表征分布及安全行为形成机制，提升模型安全决策透明度与可解释能力
参与面向语言理解及多模态理解场景的低侵入式插件化原生安全围栏算法研发，探索轻量、高效、可插拔的安全防护机制，提升大模型原生安全能力与部署灵活性
参与大模型原生安全增强技术的探索与落地，研究以低侵入、最小打扰方式提升目标模型解码阶段安全性的关键技术路径，在保障模型安全性的同时平衡生成质量与用户体验
跟踪国内外大模型安全、模型可解释性及 Runtime Safety Alignment等前沿研究进展，复现相关论文与开源方案，推动研究成果在实际业务场景中的落地应用
优先资格
有相关项目、研究经验和顶会论文者优先
AI 洞察
优缺点分析
优点
- 处于AI安全这一前沿且至关重要的赛道，技术含量高
- 能接触到大厂顶尖的技术栈、算力资源和研究成果，学习曲线陡峭
- 研究内容有深度，有助于建立扎实的科研和工程复合能力
- 作为实习生，在高度竞争的团队中需要快速产出可见成果
- 对AI安全有强烈兴趣、具备良好研究能力和代码功底的计算机相关专业硕士生
- 希望将学术研究与工业实践结合，追求技术深度与广度的求职者
缺点 / 挑战
- 实习期间需快速理解复杂的模型内部机制和安全概念，学习压力较大
- 研究成果需要在实际业务中落地，可能面临理论到实践的转化挑战
角色解读
- 深耕AI安全领域，成为模型安全评测与防护的专家
- 向技术纵深发展，如专攻对抗攻防、可解释性或安全对齐算法
- 积累行业经验后，可转向安全技术管理或更前沿的AI基础安全研究
- 设计和执行大模型的安全评测方案，量化模型在对抗攻击下的表现
- 研究和开发让模型自身“感知”并“解释”风险的技术，提升决策透明度
- 研发轻量、可插拔的原生安全防护模块，在部署时灵活保障模型安全
- 深入理解主流大模型（如Qwen、DeepSeek）的架构与机制
- 精通PyTorch，熟悉vLLM等推理框架，能高效实现算法
- 具备扎实的AI安全领域知识，了解Alignment、Guardrail、可解释性等概念
申请策略
- 在简历或求职信中明确表达对大模型安全研究的深刻理解和热情
- 可以提前研究阿里在大模型安全方面已公开的技术博客或论文，了解其技术栈和关注点
- 面试时准备好清晰阐述自己过往项目中的技术细节和思考
- 重点突出与大模型、安全相关的课程项目、研究课题或竞赛经历
- 展示Python编程能力，特别是使用PyTorch实现复杂模型的经验
- 如有已发表或复现的AI安全相关论文/报告，务必在简历中突出
- 系统复习主流大模型的架构与训练流程
- 深入学习1-2个大模型安全相关的研究方向，例如阅读经典论文并尝试复现
面试指南
- 对于技术概念题，先给出清晰定义，再结合具体例子或应用场景进行阐述
- 对于设计类问题，采用“定义目标-分解维度-设计方法-评估指标”的结构化思路
- 对于项目/动机问题，使用STAR法则，清晰描述背景、任务、行动和结果，并突出自己的思考和收获
- 请解释什么是大模型的“越狱攻击”和“对齐”，以及你对它们的理解
- 如果让你为一个新发布的大模型设计安全评测体系，你会考虑哪些维度和指标？请描述一个你复现过的AI安全相关论文或项目，遇到了什么挑战，如何解决的？你如何看待模型可解释性在提升安全性方面的作用？为什么想加入大模型安全这个研究方向？
- 精读2-3篇大模型安全（如红队测试、对抗鲁棒性、安全对齐）领域的代表性论文
- 梳理自己过往的编程项目，确保能清晰讲解技术细节
- 准备一个简短的自我介绍，突出自己与岗位要求的匹配度，尤其是对AI安全的热情和已有积累
职位点评
薪资福利75
成长发展95
工作生活65
使命价值80
薪资福利
75中等
作为头部科技公司的日常实习生，薪资具有市场竞争力，但作为实习岗位，其绝对数额和福利保障相较于正式全职员工仍有差距。
薪资信号市场水准 (5K-7K/月)
成长发展
95较高
该岗位处于AI技术最前沿的安全领域，能接触顶尖的研究团队、技术栈和资源，提供极佳的技能成长和科研实践机会，对个人技术深度的提升有极大帮助。
技术前沿前沿/新兴技术
技术栈PyTorch、vLLM、SGLang、大模型安全评测、模型可解释性、Alignment、Guardrail、Representation Learning
成长机会参与...研究与落地、推动...能力量化与评估标准完善、跟踪...前沿研究进展、推动研究成果...落地应用
业务类型ambiguous
工作生活
65中等
职位要求每周至少实习4天且工作地点在杭州，意味着一定的固定通勤和时间承诺。JD中未提及任何弹性办公或WLB相关信号，作为高强度研究型实习，工作节奏可能较为紧张。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
AI安全是确保人工智能技术负责任发展的关键领域，具有重要的社会价值和行业前景。参与其中有助于推动技术向善，使命感较强。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号推动模型安全能力量化与评估标准完善、提升模型安全决策透明度与可解释能力、提升大模型原生安全能力与部署灵活性
创新程度积极采用新技术
Watch Jobs