阿里巴巴
大模型攻击和防御技术研究-阿里星
大模型攻击和防御技术研究-阿里星
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Ai Alignment
Huggingface
Llm
大模型安全
值不值得投
82综合评分
综合评分 82
顶尖大厂核心科研岗，前沿AI安全技术，高成长高回报，工作强度适中偏高
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.5万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4820 个在招 · 其中AI算法 66 个
市场机会
选择面较广
杭州 · AI算法 · 70 个在招
职位详情
关于这个职位
负责大模型（LLM）的安全攻防研究，包括提示注入、越狱等攻击机理分析及防御方案设计
需构建攻防评测集与工具链，跟踪学术前沿并沉淀技术文档，保障模型资产安全与鲁棒性
最低要求
计算机科学、人工智能、信息安全或相关专业硕士及以上学历
熟悉 LLM 基本原理（Transformer、预训练/对齐、RLHF/DPO 等），理解模型能力与安全对齐的内在关系
扎实的 Python 编程能力，熟悉至少一种主流大模型框架（HuggingFace / vLLM / LangChain 等）
有安全攻防实战经验（渗透测试、漏洞挖掘、红蓝对抗之一即可）
良好的英文文献阅读能力，能独立跟踪并复现前沿研究
工作职责
负责研究大模型攻击机理，覆盖提示注入、模型越狱、知识蒸馏、思维链（CoT）窃取、数据投毒等方向，建设系统化的攻击方法论、攻击库与攻击工具链
针对各类攻击机理，设计并落地模型侧（对齐加固、鲁棒性训练）与应用侧（输入输出防护、运行时监测）防御方案，重点攻关反蒸馏与模型资产保护（输出扰动、水印、蜜罐投毒等）
构建大模型攻防评测集（攻击集 + 防御效果集），定义并基准化攻击成功率、防御召回率、蒸馏还原度等核心指标，驱动攻防能力可度量、可迭代
沉淀攻防技术文档与最佳实践，跟踪学术前沿（顶会论文、开源攻击/防御项目），参与技术分享与标准共建
AI 洞察
优缺点分析
优点
- 接触业界最前沿的大模型安全技术，拥有顶级算力资源和数据支持
- 平台影响力大，成果易转化为行业标准或顶级论文
- 技术迭代极快，需持续高强度跟踪国际顶会最新进展
- 对AI安全有浓厚兴趣、具备扎实科研能力和工程落地能力的硕士及以上研究人员
缺点 / 挑战
- 攻防对抗动态变化，需不断突破现有防御边界，心理压力较大
角色解读
- 可向AI安全首席科学家、高级研究员方向发展，或在生成式AI安全标准制定、企业级AI安全架构设计中发挥核心作用
- 深入研究大语言模型（LLM）的安全漏洞，如提示注入和越狱攻击，并开发相应的防御机制
- 掌握Transformer架构及RLHF/DPO原理，具备Python编程及主流LLM框架使用能力，拥有网络安全攻防实战经验
申请策略
- 准备详细的技术作品集或GitHub链接，展示你对大模型攻击机理的深度理解和实际动手能力
- 突出在LLM安全领域的具体研究成果，如复现的攻击案例、开发的防御工具或发表的顶会论文
- 加强Python在AI框架中的深度应用，提升对红蓝对抗实战技巧的理解，关注最新的AI安全评测基准
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述过往项目
- 结合理论分析与工程实践，阐述技术选型的理由
- 引用最新学术观点支撑自己的见解
- 请详细描述一次你发现或利用LLM漏洞的经历
- 如何评估一个LLM防御方案的有效性？你会设计哪些指标？
- 面对提示注入攻击，你认为最有效的防御策略是什么？为什么？
- 如何平衡模型的能力（Utility）与安全性（Safety）？
- 复习Transformer底层原理及RLHF流程
职位点评
薪资福利85
成长发展95
工作生活60
使命价值80
薪资福利
85较高
作为上市巨头企业的核心科研岗位，提供极具竞争力的薪酬包和高额年终奖，福利体系完善，满足度高。
薪资信号偏高 (4.0千–7.0万/月)
成长发展
95较高
岗位聚焦大模型安全这一前沿领域，要求跟踪顶会论文并参与标准共建，技术成长空间极大，职业发展路径清晰。
技术前沿前沿/新兴技术
技术栈LLM、Transformer、RLHF、DPO、HuggingFace、vLLM、LangChain、Prompt Injection、Jailbreaking
成长机会跟踪学术前沿、参与技术分享与标准共建
业务类型profit_center
工作生活
60中等
虽未明确提及加班情况，但作为头部大厂的核心研发岗位，通常伴随较高的工作强度和节奏，WLB一般。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
致力于解决AI安全这一关乎社会信任与技术可持续发展的关键问题，具有显著的社会价值和行业使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
智能座舱AI算法开发工程师-德语方向
联想 · 上海市
AI 估算 · 3.5–6.0万3 小时前发布
Agent Personalization and Memory Evolution
联想 · 北京市
AI 估算 · 5.0–8.0万3 小时前发布
Staff Agent R&D Engineer
联想 · 北京市
AI 估算 · 4.0–7.0万3 小时前发布
Agent Personalization and Memory Evolution
联想 · 北京市
AI 估算 · 4.0–7.0万3 小时前发布
推理架构算法工程师
京东 · 北京市
AI 估算 · 5.0–8.0万3 小时前发布
Senior Consultant Specialist
汇丰 · 西安市
AI 估算 · 2.0–3.5万4 小时前发布
VP, FC Investigative Tooling
汇丰 · 广州市
AI 估算 · 3.5–6.0万4 小时前发布
AVP, Investigative Tooling
汇丰 · 广州市
AI 估算 · 2.5–4.5万4 小时前发布
Watch Jobs