阿里巴巴
日常实习生-AI安全算法工程师-Qwen基础模型
日常实习生-AI安全算法工程师-Qwen基础模型
发布于 1 小时前实习/见习
实习生仅现场办公人工智能
人工智能
Dpo
Pytorch
Rlhf
多模态安全
对抗性攻击
值不值得投
75综合评分
综合评分 75
头部大模型团队核心安全岗，技术前沿且极具社会价值，发展上限极高，适合技术极客。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
5千
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3520 个在招 · 其中人工智能 约 360 个
市场机会
选择面较广
北京 · 人工智能 · 约 640 个在招
职位详情
关于这个职位
该职位是阿里巴巴Qwen大模型团队的AI安全算法实习生，主要负责大模型安全对齐、安全数据构建、红队测试及实时防护体系研发
你将参与前沿的AI安全治理，确保大模型在释放强大能力的同时保持可控与可靠
最低要求
计算机、机器学习、人工智能、信息安全等相关专业，硕士及以上学历
具有大模型安全对齐（Safety Alignment）、内容安全、对抗鲁棒性等方向的实践经验，熟悉 RLHF / DPO / Constitutional AI 等对齐技术
精通 Python 及 PyTorch 等深度学习框架，具备扎实的工程能力，能够独立完成从数据构建、模型训练到在线部署的全链路工作
具备优秀的对抗性思维与风险敏感度，能够从攻击者视角系统性地发现和评估模型安全隐患
工作职责
安全推理数据构建：设计并构建覆盖多语言、多模态、多场景的安全对齐训练数据体系，包括安全指令微调数据、偏好对比数据、对抗性攻防数据等，建立数据质量评估与迭代机制，为安全对齐提供高质量数据基础
安全代答模型研发：研究并构建安全代答（Safe Refusal / Safe Response）模型，使模型在面对高风险请求时能够生成既安全又有帮助的回复，实现安全性与有用性的最优平衡，避免过度拒绝或生硬拒答
前沿安全风险治理：深入研究 CBRN（化学、生物、放射性、核）等高危领域的安全防护策略，探索 Agent 场景下的安全风险（如工具滥用、权限越界、Prompt Injection、间接注入攻击等），构建系统化的风险识别与缓解方案
安全评测与红队测试：建立自动化与人工相结合的安全评测体系，设计多维度、多层次的 Red Teaming 方案，覆盖越狱攻击、对抗性 Prompt、多轮诱导、多模态攻击等场景，持续发现模型安全盲区并驱动修复闭环
Guard 防护体系研发：设计并实现实时安全护栏（Guard）系统，包括输入过滤、输出检测、对话级风险拦截等模块，支持高并发、低延迟的在线安全防护，保障模型在生产环境中的安全运行
优先资格
在 AI 安全、对抗攻击与防御、可信 AI 等方向有深入研究，曾在 NeurIPS、ICLR、ICML、ACL、USENIX Security、IEEE S&P 等顶级会议或期刊发表论文
熟悉主流 Red Teaming 框架与方法论，有实际攻防对抗经验
具备 Agent 安全、工具调用安全、多模态安全等新兴安全方向的研究或落地经验
拥有知名安全相关开源项目贡献经历，或在 AI 安全社区具有较好的影响力
AI 洞察
优缺点分析
优点
- 接触全球领先的大模型Qwen，参与最前沿的AI安全与对齐技术研究
- 团队技术实力雄厚，能接触到顶会论文级别的研发场景，对个人技术成长极具价值
- AI安全是行业刚需，该方向具有极高的长期职业壁垒和发展前景
- 平衡模型的安全性和有用性（避免过度拒绝）是业界难题，需要反复调优和实验
- 适合对AI安全有浓厚兴趣、具备扎实算法基础且喜欢攻防对抗的硕士及以上学历求职者
缺点 / 挑战
- 大模型安全攻防对抗激烈，需要持续跟进最新的攻击手段和防御技术，学习压力大
角色解读
- 在AI安全这一前沿领域积累深厚的技术壁垒，成为大模型安全对齐专家
- 未来可向AI安全架构师、大模型安全负责人或可信AI研究员方向发展
- 负责大模型安全对齐的数据构建与模型训练，确保模型输出的安全性与有用性
- 开展红队测试与对抗性攻击研究，挖掘并修复模型的安全盲区
- 研发实时安全护栏（Guard）系统，保障模型在生产环境中的安全运行
- 扎实的深度学习工程能力，精通Python和PyTorch，能独立完成模型训练到部署的全链路
- 熟悉RLHF、DPO等对齐技术，具备大模型安全、对抗鲁棒性等方向的实践经验
- 具备优秀的对抗性思维，能从攻击者视角系统性评估和发现模型安全隐患
申请策略
- 在简历或面试中展现你的‘攻击者思维’，分享你如何系统性地发现模型漏洞的案例
- 提前了解Qwen模型的最新进展及其在安全对齐方面的公开技术报告
- 突出在RLHF、DPO、Constitutional AI等对齐技术上的项目经验或研究成果
- 展示在Red Teaming、对抗攻击与防御方面的实战经验或顶会论文发表记录
- 强调全链路工程能力，如从数据构建、模型训练到在线部署的完整项目经历
- 深入学习主流Red Teaming框架，尝试复现经典的越狱攻击与防御算法
- 了解Agent安全、多模态安全等新兴方向，拓宽安全治理的知识面
面试指南
- STAR法则：针对项目经验，清晰描述情境、任务、行动和结果，突出你的具体贡献和技术深度
- 攻防视角：在回答安全问题时，先阐述攻击原理和危害，再提出系统性的防御和缓解方案
- 请介绍一个你参与过的对抗性攻击或红队测试项目，你是如何发现模型漏洞的？
- 在安全代答模型研发中，如何平衡模型的安全性与有用性，避免过度拒绝？
- 针对Agent场景下的工具滥用或Prompt Injection，你会设计怎样的防护策略？
- 请简述RLHF和DPO在安全对齐中的区别，以及你在实际应用中如何优化？
- 复习大模型安全对齐的核心论文（如Constitutional AI、RLHF相关研究），了解业界最新进展
- 准备1-2个自己主导或深度参与的安全攻防/红队测试项目，能够深入讲解技术细节和踩坑经验
职位点评
薪资福利60
成长发展95
工作生活50
使命价值85
薪资福利
60中等
作为实习岗位，薪资按日薪折算处于市场常规水平，但依托头部平台的背书，整体补偿性中等。
薪资信号未披露（AI估算：4–6.5千/月）
成长发展
95较高
岗位聚焦大模型安全对齐这一前沿领域，依托Qwen团队的技术积累，能提供极高的技术成长与学术视野。
技术前沿前沿/新兴技术
技术栈Python、PyTorch、RLHF、DPO、Constitutional AI、Red Teaming、Guard
业务类型ambiguous
工作生活
50较低
JD未明确提及工作模式与WLB信息，但作为核心算法团队的实习岗，工作节奏可能较快。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
AI安全与对齐旨在确保大模型负责任地服务社会，具有极高的社会价值和使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号负责任地服务社会、可控、可信、可靠
创新程度开拓性创新（行业首创）
Watch Jobs