
阿里巴巴
安全AGI实验室-网络安全大模型算法
安全AGI实验室-网络安全大模型算法
发布于 1 天前实习/见习
实习生仅现场办公AI算法
AI算法
Agentic Rl
Deepspeed
Grpo
Llm
Megatron
Ppo
Pytorch
Vlm
代码安全
值不值得投
76综合评分
综合评分 76
前沿AI安全研究实习,技术成长和科研产出强,WLB与薪资信息未披露。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便比较实习机会。
薪资怎么样
1.2万
比AI算法中位数高
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 5200 个在招 · 其中AI算法 约 110 个
市场机会
选择面较广
杭州 · AI算法 · 约 130 个在招
职位详情
关于这个职位
这是一个面向网络安全场景的大模型算法实习岗位,聚焦代码安全智能、攻击模拟智能体、安全大模型压缩与全流程训练等前沿方向
你将参与AI for Security研究,把大模型能力应用到漏洞挖掘、威胁情报理解、自动化渗透等真实安全任务中,并有机会产出顶会论文和落地技术
最低要求
计算机科学、信息安全、人工智能或相关专业硕士/博士在读,具备扎实的机器学习与深度学习基础
熟悉大语言模型(LLM)与多模态大模型(VLM)的主流架构、改进方案及预训练、SFT、GRPO、PPO、Agentic RL 等训练范式,并有实际项目或研究经历
拥有网络安全领域知识基础,了解常见攻击手法、防御机制、日志分析或漏洞原理
具备良好的编程能力(Python 为主),熟悉 PyTorch/TensorFlow 等主流框架,并能熟练使用 DeepSpeed/Megatron 及其变体进行大规模 LLM 训练调优
具备较强科研素养,能独立阅读论文、复现算法并设计严谨对比实验
对代码智能、漏洞挖掘、攻防对抗等方向有浓厚兴趣
我们期待的你:
热爱技术,兼具 AI 与安全的跨界视野,具备强烈的问题驱动意识与探索精神
既能沉心钻研前沿算法,也能动手解决真实安全问题,能在有限资源下高效推进研究,兼顾创新性与实用性
追求卓越,敢于挑战"AI + 安全"融合中的硬核难题
乐于协作,愿与正岗研发团队紧密配合,将研究成果转化为基模能力,共同打造下一代智能安全核心大脑
工作职责
代码安全智能:研究自然语言与编程语言跨模态对齐机制,探索面向项目级代码漏洞发现、修复、程序逆向、二进制分析等任务的长上下文代码理解与生成模型
Cyber Attack Simulation 研究:构建面向渗透测试、红蓝对抗、漏洞利用链生成的攻击模拟智能体,探索基于 Agentic RL 的多步攻防策略学习与泛化机制
安全大模型极致压缩研究:探索以远小于闭源 SOTA 模型的参数规模,在安全垂直领域达到同等甚至更优的任务效果
研究方向包括但不限于:高质量安全领域数据配比与课程学习策略、领域知识高效注入与持续预训练、小模型在代码漏洞检测、威胁情报理解、自动化渗透等安全任务上的能力逼近与超越机制,以及面向安全场景的模型效率-性能 Pareto 前沿探索,最终实现以极小模型尺寸支撑生产级安全能力部署
安全领域大模型全流程训练:参与预训练、SFT、GRPO/PPO 及结合 Fuzz、反编译、漏扫等安全工具的 Agentic RL 训练,推动数据 Scaling、训练策略制定与性能优化
学术与工程双产出:将研究成果反哺至基模,提升其在漏洞识别、威胁情报提取、敏感数据检测、自动化渗透等场景中的实际能力,目标产出高质量学术论文(CVPR、ICML、ICLR、ACL、NeurIPS、IEEE S&P、USENIX Security、CCS、NDSS 等顶会)并推动技术落地
优先资格
在 CyberGym、ExploitBench、SecCodeBench、SWE-Bench 等 Cyber/Code Bench 上有过大模型训练或评测实践经历
有代码大模型训练经验,或在软工领域(如 SWE-Bench、Repo-level Code Repair)有 Agentic RL 相关研究/工程经验
熟悉逆向工程、二进制分析或程序静态/动态分析工具(如 IDA、Ghidra、Frida、angr 等)
具备 CTF 竞赛、漏洞挖掘(CVE 提交)、自动化渗透测试、红蓝对抗实战经验
在 NeurIPS、ICML、ICLR、ACL、CVPR、IEEE S&P、USENIX Security、CCS、NDSS 等 AI/Security 顶会以主要作者身份发表过论文
有安全领域通用智能体、AI 自动化攻防系统相关项目经历,或对"图生图"、"图生文"、"推理增强"、"NL-PL 对齐"等前沿方向有深入思考与实践
AI 洞察
优缺点分析
优点
- 方向处于AI与安全交叉前沿,能接触代码安全、漏洞挖掘、攻击模拟、模型压缩等高难度问题
- 岗位覆盖学术研究和生产落地,既有顶会论文产出机会,也有真实安全业务场景验证
- 技术栈含金量高,涉及大规模LLM训练、Agentic RL、长上下文代码理解、安全工具联动等能力
- 与正岗研发团队协作,实习生有机会直接参与核心基模能力建设
- 技术跨度大,需要同时补齐大模型算法、代码智能和网络安全攻防知识
- 研究目标难度高,既要追求论文级创新,也要满足生产级安全能力落地
- 对实验资源和工程能力要求高,需要能独立复现论文、调优训练流程并分析失败原因
- 适合计算机、AI、信息安全背景的硕博实习生,尤其是有大模型训练、代码智能、漏洞挖掘、CTF或顶会论文经历,并希望做前沿交叉研究的人
缺点 / 挑战
暂无明显挑战项
角色解读
- 短期可沉淀大模型训练、Agentic RL、代码智能和安全评测能力,形成AI+Security交叉型技术壁垒
- 中期可成长为安全大模型算法研究员、AI安全研究工程师或智能攻防系统研发骨干
- 长期可向安全基模研究、AI攻防平台架构、顶会科研路线或安全AI产品技术负责人方向发展
- 参与网络安全大模型研发,围绕代码漏洞发现、修复、程序逆向、二进制分析等任务构建长上下文代码理解与生成能力
- 研究攻击模拟智能体,面向渗透测试、红蓝对抗和漏洞利用链生成,探索基于 Agentic RL 的多步攻防策略学习
- 参与安全大模型预训练、SFT、GRPO/PPO 和结合安全工具的强化学习训练,推动数据 Scaling、训练策略和性能优化
- 将研究成果转化为基模能力,并争取在AI/Security顶会发表论文,同时推动实际安全场景落地
- 需要扎实的机器学习、深度学习基础,熟悉LLM/VLM主流架构及预训练、SFT、GRPO、PPO、Agentic RL等训练范式
- 需要具备Python工程能力,熟悉PyTorch/TensorFlow,并能使用DeepSpeed/Megatron进行大规模模型训练调优
- 需要理解网络安全基础知识,包括常见攻击手法、防御机制、日志分析、漏洞原理、代码安全或攻防对抗
- 需要较强科研能力,能够阅读论文、复现算法、设计严谨实验,并在代码智能或安全Benchmark上进行评测分析
申请策略
- 投递前建议阅读团队可能关注的方向论文,如AI for Security、Code LLM、Agentic RL、Automated Pentest等,并准备自己的理解
- 面试中尽量用项目数据证明能力,例如训练规模、指标提升、复现结论、失败经验和下一步改进思路
- 突出LLM/VLM训练项目,写清楚模型规模、数据规模、训练方法、评测指标和最终提升幅度
- 突出安全相关经历,如漏洞挖掘、CTF、红蓝对抗、逆向分析、威胁情报、代码安全Benchmark评测等
- 展示工程能力,包括Python、PyTorch、DeepSpeed、Megatron、分布式训练、推理优化和实验复现经验
- 如果有论文、竞赛、开源项目或Benchmark成绩,应放在简历显眼位置,并说明个人贡献
- 补强Agentic RL与后训练方法,重点理解GRPO、PPO、奖励设计、多步任务规划和工具调用训练
- 熟悉代码安全与安全工具链,包括静态/动态分析、Fuzz、反编译、IDA、Ghidra、Frida、angr等
面试指南
- 项目类问题按“背景-目标-方法-实验-结果-反思”结构回答,重点说明个人贡献和量化结果
- 技术原理类问题先讲核心直觉,再讲公式或流程,最后结合安全场景说明落地难点与改进方向
- 研究设计类问题从数据构建、任务定义、Baseline、评价指标、消融实验和泛化验证几个维度展开
- 你参与过的大模型训练项目中,数据、模型规模、训练目标和评测指标分别是什么?
- 如何理解Agentic RL在自动化渗透或漏洞利用链生成中的应用?奖励函数应如何设计?
- 请解释SFT、PPO、GRPO的异同,以及在安全垂直场景中可能遇到的问题
- 你如何设计一个项目级代码漏洞发现Benchmark,并评估大模型是否真正具备泛化能力?
- 对代码漏洞检测、威胁情报提取或自动化渗透任务,你认为小模型如何逼近大模型效果?
职位点评
薪资福利68
成长发展95
工作生活45
使命价值88
薪资福利
68中等
JD未披露薪资和福利信息,但岗位为大模型与安全交叉方向实习,技能门槛较高,补偿性动机只能部分判断。
薪资信号未披露(AI估算:8.0千–1.5万/月)
成长发展
95较高
岗位明确涉及前沿AI for Security研究、顶会论文产出、基模反哺和真实安全业务落地,对技能成长和科研发展非常匹配。
技术前沿前沿/新兴技术
技术栈LLM、VLM、Agentic RL、GRPO、PPO、DeepSpeed、Megatron、代码安全智能、漏洞挖掘、攻击模拟
成长机会学术与工程双产出、目标产出高质量学术论文、推动技术落地、研究成果反哺至基模
业务类型ambiguous
工作生活
45较低
JD仅说明地点为北京/杭州,未提及远程、弹性、双休或加班信息,生活化动机缺乏明确支撑。
工作模式未明确
办公地点未明确
加班情况未提及(无法判断)
使命价值
88较高
岗位聚焦网络安全攻防、漏洞识别、威胁情报和自动化渗透,目标是构筑攻防领域核心技术壁垒,具有较强的行业技术价值。
行业发展新兴领域(暂难判断)
社会影响正向社会影响力较高
使命信号为构筑公司在攻防领域的核心技术壁垒提供关键支撑、对外产生学术与行业影响力、共同打造下一代智能安全核心大脑
创新程度开拓性创新(行业首创)
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs