阿里巴巴
AI安全技术工程师
AI安全技术工程师
发布于 3 天前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai安全
云安全
大模型
安全攻防
数据处理
智能体
评测体系
值不值得投
74综合评分
综合评分 74
前沿AI安全技术岗，技术成长空间极大，但办公模式与工作强度需确认。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
48K
比人工智能中位数高
发布情况
新岗位 · 2 天前发布
公司情况
这家公司招聘很活跃
约 2560 个在招 · 其中人工智能 约 240 个
市场机会
选择面较广
杭州 · 人工智能 · 约 280 个在招
职位详情
关于这个职位
这是一个负责构建下一代AI安全基础设施的技术岗位
你将参与设计和实现安全智能体（Agent），建设用于大模型训练与评测的数据体系，并将AI能力应用于漏洞挖掘、威胁研判、安全运营等真实场景，目标是打造可运行、可评测、可持续迭代的工程系统
工作需要深入结合安全攻防与AI大模型技术
最低要求
基础背景：计算机、信息/网络安全、软件工程、人工智能、数学等相关专业本科及以上，硕士/博士优先，优秀本科生可直接申请
编程与工程：熟练使用 Python，具备扎实的数据结构、系统编程和工程实现能力
熟悉 Go、Rust、Java、C/C++ 中任一语言者优先
安全攻防基础：理解 Web、主机、网络、云原生、代码安全等常见攻击面，熟悉 OWASP Top 10、MITRE ATT&CK 或云安全攻防方法
有漏洞挖掘、渗透测试、CTF、恶意样本分析、威胁狩猎、检测规则研发经验者优先
大模型与智能体：了解 LLM/Agent 的基本工作方式，熟悉 RAG、工具调用、任务编排、上下文管理、评测框架等实践
有 SFT、RL、模型评测、Agent 框架或 Harness 开发经验者优先
数据与评测工程：具备数据清洗、脱敏、标注、质量评估、指标设计和自动化 pipeline 能力
有日志、代码、漏洞样本、攻防轨迹等安全数据处理经验，或建设过靶场、沙箱、自动化评测平台者优先
AI 安全意识：关注提示注入、越狱、数据泄露、模型供应链、工具权限、Agent 身份与沙箱隔离等风险，能够从攻击者和防守者两个视角分析问题
能力特质：能快速学习前沿论文和开源项目，并把想法落实为可运行的代码、数据集、评测或产品能力
具备问题闭环意识，能用可验证指标说明改进效果
沟通清晰，愿意与安全、算法、平台和产品团队一起拆解复杂问题
工作职责
你将参与以下一个或多个方向：1. 安全智能体开发：设计和实现面向安全任务的 Agent Harness、工具调用与编排框架，接入代码扫描、漏洞验证、流量/日志分析、威胁情报、沙箱/靶场等工具，使智能体能够完成任务拆解、证据收集、推理规划、复现验证和结果归因
训练与评测数据体系：建设用于安全大模型训练和评测的数据管道，围绕漏洞样本、代码变更、攻击路径、SOC 告警、处置剧本、安全工单等数据进行采集、清洗、脱敏、标注、难度分层和质量评估，沉淀可复用的数据集、任务轨迹和评测基准
智能体赋能安全运营：将安全智能体用于代码安全、漏洞挖掘与复现、云原生风险分析、告警降噪、攻击链溯源、事件响应辅助、检测策略生成、安全产品运营与运维，提高安全工作的覆盖率、准确率和响应效率
AI 与 Agent 自身安全：研究并防御大模型和智能体系统面临的新型风险，包括提示注入、越狱、数据投毒、模型/插件/工具链供应链风险、越权工具调用、凭据泄露、沙箱逃逸、Agent 身份与权限边界失效等
参与安全评审、红队测试、隔离与授权机制设计
评测与产品化：设计可复现、可度量、抗污染的安全任务评测体系，围绕漏洞发现率、复现成功率、误报率、处置时长、工具调用质量等指标持续迭代模型、智能体和数据
推动研究成果进入云安全产品、平台能力和行业实践
优先资格
有安全大模型、安全智能体、AI 红队、LLM 安全评估、AI Bug Bounty 或安全 Benchmark 项目经验
有高质量开源项目、CVE/漏洞致谢、CTF/安全竞赛成绩、顶会论文或技术文章
熟悉云原生安全、供应链安全、二进制/内核漏洞、SOC/SIEM/EDR/XDR、MCP/Tool 安全、Agent 身份与权限治理
熟悉 PyTorch、TensorFlow、Hugging Face、LangChain、LlamaIndex、LangGraph、Kubernetes、Spark/Flink/Kafka 等技术栈
AI 洞察
优缺点分析
优点
- 技术前沿：处于AI与网络安全的交叉点，接触大模型、智能体等最前沿的技术和应用场景
- 平台优势：依托大型科技公司的资源，能够接触海量真实安全数据和复杂的攻防场景，项目影响力大
- 领域融合门槛高：需要同时具备扎实的安全攻防功底和AI工程能力，对学习能力和知识广度要求极高
- 领域较新：AI安全（特别是智能体安全）是快速发展的新兴领域，技术路线和最佳实践尚在探索中，存在不确定性
- 工程复杂度高：构建的系统需融合多种工具、应对复杂场景，并确保评测的客观性，工程落地难度大
- 适合对网络安全和人工智能都有浓厚兴趣，具备扎实的编程和系统能力，并乐于在前沿交叉领域解决复杂、开放性问题的技术型求职者
缺点 / 挑战
- 问题有挑战：工作直面真实世界的高级安全威胁和AI新风险，技术挑战性强，能快速提升综合能力
角色解读
- 技术专家路径：深耕AI安全与智能体技术，成为该领域的资深技术专家或架构师
- 研究路径：在AI安全前沿（如Agent安全、大模型安全评估）进行深入研究，产出高水平成果
- 综合发展路径：结合技术深度与业务理解，走向技术管理岗位，负责整个AI安全体系的建设
- 设计和开发用于自动化漏洞挖掘、威胁分析和安全运营的AI智能体系统
- 构建和维护用于训练与评测安全大模型的高质量数据集和自动化流水线
- 研究和防御针对AI模型和智能体系统本身的新型安全风险，如提示注入、越狱攻击
- 将AI安全研究成果落地到云安全产品、平台或具体业务场景中，提升安全防护效率
- 扎实的编程能力（Python必须，熟悉其他至少一门语言）和系统工程实现能力
- 理解主流网络安全攻防技术（Web、云、主机等）和常见攻击面
- 了解大语言模型和智能体的工作原理，有相关开发或应用经验
- 具备数据处理与评测工程能力，能够构建自动化pipeline
申请策略
- 深入研究阿里巴巴在云安全、数据安全和AI安全方面的产品与公开技术博客，了解其技术栈和关注点
- 在面试中，不仅要展示技术能力，更要体现你对安全问题的系统性思考（攻击者视角）以及将AI技术有效落地解决实际安全问题的思路（工程师视角）
- 突出Python工程能力及在数据处理、自动化工具开发方面的项目经验
- 详细描述与安全攻防相关的经历（如漏洞挖掘、CTF、安全工具开发、安全研究等）
- 展示对大模型/智能体技术的理解和实践经验（如使用LLM、Agent框架、RAG等进行开发的项目）
- 如果有的话，强调在评测体系设计、数据pipeline建设或AI安全方面的具体成果
- 系统复习和深化Web安全、云安全等基础攻防知识，并了解MITRE ATT&CK等框架
- 动手实践主流的Agent框架（如LangChain, LlamaIndex）和LLM应用开发，尝试构建一个简单的安全Agent
面试指南
- 对于技术问题，采用‘背景-挑战-思路-方案-结果/反思’的结构清晰阐述
- 对于设计类问题，先明确核心目标，再分解关键模块（如数据、模型、工具、安全），最后说明如何评估和迭代
- 对于概念/原理问题，先给出清晰定义，再分析其危害和原理，最后提出切实可行的应对思路（不追求完美，但要合理）
- 请描述你过去解决过的一个最复杂的安全或AI工程问题，你是如何分析和解决的？
- 如何设计一个安全智能体（Agent），使其能够有效辅助安全运营人员进行告警降噪和事件响应？需要考虑哪些关键技术和非技术因素？
- 如果要为一个大模型驱动的漏洞扫描工具设计评测体系，你会从哪些维度（指标）来评估它的效果和可靠性？
- 请谈谈你对'提示注入'攻击的理解，并简要设计一种防御机制或检测方案
- 准备2-3个与JD要求高度相关的个人项目案例（最好是安全+AI的交叉项目），能清晰阐述技术选型、实现细节和成果
职位点评
薪资福利70
成长发展90
工作生活55
使命价值80
薪资福利
70中等
作为已上市的大型科技公司岗位，预计能提供市场有竞争力的薪酬和完善的福利体系，但具体水平未在JD中披露，需进一步确认。
薪资信号未披露（AI估算：35K-60K/月）
成长发展
90较高
该职位处于AI与安全两大前沿技术的交叉点，技术挑战大，学习成长空间广阔，且有明确的将研究成果产品化落地的路径。
技术前沿前沿/新兴技术
技术栈大模型、智能体、Agent、RAG、安全攻防、数据工程、评测体系
成长机会持续迭代、推动研究成果进入云安全产品
业务类型ambiguous
工作生活
55较低
JD中未明确提及办公模式和WLB相关承诺，工作内容涉及复杂的系统构建和前沿研究，可能需要投入较多精力。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
该岗位致力于利用AI技术提升安全防护的自动化和智能化水平，保护基础设施和用户安全，具有较高的社会价值和技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号目标是把...沉淀为可运行、可评测、可持续迭代的工程系统、提高安全工作的覆盖率、准确率和响应效率
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs