阿里巴巴
数据技术及产品部-大模型安全专家-AIData
数据技术及产品部-大模型安全专家-AIData
发布于 大约 8 小时前普通员工/个人贡献者
杭州市
专家级经验
全职员工
仅现场办公
硕士
信息安全
Ai安全
Go
大模型
安全架构
密码学
密钥管理
红队
加密协议
AI 估算 · 40k–70k
大模型安全专家属于高稀缺岗位，阿里巴巴平台提供高薪，结合杭州互联网薪资水平，月薪4-7万合理。
职位详情
关于这个职位
作为阿里巴巴数据技术及产品部的大模型安全专家，你将专注于大模型推理过程的加密与隐私保护，设计纵深防御体系以应对Prompt注入、模型滥用等AI风险，并推动反蒸馏技术落地
该职位需要扎实的密码学与安全工程背景，同时要求对AI安全充满热情，适合希望站在AI安全前沿的资深技术专家
最低要求
计算机、信息安全、物理、数学相关专业硕士及以上学历
具备优秀的工程能力，熟悉至少一种主流开发语言（Go、Java、Python 等）
扎实的密码学基础，熟悉对称/非对称加密、密钥管理体系、认证加密（AEAD）、以及侧信道攻击（长度、时序、缓存）的原理与防御
熟悉 Web、移动端、服务端等应用安全体系和常见漏洞原理，具备扎实的安全基础和漏洞分析能力
具备安全红队思维：能主动发现方案中的隐蔽泄露路径，构造 PoC 验证攻击可行性并量化影响
对 AI 安全充满热情，乐于探索新的安全技术和工程实践
对AI在漏洞治理、风险分析的应用有浓厚兴趣
工作职责
设计大模型推理（reasoning trace / CoT blob）的加密与隐私保护方案，覆盖密钥管理（per-user / per-session 密钥体系）、加密协议选型、防重放机制设计
防御机制拆解：跟踪国内外主流模型的安全策略，通过实验分析其在内容过滤、逻辑保护方面的实现路径
安全围栏建设：构建覆盖 Prompt Injection、Tool Abuse、模型滥用、越权访问、数据泄露等AI 风险的纵深防御能力
反蒸馏技术落地：协助落地基础的防爬取、模型输出干扰等风控方案，保护公司模型资产
跨团队协作：与算法团队配合，将发现的安全漏洞转化为模型微调或强化学习的训练样本，并实验验证效果
系统化：建设企业级安全风险感知体系，持续发现业务及 AI 系统安全风险
推动AI安全能力平台化、产品化，为AI开发提供统一、安全、易用的基础能力
优先资格
加分项：了解 AI 安全与对齐相关议题，理解推理过程可见性对模型监督和可解释性研究的意义
AI 洞察
优缺点分析
优点
- 站在AI安全前沿，接触最新的大模型安全技术
- 阿里巴巴平台大，资源丰富，能参与企业级安全体系建设
- 薪资竞争力强，福利完善
- 技术难度高，需要持续学习AI和密码学新知识
- 工作强度可能较大，需要应对快速变化的AI安全威胁
- 跨团队协作要求高，需要良好的沟通能力
缺点 / 挑战
- 适合对AI安全有浓厚兴趣、具备扎实密码学基础、喜欢挑战性工作的技术专家
角色解读
- 成为AI安全领域的专家，主导大模型安全架构设计
- 向安全团队管理层发展，负责安全产品规划与团队管理
- 深入AI安全研究，推动行业安全标准制定
- 设计大模型推理过程的加密与隐私保护方案，包括密钥管理和加密协议选型
- 分析主流模型的安全策略，通过实验拆解其内容过滤和逻辑保护机制
- 构建AI安全纵深防御体系，覆盖Prompt注入、工具滥用等风险
- 与算法团队合作，将安全漏洞转化为模型训练样本，并推动安全能力平台化
- 扎实的密码学基础，熟悉对称/非对称加密、密钥管理和AEAD
- 优秀的工程能力，掌握Go、Java或Python等主流语言
- 熟悉Web、移动端、服务端安全漏洞原理，具备红队思维
- 对AI安全有热情，了解AI对齐和推理过程可见性等议题
申请策略
- 了解阿里巴巴AI安全团队的业务方向，展示对AI安全的理解
- 准备项目案例，突出安全方案设计和落地效果
- 突出密码学项目经验，如加密方案设计、密钥管理
- 强调AI安全相关经历，如模型安全测试、漏洞分析
- 展示工程能力，如使用Go/Python开发安全工具
- 提及红队或渗透测试经验，体现攻击思维
- 深入学习AI安全前沿，如对抗性攻击、模型对齐
- 熟悉大模型推理机制，了解CoT和隐私保护技术
面试指南
- 结合具体项目经验，展示安全方案设计思路
- 从攻击者角度分析，体现红队思维
- 强调跨团队协作和实际落地效果
- 如何设计大模型推理过程的加密方案？
- 面对Prompt注入攻击，你会如何防御？
- 解释AEAD加密原理及其在密钥管理中的应用
- 如何将安全漏洞转化为模型训练样本？
- 你如何评估一个AI系统的安全风险？
职位点评
80
综合评分
大厂高薪、前沿AI安全技术，发展空间大，但WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术成长、对AI安全有热情、能接受一定工作强度的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展90
工作生活60
使命价值80
薪资福利
85较高
阿里巴巴提供高薪和稳定福利，薪资水平在行业中偏高，满足补偿性动机。
薪资信号未披露（AI估算：40K-70K/月）
成长发展
90较高
职位涉及前沿AI安全技术，有大量学习机会，且阿里巴巴平台大，发展空间广阔。
技术前沿前沿/新兴技术
技术栈AI安全、大模型、密码学、加密协议、密钥管理
业务类型ambiguous
工作生活
60中等
工作地点在杭州，现场办公，未提及弹性工作，但阿里巴巴通常有弹性工时，整体WLB一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
AI安全对保护用户隐私和模型资产有积极意义，行业前景好，满足意义感动机。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs