华为
AI安全与隐私研究员
AI安全与隐私研究员
发布于 大约 8 小时前普通员工/个人贡献者
深圳市 / 上海市
专家级经验
全职员工
仅现场办公
学历未注明
信息安全
Ai安全
Fuzzing
Mpc
Rlhf
Tee
同态加密
对抗攻击
形式化验证
机密计算
AI 估算 · 50k–90k
AI安全前沿方向，华为平台优质，高级研究岗薪资竞争力强，参考高端AI研究员水平。
职位详情
关于这个职位
这是华为AI安全与隐私研究员岗位，专注于大模型及多模态模型的对抗防御、隐私保护、机密计算和Agent安全对齐
你将研究可证鲁棒性、TEE、同态加密、RLHF等前沿技术，解决AI系统的核心安全挑战
适合有顶会成果、数学功底深厚、对AI安全有热情的研究型人才
最低要求
【AI模型与Infra安全】 教育背景：信息安全、数学、密码学或系统架构方向，在 USENIX Security, IEEE S&P; (Oakland), ACM CCS, NDSS 等安全顶会有突破性成果
底层攻防造诣：深入理解模型参数存储机制、序列化协议安全及计算图编译优化过程中的安全风险
数学能力：具备极强的数学建模能力，精通概率论、线性代数及复杂性理论
跨界思维：能够将传统的系统安全思想（如隔离、最小权限原则）与现代深度学习架构深度融合
【AI应用安全】 教育背景：计算机科学、人工智能或相关方向，在 ACL, EMNLP, NeurIPS, ICLR 等顶会有高质量论文发表
深厚理论背景：深入理解强化学习、博弈论或控制论在 AI 安全中的应用
创新能力：能够从 0 到 1 提出解决“黑盒攻击”或“间接注入”的防御架构，而非仅仅依赖现有的过滤规则
视野：对 AGI 时代的对齐问题（Superalignment）有深刻见解
工作职责
岗位职责 【AI模型与Infra安全】 1、可证鲁棒性（Certifiable Robustness）： 研究针对大模型及多模态模型的对抗攻击防御理论，开发具备数学证明保证的防御算法，提升模型对抗扰动和恶意投毒的免疫力
模型资产与隐私保全： 研究模型反向工程、成员推理攻击的防御机制
探索轻量化同态加密、安全多方计算（MPC）在超大规模模型推理中的应用
计算平台受信任执行： 研究基于 TEE（如 Intel TDX, ARM TrustZone）的机密计算架构，确保模型权重在异构算力集群中处理时不被窃取或篡改
自动化漏洞发现理论： 开发针对深度学习框架（如 PyTorch/TensorFlow 核心库）和推理引擎的自动化安全审计工具及模糊测试（Fuzzing）理论
【AI应用安全】 1、Agent 决策一致性与对齐研究： 研究如何通过强化学习（RLHF/DPO）或构造新型损失函数，确保 Agent 在执行复杂长链路任务时，其行为逻辑始终符合人类伦理与预设安全基线
多智能体对抗博弈： 探索多 Agent 协作环境下的安全风险，研究智能体之间是否存在潜在的“共谋”绕过安全机制，并设计去中心化的安全审计机制
形式化验证与逻辑安全： 尝试利用形式化方法（Formal Methods）验证 Agent 动作空间的安全性，将模糊的语言指令转化为可数学证明的逻辑约束
动态隐私追踪技术： 研究在 Agent 频繁调用外部工具、跨应用传输数据时，如何实现细粒度的隐私数据动态追踪与策略强制执行
AI 洞察
优缺点分析
优点
- 处于AI安全前沿领域，技术含量高，个人成长速度快
- 华为平台资源丰富，能接触大规模算力和真实业务场景
- 研究自由度大，鼓励创新和顶会论文发表，学术影响力强
- 薪资福利优厚，跨城市多地点选择，适合不同生活需求
- 对数学和理论能力要求极高，需要持续学习和钻研
- AI安全竞争激烈，需不断跟踪前沿，保持领先
- 适合有扎实学术背景、热爱AI安全研究、渴望在技术前沿创造突破的博士或资深工程师
缺点 / 挑战
- 研究难度大，突破性成果需要长期高强度投入，压力较大
角色解读
- 在华为AI安全团队中成长为技术专家，主导前沿安全技术研究与落地
- 有机会发表顶级论文，成为领域内有影响力的研究员，向首席科学家方向发展
- 可横向拓展至AI治理、可信AI等方向，或转向团队管理岗位
- 研究大模型和Agent的安全防御理论，开发可证鲁棒性算法，提升模型抗攻击能力
- 探索TEE、同态加密、MPC等机密计算技术，保护模型权重和隐私数据
- 针对深度学习框架和推理引擎进行安全审计与漏洞挖掘，开发自动化工具
- 研究Agent对齐与形式化验证，确保AI行为符合人类伦理和安全基线
- 扎实的数学功底，精通概率论、线性代数、复杂性理论，能进行严格的数学证明
- 深入理解深度学习模型架构、训练推理流程，熟悉PyTorch/TensorFlow
- 对系统安全有深刻理解，掌握隔离、最小权限等安全原则，熟悉TEE技术
- 具备强化学习、博弈论或形式化方法的基础，能应用于AI安全研究
申请策略
- 了解华为AI安全团队的近期研究方向，准备相关思考
- 在面试中展示创新思维，最好有具体的防御架构设计想法
- 突出顶会论文（如Security、S&P、CCS、NDSS、NeurIPS、ICLR），说明创新点和影响力
- 强调数学建模能力，展示在概率论、线性代数、密码学等领域的扎实积累
- 展示实际项目经验，如对抗攻击防御、TEE应用、模型隐私保护等
- 补充形式化方法和博弈论知识，尤其针对Agent安全方向
- 学习TEE平台开发（Intel TDX、ARM TrustZone），动手实践机密计算
- 深入研究LLM安全基线，关注Superalignment等最新研究动态
面试指南
- 从问题定义、技术路线、数学推导、实验验证四步展开，体现逻辑性和严谨性
- 结合具体案例，展示理论联系实际的能力，提及相关顶会工作
- 强调创新点和独特视角，说明如何突破现有方法的局限
- 如何设计针对大模型的对抗防御算法并给出鲁棒性证明？
- 在TEE中部署大模型推理有哪些挑战？如何确保权重不被窃取？
- 如何用形式化方法验证Agent动作空间的安全性？请举例说明
- 面对多维度的成员推理攻击，有哪些有效的防御策略？
- 你如何看待AI对齐问题，如何平衡模型能力与安全控制？
职位点评
76
综合评分
华为AI安全前沿研究岗，技术挑战极高，成长空间巨大，但工作强度未知，薪资未明但预期丰厚。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
最适合追求前沿技术成长、希望在AI安全领域建立学术和工程影响力、不介意高强度工作节奏的研究型人才。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展95
工作生活55
使命价值85
薪资福利
70中等
薪资未在JD中披露，但华为作为巨头企业，薪酬竞争力强，福利体系完整，能较好满足补偿性需求。
薪资信号未披露（AI估算：50K-90K/月）
成长发展
95较高
该职位处于AI安全前沿领域，研究内容具有极高技术挑战性和创新性，对个人学术和职业技能成长有巨大推动作用。
技术前沿前沿/新兴技术
技术栈Certifiable Robustness、TEE、Intel TDX、ARM TrustZone、同态加密、MPC、RLHF、DPO、Formal Methods、Fuzzing、PyTorch、TensorFlow
业务类型ambiguous
工作生活
55较低
该岗位为现场办公，JD未提及弹性或远程工作，华为整体工作强度较高，对工作生活平衡的满足度一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
AI安全研究具有重要社会价值，致力于保护模型与用户隐私，推动AI可信发展，使命感强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
华为 的其他在招职位
相似职位推荐
Watch Jobs