华为
AI安全与隐私工程师
AI安全与隐私工程师
发布于 大约 3 小时前普通员工/个人贡献者
深圳市 / 上海市
高级经验
全职员工
仅现场办公
学历未注明
信息安全
Pytorch
Rag
Tensorflow
对抗攻击
提示词注入
隐私保护
AI 估算 · 35k–60k
AI安全人才稀缺，华为平台大，技术难度高，薪资竞争力强。
职位详情
关于这个职位
该职位负责AI模型与基础设施的安全防护，包括对抗样本防御、训练数据投毒检测、模型资产加密保护等，同时负责AI应用层安全，如大模型提示词攻击测试、Agent工具调用安全、RAG隐私保护等
工作涉及前沿AI安全技术，适合具备扎实编程与深度学习基础、对攻防有热情的工程师
最低要求
【AI模型与Infra安全】
核心技术：熟练掌握 Python/C++，深入理解 PyTorch 或 TensorFlow 的底层机制
基础设施安全：熟悉 Linux 系统安全、容器化技术（Docker/K8s）及云原生安全架构
算法与数学：具备较强的数学基础，了解对抗生成网络（GAN）、对抗攻击算法（如 FGSM, PGD）或联邦学习
【AI应用安全】
编程基础：熟练掌握 Python，熟悉 LangChain、LlamaIndex 或类似的 Agent 开发框架
AI 视野：深入理解 LLM 的推理机制及 RAG 架构，熟悉 OWASP Top 10 for LLM 风险分类
安全背景：熟悉常见的 Web 安全漏洞（如 SSRF、注入、权限逻辑漏洞），并能理解其在 AI 场景下的演变
工作职责
【AI模型与Infra安全】
模型鲁棒性与对齐：评估大模型在面对对抗性样本（Adversarial Examples）时的稳定性，通过微调或对齐技术提升模型抗干扰能力
训练数据安全：负责数据采集与预处理阶段的“投毒（Poisoning）”检测，防止攻击者在训练集中埋下后门或恶意逻辑
模型资产保护：设计模型权重（Weights）的加密存储与访问控制方案，防止模型被盗取、非法反向工程或被恶意提取参数
Infra 与算力平台安全：负责 AI 集群（K8s/容器）的安全加固，监控分布式训练环境下的横向移动风险，防止算力被盗用
供应链安全：建立 AI 开源组件与预训练模型文件的安全扫描体系，防止加载包含恶意脚本的模型文件（如 Pickle 反序列化漏洞）
【AI应用安全】
Agent 攻防红队：针对智能体系统进行“提示词攻击”测试（如直接/间接提示词注入、越权提权），挖掘 Agent 在自主决策路径上的漏洞
工具调用安全（Tool/Plugin Security）：评估并设计 Agent 调用外部接口（API、数据库、Shell）时的安全校验机制，防止非法指令执行
RAG 与隐私保护：负责检索增强生成（RAG）过程中的数据权限控制，确保 Agent 在多租户、多角色环境下不发生敏感信息越权泄露
防御组件研发：开发与维护 AI 护栏（Guardrails）系统，对模型输入输出进行实时扫描、敏感词过滤及有害意图拦截
业务风险建模：针对特定业务场景（如 AI 助手、自动化办公）进行威胁建模，制定 Agent 行为的安全基线
优先资格
加分项：熟悉可信计算（TEE/SGX）在 AI 领域的应用
在 AI 安全相关顶会（如 USENIX, CCS, NeurIPS 等）有研究成果
加分项：有过对主流 AI 应用（如 GPTs、大模型插件）的实战漏洞挖掘经验
熟悉差分隐私或脱敏算法
AI 洞察
优缺点分析
优点
- AI安全是新兴高需求领域，人才稀缺，职业发展空间广阔
- 团队通常有完善的资源支持，有机会参与行业顶会交流
- 涉及跨领域知识（AI+安全），学习曲线陡峭，需持续学习
- 大模型安全攻击日新月异，需要保持高度警觉和快速响应能力
缺点 / 挑战
- 华为平台大，技术积累深厚，能接触前沿AI安全挑战
- 工作内容兼具安全攻防的对抗性和AI技术的创新性，富有挑战性
- 华为工作强度相对较高，需适应可能的加班和紧急任务
- 适合对AI技术和安全攻防都有浓厚兴趣，具备扎实底层功底，喜欢挑战和钻研前沿技术的工程师
角色解读
- 在AI安全领域纵深发展，成为对抗攻防、隐私保护方向的专家
- 结合业务，逐步主导AI安全方案设计与团队管理
- 向AI安全架构师或安全研究负责人方向发展，参与行业标准制定
- 负责大模型鲁棒性评估与对抗样本防御，通过微调或对齐提升模型抗干扰能力
- 检测训练数据中的投毒与后门，设计模型权重加密和访问控制防窃取
- 对AI集群进行安全加固，监控容器和分布式环境的横向移动风险
- 对智能体系统进行提示词注入、越权提权等红队测试，并开发防御组件
- 保障RAG过程的数据权限控制，防止多租户下敏感信息泄露
- 精通Python或C++，深入理解PyTorch/TensorFlow底层原理
- 熟悉Linux安全、Docker/K8s和云原生安全体系
- 了解对抗攻击算法（FGSM/PGD）、GAN或联邦学习
- 熟悉LangChain等Agent框架，理解LLM与RAG架构，掌握OWASP LLM风险分类
申请策略
- 华为面试多轮，技术面深，建议提前准备系统设计、手撕代码和AI基础
- 关注华为招聘官网，确认意向城市，可优先投递与自己背景匹配的岗位方向（模型安全或应用安全）
- 突出AI项目经历，尤其是大模型微调、对抗样本生成或防御、RAG系统开发
- 如有安全攻防经验（Web安全、渗透测试、红队）应重点展示，关联AI场景
- 强调编程能力和底层框架理解，展示PyTorch/TensorFlow源码阅读或自定义算子经验
- 列出发表的论文、开源项目或CTF获奖等加分项
- 学习OWASP Top 10 for LLM，熟悉常见提示词注入、数据投毒等攻击手法
- 动手复现FGSM、PGD对抗攻击，尝试微调一个小模型提升鲁棒性
面试指南
- 对于技术方案类问题，可采用“场景-威胁模型-方案设计-细节权衡”的框架：先明确安全目标，再梳理攻击面，然后给出分层防御策略，并说明优缺点
- 对于经验类问题，用STAR法则：描述情境、任务、行动、结果，突出个人贡献和思考
- 对于概念类问题，先给出清晰定义，再联系实际例子，最后说明重要性
- 如何检测训练数据集中的投毒样本？请设计一个方案
- 对抗性样本攻击的原理是什么？如何防御？
- 如何保护大模型的权重不被窃取？
- 请分析一个常见的提示词注入攻击场景，并提出防护措施
- 在RAG系统中，如何确保多租户环境下的数据权限隔离？
职位点评
71
综合评分
大厂平台，前沿AI安全方向，技术成长快，但工作强度可能较高。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合看重技术成长和前沿探索、对工作生活平衡要求不高的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展85
工作生活45
使命价值70
薪资福利
75中等
华为薪资在业内具有竞争力，且平台稳定，但具体薪酬未在JD中披露。
薪资信号未披露（AI估算：35K-60K/月）
成长发展
85较高
岗位涉及AI安全前沿技术，技术深度和广度兼备，有大量机会接触最新攻击与防御手段，成长空间大。
技术前沿前沿/新兴技术
技术栈Python、PyTorch、Kubernetes、RAG、LangChain、对抗攻击、隐私保护
业务类型ambiguous
工作生活
45较低
JD未提及远程或弹性工作，华为现场办公且工作强度可能较高，生活平衡一般。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
AI安全对保护用户数据和技术伦理有积极社会意义，且处于高速发展的AI行业，使命感和行业前景良好。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
华为 的其他在招职位
相似职位推荐
Watch Jobs