华为
AI安全与隐私工程师
AI安全与隐私工程师
发布于 大约 3 小时前普通员工/个人贡献者
北京市 / 上海市
中级经验
全职员工
仅现场办公
学历未注明
信息安全
Llamaindex
Llm安全
Pytorch
Rag
Tensorflow
对抗性攻击
差分隐私
联邦学习
AI 估算 · 25k–45k
AI安全是前沿方向，华为平台技术门槛高，薪资竞争力强，一线城市AI安全工程师月薪在25-45K范围，14薪。
职位详情
关于这个职位
该职位负责华为AI应用与模型的安全防护，包括智能体攻防红队、RAG隐私保护、模型鲁棒性评估及AI基础设施安全加固
需要扎实的编程能力、深度学习（DL）与网络安全知识，适合对AI安全前沿方向感兴趣的工程师
最低要求
【AI应用安全】1、编程基础：熟练掌握 Python，熟悉 LangChain、LlamaIndex 或类似的 Agent 开发框架
AI 视野：深入理解 LLM 的推理机制及 RAG 架构，熟悉 OWASP Top 10 for LLM 风险分类
安全背景：熟悉常见的 Web 安全漏洞（如 SSRF、注入、权限逻辑漏洞），并能理解其在 AI 场景下的演变
【AI模型与Infra安全】1、熟练掌握 Python/C++，深入理解 PyTorch 或 TensorFlow 的底层机制
熟悉 Linux 系统安全、容器化技术（Docker/K8s）及云原生安全架构
具备较强的数学基础，了解对抗生成网络（GAN）、对抗攻击算法（如 FGSM, PGD）或联邦学习
工作职责
【AI应用安全】1、Agent 攻防红队：针对智能体系统进行“提示词攻击”测试（如直接/间接提示词注入、越权提权），挖掘 Agent 在自主决策路径上的漏洞
工具调用安全（Tool/Plugin Security）：评估并设计 Agent 调用外部接口（API、数据库、Shell）时的安全校验机制，防止非法指令执行
RAG 与隐私保护：负责检索增强生成（RAG）过程中的数据权限控制，确保 Agent 在多租户、多角色环境下不发生敏感信息越权泄露
防御组件研发：开发与维护 AI 护栏（Guardrails）系统，对模型输入输出进行实时扫描、敏感词过滤及有害意图拦截
业务风险建模：针对特定业务场景（如 AI 助手、自动化办公）进行威胁建模，制定 Agent 行为的安全基线
【AI模型与Infra安全】1、模型鲁棒性与对齐：评估大模型在面对对抗性样本（Adversarial Examples）时的稳定性，通过微调或对齐技术提升模型抗干扰能力
训练数据安全：负责数据采集与预处理阶段的“投毒（Poisoning）”检测，防止攻击者在训练集中埋下后门或恶意逻辑
模型资产保护：设计模型权重（Weights）的加密存储与访问控制方案，防止模型被盗取、非法反向工程或被恶意提取参数
Infra 与算力平台安全：负责 AI 集群（K8s/容器）的安全加固，监控分布式训练环境下的横向移动风险，防止算力被盗用
供应链安全：建立 AI 开源组件与预训练模型文件的安全扫描体系，防止加载包含恶意脚本的模型文件（如 Pickle 反序列化漏洞）
优先资格
加分项：有过对主流 AI 应用（如 GPTs、大模型插件）的实战漏洞挖掘经验
熟悉差分隐私或脱敏算法
加分项：熟悉可信计算（TEE/SGX）在 AI 领域的应用
在 AI 安全相关顶会（如 USENIX, CCS, NeurIPS 等）有研究成果
AI 洞察
优缺点分析
优点
- AI安全是当前最热门的领域之一，职业前景广阔，技术稀缺性高
- 华为提供复杂业务场景和顶级算力平台，能深度接触AI模型与基础设施安全实践
- 可参与到红队对抗、前沿攻防研究，对个人技术成长价值巨大
- 公司平台大，内部转岗和资源获取机会较多
- 岗位要求综合能力极强，需同时精通AI、安全、云原生，学习成本高
- 涉及多团队协作（AI研发、Infra、业务），需较强的沟通和推动能力
缺点 / 挑战
- 攻防对抗工作强度大，需持续跟踪最新漏洞和攻击手法，压力较大
- 适合对AI安全有浓厚兴趣、具备编程与安全背景、喜欢挑战和前沿技术研究的工程师
角色解读
- 从AI安全工程师向AI安全专家或安全架构师发展
- 在华为可参与顶级AI项目，积累实战经验后转向安全研究或管理岗位
- 有机会在AI安全领域成为行业领军人物，参与制定标准和发布研究成果
- 对AI智能体进行攻防测试，模拟提示词注入、越权等攻击，挖掘自主决策漏洞
- 设计AI应用的安全防护机制，包括工具调用校验、RAG数据权限控制、Guardrails防御组件
- 评估大模型鲁棒性，通过对抗训练或对齐提升抗攻击能力，并保障模型资产与训练数据安全
- 加固AI基础设施（K8s/容器），防范算力滥用与供应链安全风险
- 扎实的编程能力：熟练Python或C++，熟悉LangChain、PyTorch等框架
- AI与安全双重知识：理解LLM原理、RAG架构、OWASP Top 10 for LLM及传统Web漏洞
- 云原生安全：熟悉Docker/Kubernetes、Linux系统安全、供应链安全
- 数学基础：了解对抗攻击算法（FGSM/PGD）、联邦学习或可信计算者更佳
申请策略
- 了解华为AI安全团队的业务方向，在面试中展示对具体应用场景（如智能助手、AutoGPT）的安全思考
- 提前准备至少一个完整的攻防/防御项目讲解，体现从发现问题到解决的研究闭环
- 突出AI相关的项目经验，如RAG系统开发、LangChain应用、模型微调等
- 重点展示安全领域的实战成果，如漏洞挖掘案例、CTF获奖、安全工具贡献
- 强调Python/C++、PyTorch/TensorFlow、K8s/Docker的实际使用深度
- 如果有论文或顶会发表，务必显著标注
- 补充学习主流的LLM安全攻击与防御知识，例如提示词注入、越狱攻击、防护层设计
- 动手实践AI安全工具，如Garak、TextAttack，或参与开源AI安全项目
面试指南
- 问题通常分为攻击和防御两类，回答时先分析攻击原理，再提出分层防御方案
- 结合项目案例，用STAR法则（情境-任务-行动-结果）说明你解决的问题和权衡
- 若不了解具体细节，可展示思路和知识框架，并坦诚说明可深入学习的方向
- 如何检测和防御提示词注入攻击？请结合具体应用场景说明
- 在RAG系统中，如何实现多租户数据隔离和权限控制，防止敏感信息泄露？
- 有对抗性样本攻击大模型，你会如何评估模型鲁棒性并加固？
- 谈谈你在容器或K8s集群安全加固方面的经验
- 在模型训练过程中，如何防范数据投毒或后门植入？
职位点评
72
综合评分
华为AI安全岗，前沿技术栈，职业发展潜力大，但工作强度与生活平衡挑战明显。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术前沿和快速成长、能接受高强度工作节奏的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活40
使命价值80
薪资福利
75中等
华为提供有竞争力的薪酬和福利，但JD未明确薪资范围，整体补偿性较好。
薪资信号未披露（AI估算：25K-45K/月）
成长发展
90较高
AI安全是前沿领域，技术挑战大，成长空间极高；华为内部培训与平台资源丰富。
技术前沿前沿/新兴技术
技术栈LLM、RAG、LangChain、PyTorch、TensorFlow、Kubernetes、对抗性攻击、差分隐私、联邦学习
业务类型ambiguous
工作生活
40较低
岗位要求高强度投入，工作地点多但未明确远程/弹性，华为普遍工作强度较高，生活平衡一般。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
AI安全具有重要社会价值，保护用户隐私和模型安全，华为作为巨头有一定使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
华为 的其他在招职位
相似职位推荐
Watch Jobs