汇丰
Director, AI Safety and Evaluation Centre of Excellence Lead
Director, AI Safety and Evaluation Centre of Excellence Lead
发布于 大约 8 小时前中层管理(经理/总监)
广州市
高级经验
全职员工
混合式弹性办公
本科
技术管理
Ai安全
Llm
Nist Ai Rmf
Pytorch
Tensorflow
模型评估
生成式Ai
红队测试
风险管理
AI 估算 · 60k–90k
高级管理岗位，AI安全领域稀缺，汇丰平台大，薪资竞争力强。
职位详情
关于这个职位
该职位是汇丰银行首席AI办公室下属的AI安全与评估卓越中心负责人，负责领导团队制定AI安全标准、开展AI安全测试与评估，并推动负责任AI在集团内的落地
你将与全球AI、风险、网络安全等团队紧密合作，确保AI应用安全合规，同时参与行业标准制定
适合具备深厚AI安全技术背景和风险管理经验的专业人士
最低要求
AI工程与系统：
对AI/ML系统有扎实的工作知识，包括生成式AI/LLM及部署模式（如API、流水线、MLOps/LLMOps）
有在模型开发和部署生命周期中嵌入护栏和安全控制的经验
模型评估与测试：
具备模型评估技术（性能、偏差/公平性、可解释性、鲁棒性）的实践经验
有进行AI安全测试（如红队测试、对抗性测试、基于场景的评估）的实践经验
网络安全与AI威胁：
理解AI相关的网络风险（如提示注入、数据泄露、对抗性攻击）和威胁建模概念
能够与网络安全团队合作，将威胁驱动的测试整合到评估流程中
风险与治理：
熟悉受监管环境中的模型风险管理（MRM）和操作风险框架
能够设计和记录测试结果，与风险决策关联，并支持治理审批
有应用关键框架（如NIST AI RMF、ISO/IEC 42001、MAESTRO）的经验
工作职责
AI安全测试与评估：
建立并领导一个高绩效的AI安全与评估卓越中心，建立可扩展的测试能力、可复用资产和最佳实践，包括但不限于'橙色团队'、模拟和自动化评估，以补充现有的网络和MRM测试
测试和挑战护栏、测试和评估方法，为用例提供信息，并为治理和批准决策提供信息
包括：
业务风险转化与治理：将结果转化为清晰的业务风险可读评估（客户伤害、行为、金融犯罪、法律/监管、声誉、操作风险），并附有影响/可能性评分、接受标准和决策就绪的go/no-go建议
端到端控制有效性测试：评估不仅模型质量，还包括完整解决方案（人机协同、监控、升级、回退/终止开关），包括控制设计和有效性证据，用于批准/审计
生成式AI系统安全与代理控制：测试提示注入、工具/检索投毒、不安全工具使用、最小权限、操作确认/交易边界，以及更广泛的供应链/配置风险
数据、隐私与信息治理：评估数据来源/谱系和使用权（训练/微调/RAG）、跨境/保留限制，并运行隐私测试（PII泄漏、记忆/复现、成员推断）及缓解措施
操作韧性与可靠性：定义和测试非功能性要求（可用性、延迟、依赖/供应商故障场景、安全降级），以及持续监控漂移、安全回归和事件触发
风险分级指标与自动化：定义KRIs/KPIs和回归基准，并将评估集成到LLMOps/CI/CD中，作为自动化测试工具和发布门禁，并具有可追溯的报告
提供高级主题专业知识，与CAIO、风险、网络安全和集团AI领导层合作，加强AI安全和负责任AI的采用
标准、框架与运营模式：
定义、实施并持续改进内部标准、方法论和工具，用于AI安全与评估测试和保证
建立并运营一致的AI安全与评估测试目标运营模式，与现有模型风险管理（MRM）、网络安全和业务风险框架互补
将负责任AI原则转化为实际控制、测试协议和可衡量的保证标准，嵌入治理流程
外部参与与思想领导力：
评估新兴AI风险（如滥用、对抗性威胁和代理行为）
监控和解读行业动态，将见解转化为汇丰的AI安全与评估方法
代表汇丰参加外部论坛和工作组，为AI安全与评估行业最佳实践做出贡献
优先资格
高级AI工程与工具：
对LLM/代理架构、评估框架和对齐技术有深入的专业知识
有使用现代工具的经验，如Python ML栈（PyTorch、TensorFlow）、评估框架（如LangChain、提示/评估工具）和可扩展的测试基础设施
高级评估与红队：
有设计企业级AI红队项目的经验，包括自动化评估、模拟和合成数据生成
擅长定义与业务关键性和监管期望一致的风险分级评估策略和指标
对对抗性AI安全实践（如模型反转、数据中毒、越狱技术）有深入的实际理解，并能整合到企业控制中
有将AI测试与更广泛的网络保证和渗透测试计划对齐的经验
风险领导与运营模式设计：
有在金融服务或类似受监管行业中设计和扩展AI安全或模型验证能力的经验
与MRM、审计和监管期望高度一致，包括文档、可追溯性和审计准备
行业经验：
在金融服务或大规模部署AI的受监管行业有重要经验
与监管机构、行业机构和学术界在AI安全、保证或治理方面有互动
AI 洞察
优缺点分析
优点
- 处于AI安全前沿，职业发展潜力巨大
- 汇丰作为全球金融机构，平台大，资源丰富
- 工作内容多样，涉及技术、治理、外部参与，能全面提升能力
- 需要平衡技术深度与业务需求，沟通协调难度大
- 对专业能力要求极高，需要持续学习
- 适合具备深厚AI安全技术背景，同时具备战略思维和领导力的资深专业人士
缺点 / 挑战
- 工作强度高，需要应对快速变化的AI风险
角色解读
- 可晋升为集团负责任AI负责人或更高级别的AI治理领导职位
- 成为AI安全领域的行业专家，影响全球AI治理标准
- 领导AI安全与评估中心，制定AI安全测试策略和标准，确保AI应用符合内部和监管要求
- 与集团内AI、风险、网络安全等部门合作，将AI安全测试嵌入AI生命周期，提供风险决策支持
- 代表汇丰参与外部AI安全论坛，推动行业最佳实践
- 深厚的AI/ML知识，特别是生成式AI和LLM，熟悉模型评估和红队测试方法
- 熟悉AI风险管理和治理框架，如NIST AI RMF、ISO/IEC 42001
- 出色的沟通和影响力，能够与高级管理层和跨部门团队有效协作
申请策略
- 了解汇丰的AI战略和负责任AI原则，在面试中体现契合度
- 准备案例，展示如何将AI安全测试结果转化为业务决策
- 突出AI安全测试项目经验，特别是红队测试和评估框架的搭建
- 强调在金融或受监管行业中的AI治理和风险管理经验
- 展示对AI安全框架的深入理解，如NIST AI RMF
- 深入学习LLM安全、代理安全等前沿技术
- 熟悉主流AI安全工具和评估框架
面试指南
- 使用STAR法则：情境、任务、行动、结果，具体描述项目经验
- 强调与业务结合，说明如何将技术测试与业务风险关联
- 展示对行业标准的理解，并结合实际案例
- 请描述你设计企业级AI红队项目的经验
- 如何将AI安全测试结果转化为业务风险决策？
- 你如何理解NIST AI RMF框架？如何应用？
- 面对快速变化的AI风险，你如何保持团队的专业性？
- 复习AI安全测试方法，如红队、对抗测试
职位点评
79
综合评分
AI安全前沿管理岗，发展潜力大，薪资优厚，但工作强度可能较高。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求前沿技术挑战和职业发展，对工作生活平衡要求不高的资深专业人士。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展95
工作生活60
使命价值85
薪资福利
75中等
该职位为高级管理岗位，薪资水平较高，但具体薪资未披露，福利未提及，因此补偿性动机满足程度中等偏上。
薪资信号未披露（AI估算：60K-90K/月）
成长发展
95较高
该职位处于AI安全前沿，涉及最新技术，并提供与行业专家合作的机会，发展性动机得到极大满足。
技术前沿前沿/新兴技术
技术栈AI安全、LLM、红队测试、生成式AI、NIST AI RMF
业务类型ambiguous
工作生活
60中等
工作地点在广州，但具体办公地点未明确，且工作强度可能较高，生活化动机满足程度一般。
工作模式混合式弹性办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
该职位在推动AI安全实践方面具有积极的社会影响力，符合行业发展趋势，意义感动机满足程度较高。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs