Watch Jobs
HSBC logo
汇丰
Associate Director, Software Engineering (Guardrail Platform AI Safety Track)
立即应聘

Associate Director, Software Engineering (Guardrail Platform AI Safety Track)

发布于 8 天前

中层管理(经理/总监)

广州市 / 深圳市
高级经验
全职员工
混合式弹性办公
学历未注明
安全工程
Ai Safety
Langfuse
Langsmith
Llm
Machine Learning
Nlp
Arize
Jailbreak Detection

AI 估算 · 30k–50k

副总监级别，AI安全前沿领域，技能稀缺，汇丰作为大型外企薪资有竞争力。

职位详情

关于这个职位

该职位是汇丰CTO平台下AI安全轨道的软件工程副总监，负责设计、开发和投产AI安全检测器，保护企业AI应用免受提示注入、数据泄露等威胁

你将构建检测器流水线、优化模型、整合开源方案，并与多方团队协作，确保AI系统的安全性与可观测性
适合有AI安全检测器开发经验且希望深入前沿安全技术的中高级工程师

最低要求

开发AI安全检测器的经验，包括提示注入、越狱、PII、数据泄露、毒性、策略违规或代理安全检测

构建面向安全的大语言模型或小语言模型微调流水线的经验，包括数据集整理、标注策略、训练流程实现、评估设计和生产验证
识别、评估、集成和生产化第三方或开源检测器解决方案的经验，并能就质量、延迟、成本、运营适配和治理要求做出清晰判断
为检测器能力做出合理的自建与采购决策，并能够将内部开发或外部采购的解决方案通过评估、集成、部署和持续运营投入生产
使用AI评估或可观测性工具（如Langfuse, LangSmith, Arize, Phoenix或类似平台）的经验
熟悉数据防泄漏、秘密扫描、文档分类或企业信息保护工具
对抗性测试、红队攻击或AI系统持续攻击模拟的经验

工作职责

设计、开发和投产企业AI应用的AI安全检测器，包括提示注入和越狱检测、个人身份信息和敏感数据检测、数据泄漏防护、内容安全和有害内容检测、策略违规检查、系统提示泄漏检测以及代理或工具使用风险控制

使用多种方法构建检测器流水线，包括基于规则的检测、模式匹配、NLP/ML分类器、嵌入基础模型、LLM-as-a-Judge评估器以及具有清晰接口、置信度评分和策略驱动操作的混合检测策略
开发和优化护栏的检测器模型和评估工作流，包括测试集创建、数据标注策略、微调、模型验证、阈值校准、精确率/召回率优化、回归测试以及基于生产反馈的持续改进
评估和集成行业及开源的AI安全解决方案，包括检测器框架、安全模型和第三方服务
进行自建与采购分析、基准测试、集成和生产就绪评估
跨企业AI工作负载设计端到端的AI安全保护模式，包括RAG系统、编码助手、对话式AI和代理应用，覆盖输入、检索、生成、输出、日志记录和工具执行层
构建AI安全可观测性和治理能力，包括检测器遥测、追踪、仪表板、评估指标、审计线索、反馈回路和运营控制，以监控安全有效性
与AI平台、基础设施、安全和应用团队合作，将安全解决方案投入生产，包括性能优化、可扩展性改进、检测器生命周期管理和可靠的发布策略

AI 洞察

优缺点分析

优点

  • 位于AI安全前沿领域，技术含量高，发展前景广阔
  • 汇丰作为全球金融巨头，平台大，资源丰富
  • 工作方式灵活（混合办公），平衡工作与生活
  • 有机会与多团队合作，提升综合能力
  • AI安全领域发展迅速，需要持续学习新技术
  • 涉及多个项目并行，对时间管理和跨团队协作要求高
  • 适合有AI安全或NLP背景，渴望深入前沿技术并承担技术领导角色的中高级工程师

缺点 / 挑战

  • 安全检测需高精度，压力较大

角色解读

  • 成长为AI安全领域专家，主导大型企业安全架构
  • 可向CTO或首席安全科学家方向发展
  • 积累跨团队协作和战略决策能力，晋升高级管理职位
  • 设计和开发AI安全检测器，检测提示注入、越狱、数据泄露等威胁
  • 构建混合检测流水线，结合规则、NLP/ML分类器和LLM评估器
  • 优化检测模型，进行微调、校准和持续改进
  • 评估和集成第三方开源安全方案，并参与自建与采购决策
  • 深入理解AI安全检测技术，如提示注入、越狱等
  • 熟练使用NLP/ML框架和LLM微调流水线
  • 掌握AI评估与可观测性工具，如Langfuse、LangSmith
  • 具备对抗性测试和红队经验

申请策略

  • 准备一个AI安全检测项目的详细介绍，展示技术深度
  • 了解汇丰的技术栈和文化，强调对金融安全的兴趣
  • 突出AI安全检测器开发经验，包括具体成果和指标
  • 强调LLM微调和评估流水线项目
  • 展示第三方安全方案集成和评估案例
  • 提及对抗性测试或红队经历
  • 熟悉Langfuse、LangSmith等可观测性工具
  • 补充数据防泄漏和企业安全工具知识

面试指南

  • 使用STAR法则描述具体项目：情境、任务、行动、结果
  • 强调数据驱动决策：说明如何用指标（精确率、召回率）指导优化
  • 展示系统思维：从整体架构角度论述安全保护模式
  • 如何设计一个针对提示注入的检测系统？
  • 描述一次你优化检测模型精确率与召回率的经历
  • 你如何评估第三方安全解决方案？
  • 谈谈你对LLM安全红队的理解
  • 如何在企业环境中平衡安全检测的准确性和性能？

职位点评

77
综合评分

前沿AI安全技术岗，发展性极强，薪资和WLB有待明确。

从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。

更适合这类人
该职位最适合注重技术成长和职业发展，愿意接受挑战的技术型人才。
表现最好
成长发展
相对薄弱
使命价值
薪资福利75
成长发展90
工作生活70
使命价值65

薪资福利

75中等

薪资面议，但副总监级别和汇丰品牌暗示市场水准以上，福利可能包括年终奖、补充医疗等，但JD未明确。

薪资信号未披露（AI估算：30K-50K/月）

成长发展

90较高

AI安全是前沿领域，职位涉及多种核心技术，有大量学习和发展机会，但JD未提及晋升通道。

技术前沿前沿/新兴技术
技术栈AI Safety、LLM、NLP、ML、Langfuse、LangSmith
业务类型ambiguous

工作生活

70中等

混合办公提供一定灵活性，但JD未明确远程天数或加班文化，需面试进一步确认。

工作模式混合式弹性办公
办公地点未明确
加班情况未提及（无法判断）

使命价值

65中等

AI安全对社会有正向影响，但金融行业的安全工作更侧重合规与风险，使命感一般。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术

汇丰 的其他在招职位

相似职位推荐

Watch Jobs