HSBC logo
汇丰
Associate Director, Software Engineering (Guardrail Platform AI Safety Track)

Associate Director, Software Engineering (Guardrail Platform AI Safety Track)

发布于 37 分钟前

中层管理(经理/总监)

AI 估算 · 5.5–8.5万 · AI 参考估算
高级经验
学历未注明
全职员工混合式弹性办公应用安全
应用安全
Ai Safety
Jailbreak Detection
Langfuse
Llm Guardrails
Llm-As-A-Judge
Model Fine-Tuning

值不值得投

80综合评分

综合评分 80

前沿 AI 安全护栏平台高级技术岗,技术成长强,混合办公,薪酬与具体 WLB 未披露

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

7.0万

比应用安全中位数高

发布情况

新岗位 · 昨天发布

公司情况

这家公司招聘很活跃

约 970 个在招

市场机会

选择不多

深圳 · 应用安全 · 1 个在招

职位详情

关于这个职位

该职位负责企业级 AI 应用安全护栏平台的软件工程工作,重点建设提示注入、越狱、敏感信息泄露、内容安全、策略违规和智能体工具调用风险等检测能力

你将参与从检测模型、评估体系到生产化落地的全流程,并与平台、基础设施、安全和应用团队协作,提升 AI 安全防护的可观测性与治理能力

最低要求

具备为 AI 安全检测器开发第一方检测器的经验,包括提示注入、越狱、个人身份信息、数据泄露、毒性、策略违规或智能体安全检测

具备为面向安全的大型语言模型或小型语言模型构建微调流水线的经验,包括数据集整理、标注策略、训练工作流实施、评估设计以及生产验证
具备识别、评估、集成第三方或开源检测器解决方案并将其生产化的经验,并对质量、延迟、成本、运营适配性和治理要求有清晰判断
具备针对检测器能力做出合理的自研与采购决策的经验,并能够将内部开发或外部采购的解决方案完成评估、集成、上线以及生产环境中的持续运营
具备使用 AI 评估或可观测性工具的经验,例如 Langfuse、LangSmith、Arize、Phoenix 或类似平台
熟悉数据防泄漏、密钥扫描、文档分类或企业信息保护工具
具备针对 AI 系统进行对抗测试、红队测试或持续攻击模拟的经验

工作职责

为企业 AI 应用设计、开发并生产化 AI 安全检测器,包括提示注入和越狱检测、个人身份信息和敏感数据检测、数据泄露防护、内容安全和有害内容检测、策略违规检查、系统提示泄露检测,以及智能体或工具使用风险控制

使用多种方法构建检测器流水线,包括基于规则的检测、模式匹配、NLP / ML 分类器、基于嵌入的基础模型、LLM-as-a-Judge 评估器,以及具有清晰接口、置信度评分和策略驱动操作的混合检测策略
开发并优化用于护栏的检测器模型和评估工作流,包括测试集创建、数据标注策略、微调、模型验证、阈值校准、精确率 / 召回率优化、回归测试,以及基于生产反馈的持续改进
评估并集成行业和开源 AI 安全解决方案,包括检测器框架、安全模型和第三方服务
执行自研与采购分析、基准测试、集成以及生产就绪度评估
跨企业 AI 工作负载设计端到端 AI 安全防护模式,包括 RAG 系统、编码助手、对话式 AI 和智能体应用,覆盖输入、检索、生成、输出、日志记录和工具执行层
构建 AI 安全可观测性和治理能力,包括检测器遥测、追踪、仪表盘、评估指标、审计轨迹、反馈回路和运营控制,以监控安全有效性
与 AI 平台、基础设施、安全和应用程序团队合作,将安全解决方案生产化,包括性能优化、可扩展性提升、检测器生命周期管理和可靠的上线策略

AI 洞察

优缺点分析

优点

  • 岗位处于 AI Safety 与 Guardrails 的新兴方向,技术内容覆盖检测模型、评估体系、可观测性和生产化治理,成长性强
  • 业务场景覆盖 RAG、编码助手、对话式 AI 和智能体应用,能够积累企业级 AI 安全落地的完整经验
  • 与 AI 平台、基础设施、安全和应用团队多方协作,适合希望提升跨平台影响力的人
  • JD 明确提到 continuous professional development、flexible working 和成长机会,对长期职业发展有一定吸引力
  • AI 安全检测要求同时兼顾召回率、误报率、延迟和成本,技术权衡复杂
  • 需要把检测能力真正生产化,涉及生命周期管理、可靠发布、可观测性和治理,工程要求高
  • 适合有大模型应用、AI 安全、NLP/ML 检测或平台工程经验,并希望在企业级 AI 安全护栏方向深入发展的高级技术人才

缺点 / 挑战

  • 对抗攻击和智能体工具使用风险持续变化,需要长期跟进新型攻击与防护方案

角色解读

  • 可向 AI 安全平台架构负责人、企业 AI 治理技术负责人或 CTO Platforms 下更广泛平台工程负责人方向发展
  • 可横向扩展到 AI 基础设施、模型风险管理、企业安全架构、可信 AI 与合规技术治理等方向
  • 由于岗位涉及跨团队生产化落地,也可成长为兼具技术深度与组织协同能力的技术管理人才
  • 设计和生产化企业级 AI 安全检测器,覆盖提示注入、越狱、PII、敏感数据泄露、有害内容、策略违规、系统提示泄露和智能体工具调用风险等场景
  • 构建多策略检测流水线,结合规则、模式匹配、NLP/ML 分类器、Embedding 模型、LLM-as-a-Judge 和混合检测策略,并设计置信度评分与策略动作
  • 建立护栏模型的评估与优化体系,包括测试集构建、数据标注、微调、验证、阈值校准、精确率/召回率优化、回归测试和基于生产反馈的持续改进
  • 与 AI 平台、基础设施、安全和应用团队协作,推动安全方案在 RAG、编码助手、对话式 AI 和智能体应用中的端到端落地
  • 需要具备 AI Safety 检测能力建设经验,尤其是 prompt injection、jailbreak、PII、数据泄露、toxicity、策略违规或 agent safety detection 等方向
  • 需要掌握面向安全场景的大模型或小模型微调流水线,包括数据整理、标注策略、训练流程、评估设计和生产验证
  • 需要熟悉第三方和开源检测方案的评估、集成与生产化,能够基于质量、延迟、成本、运维适配和治理要求进行 build-vs-buy 判断
  • 需要了解 AI 评估与可观测性工具,如 Langfuse、LangSmith、Arize、Phoenix,并具备 DLP、密钥扫描、文档分类或企业信息保护相关经验

申请策略

  • 申请时建议明确说明你在 build-vs-buy 决策中的判断依据,包括质量、延迟、成本、治理和运维适配
  • 可提前了解汇丰 CTO Platforms 与 AI 平台相关业务方向,面试中结合银行场景下的数据安全、合规和可信 AI 需求表达理解
  • 突出你做过的一线 AI 安全检测能力,例如 prompt injection、jailbreak、PII、数据泄露、内容安全或 agent safety detection,并说明覆盖规模和落地效果
  • 强调安全模型微调与评估经验,包括数据集构建、标注策略、训练流程、阈值校准、precision/recall 优化和回归测试
  • 展示生产化能力,尤其是检测服务接口设计、低延迟优化、可观测性、审计追踪、灰度发布和持续反馈闭环
  • 写明跨团队协作经历,尤其是与平台、安全、基础设施或应用团队共同推进方案上线的过程
  • 提前熟悉 Langfuse、LangSmith、Arize、Phoenix 等 AI 评估与可观测性工具,并准备相关使用案例
  • 补充 red teaming、adversarial testing、continuous attack simulation 等方法论,能够说明如何设计攻击样本和评测指标

面试指南

  • 使用“场景—风险—检测策略—评估指标—生产化结果”的结构回答技术设计题,确保覆盖规则、模型、混合策略和策略动作
  • 对权衡类问题,从业务风险等级、误报成本、漏报成本、延迟、成本、可运维性和治理要求几个维度展开
  • 对生产落地问题,按数据、模型、服务、发布、监控、反馈迭代六层说明,突出可靠性与持续改进
  • 你如何设计一套覆盖 prompt injection 和 jailbreak 的企业级检测系统?
  • 在构建 PII 或敏感数据检测能力时,你如何平衡 precision、recall、误报率和用户体验?
  • 请描述一次你进行 build-vs-buy 决策的经历,你如何评估自研和第三方方案?
  • 你如何为 LLM guardrails 构建测试集、标注策略、微调流程和持续评估机制?
  • 你如何为 AI Safety 检测器设计可观测性、审计追踪和生产反馈闭环?

职位点评

薪资福利78
成长发展90
工作生活70
使命价值82

薪资福利

78中等

JD 未披露薪资,但岗位为高级技术管理方向,职责覆盖 AI 安全平台建设与生产化落地,通常对薪资动机有较好满足。福利方面仅明确提到 flexible working 和 continuous professional development,未披露具体薪酬福利细节。

薪资信号未披露(AI估算:5.5千–8.5万/月)
福利待遇flexible working、continuous professional development

成长发展

90较高

岗位聚焦 AI Safety、LLM guardrails、模型微调、AI 评估与可观测性等前沿方向,技术成长空间明显。JD 明确提到 continuous professional development 和 opportunities to grow,发展性动机匹配度高。

技术前沿前沿/新兴技术
技术栈AI safety detectors、prompt injection、jailbreak detection、PII detection、data leakage prevention、NLP / ML classifiers、embedding base models、LLM-as-a-Judge、fine-tuning、Langfuse、LangSmith、Arize、Phoenix、red teaming
成长机会continuous professional development、flexible working、opportunities to grow
业务类型ambiguous

工作生活

70中等

JD 元数据明确标注 Hybrid Worker,正文中也提到 flexible working,说明办公模式具备一定灵活性。具体远程天数、通勤地点和加班安排未披露,需要在面试中确认。

工作模式混合式弹性办公
办公地点未明确
加班情况未提及(无法判断)
工作生活平衡flexible working

使命价值

82较高

岗位直接面向企业 AI 应用安全、数据泄露防护、内容安全和治理能力建设,具有较强的安全与合规价值。JD 开头强调职业影响力,并涉及 inclusive and diverse environment,但未给出更具体的社会使命表述。

行业发展新兴领域(暂难判断)
社会影响正向社会影响力较高
使命信号Some careers have more impact than others、make a real impression、inclusive and diverse environment
创新程度积极采用新技术
Watch Jobs