
Associate Director, Software Engineering (Guardrail Platform AI Safety Track)
发布于 37 分钟前中层管理(经理/总监)
值不值得投
综合评分 80
前沿 AI 安全护栏平台高级技术岗,技术成长强,混合办公,薪酬与具体 WLB 未披露
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
7.0万
比应用安全中位数高
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 970 个在招
市场机会
选择不多
深圳 · 应用安全 · 1 个在招
职位详情
关于这个职位
该职位负责企业级 AI 应用安全护栏平台的软件工程工作,重点建设提示注入、越狱、敏感信息泄露、内容安全、策略违规和智能体工具调用风险等检测能力
最低要求
具备为 AI 安全检测器开发第一方检测器的经验,包括提示注入、越狱、个人身份信息、数据泄露、毒性、策略违规或智能体安全检测
工作职责
为企业 AI 应用设计、开发并生产化 AI 安全检测器,包括提示注入和越狱检测、个人身份信息和敏感数据检测、数据泄露防护、内容安全和有害内容检测、策略违规检查、系统提示泄露检测,以及智能体或工具使用风险控制
AI 洞察
优缺点分析
优点
- 岗位处于 AI Safety 与 Guardrails 的新兴方向,技术内容覆盖检测模型、评估体系、可观测性和生产化治理,成长性强
- 业务场景覆盖 RAG、编码助手、对话式 AI 和智能体应用,能够积累企业级 AI 安全落地的完整经验
- 与 AI 平台、基础设施、安全和应用团队多方协作,适合希望提升跨平台影响力的人
- JD 明确提到 continuous professional development、flexible working 和成长机会,对长期职业发展有一定吸引力
- AI 安全检测要求同时兼顾召回率、误报率、延迟和成本,技术权衡复杂
- 需要把检测能力真正生产化,涉及生命周期管理、可靠发布、可观测性和治理,工程要求高
- 适合有大模型应用、AI 安全、NLP/ML 检测或平台工程经验,并希望在企业级 AI 安全护栏方向深入发展的高级技术人才
缺点 / 挑战
- 对抗攻击和智能体工具使用风险持续变化,需要长期跟进新型攻击与防护方案
角色解读
- 可向 AI 安全平台架构负责人、企业 AI 治理技术负责人或 CTO Platforms 下更广泛平台工程负责人方向发展
- 可横向扩展到 AI 基础设施、模型风险管理、企业安全架构、可信 AI 与合规技术治理等方向
- 由于岗位涉及跨团队生产化落地,也可成长为兼具技术深度与组织协同能力的技术管理人才
- 设计和生产化企业级 AI 安全检测器,覆盖提示注入、越狱、PII、敏感数据泄露、有害内容、策略违规、系统提示泄露和智能体工具调用风险等场景
- 构建多策略检测流水线,结合规则、模式匹配、NLP/ML 分类器、Embedding 模型、LLM-as-a-Judge 和混合检测策略,并设计置信度评分与策略动作
- 建立护栏模型的评估与优化体系,包括测试集构建、数据标注、微调、验证、阈值校准、精确率/召回率优化、回归测试和基于生产反馈的持续改进
- 与 AI 平台、基础设施、安全和应用团队协作,推动安全方案在 RAG、编码助手、对话式 AI 和智能体应用中的端到端落地
- 需要具备 AI Safety 检测能力建设经验,尤其是 prompt injection、jailbreak、PII、数据泄露、toxicity、策略违规或 agent safety detection 等方向
- 需要掌握面向安全场景的大模型或小模型微调流水线,包括数据整理、标注策略、训练流程、评估设计和生产验证
- 需要熟悉第三方和开源检测方案的评估、集成与生产化,能够基于质量、延迟、成本、运维适配和治理要求进行 build-vs-buy 判断
- 需要了解 AI 评估与可观测性工具,如 Langfuse、LangSmith、Arize、Phoenix,并具备 DLP、密钥扫描、文档分类或企业信息保护相关经验
申请策略
- 申请时建议明确说明你在 build-vs-buy 决策中的判断依据,包括质量、延迟、成本、治理和运维适配
- 可提前了解汇丰 CTO Platforms 与 AI 平台相关业务方向,面试中结合银行场景下的数据安全、合规和可信 AI 需求表达理解
- 突出你做过的一线 AI 安全检测能力,例如 prompt injection、jailbreak、PII、数据泄露、内容安全或 agent safety detection,并说明覆盖规模和落地效果
- 强调安全模型微调与评估经验,包括数据集构建、标注策略、训练流程、阈值校准、precision/recall 优化和回归测试
- 展示生产化能力,尤其是检测服务接口设计、低延迟优化、可观测性、审计追踪、灰度发布和持续反馈闭环
- 写明跨团队协作经历,尤其是与平台、安全、基础设施或应用团队共同推进方案上线的过程
- 提前熟悉 Langfuse、LangSmith、Arize、Phoenix 等 AI 评估与可观测性工具,并准备相关使用案例
- 补充 red teaming、adversarial testing、continuous attack simulation 等方法论,能够说明如何设计攻击样本和评测指标
面试指南
- 使用“场景—风险—检测策略—评估指标—生产化结果”的结构回答技术设计题,确保覆盖规则、模型、混合策略和策略动作
- 对权衡类问题,从业务风险等级、误报成本、漏报成本、延迟、成本、可运维性和治理要求几个维度展开
- 对生产落地问题,按数据、模型、服务、发布、监控、反馈迭代六层说明,突出可靠性与持续改进
- 你如何设计一套覆盖 prompt injection 和 jailbreak 的企业级检测系统?
- 在构建 PII 或敏感数据检测能力时,你如何平衡 precision、recall、误报率和用户体验?
- 请描述一次你进行 build-vs-buy 决策的经历,你如何评估自研和第三方方案?
- 你如何为 LLM guardrails 构建测试集、标注策略、微调流程和持续评估机制?
- 你如何为 AI Safety 检测器设计可观测性、审计追踪和生产反馈闭环?
职位点评
薪资福利
JD 未披露薪资,但岗位为高级技术管理方向,职责覆盖 AI 安全平台建设与生产化落地,通常对薪资动机有较好满足。福利方面仅明确提到 flexible working 和 continuous professional development,未披露具体薪酬福利细节。
成长发展
岗位聚焦 AI Safety、LLM guardrails、模型微调、AI 评估与可观测性等前沿方向,技术成长空间明显。JD 明确提到 continuous professional development 和 opportunities to grow,发展性动机匹配度高。
工作生活
JD 元数据明确标注 Hybrid Worker,正文中也提到 flexible working,说明办公模式具备一定灵活性。具体远程天数、通勤地点和加班安排未披露,需要在面试中确认。
使命价值
岗位直接面向企业 AI 应用安全、数据泄露防护、内容安全和治理能力建设,具有较强的安全与合规价值。JD 开头强调职业影响力,并涉及 inclusive and diverse environment,但未给出更具体的社会使命表述。
汇丰 的其他在招职位