滴滴出行
AI算法高级安全专家
AI算法高级安全专家
发布于 大约 3 小时前中层管理(经理/总监)
北京市
高级经验
全职员工
仅现场办公
博士
信息安全
Deepspeed
Dpo
Llm Agent
Rlhf
多模态
大模型安全
红队测试
AI 估算 · 65k–100k
北京AI安全专家稀缺，大模型安全赛道火热，企业已上市且岗位要求高，薪资处于高端水平。
职位详情
关于这个职位
该职位负责制定金融大模型安全对齐的技术路线，主导RLHF/DPO及超级对齐研究，并构建AI Agent内生安全架构
同时需要搭建自动红队评测平台，研究多模态安全威胁，推动安全方案在风控、信贷等核心场景落地，并组建和培养AI安全团队
最低要求
计算机、人工智能、网络安全、数学等相关专业博士（优秀硕士可放宽）
具有8年以上人工智能或安全领域工作经验，其中至少3年以上带领技术团队或主导大型项目架构的经历
精通大模型底层原理（Transformer、MoE架构），深入理解RLHF、DPO、PPO等对齐算法在工业界的落地痛点，具备千亿级参数模型调优或对齐训练的一手实战经验
对LLM Agent安全（ReAct、Plan-and-Solve等范式）有系统性研究，精通Tool Calling的安全隔离与鉴权设计模式
在AI安全攻防方向有深厚积累，能独立挖掘并利用大模型新型漏洞，具备“攻防一体”的系统性思维
精通Python/C++，具备高并发、低延迟的AI安全防护系统架构能力，熟悉分布式训练框架（DeepSpeed/Megatron-LM）及模型推理优化技术
对金融业务（信贷风控、反欺诈、合规审计）有深刻理解，能将复杂的技术指标（如拒答率、越狱成功率）转化为可衡量的业务安全水位线
深度践行AI辅助研发范式，能推动团队研发流程全面智能化改造，大幅提升核心算法迭代效率
工作职责
制定金融大模型安全对齐（Safety Alignment）中长期技术演进路线图，主导RLHF/DPO及超越人类反馈的超级对齐（Superalignment）研究，定义面向信贷、风控、客服等敏感场景的价值观数字化标准与安全准则
主导fintech相关AI Agent（智能体）内生安全架构从0到1的建设，设计行为风险动态建模机制、执行链路细粒度约束引擎及工具调用最小权限管控框架，解决多步推理下的“命令注入”与“越权操作”风险
构建面向金融黑灰产的大模型自动化红队评测平台，主导高仿真对抗环境研发，覆盖越狱攻击（Jailbreak）、提示注入（Prompt Injection）、多轮对话隐写等高级威胁，建立攻击手法知识图谱与主动防御策略库
前瞻性研究多模态大模型（图/文/音/视频）在信贷审核、远程面审中的新型攻击面，构建跨模态安全评估与防御基线，抵御深度伪造（Deepfake）及模态绕过攻击
推动安全方案在fintech核心生产环境（如大模型风控决策、智能营销、信贷审批辅助）中的大规模落地
主导或参与国家/行业AI安全治理标准的制定，输出行业白皮书，提升公司在全球AI安全领域的技术影响力
组建并培养顶尖的AI安全算法团队，指导团队在沉淀核心算法专利与技术壁垒
优先资格
加分项（具备以下任一条件者优先）：
· 担任过顶级会议（S&P/CCS/NeurIPS/ICML等）Area Chair或Program Committee Member，或拥有高影响力的开源AI安全项目（GitHub Star > 1k）
· 曾主导过日活千万级以上或涉及资金交易的大规模AI系统安全方案设计
· 拥有AI安全或泛安全领域高价值国际/国内发明专利，或曾在Black Hat / DEF CON等国际顶级安全峰会发表演讲
· 熟悉《生成式人工智能服务管理暂行办法》、《个人信息保护法》及欧盟AI Act，并有实际合规落地经验
AI 洞察
优缺点分析
优点
- 岗位有组建团队的管理职责，既能做技术又能培养领导力
- 对综合能力要求极高，需同时掌握算法、工程、安全、金融等多领域知识
- 需要推动方案在核心业务落地，跨部门协作和沟通成本高
- 适合具备深厚AI和安全背景，同时对金融业务有兴趣，并渴望冲击技术领导者岗位的资深专家
缺点 / 挑战
- 处于大模型安全的最前沿，研究超级对齐等新兴方向，技术挑战和创新空间大
- 滴滴作为上市公司，平台资源丰富，能接触真实金融场景的高并发、高风险挑战
- 安全对抗是动态过程，需要持续学习最新攻防技术，压力较大
角色解读
- 向AI安全技术专家或团队负责人方向发展，带领团队攻克前沿难题
- 可以成为行业安全标准的重要制定者，提升个人在AI安全领域的影响力
- 未来有机会晋升为安全部门负责人或首席安全科学家，主导企业级安全战略
- 制定金融大模型安全对齐的技术路线，主导前沿对齐算法（如RLHF、DPO）的研究和应用
- 构建AI Agent的内生安全架构，设计权限管控和风险监控机制，防范多步推理中的命令注入和越权操作
- 搭建自动红队评测平台，模拟黑灰产攻击，发现并修复大模型安全漏洞
- 推动安全方案在风控、信贷等金融场景落地，并参与行业安全标准制定
- 精通大模型底层原理和对齐算法，具备千亿级模型调优实战经验
- 深入了解LLM Agent安全范式，熟悉Tool Calling的安全设计
- 拥有AI安全攻防经验，能独立挖掘和利用新型漏洞
- 精通Python/C++，熟悉分布式训练框架，并理解金融业务逻辑
申请策略
- 在简历中针对金金融场景的安全方案细节，体现业务理解深度
- 提前了解滴滴Fintech的业务布局，准备如何将安全技术应用于实际业务
- 突出在大模型对齐或安全攻防领域的实际项目经验，最好有具体指标如拒答率、越狱成功率的提升
- 强调带团队或主导大型项目的经历，体现架构设计和管理能力
- 如果有顶级会议论文、开源项目或安全演讲经历，务必重点展示
- 系统学习RLHF、DPO等对齐算法的最新论文，并尝试在开源模型中实现
- 熟悉金融风控业务，了解信贷、反欺诈等场景的安全需求
- 关注多模态模型安全的研究，积累Deepfake防御等知识
面试指南
- 采用STAR法则：描述情境、任务、行动和结果，量化成果
- 对于架构设计问题，先分析风险场景，再给出分层次的防护方案，最后说明落地效果
- 对于法规问题，结合公司实际业务，阐述合规与安全的结合点
- 请分享一个你主导过的大模型安全对齐项目，遇到的关键挑战是什么？
- 如何设计一个LLM Agent的工具调用权限管控机制？
- 面对未知的大模型攻击方式，你的排查和防御思路是什么？
- 如何将技术安全指标转化为业务管理层可理解的风险水位？
- 你如何看待当前AI安全治理法规（如生成式AI管理办法）对业务的影响？
职位点评
74
综合评分
高薪前沿技术管理岗，发展空间大但WLB不明朗。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术前沿和职业成长，且对薪资有较高期望的资深安全专家。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展92
工作生活40
使命价值75
薪资福利
80较高
该职位薪资水平高，且滴滴作为上市公司提供稳定的福利保障，但具体薪资未披露。
薪资信号未披露（AI估算：65K-100K/月）
成长发展
92较高
岗位处于AI安全前沿，涉及超级对齐、多模态安全等新兴方向，技术成长空间巨大，同时有团队管理机会。
技术前沿前沿/新兴技术
技术栈RLHF、DPO、LLM Agent、DeepSpeed、Megatron-LM、多模态、红队测试
业务类型ambiguous
工作生活
40较低
未提及工作弹性或WLB，作为安全专家可能面临较高的工作强度和响应压力。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
AI安全对金融领域有正向守护价值，同时参与行业标准制定能提升社会影响力。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
滴滴出行 的其他在招职位
相似职位推荐
Watch Jobs