京东
AI 安全技术专家 / 大模型安全工程师
AI 安全技术专家 / 大模型安全工程师
发布于 大约 14 小时前普通员工/个人贡献者
北京市
专家级经验
全职员工
仅现场办公
硕士
信息技术与基础设施
Jailbreak
Llm
Prompt Engineering
Pytorch
Rag
Sql
分类模型
大模型安全
安全评测
AI 估算 · 35k–55k
大厂高级安全专家岗位，技术难度高，市场稀缺，薪资竞争力强，中位数约45k/月
职位详情
关于这个职位
该职位是京东科技的大模型安全专家，负责建设和优化大模型安全防护体系，涉及内容安全、模型评测、数据闭环等
你将与算法、工程、产品团队协作，解决AI应用中的安全风险，推动技术落地
适合对AI安全有浓厚兴趣、具备扎实技术背景的资深工程师
最低要求
全日制统招硕士及以上学历，数学、计算机科学、人工智能、自然语言处理、数据科学、统计学、信息安全、软件工程等相关专业优先
具备技术研发、算法工程、数据科学、模型评测、安全风控、内容安全或大模型应用相关工作经验
有互联网产品、AI 产品、内容安全、风控系统、推荐/搜索、AIGC 或大模型相关项目经验者优先
技术基础：具备扎实的编程能力，熟悉 Python，能够独立完成数据处理、模型评测、实验分析和工具开发
熟悉常见机器学习 / 深度学习基础概念，如分类、召回、排序、评估指标、样本构造、特征工程、模型训练与验证
熟悉 SQL、数据分析、日志分析、实验评估等基础能力
能够基于真实业务数据进行问题定位、指标分析和效果验证
大模型理解：理解大模型基本概念，包括 prompt、上下文窗口、RAG、SFT、RLHF/RM、模型幻觉、多轮对话、多模态、Agent、tool use 等
能够使用并评估主流大模型产品和 API
理解大模型应用中的典型安全风险，如 jailbreak、prompt injection、诱导生成、越权指令、幻觉误导、过度拒答、多轮风险升级等
安全与业务理解：对 AI 内容安全、平台治理、业务风控或模型安全有兴趣和实践基础
能够理解安全底线、用户体验和业务增长之间的平衡
能将抽象风险转化为可执行的技术方案、评测指标和数据闭环
具备良好的问题拆解、结构化表达和跨团队协作能力
工作职责
建设大模型安全识别与防护能力：面向用户输入、模型输出、多轮对话、AIGC 生成内容、多模态内容等场景，参与建设输入安全、输出安全、上下文安全、情感陪伴安全、未成年人保护、数字人安全等能力模块
结合规则、分类模型、LLM-as-Judge、RAG、Agent、向量检索等技术，探索可落地的大模型安全防护方案
参与安全评测与 benchmark：体系建设参与构建安全 benchmark、人工金集、边界样本库、badcase 库和回归测试集
针对业务场景，设计风险评测维度和自动化评测流程
对模型误判、漏判、过度拒答、幻觉、越狱、提示词注入、多轮风险升级等问题进行分析和归因
建设模型评测指标体系，包括召回率、准确率、误伤率、漏放率、一致率、过度拒答率等
推动线上安全能力落地：参与设计自建 guardrail 的线上旁路 / shadow 双跑方案
支持安全策略灰度、效果监控、样本回流和模型迭代闭环
与产品、策略、算法、工程、审核标注团队协作，将安全能力接入真实业务流程
基于线上 case 和人审反馈，持续优化安全模型、规则策略和干预机制
负责安全数据与模型迭代闭环：基于业务风险 case，设计数据标注规范、风险标签体系和样本回收机制
将人审 badcase、模型误判样本、边界样本转化为可用于评测、训练和策略优化的数据资产参与安全分类器、模型裁判、风险识别模型、prompt 评测工具等能力建设
支持数据清洗、样本构造、自动化打标、标注一致性校验和质量分析
跟踪大模型安全技术发展：跟踪 AI safety、LLM guardrails、red teaming、prompt injection、jailbreak、多模态安全、Agent 安全等方向进展
调研业内安全方案、开源工具、评测框架和竞品策略
将前沿技术转化为团队可落地的工程方案和业务能力
优先资格
有大模型安全、AIGC 内容安全、AI red teaming、guardrail、模型评测、LLM-as-Judge、自动化评测相关经验
有内容审核、内容安全策略、未成年人保护、情感陪伴安全、数字人安全、多模态安全经验
有线上风控系统、实时策略系统、模型服务、灰度实验、AB 实验、shadow 双跑经验
有安全分类器、文本分类、多模态分类、风险识别模型、审核辅助模型建设经验
熟悉 prompt engineering、RAG、Agent workflow、向量检索、自动化标注、数据飞轮等技术
熟悉 Python、SQL、Pandas、PyTorch、Transformers、LangChain / LlamaIndex 或类似工具
有论文、专利、开源项目、技术博客或 benchmark 构建经验
AI 洞察
优缺点分析
优点
- 大厂平台资源：京东科技提供真实业务场景和海量数据，技术落地机会多
- 岗位影响力大：安全能力直接关系到公司AI产品的合规与用户体验
- 技术更新快：需要持续跟踪学术界和工业界的最新安全攻防技术
- 跨部门协作复杂：需与产品、算法、工程、审核等多个团队紧密配合
- 适合对AI安全充满热情、具备扎实算法工程背景、喜欢解决复杂系统问题并追求技术深度的求职者
缺点 / 挑战
- 前沿技术领域：大模型安全是AI行业的核心挑战，能积累稀缺的深度经验
- 平衡压力大：需要在安全底线、用户体验和业务增长之间寻找最优解
角色解读
- 技术专家路线：深耕AI安全领域，成为大模型安全架构师或首席安全专家
- 管理路线：带领安全团队，负责多个业务线的安全防护策略
- 跨域发展：向AI治理、合规、隐私保护等方向拓展，成为综合型安全负责人
- 建设大模型安全防护体系，包括输入输出安全、多轮对话安全、未成年人保护等核心能力模块
- 设计并执行安全评测与基准测试，构建自动化评测流程和指标体系
- 推动线上安全能力落地，与多团队协作，持续优化安全策略和模型
- 扎实的Python编程能力和机器学习/深度学习基础，熟悉SQL和数据分析
- 深入理解大模型技术栈（prompt、RAG、SFT、RLHF等）及典型安全风险（jailbreak、prompt injection等）
- 具备AI安全、内容安全或风控系统相关经验，能平衡安全与用户体验
申请策略
- 了解京东科技的业务场景，思考如何将安全方案与具体产品（如京东APP、智能客服）结合
- 突出大模型或AI安全相关项目经验，如构建过安全评测框架、参与过red teaming等
- 强调技术深度：Python、机器学习模型、大模型API调用和评估等
- 展示数据闭环能力：数据标注、样本构造、效果分析等实际案例
- 补充LangChain、LlamaIndex等工具的实际使用经验
- 熟悉主流大模型的安全漏洞和攻击方法，关注AI安全社区动态
面试指南
- 用STAR法则描述项目：情境、任务、行动、结果，突出技术选型和量化指标
- 对于安全策略问题，先分析风险来源，再给出分层防御方案（规则+模型+人工），最后说明评估指标
- 请介绍一个你参与的大模型安全项目，包括目标、方案和效果
- 如何设计一个自动化评测流程来检测模型的过度拒答和漏放？
- 谈谈你对jailbreak攻击的理解，以及如何防御？
- 如何在安全策略中平衡误伤率和覆盖率？
- 描述一下RAG系统中可能存在的安全风险及应对措施
- 复习大模型基础知识，特别是RAG、Agent、多模态等方向的安全论文和工具
职位点评
71
综合评分
京东大模型安全专家，前沿技术栈，发展空间大，但工作强度较高，WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
最适合追求技术深度和职业发展、愿意投入高强度学习的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活40
使命价值70
薪资福利
75中等
大厂高级岗位，薪资待遇良好，福利完善（如五险一金、年终奖等），但具体薪酬未披露，综合水平较高。
薪资信号未披露（AI估算：35K-55K/月）
成长发展
90较高
岗位涉及大模型安全前沿技术，有明确的技能成长路径，内部培训丰富，技术更新快，发展空间大。
技术前沿前沿/新兴技术
技术栈大模型安全、LLM、RAG、Agent、多模态安全、red teaming、jailbreak
业务类型profit_center
工作生活
40较低
北京现场办公，未提及弹性工时，互联网大厂通常有一定加班强度，WLB一般。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
AI安全具有一定的社会价值，保护用户免受风险，但岗位使命陈述不够突出。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号以科技引领产业数智化升级，推动世界更加高效和美好
创新程度积极采用新技术
京东 的其他在招职位
相似职位推荐
Watch Jobs