腾讯
AI大模型安全算法工程师
AI大模型安全算法工程师
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Agent安全
Llm安全
Prompt注入
Pytorch
Rlhf/Dpo
大模型对齐
数据清洗
红蓝对抗
网络安全
值不值得投
82综合评分
综合评分 82
大厂核心前沿技术岗，高成长高使命，技术挑战大，WLB一般
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1850 个在招 · 其中AI算法 2 个
市场机会
选择不多
深圳 · AI算法 · 2 个在招
职位详情
关于这个职位
负责腾讯混元大模型的网络安全对齐与内生安全研究，通过构建分层对抗数据、优化训练策略及建设评测体系，提升模型在对话和Agent执行场景下的恶意意图识别与防御能力
需结合深度学习工程能力与网络安全专业知识，落地红蓝对抗成果，确保科技向善与安全合规
最低要求
计算机、人工智能、网络安全或相关专业本科及以上学历
理解 Transformer 和大模型训练流程（预训练 / SFT / 偏好对齐，如 RLHF、DPO 等），能独立设计实验、分析训练结果、定位数据或训练问题
熟练使用 Python 和主流深度学习框架（如 PyTorch），具备大规模数据处理和模型训练/推理的工程能力
具备网络安全基础认知，理解常见风险利用手法（Web/API 漏洞、渗透流程、恶意代码、检测绕过与规避技巧等），能判断安全请求的风险等级和意图
能把模型安全拆成可量化的指标（有害拒绝率、误拒率、场景覆盖），并通过数据验证方法效果
具备跨团队协作能力，能与模型训练、评测、安全研究团队高效对接
工作职责
与混元基座模型团队协同，负责基座模型的网络安全对齐，让模型能判断任务边界、识别恶意意图，覆盖对话和 Agent 执行（工具调用、代码执行、自主渗透决策）两类场景
以真实风险案例、红蓝对抗产出和威胁情报作为初始样本源，构建 harmful/borderline/benign 分层数据
负责数据分布设计、质量控制，以及数据对模型收益的消融验证
基于 LLM 生成、改写、变异、对抗搜索、多轮/多 Agent 轨迹合成，在扩大风险手法与场景覆盖的同时，控制分布偏移和数据污染
建设网络安全对齐评测体系，同时度量有害请求的拒绝率和正常安全工作（漏洞研究、防御开发、合规渗透）的误拒率，并补齐 Coding / 客服 / 助手类 Agent 的执行层越权评测，用评测结果驱动数据和训练策略迭代
研究大模型护栏与内生安全，对比分析外挂护栏（分类器 / 审核模型）与模型内生对齐的取舍和组合方式，探索偏好优化、拒答校准、推理链安全约束等方法
跟踪国内外前沿进展（头部模型厂商的安全对齐和红队实践、学术界越狱与对齐研究），快速复现、验证并工程化落地
AI 洞察
优缺点分析
优点
- 身处国内顶级大厂核心业务线，接触最前沿的大模型安全技术，拥有海量高质量数据资源
- 技术迭代极快，需持续跟进学术界最新论文
缺点 / 挑战
- 安全与用户体验的平衡极具挑战性，工作压力较大
- 具备扎实AI理论基础且对网络安全有浓厚兴趣，喜欢挑战高难度技术问题的工程师
角色解读
- 可向AI安全首席科学家、大模型安全架构师方向发展，或在AI治理、合规技术领域成为行业专家
- 负责腾讯混元大模型的安全对齐工作，包括构建对抗数据集、优化模型安全策略及建立评测体系
- 精通Transformer架构与大模型训练流程（SFT/RLHF/DPO），掌握Python/PyTorch，具备网络安全攻防知识（红队测试、漏洞原理）
申请策略
- 关注腾讯安全公众号，了解其最新安全研究成果，面试时准备具体的模型安全案例分析
- 突出大模型微调/对齐项目经验，展示红蓝对抗实战成果或相关安全竞赛奖项，强调数据处理与模型评估能力
- 深入研读LLM安全相关顶会论文（如NeurIPS/ICLR），熟悉常见越狱攻击手法及防御机制
面试指南
- 采用STAR法则：背景-任务-行动-结果
- 重点阐述技术选型的理由、实验设计的严谨性以及对负面案例的处理思路
- 请描述你如何设计大模型的安全对齐数据集？
- RLHF和DPO在安全对齐中的优缺点是什么？
- 面对新型Prompt注入攻击，你会如何检测和防御？
- 如何平衡模型的安全性与可用性（减少误拒率）？
- 复习Transformer底层原理，准备1-2个完整的大模型训练或安全优化项目案例，熟悉常见的AI安全攻击向量
职位点评
薪资福利85
成长发展95
工作生活60
使命价值80
薪资福利
85较高
腾讯作为上市巨头，提供具有竞争力的薪酬体系和完善的福利保障，满足度高。
薪资信号未披露（AI估算：3.5千–6.0万/月）
成长发展
95较高
岗位处于AI安全前沿领域，技术栈先进，成长空间巨大，发展性动机极强。
技术前沿前沿/新兴技术
技术栈LLM、Transformer、RLHF、DPO、PyTorch、Agent安全、红蓝对抗
业务类型profit_center
工作生活
60中等
大厂核心研发岗通常工作节奏较快，虽可能有弹性工作制，但高强度研发压力客观存在。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
JD明确提到“守护用户安全”、“科技向善”，具有强烈的社会责任感使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号抵抗邪恶、守护用户的安全、守护产品的安全、科技向善
创新程度开拓性创新（行业首创）
Watch Jobs