知乎
大模型安全研究员（28届）
大模型安全研究员（28届）
发布于 大约 16 小时前普通员工/个人贡献者
全职员工仅现场办公信息安全
信息安全
Agent安全
Benchmark构建
Llm
Pytorch
Rlhf
Tensorflow
多模态模型
红队测试
值不值得投
76综合评分
综合评分 76
前沿AI安全研究岗，技术成长快，薪资高，但工作强度可能大。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
33K
比信息安全中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 130 个在招
市场机会
选择适中
深圳 · 信息安全 · 28 个在招
职位详情
关于这个职位
作为知乎的大模型安全研究员，你将专注于LLM、多模态模型及Agent的全生命周期安全研究，包括攻击面分析、安全评测与红队体系建设、防御与对齐机制落地，以及前沿安全技术的跟踪与转化
该岗位适合对AI安全有浓厚兴趣、具备扎实技术功底和科研能力的硕士及以上学历人才
最低要求
计算机 / 人工智能 / 网络空间安全 / 软件工程相关 硕士及以上
技术能力
深入理解 Transformer / LLM 推理机制，熟悉 LoRA / QLoRA / RAG / Agent 框架（LangChain、CrewAI、LangGraph 等）
熟练 Python
掌握 PyTorch / TensorFlow
有 C++ / Go / Rust 加分
熟悉常见攻防：越狱、注入、对抗样本、后门、差分隐私、联邦学习、TEE
有 Benchmark 构建、自动化评测平台、红队工具开发经验
工作职责
攻击面研究
◦ 研究 LLM / 多模态模型 / Agent 在训练、微调、推理、部署全生命周期中的安全风险
◦ 覆盖：Prompt Injection、Jailbreak、数据投毒、后门攻击、对抗样本、模型窃取/反演、成员推断、上下文污染、工具调用越权、RAG 污染等
安全评测与红队体系
◦ 构建自动化安全评测 Benchmark、攻击语料库、红队测试框架
◦ 对接 OWASP Top 10 for LLM Applications
防御与对齐机制
◦ 研究并落地：输入/输出护栏、意图识别、安全对齐（SFT / RLHF / DPO / RLAIF）、拒答边界、内容安全过滤、Agent 权限隔离与调用审计
智能体（Agent）安全
◦ 针对 ReAct / Function Calling / MCP / 多步工作流，建模工具滥用、记忆篡改、间接注入等新型威胁
前沿跟踪与成果转化
◦ 跟踪 NeurIPS / ICLR / S&P / CCS / USENIX 等前沿进展
◦ 输出论文、专利、技术报告、安全基线规范，推动能力产品化
优先资格
顶会论文（NeurIPS / ICLR / ICML / ACL / S&P / CCS / USENIX 等）一作
CVE / 大模型漏洞挖掘 / CTF（AI 安全赛道）获奖
多模态（VLM）、Agent 安全、AI for SOC / 漏洞挖掘方向经验
AI 洞察
优缺点分析
优点
- AI安全是新兴领域，技术前沿，发展空间大
- 知乎作为大厂，平台资源丰富，有顶会论文机会
- 工作内容多样化，涵盖研究、开发、评测，技能提升快
- 技术难度高，需要持续学习，保持前沿
- 领域竞争激烈，需要不断产出创新成果
缺点 / 挑战
- 薪资水平较高，福利待遇好
- 工作强度可能较大，研究压力大，需要产出成果
- 适合对AI安全充满热情、具备扎实技术基础、喜欢挑战和创新的硕士及以上学历人才
角色解读
- 从研究员到高级研究员，深入AI安全领域，成为专家
- 可转向安全团队管理岗位，带领团队构建安全体系
- 有机会发表顶会论文，提升学术影响力，或转向产品化方向
- 研究大模型全生命周期的安全风险，包括训练、微调、推理和部署阶段，覆盖多种攻击类型
- 构建自动化安全评测基准和红队测试框架，评估模型安全性
- 设计并落地防御机制，如输入输出护栏、安全对齐和Agent权限隔离
- 跟踪前沿安全研究，输出论文、专利和技术报告，推动安全能力产品化
- 深入理解Transformer和LLM推理机制，熟悉LoRA、RAG、Agent框架
- 熟练使用Python，掌握PyTorch或TensorFlow，具备C++/Go/Rust加分
- 熟悉常见攻防技术，如越狱、注入、对抗样本，以及差分隐私和联邦学习
- 具备构建评测平台和红队工具的开发经验
申请策略
- 了解知乎的业务和AI安全方向，在面试中展现匹配度
- 准备项目案例，展示实际解决问题的能力
- 突出相关研究项目，如大模型安全、对抗攻击、防御机制等
- 展示编程能力和框架使用经验，如Python、PyTorch、LangChain
- 如有论文或CTF获奖经历，务必突出
- 强调对安全领域的热情和持续学习能力
- 深入学习LLM安全前沿，如Agent安全、多模态安全
- 熟悉红队测试工具和Benchmark构建方法
面试指南
- 采用STAR法则，描述情境、任务、行动和结果
- 结合具体技术细节，展示深度理解
- 体现系统思维，从攻击面、防御、评测等多角度思考
- 如何设计一个针对LLM的自动化安全评测框架？
- 请介绍你了解的大模型攻击类型及防御方法
- 如何应对Agent中的工具调用越权问题？
- 你如何跟踪最新安全研究？请举例说明
- 请描述一个你参与过的安全项目，你的角色和贡献是什么？
职位点评
薪资福利75
成长发展90
工作生活50
使命价值80
薪资福利
75中等
该职位薪资水平较高，知乎作为上市公司提供稳定福利，但具体薪资未在JD中明确，需面议。
薪资信号面议 (25K-40K/月)
成长发展
90较高
该职位处于AI安全前沿，技术挑战大，有论文和专利机会，成长空间广阔。
技术前沿前沿/新兴技术
技术栈LLM、多模态、Agent、Prompt Injection、RLHF、DPO、RLAIF
成长机会顶会论文、专利、技术报告
业务类型ambiguous
工作生活
50较低
工作地点在深圳，现场办公，未提及弹性工作，可能加班，生活平衡一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
AI安全具有社会价值，保护用户和系统安全，行业前景好，但具体使命信号未明确。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs