中国移动
AI开发岗（AI安全治理）-金种子（北京）
AI开发岗（AI安全治理）-金种子（北京）
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai安全治理
Pytorch
Rag
Rlhf
大模型安全
智能体安全
算法合规
值不值得投
81综合评分
综合评分 81
核心大模型平台、前沿AI安全方向、科研与标准制定资源丰富，薪资优厚但科研压力较大。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较职业起点。
薪资怎么样
4.8万
与人工智能中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 420 个在招
市场机会
选择面较广
北京 · 人工智能 · 约 640 个在招
职位详情
关于这个职位
该职位主要负责AI安全治理相关的关键技术设计与研发，包括模型安全审计、内容检测、智能体安全可信等核心模块
同时参与可信服务平台架构设计，并跟踪大模型安全前沿动态与国内外标准
最低要求
博士学历，计算机科学与技术、人工智能、网络空间安全等相关专业
具备AI安全方向研究/开发经验，包括模型攻击与防御、内容检测、算法合规性分析等
熟悉大模型相关技术，例如数据工程、预训练、微调、RLHF奖励模型/强化学习、AgentLLM（AI智能体）和RAG等，具有相应的研究和工程实践经验
热爱编程，基础扎实，熟悉掌握一种或多种编程语言，如JAVA/C/C++/Python/GO，有良好的编程习惯
熟悉一种或多种主流AI框架，如Tensorflow/Pytorch/MindSpeed/Langchain/HuggingFace等
熟悉智能体安全开发过程，熟悉在智能体规划、记忆存储，工具调用，工具执行各阶段的安全风险和防护方案
工作职责
承担AI安全治理相关的关键技术设计与研发任务，负责模型安全审计、内容生成检测与对抗识别、数据风险检测、智能体安全可信、AI安全可信测评、算法行为可追责与审计机制等核心模块设计与研发
主导或参与可信服务平台架构设计、核心能力集成与模块开发
撰写科研论文、申请发明专利、参与/牵头标准制定等
负责跟踪大模型安全领域前沿动态，熟悉国内外安全标准（如欧盟AI法案），具备合规意识
优先资格
具备网络安全技术（包括态势感知、威胁检测、数据安全、内容安全、主机安全、漏洞挖掘等）相关领域研究经验者优先
AI 洞察
优缺点分析
优点
- 依托核心大模型平台，能接触到海量数据与国家级算力资源，科研与工程落地条件优越
- AI安全是当前大模型落地的核心痛点，该方向具有极高的行业壁垒与长远发展前景
- 专项人才计划通常配备优质的科研资源与导师团队，利于学术与工程能力的双重提升
- AI安全治理属于前沿交叉领域，国内外标准仍在完善中，技术探索的未知性与难度较大
- 适合拥有计算机或安全相关博士学位，对大模型安全有深入研究，且希望在国家级平台从事前沿技术研究与标准制定的顶尖技术人才
缺点 / 挑战
- 大型研发机构通常对合规、流程及标准制定有较高要求，可能在一定程度上影响敏捷开发节奏
角色解读
- 纵向可向AI安全首席专家、技术总监方向发展，主导国家级或行业级安全标准制定
- 横向可拓展至大模型底层架构研发或AI合规与商业化落地负责人
- 负责大模型及智能体的安全治理技术研发，包括模型审计、内容检测、对抗识别等核心模块
- 参与可信服务平台的架构设计与能力集成，跟踪国内外AI安全标准与前沿动态
- 开展科研创新，撰写论文、申请专利并参与行业标准制定
- 扎实的AI与大模型技术基础，熟悉预训练、微调、RLHF、RAG及AgentLLM等技术
- 精通至少一种主流编程语言（如Python/C++）及AI框架（如PyTorch/LangChain）
- 具备AI安全、网络安全及算法合规性分析的研究或工程实践经验
申请策略
- 提前了解公司大模型的技术架构与应用场景，面试时结合其业务痛点提出安全治理思路
- 准备好关于模型攻击与防御、RLHF安全对齐等具体技术细节的深度探讨
- 突出在AI安全、大模型攻防、内容检测或智能体安全方面的具体研究成果与项目经验
- 强调在顶级会议/期刊发表的论文、申请的专利或参与制定的相关标准
- 展示对主流大模型框架（如PyTorch、LangChain）的底层理解及工程落地能力
- 深入研究欧盟AI法案等国内外最新AI合规标准，提升算法合规性分析能力
- 补充智能体（Agent）在规划、记忆、工具调用等全生命周期的安全防护方案知识
面试指南
- STAR法则：针对项目经验，从背景、任务、行动（具体技术选型与难点攻克）、结果（论文/专利/业务收益）展开
- 技术深度+业务落地：回答技术方案时，不仅讲算法原理，还要结合大模型实际应用场景谈工程落地与合规考量
- 请详细介绍你在模型攻击与防御或内容生成检测方面的一个具体研究或项目经验
- 针对大模型智能体（Agent）在工具调用阶段的安全风险，你认为有哪些有效的防护方案？
- 你如何理解欧盟AI法案对大模型研发的影响？在算法合规性分析上有哪些实践经验？
- 在RLHF或预训练阶段，如何设计机制来保证模型输出的安全可信与可追责？
- 复习大模型安全领域的经典论文（如Red Teaming、Jailbreak攻防、RLHF安全对齐等）
- 了解公司数智化转型战略及自研大模型的最新发布内容与备案情况
职位点评
薪资福利85
成长发展90
工作生活60
使命价值85
薪资福利
85较高
博士学历及专项人才计划通常提供具有市场竞争力的薪酬与完善的福利体系，薪资信号偏高。
薪资信号偏高 (3.5千–6万/月)
成长发展
90较高
依托国家级大模型平台与专项培养计划，提供顶尖的科研资源、专利论文产出机会及标准制定参与度，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈AI安全治理、大模型安全、RLHF、AgentLLM、RAG、Pytorch、Langchain
成长机会金种子、撰写科研论文、申请发明专利、参与/牵头标准制定
业务类型ambiguous
工作生活
60中等
研发机构通常工作节奏相对规律，但前沿安全研究及专项人才岗可能面临较高的科研与项目交付压力，WLB情况未明确。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
参与核心大模型的安全治理与国内外标准制定，具有极高的社会价值与行业使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号央企十大国之重器、数智赋能升级、驱动智能服务创新突破
创新程度开拓性创新（行业首创）
Watch Jobs