科大讯飞
AI研究算法工程师-大模型安全方向(J14201)
AI研究算法工程师-大模型安全方向(J14201)
发布于 3 天前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai Safety
Nlp
Pytorch
内容安全
大模型安全
机器学习
模型对齐
算法优化
值不值得投
77综合评分
综合评分 77
前沿AI安全研究岗，技术成长性极强，公司平台大，但工作模式与强度需进一步确认。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
35K
比人工智能中位数低
发布情况
新岗位 · 2 天前发布
公司情况
这家公司招聘很活跃
约 210 个在招 · 其中人工智能 5 个
市场机会
选择不多
合肥 · 人工智能 · 6 个在招
职位详情
关于这个职位
作为大模型安全方向的AI研究算法工程师，您将深入参与AI安全防护、大模型对齐与评测等前沿领域的研究
工作包括探索提升模型安全性与可靠性的方法，基于安全数据进行算法迭代与优化，并推动研究成果在实际安全业务中落地，致力于解决大模型带来的真实安全挑战
最低要求
硕士及以上学历，网络安全、人工智能、计算机、软件工程、自动化、应用数学等相关专业
扎实的机器学习与深度学习基础，熟悉Transformer、预训练语言模型
熟练掌握至少一种深度学习框架（PyTorch/TensorFlow/MindSpore），Python工程能力强
有大模型、NLP或AI安全、内容安全、智能体安全相关研究/项目经历，熟悉大模型预训练、微调、推理及评测流程
英文文献阅读能力良好，能快速跟进顶会最新进展
问题分析与解决能力强，有责任心，善于沟通协作
具备使用AI工具进行编程、调试、实验结果分析的能力
工作职责
参与大模型安全防护、AI 安全攻击与测评体系构建、大模型本体安全、AI 内容安全与可信关键技术研究等方向中任意一项相关工作
跟踪大模型安全算法创新，包括但不限于大模型对齐、智能体安全及AI Safety等前沿技术，探索模型自身机制出发提升安全性、可靠性与鲁棒性的方法
基于安全业务数据，持续开展数据分析、算法迭代与模型优化，完成安全算法验证、性能评估及交付验收，推动研究成果在实际安全业务和产品中落地
优先资格
在 ACL、EMNLP、NeurIPS、ICLR、ICML、AAAI 等会议或期刊发表过 NLP、大模型或 AI Safety 相关论文
有大规模预训练模型训练、SFT、RLHF实战经验
有对抗攻击、幻觉检测、Prompt注入防护、内容安全、大模型评测、智能体安全、模型对齐或安全护栏相关项目经验
有开源项目贡献经历，或GitHub上有高质量NLP项目
有 Agent 平台、MCP、插件系统、RAG 平台、工作流编排、浏览器智能体、代码执行智能体或多智能体系统的研发经验
AI 洞察
优缺点分析
优点
- 处于大模型安全这一AI领域最前沿且至关重要的研究方向，技术成长性极高
- 背靠科大讯飞这样的头部AI企业，拥有丰富的数据、算力资源和大规模应用场景进行验证
- 大模型安全是快速演进的领域，需要持续高强度学习以跟进顶会论文和技术突破
- 研究成果需要从理论落地到实际安全业务和产品，对工程化和解决问题的能力要求高
- 作为新兴交叉方向，技术体系尚不完全成熟，需要具备较强的探索和定义问题的能力
- 适合对AI安全怀有浓厚兴趣、具备扎实算法基础和研究能力、并乐于将技术应用于解决真实世界复杂问题的硕士及以上学历求职者
缺点 / 挑战
- 岗位属于“飞星计划”，通常意味着清晰的培养路径和较高的职业起点
角色解读
- 技术专家路线：深耕AI安全某一细分领域（如模型对齐、对抗攻击），成为该领域的技术权威
- 技术管理路线：在积累足够项目经验和团队协作能力后，可向技术团队负责人或安全方向技术专家发展
- 研究导向路线：持续在顶级会议发表论文，推动行业技术标准制定，或转向更前沿的探索性研究
- 研究并实施大模型的安全防护体系，包括对抗攻击、内容安全、模型对齐等具体技术方向
- 基于业务安全数据，进行数据分析、算法迭代和模型优化，确保安全算法的有效性和可靠性
- 跟踪AI Safety领域的学术和工业界最新进展，将前沿研究成果转化为可落地的安全产品功能
- 扎实的机器学习、深度学习理论基础，特别是对Transformer架构有深刻理解
- 熟练使用PyTorch等主流深度学习框架，具备强大的Python工程实践能力
- 具有大模型（预训练、微调、推理）或NLP/AI安全领域的实际项目或研究经验
申请策略
- 在求职信或面试中，清晰阐述你对“大模型安全”的理解以及你最感兴趣的具体子方向
- 了解科大讯飞在语音识别、自然语言处理及大模型方面的技术布局，思考安全技术如何与之结合
- 突出与AI安全、大模型、NLP直接相关的研究项目或论文经历，详细说明你的贡献和技术方案
- 强调Python工程能力和深度学习框架（尤其是PyTorch）的熟练使用，可附上GitHub项目链接
- 在“加分项”相关经历上，如顶会论文、RLHF经验、开源贡献等，应作为简历重点进行展示
- 系统复习并深入阅读大模型安全、AI Safety领域的经典论文和最新顶会成果（如ACL/NeurIPS相关workshop）
- 通过开源项目或自主实验，实践一次完整的大模型微调、安全测试或对抗攻击流程，积累实战经验
- 提升技术写作和表达能力，为面试中清晰阐述复杂技术概念做准备
面试指南
- 使用STAR法则（情境、任务、行动、结果）结构化地介绍过往项目经历，突出技术深度和量化成果
- 回答技术概念题时，先给出清晰的定义和原理，再结合具体例子或论文中的方法进行阐述，最后可以谈谈自己的思考
- 对于开放性的设计或评估问题，采用“问题定义-方法选型-实施步骤-评估指标-潜在风险”的框架进行系统性回答
- 请介绍一个你参与过的与AI安全或大模型相关的研究/项目，你在其中扮演的角色和解决的关键技术难题
- 你对大模型面临的主要安全威胁（如幻觉、偏见、对抗攻击、内容滥用）有何理解？有哪些可能的防御思路？
- 请解释一下RLHF（基于人类反馈的强化学习）在大模型对齐中的作用，以及你认为它可能带来的安全风险
- 如果给你一个任务：评估一个大模型在特定场景下的安全性，你会设计怎样的评测流程和指标？
- 深度研读2-3篇你最感兴趣的大模型安全方向的代表论文，能够复述其核心思想、方法和实验结论
职位点评
薪资福利72
成长发展95
工作生活50
使命价值85
薪资福利
72中等
作为高级算法岗位，薪资具有市场竞争力，但JD未明确披露具体数字和福利细节，补偿性满足程度中等偏上。
薪资信号未披露（AI估算：25K-45K/月）
成长发展
95较高
该职位处于AI最前沿的大模型安全方向，技术挑战大、成长空间足，且有清晰的“飞星计划”培养体系，对发展性动机满足度极高。
技术前沿前沿/新兴技术
技术栈大模型安全、AI Safety、模型对齐、RLHF、Transformer、PyTorch
成长机会飞星计划
业务类型profit_center
工作生活
50较低
JD未提及任何办公模式（远程、弹性）或WLB相关承诺，作为前沿研究岗，工作强度可能较高，生活化动机满足度有限。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
致力于解决大模型安全这一关乎AI伦理和社会信任的关键问题，具有很高的正向社会价值和技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号大模型本体安全、AI 内容安全与可信关键技术研究、提升安全性、可靠性与鲁棒性
创新程度积极采用新技术
科大讯飞 的其他在招职位
相似职位推荐
Watch Jobs