科大讯飞
AI研究算法工程师-大模型安全方向(J14196)
AI研究算法工程师-大模型安全方向(J14196)
发布于 大约 17 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai安全
Nlp
Pytorch
大模型安全
对抗攻击
机器学习
模型对齐
深度学习
值不值得投
76综合评分
综合评分 76
前沿AI安全研究岗位，技术挑战高、发展空间大，薪资有竞争力但WLB未明确。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
20K
与人工智能中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 200 个在招 · 其中人工智能 11 个
市场机会
选择适中
合肥 · 人工智能 · 12 个在招
职位详情
关于这个职位
该职位专注于大模型安全方向的研究与算法工程，参与AI安全防护、攻击测评体系构建等工作，跟踪前沿技术如模型对齐与智能体安全，探索提升模型安全性、可靠性的方法，并推动研究成果在实际业务和产品中落地应用
最低要求
硕士及以上学历，网络安全、人工智能、计算机、软件工程、自动化、应用数学等相关专业
扎实的机器学习与深度学习基础，熟悉Transformer、预训练语言模型
熟练掌握至少一种深度学习框架（PyTorch/TensorFlow/MindSpore），Python工程能力强
有大模型、NLP或AI安全、内容安全、智能体安全相关研究/项目经历，熟悉大模型预训练、微调、推理及评测流程
英文文献阅读能力良好，能快速跟进顶会最新进展
问题分析与解决能力强，有责任心，善于沟通协作
具备使用AI工具进行编程、调试、实验结果分析的能力
工作职责
参与大模型安全防护、AI 安全攻击与测评体系构建、大模型本体安全、AI 内容安全与可信关键技术研究等方向中任意一项相关工作
跟踪大模型安全算法创新，包括但不限于大模型对齐、智能体安全及AI Safety等前沿技术，探索模型自身机制出发提升安全性、可靠性与鲁棒性的方法
基于安全业务数据，持续开展数据分析、算法迭代与模型优化，完成安全算法验证、性能评估及交付验收，推动研究成果在实际安全业务和产品中落地
优先资格
在 ACL、EMNLP、NeurIPS、ICLR、ICML、AAAI 等会议或期刊发表过 NLP、大模型或 AI Safety 相关论文
有大规模预训练模型训练、SFT、RLHF实战经验
有对抗攻击、幻觉检测、Prompt注入防护、内容安全、大模型评测、智能体安全、模型对齐或安全护栏相关项目经验
有开源项目贡献经历，或GitHub上有高质量NLP项目
有 Agent 平台、MCP、插件系统、RAG 平台、工作流编排、浏览器智能体、代码执行智能体或多智能体系统的研发经验
AI 洞察
优缺点分析
优点
- 大模型安全是当前AI领域的前沿热点，技术发展空间大，能接触最新研究
- 科大讯飞作为上市超大型企业，平台资源丰富，项目落地机会多
- 校招岗位提供系统培养路径，适合应届生快速成长
- 技术难度高，需要持续跟踪和掌握快速迭代的AI安全技术
- 研究成果需要转化为实际产品，可能涉及复杂的业务场景适配
- 适合对AI安全有浓厚兴趣、具备扎实算法和编程基础、愿意深入前沿技术研究并推动其落地的应届毕业生
缺点 / 挑战
- 作为核心研究方向，可能面临较高的技术攻关压力和交付要求
角色解读
- 深耕AI安全领域，成为大模型安全方向的技术专家或研究员
- 向算法架构师或技术负责人发展，带领团队攻克安全难题
- 结合业务需求，推动AI安全技术产品化，转向技术管理或产品规划岗位
- 参与大模型安全防护技术研究，如AI攻击测评、内容安全等
- 跟踪大模型安全前沿算法，如模型对齐、智能体安全，探索提升模型鲁棒性的方法
- 基于安全业务数据进行数据分析、算法迭代与优化，推动研究成果在实际产品中落地
- 扎实的机器学习与深度学习理论基础，熟悉Transformer架构和预训练模型
- 熟练使用PyTorch/TensorFlow等深度学习框架，具备较强的Python工程能力
- 有大模型、NLP或AI安全相关研究或项目经验，了解模型训练、微调、评测流程
- 良好的英文文献阅读能力和快速学习能力，能跟进顶会最新进展
申请策略
- 研究科大讯飞在AI安全领域的产品和研究方向，面试中展示对公司的了解
- 准备一个与AI安全相关的具体项目案例，能清晰阐述技术细节和成果
- 突出在大模型、NLP或AI安全领域的研究项目或论文，尤其是顶会发表经历
- 详细描述使用PyTorch/TensorFlow进行模型训练、微调或评测的实践经验
- 展示Python工程能力，如GitHub项目、开源贡献或相关竞赛成绩
- 强调问题分析能力、团队协作和英文文献阅读经验
- 深入学习大模型安全技术，如对抗攻击、幻觉检测、Prompt注入防护等
- 加强实战经验，参与开源项目或模拟安全场景的算法竞赛
面试指南
- 使用STAR法则（情境、任务、行动、结果）来结构化回答项目经验类问题
- 从技术原理、实现方法和实际效果三个层面阐述对安全技术的理解
- 结合具体数据和指标说明问题分析与解决过程
- 请解释大模型安全面临的主要挑战及可能的解决思路
- 描述一个你参与的AI安全或NLP项目，你在其中的角色和贡献
- 如何评估一个大模型的安全性或鲁棒性？
- 如果遇到模型在安全测试中失败，你会如何分析和优化？
- 你对大模型对齐技术有何理解？
职位点评
薪资福利75
成长发展90
工作生活50
使命价值85
薪资福利
75中等
作为校招岗位，薪资预计在合肥市场具有竞争力，公司已上市稳定性较高。
薪资信号未披露（AI估算：15K-25K/月）
成长发展
90较高
专注于AI安全前沿领域，技术栈先进，公司平台大，提供良好的学习成长和项目落地机会。
技术前沿前沿/新兴技术
技术栈大模型安全、AI安全、Transformer、PyTorch、Python、NLP、机器学习、深度学习、模型对齐、对抗攻击
业务类型ambiguous
工作生活
50较低
JD未明确办公模式和工作时间，工作地点在合肥，WLB情况不确定。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
AI安全是保障技术发展的关键领域，具有较高的社会价值，行业处于高速增长阶段。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs