科大讯飞
AI研究算法工程师-大模型安全方向(J14196)
AI研究算法工程师-大模型安全方向(J14196)
发布于 1 天前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai Safety
Nlp
Pytorch
Rlhf
大模型安全
对抗攻击
值不值得投
75综合评分
综合评分 75
前沿AI安全方向，技术挑战大，公司平台好，但WLB和薪资未明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
16K
比人工智能中位数低
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 200 个在招 · 其中人工智能 11 个
市场机会
选择适中
合肥 · 人工智能 · 12 个在招
职位详情
关于这个职位
该职位是科大讯飞AI研究算法工程师，专注于大模型安全方向
主要负责大模型安全防护、攻击与测评体系构建等前沿技术研究，并推动安全算法在产品中落地
要求硕士学历，具备扎实的机器学习和深度学习基础，有大模型或AI安全相关项目经验
最低要求
硕士及以上学历，网络安全、人工智能、计算机、软件工程、自动化、应用数学等相关专业
扎实的机器学习与深度学习基础，熟悉Transformer、预训练语言模型
熟练掌握至少一种深度学习框架（PyTorch/TensorFlow/MindSpore），Python工程能力强
有大模型、NLP或AI安全、内容安全、智能体安全相关研究/项目经历，熟悉大模型预训练、微调、推理及评测流程
英文文献阅读能力良好，能快速跟进顶会最新进展
问题分析与解决能力强，有责任心，善于沟通协作
具备使用AI工具进行编程、调试、实验结果分析的能力
工作职责
参与大模型安全防护、AI 安全攻击与测评体系构建、大模型本体安全、AI 内容安全与可信关键技术研究等方向中任意一项相关工作
跟踪大模型安全算法创新，包括但不限于大模型对齐、智能体安全及AI Safety等前沿技术，探索模型自身机制出发提升安全性、可靠性与鲁棒性的方法
基于安全业务数据，持续开展数据分析、算法迭代与模型优化，完成安全算法验证、性能评估及交付验收，推动研究成果在实际安全业务和产品中落地
优先资格
在 ACL、EMNLP、NeurIPS、ICLR、ICML、AAAI 等会议或期刊发表过 NLP、大模型或 AI Safety 相关论文
有大规模预训练模型训练、SFT、RLHF实战经验
有对抗攻击、幻觉检测、Prompt注入防护、内容安全、大模型评测、智能体安全、模型对齐或安全护栏相关项目经验
有开源项目贡献经历，或GitHub上有高质量NLP项目
有 Agent 平台、MCP、插件系统、RAG 平台、工作流编排、浏览器智能体、代码执行智能体或多智能体系统的研发经验
AI 洞察
优缺点分析
优点
- 科大讯飞作为AI头部企业，提供丰富的平台资源和项目机会
- 岗位涉及从研究到落地的全链条，能积累扎实的工程与科研经验
- 技术更新迅速，需要持续学习最新算法和安全技术
- 安全领域要求高，模型优化和验证可能面临复杂问题
- 推动成果落地需要跨团队协作，沟通协调能力要求高
- 适合对AI安全有浓厚兴趣，具备扎实技术基础，愿意深入研究和解决复杂问题的求职者
缺点 / 挑战
- 大模型安全是AI前沿热点，技术成长空间大，挑战性强
角色解读
- 成为AI安全领域专家，专注于大模型安全前沿技术研究
- 向技术管理岗位发展，如团队负责人或研究总监
- 通过论文发表和项目贡献，建立行业影响力，探索更多安全创新方向
- 研究并实施大模型安全防护技术，如对齐、智能体安全及AI Safety
- 分析安全业务数据，持续优化算法，提升模型安全性、可靠性和鲁棒性
- 推动安全研究成果在实际业务和产品中落地，完成算法验证与交付
- 扎实的机器学习和深度学习基础，熟悉Transformer和预训练语言模型
- 熟练使用PyTorch/TensorFlow等深度学习框架，具备强Python工程能力
- 有大模型、NLP或AI安全相关研究/项目经验，熟悉大模型全流程
- 良好的英文文献阅读能力，能跟进顶会最新进展
申请策略
- 了解科大讯飞在AI安全领域的业务布局和产品，展示与公司方向的契合度
- 面试前复习大模型安全相关论文和技术，准备技术问题的深入回答
- 突出大模型安全、NLP或AI安全相关项目经验，展示技术深度
- 列出顶会论文发表记录或高质量GitHub项目，体现研究能力
- 强调Python编程和深度学习框架实战经验，如PyTorch项目
- 深入学习大模型安全技术，如RLHF、对抗攻击、Prompt注入防护等
- 提升使用AI工具进行实验和数据分析的能力，关注最新研究进展
- 准备大型预训练模型训练或微调的实战案例，增强项目可信度
面试指南
- 技术问题结合理论知识和项目经验，使用STAR法则（情境、任务、行动、结果）回答行为问题
- 对于开放性问题，展示自己的思考过程，从研究前沿和实践落地两个角度阐述
- 强调团队合作和问题解决能力，突出与岗位要求的匹配度
- 请介绍你对大模型安全的理解，以及你认为最重要的挑战是什么？
- 描述一个你参与的AI安全项目，你遇到了哪些困难？如何解决的？
- 如何提升大模型的安全性、可靠性和鲁棒性？请举例说明
- 你熟悉哪些大模型安全技术，如模型对齐或对抗攻击？请详细解释
- 为什么选择科大讯飞的大模型安全岗位？你对这个领域有什么热情？
职位点评
薪资福利75
成长发展85
工作生活60
使命价值80
薪资福利
75中等
公司为已上市超大型企业，平台稳定性较高，但JD未披露薪资和福利细节，薪酬竞争力需进一步确认。
薪资信号未披露（AI估算：12K-20K/月）
成长发展
85较高
岗位涉及大模型安全前沿技术，学习成长机会多，技能提升空间大，但JD未明确提及培训或晋升路径。
技术前沿前沿/新兴技术
技术栈大模型安全、Transformer、PyTorch、NLP、AI Safety
业务类型ambiguous
工作生活
60中等
JD未提及办公模式和工作时间安排，WLB情况未知，需在面试时进一步了解。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
AI安全是快速增长的领域，具有较高社会价值，岗位强调推动技术落地，能带来使命感，但JD未提及具体使命或价值观。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs