AI安全-算法工程师-合肥（内容安全和越狱攻击）

优缺点分析

角色解读

• 向AI安全专家发展，成为内容安全领域的核心技术骨干
• 横向拓展到更广泛的安全方向，如模型安全、数据安全等
• 纵向晋升为技术负责人或团队leader，带领小组攻关难题
• 研发AIGC内容安全防护算法，包括文本、图像等多模态内容的风险识别与分类
• 持续优化模型性能，提升准确率和鲁棒性，应对新型攻击手段
• 参与大规模数据采集与标注，构建高质量训练数据集
• 跟踪前沿技术，探索深度学习、NLP、CV等在内容安全领域的新应用
• 扎实的机器学习、NLP或CV理论基础，熟悉常见模型和算法
• 精通Python/C++，具备较强的工程实现能力
• 有内容安全或大模型安全相关项目经验，了解审核算法和对抗攻击
• 良好的问题分析和解决能力，能独立将算法落地到业务场景

申请策略

• 申请前了解科大讯飞在AI安全领域的布局和产品，面试中可结合业务讨论
• 提前准备一两个自己解决过的安全类问题案例，展示分析思路
• 突出内容安全或大模型安全的项目经历，详细描述算法设计和效果指标
• 列出高水平论文、比赛获奖（如KDD、ACL等），体现学术能力
• 展示机器学习/NLP/CV的实际项目经验，强调从数据到落地的全流程
• 如有开源贡献或技术博客，可补充体现技术热情
• 补充深度学习框架（如PyTorch、TensorFlow）的熟练度
• 了解大模型（如GPT、LLaMA）的安全对齐和对抗攻击技术

面试指南

• 对于系统设计类问题，先明确需求，再分层阐述（数据、特征、模型、评估、迭代）
• 对于攻击与防御类问题，先解释攻击原理，再给出对应的防御策略（如对抗训练、输入过滤等）
• 对于项目经验类问题，使用STAR法则（情境、任务、行动、结果），突出量化指标
• 如何设计一个内容风险分类系统？从样本、特征、模型、部署等方面说明
• 对抗样本攻击的原理是什么？如何防御？
• 你在NLP/CV项目中遇到的最大挑战是什么？如何解决？
• 大模型的安全问题有哪些？你了解的越狱攻击方式？
• 如何权衡模型的准确率和召回率？在内容安全场景中更侧重哪个？