科大讯飞
大模型安全运营工程师(J13854)
大模型安全运营工程师(J13854)
发布于 大约 15 小时前普通员工/个人贡献者
合肥市
无经验要求
全职员工
仅现场办公
本科
网络安全
Ai-Agent
Prompt注入
多模态
大模型安全
安全评测
攻防
数据分析
红队测试
风控策略
AI 估算 · 12k–20k
AI安全是前沿方向，合肥生活成本适中，科大讯飞上市企业薪资有竞争力，校招岗位估计月薪12k-20k。
职位详情
关于这个职位
科大讯飞正在招募大模型安全运营工程师，你将负责大模型和AI-Agent全生命周期的风控运营，包括安全策略设计、风险处置、策略优化等
入职后会深耕内容安全评测、风控运营或AI-Agent安全防护等方向，属于前沿AI安全领域，适合对AI安全有热情的应届生
最低要求
本科及以上学历，人工智能、计算机、网络空间安全、大数据、统计学等相关专业
具备扎实的AI与大数据数据分析能力，擅长从海量风险数据中提炼特征、定位根因、输出可落地策略
有AI红队测评、Agent攻防、大模型内容风控实习/项目经验，熟练使用安全评测工具、具备风险数据分析经验者优先
有CTF、安全赛事、NLP算法竞赛获奖者优先
拥有优秀的结构化拆解与逻辑推演能力，跨部门协同高效，能够独立牵头推进风控策略迭代、安全评测、风险治理类项目全流程落地
工作主动、抗压性强，能适配AI业务快速迭代节奏
入职后将结合个人能力及业务需求，定岗深耕内容安全评测/风控运营、智能体安全运营任一方向
工作职责
负责大模型和AI-Agent全生命周期风控运营，平衡业务安全性与用户体验
深耕多模态对话、Agent等应用场景，负责安全策略设计与落地，闭环处置Prompt注入、隐私泄露、策略误漏判等各类风险问题
基于线上数据提炼风险特征，迭代优化风控策略，提升策略准确率、召回率
推动安全运营工具、自动化安全评测工具的迭代优化
持续跟进AI监管政策、新型攻防手段，沉淀风险案例库，推动安全能力从事后处置向主动防御演进
优先资格
有AI红队测评、Agent攻防、大模型内容风控实习/项目经验，熟练使用安全评测工具、具备风险数据分析经验者优先
有CTF、安全赛事、NLP算法竞赛获奖者优先
AI 洞察
优缺点分析
优点
- 站在AI安全前沿，接触大模型、Agent等新兴技术，技能积累快
- 科大讯飞是AI领军企业，平台大，资源丰富，能参与核心安全项目
- 成长方向明确，有机会深入红队评测、风控策略等细分领域，成为稀缺人才
- 工作强度较大，需要快速响应新型攻防手段，适应快速迭代节奏
- 对综合能力要求高，既需要技术能力，也要有数据分析、跨部门协同能力
缺点 / 挑战
- AI安全领域尚在演进，需要持续学习，有一定压力
- 适合对AI安全有浓厚兴趣、喜欢挑战、具备扎实数据分析能力且能承受一定工作强度的应届生
角色解读
- 在AI安全领域深耕，成为大模型安全评测或风控方向的专家
- 可向安全架构师或AI安全技术管理方向发展，带领团队构建安全体系
- 随着AI安全的重要性提升，职业前景广阔，也可横向拓展到数据安全、内容安全等方向
- 负责大模型和AI-Agent全生命周期的风控运营，设计并落地安全策略，处理Prompt注入、隐私泄露等风险问题
- 基于线上数据提炼风险特征，优化策略准确率和召回率，推动自动化评测工具建设
- 持续跟踪AI监管政策和新型攻防手段，沉淀风险案例库，推动安全能力从被动处置向主动防御演进
- 根据个人背景和业务需求，深耕内容安全评测、风控运营或AI-Agent安全防护其中一个方向
- 扎实的AI和大数据分析能力，能从海量风险数据中提炼特征、定位根因
- 熟悉安全评测工具、红队测评或Agent攻防技术，有CTF/NLP算法竞赛经验更佳
- 具备结构化拆解和逻辑推演能力，能够高效跨部门协同，独立推进项目
- 抗压能力强，适应AI业务快速迭代节奏
申请策略
- 在简历中明确写清自己对AI安全的热情和具体实践，避免泛泛而谈
- 面试时准备2-3个安全项目的深度复盘，展示自己的思考和改进过程
- 突出大模型安全相关项目或实习经历，如红队测试、Agent攻防、内容风控等
- 展示数据分析能力，如从数据中提炼风险特征、优化策略的案例
- 强调竞赛获奖或CTF经历，这是加分项
- 体现结构化思考和项目推进能力，如独立负责过安全项目
- 提前学习大模型安全基础知识，如Prompt注入、越狱攻击、AI-Agent安全等
- 熟悉常见安全评测工具和框架，如TextAttack、Garak等，或掌握Python数据分析
面试指南
- 对于技术概念题，先下定义，再结合例子说明，最后给出解决思路
- 对于策略设计题，从目标、数据、算法、评测、迭代几个环节展开，体现结构化思维
- 对于平衡类问题，展示权衡思维，提出分层策略或动态调整机制
- 请解释什么是Prompt注入攻击？如何防御？
- 如何设计一个大模型内容安全评测体系？
- 如果线上出现大量误判，你如何定位和优化风控策略？
- 你了解哪些AI-Agent特有的安全风险？如何防护？
- 如何平衡安全性和用户体验？
职位点评
61
综合评分
前沿AI安全岗位，技术成长快，但工作强度大，现场办公为主。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
更适合这类人
该职位最适合追求技术成长、对AI安全有热情、能适应高强度工作的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利45
成长发展88
工作生活40
使命价值82
薪资福利
45较低
薪资未披露，未提及福利信息，补偿性激励不明确，但作为上市大厂的校招岗位，薪资和福利有一定保障。
薪资信号未披露（AI估算：12K-20K/月）
成长发展
88较高
大模型安全属于前沿技术领域，岗位方向明确且有专项深耕机会，技术成长性和职业发展空间大。
技术前沿前沿/新兴技术
技术栈大模型、AI-Agent、Prompt注入、红队测试、多模态、风控策略、数据分析
成长机会定岗深耕、推动安全能力从事后处置向主动防御演进
业务类型cost_center
工作生活
40较低
仅现场办公，JD明确要求抗压性强、适应快速迭代节奏，工作强度可能较大，工作生活平衡度较低。
工作模式仅现场办公
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
82较高
大模型安全具有显著的社会价值，保障AI应用安全可靠，契合AI治理和合规趋势，意义感较强。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
科大讯飞 的其他在招职位
相似职位推荐
Watch Jobs