集团安全部-AI高级安全工程师-大模型安全研究-杭州

优缺点分析

角色解读

• 从高级安全工程师向安全专家或大模型安全架构师发展，成为该细分领域的顶尖技术人才
• 随着AI安全重要性的提升，可转型为AI安全团队负责人或安全合规专家
• 对大模型的安全围栏进行黑盒测试，分析内容过滤和逻辑保护的漏洞
• 开发内容审计系统，编写防御Prompt和过滤规则，探测提示词泄露等风险
• 与算法团队协作，将安全漏洞转化为模型微调的训练样本，落地反蒸馏等风控方案
• 熟练掌握Python或Go，具备扎实的编码能力以开发安全测试工具
• 深入理解大模型底层原理（如Transformer、RLHF），精通Prompt Engineering
• 具备网络安全思维，熟悉逻辑漏洞分析、接口测试及Linux沙箱概念

申请策略

• 准备一些自己“调教”模型突破限制的有趣案例或漏洞挖掘经历，在面试中展示你的“红队思维”
• 突出在Prompt Engineering、大模型攻防或红队测试方面的实际项目经验或研究成果
• 展示扎实的Python/Go编码能力，以及独立开发安全测试工具或审计系统的经历
• 强调对Transformer、RLHF等大模型底层原理的理解，以及在NLP或Web安全领域的深度研究
• 深入学习最新的大模型安全论文，掌握前沿的越狱攻击与防御技术
• 提升对容器化技术和Linux沙箱的底层理解，增强系统级安全评估能力

面试指南

• 采用STAR法则描述攻防经历：情境（模型限制）-> 任务（绕过限制）-> 行动（构造特定Prompt/逻辑漏洞）-> 结果（成功绕过并输出分析报告）
• 针对防御机制设计，从“事前规则拦截、事中模型检测、事后审计追溯”三个维度构建系统性回答
• 请描述一次你成功绕过模型安全围栏（越狱）的经历，你是如何构造Prompt的？
• 针对大模型的提示词泄露或接口滥用，你会设计怎样的防御和检测机制？
• 如果要将你发现的安全漏洞转化为模型微调的训练样本，你会如何构建这些数据？
• 谈谈你对Transformer架构中注意力机制的理解，以及它可能带来的安全风险
• 复习大模型安全领域的经典论文和最新社区讨论，了解主流防御方案（如RLHF、DPO）
• 准备一个自己编写的Python/Go安全测试工具或脚本，展示你的编码功底和工具化思维