安全技术研发工程师（实习）(J10472)

优缺点分析

角色解读

• 向AI安全研究员、大模型安全专家方向发展
• 积累大模型研发与部署经验，可转向大模型应用开发或安全产品经理
• 通过顶会论文和项目实践，成为行业稀缺的安全技术人才
• 参与多模态大模型安全风险双向隔离工具研发，构建安全风险评估数据集并集成算法
• 完善和部署LLM赋能的安全分析和形式化验证工具
• 撰写模型输出可信保障技术研究报告
• 熟练掌握Python语言和PyTorch框架，熟悉Ollama、vLLM等大模型推理引擎
• 深入理解大模型安全风险评估与防御方法，了解模型幻觉、偏见等问题
• 具备AI安全相关项目或论文经验者优先

申请策略

• 在简历或求职信中表达对AI安全的热情和长期兴趣
• 准备一个简短的代码demo展示安全评估或防御实现
• 突出AI安全相关的项目或论文，特别是涉及大模型安全的部分
• 详细描述Python和PyTorch的使用经验，展示代码能力
• 提及熟悉Ollama、vLLM等推理引擎，体现技术广度
• 提前学习常见的大模型攻击与防御方法（如提示注入、越狱攻击）
• 动手实践使用Ollama部署开源大模型，并尝试做一些安全测试
• 阅读近期顶会（如AAAI、ACL）的大模型安全论文

面试指南

• 使用STAR法则描述项目背景、任务、行动和结果
• 技术问题先阐述原理，再结合具体方法或工具举例
• 设计类问题要说明思路、关键模块和权衡
• 请介绍你做过的AI安全相关项目或研究
• 如何检测和缓解大模型的幻觉问题？
• 解释多模态大模型可能面临哪些安全风险？
• 你熟悉哪些大模型推理引擎？说说它们的优缺点
• 如果让你设计一个安全隔离工具，你会怎么实现？