大模型安全能力研究员-MiMo

优缺点分析

角色解读

• 可向AI安全专家方向发展，成为大模型安全领域的权威
• 可晋升为技术负责人，带领团队开展前沿研究
• 可转向产品化方向，将研究成果转化为安全产品
• 负责设计大模型训练流程，包括数据构造、指令微调和强化学习，以提升模型在漏洞发现任务上的能力
• 研究并实现提升模型在二进制分析、源码审计等安全任务上的推理能力的方法
• 构建和维护Agentic安全评估框架，设计基准测试集，评估模型在CVE复现和零日漏洞发现上的表现
• 与红队协作，进行双用途风险评估，确保模型的攻击性能力得到控制
• 扎实的深度学习基础，熟悉大模型训练全流程，包括预训练、SFT和RLHF
• 精通至少一种系统编程语言（C/C++/Rust），具备漏洞挖掘或CTF实战经验
• 了解常见软件漏洞原理，如缓冲区溢出、UAF等，并熟悉逆向工程和模糊测试工具
• 具备研究能力，能阅读和撰写学术论文，对AI安全领域有深入理解

申请策略

• 了解小米在AI安全方面的布局，在面试中展示对业务的思考
• 准备一个展示你如何将大模型应用于漏洞挖掘的案例
• 突出CTF参赛经历或漏洞挖掘实战成果，如CVE编号
• 强调大模型训练项目经验，特别是RLHF或SFT相关
• 展示系统编程能力，如C/C++/Rust项目
• 如有相关论文或开源项目，务必列出
• 补充强化学习知识，特别是RLHF
• 熟悉逆向工程工具（如IDA Pro、Ghidra）和模糊测试框架

面试指南

• 采用STAR法则，结合具体项目经验，突出技术细节和成果
• 展示对AI安全伦理的理解，强调双用途风险控制
• 体现跨学科能力，将深度学习与安全知识结合
• 请描述你如何设计一个用于漏洞发现的大模型训练流程？
• 你如何评估模型在漏洞挖掘任务上的性能？
• 你如何平衡模型的攻击性能力与安全风险？
• 请分享一个你利用深度学习解决安全问题的项目经历
• 复习大模型训练技术，特别是RLHF