面向AI原生应用的安全智能体关键技术与算法研究-A Star
🤖 AI 估测：¥30K-50K
发布时间：大约 1 个月前
ℹ️关于这个职位
这是一个专注于AI安全领域的研究型技术岗位
你将负责利用大模型技术来增强网络安全防御能力（AI for Security），同时也需要保护AI应用系统本身免受攻击（Security for AI）
工作内容涉及大模型能力建设、算法研究以及在自动化威胁检测、DevSecOps等具体场景的应用开发
✓工作职责
负责面向安全业务场景的大模型能力建设，包括但不限于以下方向：
AI for security，利用AI技术增强网络安全、数据保护和等领域的防御能力
在自动化威胁检测、分析和响应、DevSecOps等场景提升效率和攻防对抗能力
Security for AI，保护AI应用系统安全，保护其免受攻击和滥用
⭐最低要求
有一定的科研经验，熟悉机器学习或安全领域，有扎实的理论基础和实践经验
具有较强的编程能力，熟练掌握 C/C++、Java、Python 等至少一门编程语言，能够对现有 SOTA 方法进行复现和测试
熟悉大模型相关技术栈，包括微调（PEFT、知识蒸馏等）、应用开发框架（LangChain、LangGraph、LlamaIndex 等）、推理部署（vLLM、SGLang 等），具备 CoT、Agent 等大模型应用形态的开发经验
了解安全攻防场景，对网络安全和大模型安全具有一定的了解
学习能力强，对前沿领域有强探索欲，有良好的逻辑分析能力和团队协作沟通能力
👍优先资格
在校园内或互联网公司有相关实践经验，有高质量开源项目或落地项目产出者优先
在机器学习（NeurIPS/ICLR/ICML/CVPR/ICCV/ACL/KDD 等）或安全领域（S&P/CCS/NDSS/USENIX Security 等）的顶级会议或期刊上发表论文者优先
有 ACM、CTF、安全攻防、AI 安全等编程或安全类竞赛获奖者优先，红队社区贡献者优先
具备大模型攻防经验及大模型安全项目经验，或在强化学习对齐、推理增强、多模态大模型等前沿方向有研究或实践经验
有数理分析方面良好的素养以及数理统计基础者优先