人工智能的发展速度已超出安全领域的追赶能力,我们正在打造“人工智能时代的安全技术栈”,现需一位产品工程师负责设计护栏系统等安全能力,助力企业无需担忧提示注入攻击、数据泄露或有害输出等风险,安全部署大语言模型(LLM)
产品探索:与早期客户(首席技术官、首席信息安全官及AI负责人)合作,识别安全相关的核心痛点,打造能够解决这些问题的功能与产品
构建引擎:开发实时“护栏”系统,能够在对抗性攻击(提示注入、越狱攻击等)发生时即时检测并遏制
研究落地:关注最新AI安全研究(如通用越狱攻击、间接注入攻击等),将这些研究成果快速转化为产品功能