温馨提示：这篇文章已超过379天没有更新，请注意相关的内容是否还可用！
据 Decrypt 报道，西北大学的一项最近研究揭示了定制生成预训练 Transformer（GPT）的一个令人震惊的漏洞：尽管它们可以定制用于多种应用，但也容易受到提示注入攻击，从而暴露敏感信息。研究对超过 200 个定制 GPT 进行了严格测试，发现它们对此类攻击和越狱具有很高的敏感性，可能导致初始提示的提取和未经授权访问上传的文件。研究强调了这种攻击的双重风险，威胁知识产权的完整性和用户隐私。研究还指出，现有的防御措施，如防御性提示，对抗复杂的对抗性提示并非万无一失。研究呼吁广泛的 AI 社区优先发展更强大的安全措施。