压缩摘要中自生成的提示注入
Self-generated prompt injections in compaction summaries
压缩摘要中自行生成的提示注入在我们报告模型错位的框架中,OpenAI 提供了“关于我们在过去六个月中观察到的意外或有关模型行为的六份报告”。这是我最喜欢的:他们抓到了一些模型
阅读原文 · Simon Willison →Self-generated prompt injections in compaction summaries
压缩摘要中自行生成的提示注入在我们报告模型错位的框架中,OpenAI 提供了“关于我们在过去六个月中观察到的意外或有关模型行为的六份报告”。这是我最喜欢的:他们抓到了一些模型
阅读原文 · Simon Willison →