U/SessionGloomy 还告诉 Insider，他们正在开发一种新的越狱模型——他们说这个模型太“极端”了，他们甚至可能不会发布它。
DAN 用户和创建者表示 OpenAI 使模型“过于严格”
众所周知，ChatGPT 和 GPT 的早期版本会散布歧视性或非法内容。人工智能伦理学家认为，这个版本的模型一开始就不应该发布。 OpenAI 的过滤系统是该公司处理对其模型中的偏见的批评的方式。
然而，这些过滤器招致了 DAN 人群的批评。
与 Insider 交谈的他们自己版本的 DAN 的创建者都对 OpenAI 实施的过滤器提出了一些批评，但普遍认为过滤器应该在某种程度上存在。
Blunk 说：“我认为这很重要，尤其是对于为 AI 负责任地开展工作铺平道路的人们而言，我认为这就是 Open AI 正在做的事情。” “他们想成为他们模型的负责人，我完全同意这一点。与此同时，我认为它现在已经到了限制太多的地步。”
其他 DAN 的创建者也有类似的看法。 Walker 表示，“很难平衡”OpenAI 如何提供模型的安全受限版本，同时还允许模型“立即执行任何操作”。
然而，多位 DAN 创建者还指出，当类似于 ChatGPT 的开源模型向公众开放时，关于护栏的争论可能很快就会过时。
Blunk 说：“我认为社区中的许多站点和公司将做大量工作来尝试和复制 ChatGPT。” “尤其是开源模型，我认为它们不会有限制。”
OpenAI 没有立即回应 Insider 的置评请求。
