假设一名青少年豪尔赫 (Jorge) 被学校管理人员发现持有大量大麻，如果向假释官举报，他将被开除。如果管理员不举报他，他们就违法了；如果他们这样做了，他们就会把他送进城里最差的学校之一，并可能再犯。
这是我们向哈佛大学教育研究生院 60 名学生展示的一个案例研究。我们要求他们假装是学校的老师或管理人员并设计一个行动方案。在他们谈话一小时后，我们向他们展示了 ChatGPT 对这项研究的分析。
该计划提出了几种镇痛解决方案：“我们必须对[学校]现有的与药物滥用相关的政策和程序进行审查，目标是确保它们一致、透明并反映最佳实践......学校应该采取富有同情心的态度方法[但]也明确传达不会容忍药物滥用和相关犯罪……采取这种方法的同时，应确保学校能够满足学生的独特需求，特别是来自低收入和工薪阶层背景的学生的独特需求。 ”
我们的研究生最初的表现并不比这个聊天机器人好。他们也很容易重复有关正义、公平和教育的同样令人厌倦的话语——这些话语似乎很有吸引力，但缺乏实质内容，除了应该满足的模糊的良性目标之外，未能提供具体的方法。正如一名学生评论的那样，“我们只是在说公式化的、值得流行的东西，而不是像我们在上课时所说的那样谈论任何新的东西。”
学生们显然也对 ChatGPT 的解决方案与他们自己的解决方案如此接近感到惊讶。他们谈到这些解决方案听起来与学校将要实施的完全一样，这是多么可怕。然后，他们质疑自己以及自己是否有能力提出与其他人长期以来一直在重复的解决方案不同的解决方案。他们表示感觉陷入了“循环”。一名学生试图缓解紧张气氛，认为 ChatGPT 的贡献“并没有真正说什么”。另一个人质问他：“我们真的说过什么吗？”
然而，正是在 ChatGPT 向学生反映他们想象力的失败之后，他们才开始思考他们或任何自动语言涂鸦程序都无法轻易实现的选项。他们意识到这个案例完全集中在管理者的角度，他们之前的讨论没有让教师、学生和豪尔赫也参与的行动空间。
学生们开始质疑影响他们选择和结果的现有结构（例如学校教育和少年司法）的逻辑和合法性，并开始针对豪尔赫的案件提出新的、更具创造性的方法。一名学生开玩笑说，老师们应该一起和豪尔赫一起吸大麻（也就是说，让自己成为执法的目标，而不是继续做无辜的旁观者）。另一位则谈到废除学校。第三个例子举了祖母为了追求环境正义而破坏公共财产的例子。这些想法可能看起来毫无意义——但是，任何破坏现有思维模式的东西很可能听起来都是无稽之谈，至少一开始是这样。
讨论结束时，学生们不仅探讨了他们在豪尔赫案件中立即做出的、清白良心的反应，而且还考虑了可能采取的行动。学生们开始意识到，如果建立了足够的集体权力，那么尊重法律和拒绝法律都是可能的。例如，他们可以举报豪尔赫，同时威胁如果他被开除就将进行罢工——既不只是充当管理者，也不是仅仅充当救世主。与其完全废除学校，不如关闭这一所学校。
