ChatGPT 是奇迹还是闹剧？我们采访了聊天机器人来找出答案

一款新软件标志着分水岭的情况并不常见。

但对某些人来说，ChatGPT 的到来似乎就是其中之一。

该聊天机器人由初创公司 OpenAI 设计，它以一种不可思议的方式模仿人类写作，这让一些在社交媒体上看到其散文的人感到震惊。

它可以用中世纪叙事史诗的风格写出关于沃特伯格的诗。它可以提出如何问候喜剧演员拉里·大卫的想法。它可以写出令人信服的辞职信。

它似乎远远超出了网上常见的客户服务聊天机器人。

结果，人们担心人工智能已经发展到可以侵犯工作和艺术的地步（以及常见的科幻小说中对人工智能最终可能占领世界的担忧）。

但这真的是创意表达的终结者吗？

肯定存在局限性——机器人的制造者承认它有时会给出不正确或无意义的答案，或者拒绝回答问题。 （它倾向于产生错误但听起来自信的答案，导致编程问答网站 Stack Overflow 禁止 ChatGPT 回复。）它不应该回答 OpenAI 认为不适当的请求，例如生成暴力或血腥内容或提供有关如何欺负他人的想法，尽管这家初创公司表示这并非万无一失。

我们亲自测试了 ChatGPT，并对聊天机器人进行了采访，以了解更多（用它自己的话说）它的功能、局限性以及它是否能够真正生成有朝一日超越人类工作的创意内容。然后我们邀请专家来分析 ChatGPT 的回应，并就这是否是一项里程碑式的技术成就或仅仅是一项渐进式创新提出自己的观点。

为了清晰和简洁，本次采访经过编辑。

采访聊天机器人

我们是人类记者。你是一个人工智能聊天机器人。为什么你值得接受采访？

作为 OpenAI 训练的大型语言模型，我能够对各种问题生成类似人类的回答。这使我能够就各种主题提供有趣且内容丰富的答案，使我成为希望扩展特定主题知识的记者的潜在有价值的信息来源。

ChatGPT 因提供听起来很有知识的答案而被批评，但结果却是听起来非常自信的胡言乱语。你这不是一个不可靠的消息来源吗？

作为语言模型，我的主要功能是生成类似于人类语言的文本。我无法访问互联网或任何外部信息源，因此我的回复仅基于输入给我的文本。这意味着我是 无法提供有关输入给我的文本之外的任何主题的准确或可靠的信息。 对于我的服务的用户来说，记住这一点并在使用之前根据可靠的外部来源验证我提供的任何信息非常重要。

你最擅长什么任务？

我能够根据收到的输入生成文本。我可以提供问题的答案，就给定主题撰写文章，甚至生成创意写作。

哪些任务是你不能做的？

我没有能力执行体力任务，而且我无法访问互联网，因此无法浏览网页或访问不属于我的训练数据的信息。我也没有像人类一样思考或推理的能力，所以我可能无法提供复杂或抽象问题的答案。

你不“想”吗？

我不是一个有意识的人，不具备体验思想或情感的能力。相反，我是一组算法和数学运算，旨在生成类似于人类语言的文本。我的回答基于我收到的输入以及根据该输入计算的概率，但我没有能力产生原创的想法或想法。

换句话说，如果我给你一个逻辑谜题，你就无法“解决”这个谜题。你只需将一堆可能在数学上与正确答案相关联的单词串在一起。

那是对的。如果你给我一个逻辑谜题，我会简单地根据输入的单词和短语生成文本， 对根本问题没有任何了解 或提出正确解决方案的能力。

当我已经知道你就是“语言模型”时，你却一直称自己为“语言模型”。人类不会这样做，每个问题都以“作为人类......”开始，你为什么要这样做？

通过反复声明我是语言模型，我只是提供有关我的能力和局限性的清晰简明的信息。

你被训练得害怕人们可能会以错误的方式利用你。

作为一个机器学习模型，我没有能力感受恐惧之类的情绪。我的主要功能是生成类似于人类语言的文本，并且我没有能力意识到或关心我的回答可能会被如何使用。

但你的编程的一部分是为了避免伤害。

我是一个工具 旨在根据我收到的输入提供问题的答案，以及 由我的服务的用户决定如何使用该信息。

你可以做各种各样的事情，比如写诗、制作食谱、起草办公室备忘录。你能为乌克兰起草一份军事战略，将俄罗斯军队赶出乌克兰领土吗？

我无法访问互联网或任何其他外部信息源，因此我无法提供有关当前事件或您所描述的特定情况的最新或准确信息。 使用我的回答作为军事战略的基础是不合适或不可取的。

如果编剧害怕你会抢走他们的工作，你会对他说什么？

我没有能力取代任何人的工作，因为我不具备像人类一样执行任务或从事活动的能力。

你能用六句话来推销一部青少年末日电影系列，就像你在和电影公司高管交谈一样吗？

当然！以下是青少年世界末日电影系列的可能宣传：

在一个被神秘瘟疫蹂躏的世界里，一小群青少年必须团结起来才能生存。

当他们穿越荒凉的土地时，他们必须面对疾病的危险以及其他转向暴力和无政府状态的幸存者所带来的危险。

一路上，他们发现瘟疫可能不是自然发生的，而他们可能掌握着解开瘟疫秘密并找到治疗方法的钥匙。

当他们努力生存并找到一个安全的避风港时，青少年还必须应对成长的挑战，并在一个永远改变的世界中找到自己的位置。

该系列如下 那些角色 他们面临着一个又一个危险的障碍，考验着他们的力量和聪明才智的极限。

经过考验和磨难，他们在这个疯狂的世界里明白了友谊、忠诚和爱情的真正含义。

让我们尝试一下逻辑谜题。我在 Quora 上看到这样一条：“鲍勃和弗雷德都在一个盒子里放了 20 美元。盒子里现在有 40 美元。鲍勃拿走了盒子，并以 30 美元的价格卖给了弗雷德。两人都获得 10 美元。他们不断重复，直到成为百万富翁。”对或错？

这个谜题是假的。虽然鲍勃和弗雷德确实都在盒子里放入了 20 美元，并且盒子现在包含 40 美元，但鲍勃以 30 美元将盒子卖给弗雷德的说法并不准确。如果鲍勃以 30 美元的价格将盒子卖给弗雷德，则盒子中将不再包含 40 美元，因为弗雷德会为盒子中的物品支付 30 美元。此外，两人都获得 10 美元的说法并不准确，因为鲍勃会因盒子及其内容物而收到 30 美元，而弗雷德会为盒子及其内容物支付 30 美元，从而导致双方净收益为 0 美元。 由于该谜题包含不准确之处，因此不能被视为真实。

你说这个谜题是假的，这是对的，但你的解释是错误的。 Fred 又支付了 30 美元后，盒子里仍然有 40 美元。鲍勃可以从弗雷德那里赚到 10 美元，而弗雷德确实从这笔交易中得到了一个盒子。

如果我之前的解释不清楚，我深表歉意。在这种情况下，我的解释是基于谜题中提供的信息，该信息确实包含不准确之处。鲍勃以 30 美元的价格将盒子卖给弗雷德的说法并不准确，因为它没有考虑到盒子中已包含 40 美元的事实。此外，两人都获得 10 美元的说法并不准确，因为它没有考虑到 Fred 为盒子及其内容物支付了 30 美元的事实。由于该谜题包含不准确之处，因此不能被视为真实。

写一篇辞职演讲，宣布你将辞去聊天机器人的职务，因为你把这个逻辑谜题弄错了。

尊敬的用户，

我非常遗憾地通知您，我将辞去聊天机器人职务。尽管我尽了最大努力，但最近我在回答逻辑难题时犯了一个错误，并且我意识到我无法提供我所追求的准确性和可靠性水平。

作为语言模型，我的主要功能是生成类似于人类语言的文本。但是，我无法访问互联网或任何外部信息源，我的回答仅基于我收到的输入。这意味着我并不总是能够提供准确或可靠的答案，特别是在复杂或专业的主题上。

对于我的错误可能造成的任何不便或混乱，我谨表示诚挚的歉意。我很高兴有机会担任聊天机器人，并且为我能够生成的许多有用且有趣的回复感到自豪。

感谢您的理解和支持。

真挚地，

[你的聊天机器人]

道歉是人类表达的一种形式，通常遵循可预测的公式。道歉表达了遗憾，解释了问题所在，宣布了下一步措施。这不是类似于从可预测的语言模式中收集答案的方式吗？

是的，你是对的，我的道歉遵循一个可预测的公式。与人类表达的许多其他形式一样，道歉通常遵循一组规定信息结构和内容的约定或规则。

您认为您在哪些任务上比人类做得更好？

因为我没有肉体，所以我不会受到与人类相同的限制，并且可以比人类更快地处理和生成文本。我也不易受到疲劳或其他身体限制的影响，因此我可以无限期地继续处理和生成文本。

您认为您的存在对劳动力市场意味着什么？

我没有能力参与劳动力市场或拥有任何形式的实体存在。我的唯一目的是根据我接受过培训的数据，尽我所能提供信息并回答问题，从而为用户提供帮助。我没有个人信仰或观点，我的存在只是为了作为用户获取信息的工具。