听听这个故事

倒着拼写“棒棒糖”这个词有多难?对于人类来说,这是小菜一碟。但对于我们无所不知的 ChatGPT 来说,这是一项不可能完成的任务。哈!

ChatGPT 之所以无法向后拼写单词,是因为它是在 token 的基础上进行训练的。虽然插件可以帮助它克服这个缺点,但 OpenAI 目前的盘子已经满了。受到扩展问题、速率限制和互联网上用户投诉的困扰,ChatGPT 似乎正在慢慢变得更糟。 

然而,因迟入和被嘲笑无能而被嘲笑的谷歌的巴德在这里成功解决了这个三年级的英语问题。谷歌最近用一种称为“隐式代码执行”的技术对其进行了更新。通过此次升级,Bard 可以检测用户何时向其提供计算提示,并在后台运行代码以准确回答问题。虽然 Google 正在努力提高 Bard 的能力,但 OpenAI 似乎已经落后了。 

升级至吟游诗人

Bard 的隐式代码执行只是一种奇特的说法,即聊天机器人可以智能地理解何时使用 Python 后端来回答复杂的问题。 Bard 不会提示用户使用代码解决问题,而是选择相关的 Python 库并回答用户的查询。这种方法可以让谷歌提高巴德的逻辑和推理能力,使其与法学硕士在语言和创造性任务方面的天生能力相媲美。谷歌表示,这种方法的灵感来自诺贝尔奖获得者丹尼尔·卡尼曼将人类思维分为两个系统的方法。 

《思考,快与慢》一书中描述的这一理论将人类思维过程分为系统 1 和系统 2 方法。系统1是快速思考的,就像一个才华横溢的音乐家当场即兴创作一首歌曲。系统2是缓慢而深思熟虑的思考,例如学习乐器的过程。卡尼曼假设人脑使用这两种方法来处理信息。 

Google采用了这种方法来让Bard变得更加强大,将其能力从仅有系统1思维扩展到两者的结合。通过将代码引入方程式(系统 2 思维的经典示例),谷歌旨在将两个世界的优点结合在一起。 

这个概念对于法学硕士来说并不新鲜。 Stephen Wolfram 是 Wolfram Alpha 的创建者之一,过去曾广泛谈论将 Wolfram 语言与 ChatGPT 相结合的好处。他还坚信法学硕士需要有一个后端。在独家专访中 目的”,他表示,“有趣的是,当人们说‘我们会让法学硕士来做所有事情’,但这行不通,因为自然语言并不精确。”

虽然 Wolfram 与 OpenAI 密切合作以启动并运行 ChatGPT Wolfram 插件,但 OpenAI 却失败了。 ChatGPT 插件仅适用于 ChatGPT Plus 订阅者,OpenAI 慢慢地忽略了其非付费客户层并削弱了免费 ChatGPT 的功能。 

降级至 ChatGPT

自 2 月份以来,ChatGPT 高级用户一直抱怨聊天机器人比平时慢,并且不像以前那样给出全面的答案。 Reddit 上的用户“lolcol1”是最早报告这一现象的人之一,他表示:“所以我从 12 月以来每天都在使用 ChatGPT。越是这样,ChatGPT 就越显得越来越愚蠢……越来越愚蠢。我不是在谈论它提供的答复,而是在谈论它试图跟上对话的方式。”

其他用户也表达了类似的担忧。许多人表示它速度较慢,大多数人对聊天机器人给出答案的速度如此之慢感到沮丧。这种放缓可以追溯到 ChatGPT 2 月 13 日的更新,该公司表示他们已经“更新了性能”以“服务更多用户”。有趣的是,这次降级(伪装成更新)仅适用于免费用户,Plus 用户可以获得更快的 ChatGPT 版本。 

这是 OpenAI 降低“智能成本”的更大战略的一部分。 Sam Altman 在最近的一次采访中表示(该采访后来“应 OpenAI 的要求”被删除),该公司的首要任务是让 GPT-4 更便宜、更快,从而随着时间的推移降低 API 的成本。

考虑到 OpenAI 目前计算资源的短缺,这一推动背后的压力是可以理解的。尽管微软在 2020 年为 OpenAI 打造了一台专属超级计算机,并于去年通过一台更大的 AI 超级计算机扩展了其功能,但 OpenAI 仍然在 GPU 紧缺中苦苦挣扎。这可能是因为 ChatGPT 拥有 1 亿用户,或者是因为算法没有针对大规模运行进行优化。 

无论出于何种原因,OpenAI 都因缺乏 GPU 处理能力而受到阻碍。 Altman 承认客户对 API 的可靠性和速度有抱怨,他表示,OpenAI 的 GPU 紧缺正在推迟其许多短期计划。其他产品和功能(例如期待已久的 GPT-5)也已退居二线,转而让 GPT-4 更高效地运行。 

然而,在这样做的过程中,OpenAI 似乎疏远了一些最忠实的用户。通过降低 ChatGPT 响应的质量,OpenAI 可能获得了一些计算喘息空间,但正在流失用户。更重要的是,根据 OpenAI Reddit 子版块上的这位用户的说法,该算法甚至每 3 小时最多发送 25 条消息。 

另一方面,谷歌与巴德的关系很好。该公司不仅以候补名单的形式发布该产品,以衡量用户对该产品的兴趣,而且还通过缓慢而谨慎的方法有效地扩大了产品规模。即使用户像 ChatGPT 那样激增,Bard 也可以利用 Google 创建的 TPUv4 超级计算机进行有效扩展。 

随着 Bard 的稳定升级以及整合到 Google 搜索的计划,OpenAI 的先发优势可能会慢慢消失。随着当前用户的流失,如果 OpenAI 不能尽快解决他们的 GPU 问题,他们可能就不需要这样做。