自 2023 年 3 月 14 日起，GPT-4 已向 ChatGPT Plus 订阅者开放，与 GPT-3.5 相比，它在输出质量方面有了显着改进（推理能力和简洁性显着提高）。
目前与 GPT-4 相关的两个最值得注意的缺点是：(1) 速度 （与 GPT-3.5 相比，它很懒）& (2) 使用限制 （几个小时内的消息上限和令牌限制）。
我预计这两个缺点将在接下来的几个月内得到解决（类似于 GPT-3 和 GPT-3.5 之间观察到的快速进展）。
最终，我认为消息上限将显着降低（这样用户就可以在更小的时间窗口内发送更多消息），或者完全结束 Plus 订阅者的消息上限。
ChatGPT 消息上限（使用限制）
登录我的ChatGPT Plus账户并选择“GPT-4”作为查询型号后，提示框正上方是以下提示：
“GPT-4 目前每 3 小时最多只能发送 25 条消息。随着我们根据需求进行调整，预计上限将大幅降低。”
在最近每 3 小时 25 条消息的上限之前，GPT-4 的上限为：
- “每 4 小时 50 条消息”
- “每 4 小时 100 条消息”
显然，许多人对上限波动感到沮丧，尤其是在下降到每 3 小时 25 条消息之后（从每 4 小时 100 条消息的起点）。
一些人推测，在不久的将来，上限可能会变得更加严格（例如，每 3-4 小时 20 或 10 条消息）……希望每 3 小时 25 条消息是最坏的情况。
如果您观察到的上限低于我报告的上限，请随时分享……截至 2023 年 3 月至 4 月，我看到的最低上限是每 3 小时 25 条消息。
消息上限的工作原理 (GPT-4)
随着消息上限的通知，许多人对其工作原理感到困惑 - 可能是因为 OpenAI 没有很好地解释它。
帽子的工作原理...
- 当您发送第一条消息时，3 小时计时器开始（OpenAI 实施的特定时间窗口）。
- 在计时器超时之前，您最多可以发送 25 条消息（或任何施加的消息限制）。
- 3 小时计时器结束后，您的消息限制将被重置 - 您可以再发送 25 条消息。
它是如何工作的：(A) 每条特定消息后有 3 小时计时器（计时器结束后您会收到一条额外的消息）& (B) 一天中每隔 3 小时您会收到特定数量的消息（例如 25 条）凌晨 3 点至 6 点的消息，然后是上午 6 点至 9 点的消息，等等）。
OpenAI 提到 GPT-4 的初始使用上限
一些人对 Plus 订阅者的“使用上限”（与 GPT-4 交互次数的限制）感到惊讶，但 OpenAI 在其最初的 GPT-4 新闻稿中记录了这一点。
OpenAI GPT-4 研究论文：（右）
ChatGPT Plus 订阅者将获得 chat.openai.com 上的 GPT-4 访问权限 有使用上限。
我们将根据实践中的需求和系统性能调整确切的使用上限，但我们预计容量会受到严重限制 （尽管 我们将在接下来的几个月内扩大和优化）。
根据我们看到的流量模式， 我们可能会针对更高容量的 GPT-4 使用引入新的订阅级别;我们还希望在某个时候提供一些免费的 GPT-4 查询，以便那些没有订阅的人也可以尝试一下。
研究论文直接表示，GPT-4 是向 Plus 订阅者推出的，但有使用上限。
OpenAI 将根据需求/使用情况和系统性能的组合来调整使用上限 - 上限最初会很低。
几个月后，OpenAI 将为 ChatGPT“扩大”和“优化”GPT-4，从而使上限显着增加或完全结束——至少对于 Plus 会员来说是这样。
对于希望更频繁地使用 GPT-4 的订阅者来说，可能还会有一个新的订阅级别（这可能比基本计划贵一点）。
另外，订阅者希望没有上限……
可以理解的是，新产品有一个消息上限： 刚刚推出，被大量使用，尚未规模化，缺乏优化。
然而，许多 Plus 订阅者希望有一个解决方法或可以购买不同的订阅级别来绕过使用上限。
一些人认为，OpenAI 授予特定公司访问 GPT-4 API 的权限是不公平的，只要涵盖成本，GPT-4 API 就允许无限制使用（消息上限为零）……特别是因为许多 Plus 订阅者愿意根据使用情况付费。
考虑到 OpenAI 的声明以及从 GPT-3 到 GPT-3.5 观察到的快速进展，许多人认为 Plus 用户的使用上限将在几个月内消失。
ChatGPT-4 目前的运营成本是多少？ （2023 年 3 月 31 日）
许多 ChatGPT Plus 订阅者可能不知道 ChatGPT 平台上与 GPT-4 相关的运营成本（通常比单独使用 GPT-4 API 更昂贵）。
尽管 GPT-4 中的短消息和答案不会让你破产，但大量使用（尤其是较长形式的提示和响应）可能比大多数人想象的要昂贵。
根据 OpenAI，具有 8k 上下文长度的 GPT-4 模型（GPT-4 和 GPT-4-0314），截至 2023 年 3 月 31 日的成本为： (右)
- $0.03/1k 提示代币
- $0.06/1k 采样代币
假设有 100 字的提示消息（您的查询）和 500 字的响应：
- 100 字提示：500 个代币 = 0.015 美元
- 500 字回复：2,500 个代币 = 0.15 美元
如果我们假设您使用这个长度的 GPT-4 每 3 小时发送 25 条消息（100 字提示和 500 字回复），则成本为： 4.125 美元。
假设您已经对此进行了优化，以便每天能够执行 8 次（每 3 小时 8 组，每组 25 条消息），最终成本为： 每天 33 美元。
如果消息更长和/或 GPT-4 允许每天发送更多消息，那么成本显然会更高。
如果我们将每天 33 美元推断为整个 30 天的一个月，那么 使用费用将达到 990 美元 （远高于 Plus 订阅每月 20 美元）。
尽管 GPT-4 可以处理多达 25,000 个单词的文本，但 Plus 订阅者无法使用这种长格式输入/输出，因为 GPT-4 (32K) 的成本更高。
GPT-4 (8K) 版本允许最多 6,000 个组合单词（提示 + 响应），假设：(1) 每个单词约 5 个标记 & (2) 均分的输入/输出（每个单词 3,000 个） – 将成本： 1.35 美元 （截至 2023 年 3 月 31 日）。
将此推断为针对全天优化的每 3 小时 25 条消息（每 3 小时 8 组 25 条消息）——成本： 270 美元。
外推到整个 每月 30 天，费用为 8,100 美元……所以不，您的 Plus 订阅不会被欺骗。
笔记：在许多情况下，与 OpenAI 的 GPT-4 相关的使用成本明显高于使用 GPT-4 API。
对 GPT-4 消息上限的反应……
以下是对 OpenAI 对 GPT-4 施加的消息上限的一些愤怒反应。
- 反应#1：据我了解，GPT 的需求非常高，但使用上限确实很低。对于订阅成本来说，这个上限非常低。 （事实上并非如此）。
- 反应#2：我大量使用新的 GPT-4，但消息上限让我发疯。它又下降了，我不断达到我的极限。
- 反应#3：我喜欢花钱购买更多限制。消息数量不够……我还付什么钱呢？
- 反应#4: 真是可笑。我们一开始是 100，现在是 25，还期望更低吗？怎么了？掌握 OpenAI。我们正在为这项服务付费。
- 反应#5: 为什么我要按月付费？我是一个重度用户，不想受到限制。也许那些未订阅的人应该面临极其严格的限制，以便为付费用户提供更多带宽。
有些人可能专门为了使用 GPT-4 而购买了 ChatGPT Plus，当受到消息上限限制时，他们会感到沮丧。
也就是说，如果您没有 API 访问权限，确实没有其他选择……因此具有使用上限的 GPT-4 仍然比没有好。
这些抱怨者中的大多数可能不理解目前在 ChatGPT 上大量使用 GPT-4 所带来的运营成本……OpenAI 可能会从大量使用 Plus 订阅者那里赔钱。
如果您是重度用户，需要冗长的提示和答案，那么您每月只需支付 20 美元，而 OpenAI 的运营成本则高达数百至数千。
尽管许多 Plus 用户愿意按使用付费，但有些人可能会声称按使用付费太昂贵或负担不起。
我对 GPT-4 消息上限（每 3 小时 25 条消息）的反应
GPT-4 发布后，消息上限立即设置为每 4 小时 100 条消息……考虑到我的大量使用，我认为我肯定会达到上限。
然而，我从未达到初始消息上限……我可能可以，但我有点害怕达到它，所以每当我有一个非常基本的查询和/或想要更快的响应时，我就会切换到 GPT-3.5。
GPT-4 在复杂分析、推理和清晰度方面比 GPT-3.5 更好——而且我大多数时候更喜欢它（如果没有上限，显然会专门使用它）。
目前的上限是每 3-4 小时 25 条消息，我几乎每天都会达到自己的极限（特别是如果有很多关于网站代码的问题或者我想获得有关我的写作的反馈）。
达到上限有点令人沮丧……但考虑到 GPT-4 的新颖性、ChatGPT 上与 GPT-4 相关的运营成本以及每月仅支付 20 美元的价值。 ——这确实没什么大不了的。
也就是说，我希望我可以购买根据使用情况收费的会员资格或计划，或者购买更高级别的订阅，从而减少上限和/或完全消除上限。
OpenAI 应该如何处理 GPT 消息上限？ （我的想法）
OpenAI 知道一部分 Plus 订阅者对消息上限感到沮丧，尤其是那些已经申请了 GPT-4 API 但缺乏访问权限的订阅者（用户经常在 OpenAI 论坛帖子中抱怨）。
添加计时器：OpenAI 可以在 ChatGPT 界面中添加一个计时器，以便用户准确地知道在消息上限重置之前他们还有多少时间。 （只需在提示框上方添加一个计时器 - 对用户会有帮助）。
添加消息计数器：OpenAI 还可以在 ChatGPT 界面中添加消息计数器，以便用户准确地知道在特定时间窗口内剩余的消息数量。
添加订阅：OpenAI 建议为 ChatGPT 的高级用户添加更高级别的订阅。 OpenAI 可以做一些简单的事情：Plus（标准）20 美元；加号（双人间）40 美元；加号（三人）60 美元； Plus（四人）售价 80 美元 – 上限反映支付的金额。 （四核每 3 小时 100 条消息，标准每 3 小时 25 条）。
自定义订阅：OpenAI 可以考虑根据代币使用情况进行收费。如果高级用户想要访问 ChatGPT 32K，那么他们可以支付确切的运营成本（甚至更多，以便 OpenAI 盈利）。
超额费：OpenAI 可以考虑对 Plus 会员收取每月 20 美元的标准费用，然后允许用户根据额外的代币使用量（超出上限）支付“超额费用”。
授予 API 访问权限（？）：OpenAI 可以授予更多用户访问 GPT-4 API 的权限，以便他们可以按照自己的意愿使用 GPT-4，并根据使用情况付费。有人可以创建一个类似于 ChatGPT 的“聊天”界面，使用 GPT-4 API，然后完善模型以适应他们的需求。
笔记：OpenAI 可能不想添加计时器或计数器，因为他们已经在赔钱了——而这些调整可能会导致每个 Plus 用户的使用量增加（因为他们确切地知道剩余的时间/消息并可以为此做好计划）。
您可以对消息上限做什么？ （有什么解决办法吗？）
GPT-4 消息上限有任何解决方法吗？并不真地。
不过，您可以采取一些措施来优化 ChatGPT 上的 GPT-4 使用。
API访问：如果您熟悉一些编码，您可以申请 GPT-4 的 API 访问权限。如果您获得 API 访问权限，您就可以构建一个平台，允许您随心所欲地使用 GPT-4，同时按使用付费且零限制。 （这对于大多数不是开发人员和/或公司首席执行官的人来说可能很困难）。
跟踪消息和时间：虽然 OpenAI 在 ChatGPT 界面中没有计时器或消息限制跟踪器，但您可以自行跟踪它们。这可以帮助您优化 ChatGPT 使用情况，以便您每天收到更多消息总数。
最大化每次互动：您可以实施的一种策略是最大化每个 ChatGPT (GPT-4) 提示和响应的令牌数量。请记住，每个提示/响应组合都有一个令牌限制（约 4,096 个令牌）。如果需要，您可以使用 OpenAI 的标记生成器工具来跟踪和优化标记使用情况。
多个电话号码：我有 2 部手机，一部用于插头，一部用于负载……考虑在 OpenAI 上使用它们。 （可能需要稍微修改凭据才能使其工作）。
为家人/朋友购买帐户：为家人和/或朋友购买 Plus 会员资格。在达到消息上限后，使用他们的登录凭据来完成其他工作。
切换到 GPT-3.5：GPT-3.5 仍然非常有用，并且可以快速给出响应。尽管 GPT-4 优于 GPT-3.5，但这并不意味着 GPT-3.5 完全无用……如果您已最大限度地使用 GPT-4，请使用 GPT-3.5。
您对 GPT-4 消息上限有何看法？
正如已经提到的，我认为出于各种原因，目前消息上限可能是必要的——否则就不会有消息上限。
即使人们愿意为更高使用率的计划付费（例如 60 美元的三重套餐），钱也可能不是 OpenAI 考虑的唯一因素（扩展和优化问题）。
您对 ChatGPT-4 中的消息上限有什么想法吗？
您使用 GPT-4 的哪些具体方式会导致您快速达到消息上限？ （例如编程、头脑风暴、写作等）
您愿意每月为零消息上限支付多少钱？ （您愿意根据代币使用情况付费吗？）
