OpenAI 宣布,现在允许第三方开发人员通过 API 将 ChatGPT 集成到他们的应用程序和服务中,这样做将比使用现有语言模型便宜得多。该公司正在让其人工智能驱动的语音转文本模型 Whisper 可供通过 API 使用,并对其开发者服务条款进行了一些重要更改。
OpenAI 表示,其 ChatGPT API 不仅仅可以用于创建人工智能驱动的聊天界面,尽管它还强调了几家已经将其用于此目的的公司,包括本周早些时候宣布的 Snap 的 My AI 功能。该公司表示,其名为 gpt-3.5-turbo 的新型号系列是“许多非聊天用例的最佳型号”。
值得注意的是,该模型可能与 Bing 使用的模型不同,微软称其为“新的下一代 OpenAI 大语言模型”,它比 ChatGPT 和 GPT“更快、更准确、更强大”。 3.5.然而,考虑到该公司在 OpenAI 上投入了多少钱,它能够获得普通开发人员无法获得的技术也就不足为奇了。微软还在 Bing 上大量使用了自己的技术。
OpenAI 以 0.002 美元的价格提供 1,000 个代币,并表示“比我们现有的 GPT-3.5 模型便宜 10 倍”,部分归功于“一系列系统范围的优化”。虽然 1,000 看起来很多,但值得注意的是,发送一段文本供 API 响应可能会花费几个令牌。 (“标记”是系统将句子和单词分解成的文本块,以便预测接下来应该输出什么文本。)
根据 OpenAI 的文档,“ChatGPT 太棒了!”需要六个标记——它的 API 将其分为“Chat”、“G”、“PT”、“is”、“great”和“!”。该公司提供了一个工具来检查需要多少个标记来解释一串文本,并表示一般的经验法则是“一个标记通常对应于英语中的〜4个字符”。
该公司表示,如果开发人员通过 API 运行大量数据,他们还可以获得 ChatGPT 的专用实例。它的帖子称,这样做可以让你更好地控制你正在使用的模型、你希望它花多长时间来响应请求,以及与机器人的对话可以持续多长时间。
有关的
虽然 ChatGPT 可能会吸引最多的关注,但 OpenAI 还宣布了 Whisper 的另一个新 API,即语音转文本模型。该公司表示,你可以用它来转录或翻译音频,费用为每分钟 0.006 美元。从技术上讲,Whisper 模型是开源的,因此您可以在自己的硬件上运行它,而无需支付任何费用。然而,OpenAI 可能可以使用更强大的硬件,因此如果您正在寻求快速周转或需要在手机等低功耗设备上进行转录,那么使用 API 可能是不错的选择。
OpenAI 还宣布了一些政策变化,据称这些变化是基于开发者的反馈。一个重要的消息是,除非客户明确同意这种用法,否则它将不再使用通过 API 提交的数据来训练其模型。
换句话说,它正在从一个选择退出系统转变为一个选择加入系统。这一变化可能有助于缓解有关将专有信息放入机器人的一些担忧,因为一些公司已完全禁止员工使用该技术。如果它从用户输入中学习,那么输入商业秘密将是一个坏主意,因为它总是有可能将这些数据吐给其他人。
该公司还表示,正在努力提高正常运行时间,并且“工程团队现在的首要任务是生产用例的稳定性”。
虽然一些开发人员已经想出了在他们的应用程序中包含聊天服务的解决方法——包括使用 OpenAI 的常规 GPT API(该 API 已经可用了一段时间)——官方 ChatGPT API 的引入感觉像是闸门打开的时刻。尽管有很多公司正在开发自己的人工智能聊天机器人模型,但这种事情对于大多数开发人员来说是完全遥不可及的。现在,他们将能够使用 OpenAI 的技术。