随着生成人工智能领域的竞争变得越来越激烈,OpenAI 正在升级其文本生成模型,同时降低价格。
今天,OpenAI 宣布发布新版本的 GPT-3.5-turbo 和 GPT-4,后者是其最新的文本生成 AI,具有称为函数调用的功能。正如 OpenAI 在博客文章中所解释的那样,函数调用允许开发人员向 GPT-3.5-turbo 和 GPT-4 描述编程函数,并让模型创建代码来执行这些函数。
例如,函数调用可以帮助创建聊天机器人,通过调用外部工具来回答问题、将自然语言转换为数据库查询以及从文本中提取结构化数据。 “这些模型经过了微调,可以检测何时需要调用函数……并使用符合函数签名的 JSON 进行响应,”OpenAI 写道。 “函数调用使开发人员能够更可靠地从模型中获取结构化数据。”
除了函数调用之外,OpenAI 还引入了 GPT-3.5-turbo 的风格,并大大扩展了上下文窗口。上下文窗口(以标记或原始文本位来衡量)是指模型在生成任何其他文本之前考虑的文本。上下文窗口较小的模型往往会“忘记”最近的对话内容,导致它们偏离主题——通常是以有问题的方式。
新的 GPT-3.5-turbo 提供的上下文长度是普通 GPT-3.5-turbo 的四倍(16,000 个代币),价格是普通 GPT-3.5-turbo 的两倍——每 1,000 个输入代币(即输入模型的代币)为 0.003 美元,每 1,000 个输出代币为 0.004 美元(模型生成的令牌)。 OpenAI 表示,它一次可以摄取大约 20 页文本,低于人工智能初创公司 Anthropic 的旗舰模型可以处理的数百页文本。 (OpenAI 正在测试具有 32,000 个令牌上下文窗口的 GPT-4 版本,但仅限于有限版本。)
从好的方面来看,OpenAI 表示,它正在将 GPT-3.5-turbo(原始版本,而不是具有扩展上下文窗口的版本)的价格降低 25%。开发人员现在可以使用该模型,每 1,000 个输入代币 0.0015 美元,每 1,000 个输出代币 0.002 美元,相当于每美元大约 700 个页面。
OpenAI 更流行的文本嵌入模型之一 text-embedding-ada-002 的定价也有所降低。文本嵌入衡量文本字符串的相关性,通常用于搜索(根据与查询字符串的相关性对结果进行排名)和推荐(推荐具有相关文本字符串的项目)。
Text-embedding-ada-002 现在每 1,000 个代币的成本为 0.0001 美元,比之前的价格降低了 75%。 OpenAI 表示,这种减少是通过提高系统效率来实现的——毫无疑问,这是这家初创公司关注的一个关键领域,因为它在研发和基础设施上花费了数亿美元。
OpenAI 已表示,继 3 月初发布 GPT-4 后,其目标是对现有模型进行增量更新,而不是从头开始大规模更新模型。在经济时报最近主办的一次会议上,首席执行官 Sam Altman 重申 OpenAI 尚未开始培训 GPT-4 的继任者,这表明该公司在启动该模型之前“还有很多工作要做”。