人工智能 (AI) 改变了商业格局,使组织能够释放新的见解和能力。 OpenAI 是人工智能研发领域的领导者,提供一系列服务和工具,帮助企业构建创新解决方案、提高运营效率并增强客户体验。

虽然 OpenAI 服务提供了许多好处,但它们也可能带来大量支出。在本文中,我们将讨论跟踪和优化 OpenAI 使用情况和总体成本的不同方法。

企业如何使用OpenAI?

OpenAI提供一系列前沿的人工智能服务,包括 聊天 GPT、GPT-4、DALL-E, 和 达芬奇,为企业提供先进的机器学习功能和人工智能模型。这些服务使企业能够实现流程自动化、改进决策、推动创新、释放新机会并增强客户体验。

要访问这些强大的AI服务,企业可以使用OpenAI API或Microsoft Azure OpenAI服务。

OpenAI 服务定价

人工智能并不便宜。 OpenAI 服务的定价基于多种因素,包括使用水平、服务类型以及所需的任何附加特性或功能。通过了解 OpenAI 服务的定价方式,企业可以就使用哪些服务以及如何优化成本做出明智的决策。

OpenAI API 提供一系列定价计划,具体取决于所需的使用和访问级别:

  • 可用的计划包括 开发商, 商业, 和 企业,每个都有不同的使用限制、定价和功能。
  • 开发者计划的起价为每个代币 0.000005 美元,而商业和企业计划则根据特定使用需求提供定制定价。
  • 此外,企业可能会因超出使用限制的数据存储或 API 请求而产生额外费用。

Microsoft Azure 还为其 OpenAI 服务提供多种定价计划,包括即用即付计划和一系列预付费计划。

  • 现收现付 计划根据 API 调用和处理的数据数量收费,起价为每 1,000 笔交易 0.50 美元。
  • 预付费计划,例如 S0 计划,每月提供固定数量的交易,并且可能会为较大的使用量提供折扣。

Azure OpenAI 和 OpenAI API 定价表

定价表概述了 OpenAI API 和 Microsoft Azure OpenAI 服务的定价计划,包括令牌和交易使用的相关成本。

代币

代币是一种衡量单位,用于衡量生成人工智能输出所需的计算能力。在 OpenAI API 的上下文中,令牌用于访问 AI 模型和认知服务。特定 API 调用所需的令牌数量取决于任务的复杂性和所使用的 AI 模型的类型。

交易

另一方面,事务是对 OpenAI 服务发出的单个请求,例如 API 调用。交易成本通常取决于 API 调用的数量或处理的数据量

计划 描述 每个代币的价格 每 1,000 笔交易的价格
OpenAI API 开发人员 对 AI 模型的基本访问 $0.000005 0.0005 美元
OpenAI API业务 对 AI 模型的高级访问 风俗 风俗
OpenAI API 企业版 自定义访问 AI 模型 风俗 风俗
Azure OpenAI 即用即付 OpenAI API 基于使用情况的定价 每笔交易 0.0005 美元 每 1,000 笔交易 0.50 美元
Azure OpenAI S0 OpenAI API 预付费套餐 不适用 1,000,000 笔交易 500 美元

OpenAI 的运行成本是多少?型号和定价

OpenAI 提供多种人工智能模型,每种模型都旨在满足特定需求,并具有独特的定价模型。成本主要取决于所选模型以及用于输入和输出的代币数量。

请记住,令牌是人工智能模型中使用的计算度量单位。它可以大致相当于一个单词的一部分,1000 个 token 大约等于 750 个单词。

让我们深入了解一下不同 OpenAI 模型的定价的简要概述:

  1. GPT-4: GPT-4 以其广泛的常识和专业知识而闻名,能够遵循复杂的指令并解决具有挑战性的问题。其成本取决于上下文长度(即模型考虑的代币数量),输入和输出每 1,000 个代币的价格分别为 0.03 美元到 0.12 美元。
  2. 聊天GPT: ChatGPT 针对对话进行了优化,提供与 Instruct Davinci 相同的性能水平。每 1,000 个代币的输入和输出价格范围为 0.0015 美元至 0.004 美元。
  3. 指导GPT: 这些模型设计为遵循单圈指令,有四种不同的变体可供选择:Ada、Babbage、Curie 和 Davinci。价格范围为每 1,000 个代币 0.0004 美元到 0.0200 美元,具体取决于所选型号。
  4. 微调模型: OpenAI 允许用户通过使用数据微调基本模型来创建自定义模型。这些模型的成本是双重的——您支付培训费用,然后支付使用费用。 Ada、Babbage、Curie 和 Davinci 的训练成本为每 1,000 个代币 0.0004 美元到 0.0300 美元,每 1,000 个代币的使用成本为 0.0016 美元到 0.1200 美元。
  5. 嵌入模型: 这些模型专为高级搜索、聚类、主题建模和分类功能而设计。成本范围为每 1,000 个代币 0.0001 美元到 0.2000 美元,具体取决于模型版本。
  6. 图像模型: OpenAI 的 DALL·E 可以直接在您的应用程序中生成和编辑新颖的图像和艺术。成本取决于分辨率,每张图像从 0.016 美元到 0.020 美元不等。
  7. 音频型号: OpenAI 的语音转文本模型 Whisper 可以将语音转录为文本,并将各种语言翻译成英语。其价格为每分钟 0.006 美元,四舍五入到最接近的秒。

下面是一个定价表,显示了与不同型号相关的成本的汇总视图:

模型 目的 每 1K 代币/输入的成本 每 1K 代币/产出的成本
GPT-4(8K 环境) 一般用途 0.03 美元 0.06 美元
GPT-4(32K 上下文) 一般用途 0.06 美元 0.12 美元
ChatGPT(4K 上下文) 对话 0.0015 美元 0.002 美元
ChatGPT(16K 上下文) 对话 0.003 美元 0.004 美元
指导GPT (Ada) 指示 0.0004 美元 不适用
微调(达芬奇) 定制型号 $0.0300(培训) 0.1200 美元(使用)

请记住,定价模型可能很复杂,尤其是在处理尖端人工智能技术时。在决定最佳和最具成本效益的方法之前,必须了解每个模型的成本以及它们如何应用于您的特定用例。

Azure OpenAI 成本监控

为了有效跟踪和优化 Microsoft Azure OpenAI 服务的 OpenAI 成本,企业可以使用一系列内置监控工具和功能。这些工具允许企业审查使用情况、性能和利用率,以确定潜在的成本优化机会。

首先,企业可以按照以下步骤来获得可见性并监控 OpenAI 成本:

OpenAI Cost, Optimization, Monitoring, Tracking, Reduction, Recommendation, Best practices, OpenAI API, Azure, Service, Chat GPT, Dall-E,

Azure OpenAI 成本优化

优化 Azure OpenAI 服务的成本是管理 AI 费用的关键部分。在本节中,我们将探讨优化 Azure OpenAI 服务成本的一些最佳方法。

  1. 使用正确的系列型号:Azure OpenAI 服务提供针对不同用例进行优化的各种系列模型。根据您的需求选择合适的型号系列可以帮助您避免不必要的成本。您选择的系列会对您的总体成本产生重大影响。例如,如果您使用 OpenAI 的 GPT-3 API 来执行语言处理任务,请选择正确的系列,例如 艾达 或者 巴贝奇 系列,可以帮助您优化代币使用并节省成本。
  2. 优化代币使用:检查您的应用程序以及每个请求使用的令牌数量,以确定是否有方法可以优化令牌使用。举例来说,您也许能够合并请求或减少所需的请求数量。令牌成本根据您选择的型号系列而有所不同。经过 优化代币使用,您可以节省代币成本,随着时间的推移,代币成本会不断增加。
  3. 设置适当的资源限制:根据应用的需求设置资源限制,以避免不必要的费用。这有助于确保仅在需要时使用资源。您可以设置令牌数量、处理的数据量以及发出的请求数量的限制。
  4. 不使用时关闭资源:当您不经常使用某个资源时,请将其关闭以避免产生不必要的费用。这可以手动或通过自动化完成。您可以使用 Azure 自动化来安排资源关闭时间,或使用 Azure Functions 设置资源关闭触发器。
  5. 使用 Azure 预付款:您可以使用 Azure 预付款信用支付 Azure OpenAI 服务费用。但是,请记住,你不能使用 Azure 预付款信用来支付第三方产品和服务的费用,包括来自 Azure 市场的产品和服务的费用。

除了上述建议之外,以下是一些优化 Azure OpenAI 服务成本的其他技巧:

  • 使用缓存机制减少对 OpenAI 服务的请求数量。
  • 考虑使用 Azure 函数 优化资源利用并最小化成本。
  • 使用成本管理工具,例如 Azure 成本管理 和计费,以监控和优化您的成本。
  • 定期检查您的使用情况并根据需要调整资源使用情况以优化成本。
  • 使用 Azure 顾问 获取有关如何优化资源和成本的建议。

OpenAI API 成本监控和优化

不幸的是,由于 OpenAI API 正在不断发展和改进,因此没有关于成本监控和优化的正式文档。因此,本部分是在 ChatGPT 的 GPT-4 的帮助下开发的,GPT-4 是一种能够对各种查询生成类似人类响应的人工智能语言模型。

以下是监控 OpenAI API 成本的一些方法:

  1. 仪表板:OpenAI 提供了一个仪表板,允许用户监控其 API 的使用情况。该仪表板提供有关已发出多少请求、已使用多少令牌以及当前会话花费了多少费用的实时信息。用户还可以查看他们的使用历史记录,并估算月底的费用。
  2. 使用报告:OpenAI 还提供可以导出为 CSV 文件的详细使用情况报告。这些报告可用于分析一段时间内的使用模式、识别高使用率区域并跟踪成本。这些报告可以导出到 BigQuery 或任何其他数据分析服务。
  3. 第三方工具:有多种第三方工具可以帮助监控 OpenAI API 成本。 Vantage 和 New Relic 提供的两种创新工具迅速流行起来。

OpenAI API 成本优化建议

通过实施这些建议,您可以有效管理 OpenAI API 成本并最大限度地提高投资回报率。根据 GPT-4,您可以通过以下几种方法降低 OpenAI API 成本:

使用正确的模型:OpenAI API 提供了各种复杂程度、准确性和成本各异的模型。为您的特定用例选择正确的型号可以显着降低您的成本。例如,如果您不需要极高的精度,则可以使用更简单且更具成本效益的模型。

优化代币使用:仔细监视每个请求使用的令牌数量,以确定是否有方法可以优化令牌使用。您可以合并请求或减少处理相同数据量所需的请求数量。避免不必要的请求或电话,这可能会导致不必要的费用。

监控使用情况和成本:使用 OpenAI 的仪表板、使用情况报告和第三方工具来密切监控您的使用情况和成本。定期分析您的使用模式,以确定高使用率和潜在成本节省的领域。设置警报以在使用量达到特定阈值时通知您,以避免月底出现意外情况。

实施缓存:考虑实施缓存以避免对 OpenAI API 的重复请求。缓存可以显着减少对 API 的请求数量,从而降低成本。

结论

使用人工智能并不便宜。 OpenAI 成本与云成本一样,如果没有适当的跟踪、优化、删除和实施,就会快速累积。这可能会导致意想不到的费用,从而影响组织的利润。然而,有多种方法可以优化 OpenAI API 成本,例如使用正确的模型系列、优化令牌使用、设置适当的资源限制以及在不使用时关闭资源。

如今,组织使用大量云、人工智能和 SaaS 服务来保持业务运营平稳运行。然而,管理这些资源可能会变得难以承受,组织可能会发现自己为服务支付了过高的费用,或者从未充分利用的资源中积累了支出。

Economize 提供端到端 FinOps 解决方案,使组织能够制定成本优化策略,以降低云、AI 和 SaaS 成本。借助 Economize,组织可以实现其业务目标,而无需花费太多云和 AI 服务的资金。

立即注册免费演示,开始节省云服务费用。