计划管理 Azure OpenAI 服务的成本

本文介绍如何规划和管理 Azure OpenAI 服务的成本。在部署服务之前,可以使用 Azure 定价计算器来估算 Azure OpenAI 的成本。稍后,在部署 Azure 资源时,查看估计成本。开始使用 Azure OpenAI 资源后,使用成本管理功能来设置预算和监控成本。您还可以查看预测成本并确定支出趋势,以确定您可能想要采取行动的领域。 Azure OpenAI 服务的费用仅占 Azure 账单中每月费用的一部分。尽管本文介绍了如何规划和管理 Azure OpenAI 的成本,但您需要为 Azure 订阅中使用的所有 Azure 服务和资源(包括第三方服务)付费。

先决条件

成本管理中的成本分析支持大多数 Azure 帐户类型,但不是全部。要查看支持的帐户类型的完整列表,请参阅了解成本管理数据。要查看成本数据,您至少需要 Azure 帐户的读取权限。有关分配对 Azure 成本管理数据的访问权限的信息,请参阅分配对数据的访问权限。

使用 Azure OpenAI 之前估算成本

使用 Azure 定价计算器来估算使用 Azure OpenAI 的成本。

了解 Azure OpenAI 服务的完整计费模型

Azure OpenAI 服务在 Azure 基础架构上运行,在部署新资源时会产生成本。重要的是要了解可能会产生其他额外的基础设施成本。

Azure OpenAI 服务的收费方式

Base系列和Codex系列型号

Azure OpenAI 基础系列和 Codex 系列型号按 1,000 个代币收费。成本取决于您选择的型号系列:Ada、Babbage、Curie、Davinci 或 Code-Cushman。

我们的模型通过将文本分解为标记来理解和处理文本。作为参考,对于典型的英语文本,每个标记大约是四个字符。

代币成本包括输入和输出。例如,如果您有一个 1,000 个令牌的 JavaScript 代码示例,您要求 Azure OpenAI 模型将其转换为 Python。您将需要为发送的初始输入请求支付大约 1,000 个令牌,并为收到的响应输出支付 1,000 个令牌,总共 2,000 个令牌。

实际上,对于这种类型的完成调用,令牌输入/输出不会是完美的 1:1。从一种编程语言到另一种编程语言的转换可能会导致输出更长或更短,具体取决于许多不同的因素,包括分配给 max_tokens 参数的值。

Base系列和Codex系列微调型号

Azure OpenAI 微调模型根据三个因素收费:

  • 培训时间
  • 接待时间
  • 每 1,000 个令牌的推理

托管时间成本非常重要,因为一旦部署了微调模型,无论您是否主动使用它,它都会继续产生每小时成本。应密切监控微调模型的成本。

Azure OpenAI 服务可能产生的其他费用

请记住,启用将数据发送到 Azure Monitor 日志、警报等功能会导致这些服务产生额外费用。这些成本在其他服务和订阅级别下可见,但在范围仅限于 Azure OpenAI 资源时不可见。

将 Azure 预付款与 Azure OpenAI 服务结合使用

您可以使用 Azure 预付款信用支付 Azure OpenAI 服务费用。但是,您不能使用 Azure 预付款信用来支付第三方产品和服务(包括来自 Azure 市场的产品和服务)的费用。

监控成本

当您将 Azure 资源与 Azure OpenAI 结合使用时,您会产生成本。 Azure 资源使用单位成本因时间间隔(秒、分钟、小时和天)或单位使用量(字节、兆字节等)而异。一旦开始使用 Azure OpenAI,就会产生成本,您可以看到成本分析中的成本。

使用成本分析时,您可以在图表和表格中查看不同时间间隔的 Azure OpenAI 成本。一些示例是按天、当前和上个月以及年份。您还可以根据预算查看成本和预测成本。随着时间的推移切换到较长的视图可以帮助您识别支出趋势。您会看到哪里可能发生超支。如果您创建了预算,您还可以轻松查看哪些地方超出了预算。

要在成本分析中查看 Azure OpenAI 成本:

  1. 登录到 Azure 门户。
  2. 选择您的 Azure OpenAI 资源之一。
  3. 在下面 资源管理 选择 成本分析
  4. 默认情况下,成本分析的范围仅限于单个 Azure OpenAI 资源。

Screenshot of cost analysis dashboard scoped to an Azure OpenAI resource.

要了解该成本的构成细目,可以帮助修改 通过...分组仪表 在这种情况下将图表类型切换为 线。您现在可以看到,对于此特定资源,成本来源来自三个不同的模型系列,其中 文本-​​达芬奇令牌 占成本的大部分。

Screenshot of cost analysis dashboard with group by set to meter.

在评估与 Azure OpenAI 相关的成本时,了解范围非常重要。如果您的资源属于同一资源组,您可以在该级别范围内进行成本分析,以了解对成本的影响。如果您的资源分布在多个资源组中,您可以将范围限制到订阅级别。

但是,当范围处于更高级别时,您通常需要添加其他筛选器才能将 Azure OpenAI 使用率归零。当范围在订阅级别时,我们会看到许多在 Azure OpenAI 成本管理上下文中我们可能不关心的其他资源。当确定订阅级别的范围时,我们建议导航到完整的 成本分析工具 在下面 成本管理 服务。搜索 “成本管理” 顶部 Azure 搜索栏中的 导航到完整服务体验,其中包括创建预算等更多选项。

Screenshot of cost analysis dashboard with scope set to subscription.

如果尝试按服务添加筛选器,您会发现在列表中找不到 Azure OpenAI。这是因为从技术上讲,Azure OpenAI 是认知服务的一部分,因此服务级别过滤器是 认知服务,但如果您想查看订阅中的所有 Azure OpenAI 资源,而不需要任何其他类型的认知服务资源,则需要将范围改为 服务层:Azure OpenAI

Screenshot of cost analysis dashboard with service tier highlighted.

制定预算

您可以创建预算来管理成本并创建警报,自动通知利益相关者支出异常和超支风险。警报基于支出与预算和成本阈值的比较。预算和警报是为 Azure 订阅和资源组创建的,因此它们可作为总体成本监控策略的一部分。

如果您希望监控的粒度更细,可以使用 Azure 中特定资源或服务的筛选器创建预算。过滤器有助于确保您不会意外创建新资源而导致额外费用。有关创建预算时可用的筛选器选项的详细信息,请参阅分组和筛选器选项。

导出成本数据

您还可以将成本数据导出到存储帐户。当您或其他人需要进行额外的成本数据分析时,这非常有用。例如,财务团队可以使用 Excel 或 Power BI 分析数据。您可以按每日、每周或每月的计划导出成本并设置自定义日期范围。导出成本数据是检索成本数据集的推荐方法。

下一步