GPT-3是由流行的AI公司OpenAI开发的大型语言模型。该模型擅长执行各种NLP任务,包括机器翻译、问答、摘要等。
GPT-3包含四个语言模型Ada、Babbage、Curie和Davinci,能够执行各种任务。但是这些模型的价格是以每1000个标记计算的。
在本文中,我们将介绍使用GPT模型GPT-3的成本。我们还将讨论如何测量GPT-3上的标记使用情况。
GPT-3定价解释
OpenAI为GPT-3创建了简单灵活的定价设置。它包含四个语言模型Ada、Babbage、Curie和Davinci,其价格是基于每1000个标记计算的。
因此,Ada的价格范围为$0.0004 / 1K标记。100个标记=75个单词,因此以$0.0004的价格,用户将能够使用Ada访问750个单词。同样,您将能够以$0.0300 / 1K标记的价格访问Davinci模型。
GPT-3是否需要付费?
是的,GPT-3包含四个模型Ada、Babbage、Curie和Davinci,它们有不同的价格范围。GPT-3的起步价为每1000个标记的基本模型Ada为$0.0004。
GPT-3与GPT-4相比价格如何?
访问GPT-3和GPT-4的费用取决于您选择的模型。GPT-3包含四个模型Ada、Babbage、Curie和Davinci,它们的价格范围每1000个标记不同。
与GPT-3不同,GPT-4模型的价格范围取决于您选择的上下文:以下是展示GPT-3模型价格范围的表格:
GPT-3模型 | 训练价格 | 使用价格 |
Ada | $0.0004 / 1K标记 | $0.0016 / 1K标记 |
Babbage | $0.0006 / 1K标记 | $0.0024 / 1K标记 |
Curie | $0.0030 / 1K标记 | $0.0120 / 1K标记 |
Davinci | $0.0300 / 1K标记 | $0.1200 / 1K标记 |
现在我们已经看到了GPT-3模型的价格范围,让我们来看看GPT-4模型。与GPT-3不同,GPT-4模型的价格范围取决于您选择的上下文:
GPT-4模型 | 输入 | 输出 |
8K上下文 | $0.03 / 1K标记 | $0.06 / 1K标记 |
32K上下文 | $0.06 / 1K标记 | $0.12 / 1K标记 |
训练GPT-3模型需要多少费用?
根据技术人员和分析师的说法,训练OpenAI的大型语言模型GPT-3的成本超过400万美元。
Forrester分析师Rowan Curran表示,更先进的大型语言模型的训练成本可能超过“高个位数百万美元”。
GPT-3个人使用是否免费?
个人用户可以通过免费的令牌免费使用GPT-3三个月。然而,三个月后,用户需要购买令牌才能继续使用OpenAI的GPT-3。
GPT-3是否永久免费?
不,GPT-3并不永久免费。OpenAI为所有新用户提供价值5美元的免费令牌,可以在接下来的三个月内使用。但是一旦用户使用完所有免费令牌或三个月的时间到期,用户需要购买进一步的令牌才能继续使用GPT-3。
在商业项目中使用GPT-3需要多少费用?
为了确保每个人都可以舒适地访问GPT-3,OpenAI提供了灵活简单的定价。共有四个语言模型可用:Ada、Babbage、Curie和Davinci。
在这四个模型中,Davinci被认为是最强大的语言模型。这个模型也被用在流行的AI聊天机器人“ChatGPT”中。
而其他三种模型Ada、Babbage和Curie可以用于执行更简单的任务,比如生成摘要或进行情感分析。GPT-3商业项目的成本是根据每1000个标记计算的。
这些标记可以被视为用于自然语言处理的词片段。生成一段英文文本,1个标记将等于四个字符或0.75个单词。Davinci每使用50K个标记的成本为1美元。
如何测量GPT-3中的标记使用情况?
要测量GPT-3中的标记使用情况,您需要将提示与文本语料库结合起来。在将两者结合后,您需要将其发送到API并计算返回的标记总数。
然后,API请求成本将在使用视图中进行监控。这将包含一个请求-窗口限制,所以您需要等待大约五分钟。
然后计算成本,并与使用视图中的成本进行比较。以下是有关如何测量GPT-3中的标记使用情况的逐步指南。
第1步:估算GPT-3输入的价格
要估算GPT-3输入的价格,您首先需要检查页面上所述的OpenAI定价的准确性。您可以通过“Tokenizer”查看估计的定价,该工具可帮助计算API对一段文本进行标记化的方式。
以及文本中的总标记数。这样用户就可以将其与使用视图和实际账单中的数据进行比较。
作为语料库,您可以选择最受欢迎的十个应用及其描述。这些应用包括Instagram、TikTok、Spotify、Facebook、Messenger、Telegram、Zoom、Snapchat、WhatsApp和CpaCut。
通过这种方式,您可以对以下文本执行各种操作,并通过语料库运行多种用例。这包括关键字搜索、摘要、转换文本等。文本的长度可以在376到2060个单词之间变化。
作为我们的语料库,我们选取了十个最受欢迎的应用的描述:TikTok、Instagram、Facebook、WhatsApp、Telegram、Snapchat、Zoom、Messenger、CapCut和Spotify。
这将使我们能够对文本进行多种操作,并测试语料库以适用于不同的用例,例如关键字搜索、摘要较长的文本以及将文本转化为项目要求。
描述的长度从376到2060个单词不等。
例如,如果您输入了一个带有流行应用TikTok描述的文本样本。在描述中,您可以写出TikTok是什么,它的工作原理,其特点等等。
假设提示由1609个单词和2182个标记组成。那么GPT-3模型的成本应该大约为:
Ada | Babbage | Curie | Davinci |
$0.0009 | $0.0011 | $0.0044 | $0.0437 |
您可以针对其他应用执行相同的操作,以确定GPT-3模型的成本取决于所使用的文本和标记。
第2步:准备提示
我们的下一步是创建提示。对于这个实验,我们将针对三种完全不同的用例准备三个不同的提示。
提示#1:使用GPT-3收集项目需求
第一个提示是关于使用GPT-3根据给定应用的描述收集项目需求。
“详细说明,使用要点和项目与以下描述密切相关的要求。”
这个提示总共有22个单词和148个字符,相当于26个标记。我们已经将所有这些值添加到语料库中,然后再次计算了每个模型的预计标记使用情况。
提示#2:使用GPT-3编写TL;DR摘要
下一个提示是关于创建长文本或段落摘要的内容。对于这个任务,模型的工作是识别出文本的所有相关部分,并创建一个详细而简洁的摘要。以下是摘要的提示:
“生成一个包含文本中所有要点的段落的简要摘要。”
上述提示包含16个单词和99个字符。它等于18个标记。以下数值已添加到语料库中。
提示#3:使用GPT-3提取关键词
在第三个提示中,我们将输入一个可以将文本中的关键词分类并以适当格式提供的提示。
“将下面的内容分割以搜索关键词。确保关键词简洁明了。为每个关键词分配通用类别,如人物、日期、地点、数字、年份、天、年份等。在类别列表中展示它们:关键词对。”
以下提示总共包含41个单词和250个字符。这等于61个标记。
长度为41个单词(250个字符),相当于61个标记。加上语料库文本,我们得到:
接下来,您将向API发送带有语料库文本的提示。计算标记数量,然后在输出中返回,并在使用视图中监视API请求。
第3步:GPT-3 API测试
对于GPT-3 API测试,我们将研究GPT-3的最流行的语言模型“Davinci”。在OpenAI中,标记使用量可以在五分钟的时间范围内测量。
您可以尝试每五分钟发送一个API请求。因为每个请求将包含一个(语料库)和一个提示的单一文本。
通过这种方式,用户可以获得有关每种组合的标记使用情况的详细信息。您还可以稍后将结果与原始估计进行比较。
作为示例,我们将使用三个提示和十个应用程序描述的测试提示发送大约30个组合。
在发送所有三十个请求后,我们将比较使用视图中展示的结果与从API调用的元数据中估计的结果。
结果将彼此一致。除此之外,提示的标记使用情况也将与使用Tokenizer估计的使用情况一致。
您还可以验证输入长度和输出长度之间是否存在任何相关性。以确保您可以估计输出的标记使用情况。
您将注意到输入和输出标记之间的相关性将会非常弱。因此,仅测量输入标记不足以估计单个请求中使用的总标记数。
斜率在TL;DR摘要中为0.0029。而项目要求请求为0.0246
使用GPT-3的成本受到哪些因素的影响?
使用GPT-3的成本受多种因素的影响,例如提示的质量、自定义水平、模型温度等。以下是可能影响使用GPT-3模型成本的主要因素:
模型的温度
模型的温度控制着模型生成输出的随机性。将温度设置在较高的值范围内会导致更多不可预测和多样化的结果。
这也会影响您的成本,因为需要更高的计算资源来运行较高温度下的模型。因此,您应该根据成本和要求编辑您的模型温度。
提示的质量
该因素确保生成的响应相关且不会生成错误的响应。因此,根据您选择的提示质量,价格将会有所变化。
可用性
另一个可能影响使用GPT-3成本的因素是模型的可用性。如果你想要访问的模型目前需求很高,那么成本可能会有所变化,并且根据有限的可用性定价较高。
定制化
根据您的定制需求,GPT-3的价格可能会受到影响。例如,如果您想要访问特殊功能,则可能需要进一步开发。使用额外的开发将导致成本增加。
然而,您可以通过在平台上设置软限制和硬限制来控制预算。如果在您的账户上设置了软限制,每次超过一定使用阈值时,您将收到一封电子邮件提醒。
同时,如果您设置了硬限制,那么一旦达到使用阈值,您的后续API请求将被拒绝。
摘要
OpenAI为GPT-3生成了一个简单灵活的价格范围,每个模型的价格范围都有所不同。用户可以访问流行的Davinci模型,需要购买1K标记,价格为0.0300美元。
GPT-3最好的一点是用户可以使用5美元的免费试用标记免费访问GPT-3,以了解模型并决定是否值得。
除此之外,我们还提到了如何在GPT-3中测量标记使用量以及可能影响使用GPT-3成本的因素。