OpenAI 刚刚发布了GPT,它是 ChatGPT 的定制版本。
提供自定义提示、文档作为答案和操作的来源,允许将来自外部 API 的信息与您的 GPT 集成。构建 GPT非常简单——现在任何人都可以做到!
一旦您构建了 GPT,就可以在 ChatGPT 中使用它。目前,您可以通过链接与其他人分享它们,并且 OpenAI 已承诺在本月内推出“GPT 商店”以帮助发现。
构建和使用 GPT 的体验非常流畅且执行良好。
OpenAI 有什么进展吗?看一下最初的 GPT——所有这些都是在发布公告后几天内创建的,并自行判断。
确实有兴趣,但这会比有点”过期的”的ChatGPT 插件更大吗?我尝试过的 GPT 质量参差不齐,但距离发布才几天,所以现在下结论还为时过早。
这是重要时刻吗?
有一种观点认为,GPT 只是封锁了人工智能行业的一部分。定制机器人、检索增强生成、矢量数据库等——所有这些东西突然落入 OpenAI 的轨道。
然而,我根本没有看到这一点。GPT 是一个受欢迎的补充,但有很多原因导致您可能需要在该轨道之外构建一些东西……
1. ChatGPT 是一个小众应用商店
您只能在 ChatGPT 中使用自定义 GPT APP,这意味着您需要一个 ChatGPT 帐户才能使用它。您(至少目前还不能)从某个随机网站托管自定义 GPT。ChatGPT 可能很流行,但它主要在特定人群中流行。GPT 构建者需要意识到受众的性质。我大胆猜测,这种趋势主要面向年轻、精通技术的中产阶级观众。
接下来的问题是,GPT 是否需要付费订阅 ChatGPT Plus——很可能会这样做。如果事实果真如此,观众就进一步受到限制。
当我们考虑企业访问时,这一挑战尤其严峻。企业内部可能有 GPT 的受众,但这需要这些企业拥有企业 ChatGPT 许可证。
据我所知,很少有企业愿意为此付出代价。该产品还处于早期阶段,许多企业都在努力证明成本的合理性。对于合适的员工来说,这是理所当然的事情,但证明这一点并建立商业案例来证明投资的合理性对许多人来说是一项正在进行的工作。大多数首席财务官仍然在说“向我证明为什么我应该花更多的钱”。
如果您想构建针对企业客户的自定义 GPT,祝您好运。我怀疑观众在一段时间内会非常有限。
2. 在 OpenAI 中存储文档成本高昂 (消耗算力)
如果您希望 GPT 访问您的数据(这就是重点),则必须将该数据上传到 OpenAI。当您这样做时,您将需要支付存储费用。
让我们将这些成本与更广泛的市场进行比较:
- OpenAI 数据存储成本:每个助手每天 0.20 美元/GB。
- Amazon S3 存储成本:每月 0.023 美元/GB。
换句话说,OpenAI 的存储桶存储费用约为市场价格的 300 倍。
这很贵。非常贵!
如果您只是托管一些小型 pdf 文件,您可能不会太在意。然而,以这种速度,任何规模的知识库都会很快变得昂贵。
作为背景,在 Barnacle Labs,我们运营着一个为科学界构建的 AI RAG 基础设施,该基础设施托管着数百万份 pdf 文档。作为 GPT 这样做的成本可能会造成巨大的经济损失,因此在我们的规模下这不是一个选择。GPT 会有市场,但知识库广泛的地方就不会有市场。
3. 企业不想将机密数据存储在防火墙之外
我已经提到过在 OpenAI 平台上托管数据的成本。但对于许多企业来说,还存在信息安全风险。如果您想构建一个适用于专有数据的内部 GPT,这不太可能是解决方案。构建访问专有数据的解决方案的企业很可能认为数据需要保留在其防火墙内。
这意味着 GPT 目前可能更关注消费者受众,而不是内部企业客户。
4. 一种尺寸并不适合所有情况
GPT 背后的技术是不透明且未公开的。它几乎肯定包括检索增强生成(RAG)模式的实现,以及向量存储和相似性匹配算法。该技术到底是什么、使用哪种向量存储、文档的分块策略是什么、算法如何工作等等,都是未知的,也无法影响。
我个人的经验是,RAG 解决方案有很多调整机会来提高准确性,但这不适用于 GPT 构建者。构建过程的这种“消费化”是受欢迎的并且非常积极,因为它增加了能够构建解决方案的受众。然而,那些构建更雄心勃勃的解决方案的人仍然需要访问底层技术,以便他们可以根据自己的喜好进行调整和调整。
概括
GPT 是一个很好的解决方案。它们扩大了能够构建自定义 GPT 解决方案的人群,现在几乎任何人都可以这样做。但与大多数消费化举措一样,这都是从一个相对简单的解决方案开始,无法满足那些有更高抱负的人。成本阻碍了更大的知识库,而 ChatGPT(Plus?)用户的有限受众将在短期内削弱其更广泛的影响。此外,那些有更高抱负的人将需要更多地接触底层技术和解决信息安全问题的能力。
OpenAI 可以选择解决我提出的所有问题,并且我希望他们从长远来看会这样做。GPT 是一项重要举措,但我预计其影响在短期内可能相对有限。
我特别想知道 OpenAI 是否可以扩大对 ChatGPT 之外的 GPT 的访问。OpenAI 是否将 ChatGPT 视为新的应用商店,因此会限制访问以鼓励使用 ChatGPT?或者,他们是否会看到让人们使用 GPT 的更大机会,无论是在 ChatGPT 本身内部还是外部?该决定可能会对自定义 GPT 计划的重要性产生重大影响。