自ChatGPT发布以来,它成为互联网上热议的话题。这个平台在几个月内吸引了数百万用户,并给包括微软在内的几家科技公司带来了业务。
在最近的一份报告中,微软透露他们的公司在数千个英伟达图形处理单元(GPU)上为Open AI建立了人工智能基础设施。大约五年前,Open AI联系了微软,寻求帮助在英伟达GPU上建立人工智能基础设施。这些GPU随后被用于Open AI的产品,包括ChatGPT。
让我们看看ChatGPT如何使用英伟达。
Open AI的ChatGPT使用英伟达吗?
Open AI是ChatGPT的母公司,他们在ChatGPT中使用英伟达GPU。该公司联系了微软,寻求帮助为他们的新基于人工智能的平台ChatGPT建立基础设施。
微软声称将数千个英伟达GPU连接到其Azure云计算系统上,为Open AI构建了终极超级计算机。
微软还投资了数十亿美元支持Open AI及其发明。微软投资的重要部分用于训练ChatGPT中使用的英伟达GPU。
ChatGPT在哪种硬件上运行?
ChatGPT与微软合作开发。该模型使用Azure超级计算基础设施以及英伟达GPU进行训练。ChatGPT的硬件包括超过285,000个CPU核心、10,000个GPU以及每秒每个GPU服务器的400GB网络连接。
ChatGPT的GPU成本是多少?
计算总的GPU成本是具有挑战性的。需要考虑几个因素。然而,根据几份报告,Azure云托管ChatGPT,微软每小时收费3美元用于一个A100 GPU,每个单词的成本为0.0003美元。
一个ChatGPT使用八个GPU,并平均生成30个单词。因此,ChatGPT的总日成本被认为是10万美元或每个月300万美元。
ChatGPT消耗多少电力?
Open AI的ChatGPT使用GPT-3进行训练。因此,ChatGPT和GPT-3消耗的电力将是相似的。此外,ChatGPT是通过强化学习进行训练的。因此,ChatGPT消耗的电力的最终计算应考虑这些因素的结合。
根据一份报告,GPT-3使用了1,287兆瓦时的电力,排放了552吨二氧化碳当量。再次,ChatGPT的碳足迹为365 * 23.0千克,即8.4吨。总体而言,ChatGPT释放的总碳足迹为23.04千克CO2当量。
Nvidia首席执行官黄仁勋将人工智能作为核心技术推动ChatGPT
Nvidia的首席执行官黄仁勋最近在一次采访中表示,公司大约十年前意识到人工智能将革新软件行业。
公司随后改变了一切,将人工智能添加到了产品中。公司开始制造AI芯片,其中A100是最畅销的。
黄仁勋补充说,他们相信总有一天会发生一些新的事情,而AI芯片的发明就是他们幸运的暗示。
ChatGPT的受欢迎程度给Nvidia股票带来了意外的推动
关于ChatGPT使用Nvidia GPU的消息是官方的。Open AI已确认其产品使用Nvidia GPU进行训练。此外,微软还透露他们已在Nvidia GPU上为Open AI建立了人工智能基础设施。
因此,如果ChatGPT发布后Nvidia的股价出现上涨,这不应让任何人感到惊讶。Open AI还在开发新项目,并暗示将来需要更多的GPU。
最终,Nvidia的股价将会提升,其价值将增加。总之,Nvidia与Open AI的合作对双方都将非常有利。