更快、更便宜！Sam Altman最新访谈透露OpenAI下一步计划，目前GPU短缺是最大瓶颈_虚拟币交易所平台,数字货币,NFT

当前位置: > > 更快、更便宜！Sam Altman最新访谈透露OpenAI下一步计划，目前GPU短缺是最大瓶颈 更快、更便宜！Sam Altman最新访谈透露OpenAI下一步计划，目前GPU短缺是最大瓶颈 2023-06-01 华尔街见闻 来源：区块链网络

: The latest interview reveals that the current shortage is the biggest bottleneck of the next plan. The latest interview reveals that the current shortage is the biggest bottleneck of the next plan. 比特币今日价格行情网_okx交易所app_永续合约_比特币怎么买卖交易_虚拟币交易所平台

来源：葛佳明

图片来源：由无界 AI工具生成

GPU、GPU还是GPU，AI掀起的“算力革命”不仅让几乎垄断GPU市场的英伟达成了聚光灯下的焦点，也让OpenAI CEO在一次又一次的访谈中大谈GPU短缺问题。

5月29日，Humanloop，一家从事机器学习和人工智能的初创公司，其CEO Raza Habib邀请了包括OpenAI CEO Sam Altman在内的20位开发人员共通探讨人工智能的未来，而整个讨论中最重要的主题便是——GPU短缺是最大瓶颈。

Altman表示，目前OpenAI的客户最不满的便是API的可靠性和速度，而这个问题主要就是GPU短缺造成的。

这场算力革命，让英伟达今年以来一度暴涨170%，跻身万亿市值公司行列，在GPU持续短缺的当下，围绕着英伟达的狂欢还将继续吗？

OpenAI严重依赖GPU

Altman表示，他们的下一步计划就是不断更新GPT-4，让其更便宜，更快，而在发展过程中遇到的最大瓶颈便是GPU短缺，访谈中指出：

长度为32k的上下文窗口还未到推广时机，OpenAI还未能克服技术上的障碍，主要是因为算法的高复杂性。虽然很快就会有10万—100万新的32K上下文窗口token，但提供更多的访问token则需要技术和研究上突破。微调（Fine-Tuning）API目前也受到GPU可用性的限制。他们还没有使用像Adapters或LoRa这样的高效微调方法，所以微调运行和管理需要高精度的计算。将来会有更好的微调支持。他们甚至可能主持一个社区贡献模型的市场。OpenAI提供的专用容量服务受到GPU的限制。当用户请求使用专用容量时，OpenAI需要确保有足够的GPU可供分配给用户。然而，由于GPU资源有限，供应有限。要使用这项服务，客户必须愿意预付10万美元的费用。

对于OpenAI未来的发展，Altman表示，在2023年OpenAI的目标是尽可能降低“智能的成本”，继续降低API的成本：

更便宜、更快的GPT-4 —— 首要任务。更长的上下文窗口 —— 在不久的将来，高达一百万的上下文窗口token。微调（Fine-Tuning）API —— 微调API将扩展到最新的模型，但这的确切形式将由开发者表明他们真正想要的东西来塑造。支持会话状态的API —— 现在当你调用聊天API时，你必须反复重复历史对话，并反复支付同样的tokens。在未来，API将有一个记住对话历史的版本。

在5月16日举行的AI国会听证会上，Altman就已经表达了对算力瓶颈的担忧：由于计算能力瓶颈，如果使用ChatGPT的人少一些会更好。

英伟达的狂欢还将继续？

在这场AI大战中，华尔街高呼，英伟达是唯一“军火商”，其超预期业绩指引让市场开启了一场围绕着英伟达的狂欢，股价再次节节攀升，市值一度突破万亿美元大关。

目前，包括谷歌和微软在内，许多科技巨头都使用英伟达芯片来为AI业务提供算力。谷歌计划将生成式AI技术嵌入六个产品，每一个都手握超过20亿用户。

英伟达周一在COMPUTEX大会上推出了新产品，覆盖了从机器人到游戏的多个领域。它还宣布了一个新的超级计算机平台——DGX GH200助力新一代大AI模型。谷歌、微软和Meta预计是获得访问权的首选客户。会上，英伟达CEO黄仁勋表示，全球4万家大公司和1.5万家初创公司正在使用英伟达的技术。

英伟达最近表示，该公司正在扩大供应，以满足不断增长的需求。英伟达CEO黄仁勋周日表示，该公司已经提高了用于生成式人工智能的新款旗舰芯片H100的产量。

注册有任何问题请添加 微信：MVIP619 拉你进入群

文章转载注明 网址：https://netpsp.com/?id=35767