生成式人工智能所需的能耗极其巨大。有外国分析师认为，Blackwell号称将能源效率提升25倍，这将是英伟达另一巨大的护城河！
作者：Envision Research
能源成本是瓶颈问题
虽然生成式人工智能提供了看似无限的潜力，但这些系统的成本很高——至少在目前阶段是如此。但人工智能有一个关键瓶颈，这个就是能源消耗。
本文将论证英伟达的下一代平台Blackwell平台最终解决了这一关键问题。与之前的Hopper相比，英伟达的Blackwell平台在成本和能源效率方面有了显著改善。这些改进为英伟达芯片的更广泛部署奠定了基础，特别是在与其成熟的软件生态系统相结合的情况下。
在AI扩张中有各种问题，从技术到法律和道德。但一个较少被讨论的问题是能源成本。现代人工智能应用所消耗的能量令人难以置信，而且能源成本呈指数级增长，如果我们没有更高效的芯片，能源成本将是不可持续的。例如，每个Nvidia的H100芯片在峰值运行时消耗700W的能量。这比普通美国家庭的用电量还要多。据估计，英伟达的高性能人工智能芯片消耗的能源总量超过了许多小国。
即使是一个数据中心，通常使用数千到数万个这样的芯片，根据微软工程师的评论，峰值功耗可能会使一个地区甚至一个州的电网过载。
问题还不止于此。在所有消耗的能量中，只有一小部分用于实际计算，其中的主要部分变成了热量，然后需要消散以防止过热和系统故障。因此，节能的人工智能芯片，通过减少源头的能耗，可以产生连锁反应，从而大大降低计算和冷却的总体能耗。
接下来将解释 英伟达的 Blackwell 如何以非常有效的方式解决这些问题。
能源效率提升25倍
英伟达最近开始推出下一代平台Blackwell，该平台承诺大幅提升性能，并节省成本和能源。性能升级这里就不多做赘述。在这里将集中讨论能源方面。英伟达声称，它的Blackwell可以将训练大规模人工智能模型等工作负载的成本降低25倍（见下表中的基准数据），从而在给定的性能水平下显著降低功耗。
这些改进不仅有助于维持英伟达在该领域的主导地位，而且还能使其芯片的使用在经济上可持续。购买它的芯片是昂贵的，但运行它们更是昂贵。作为预算分类，有份福布斯报告中收集了以下信息：
1）这些芯片的成本高达数百万美元。根据OpenAI GPT-3语言模型的技术概述，每次训练至少需要价值500万美元的GPU。
2）这些模型在开发和调整过程中需要很多很多次的训练，所以最终的成本远远超过这个数字。今年7月，在麻省理工学院的一次活动上，当被问及训练基础模型的成本是否在5000万至1亿美元之间时，OpenAI的联合创始人Sam Altman回答说，“不止于此”，而且还在变得越来越昂贵。
3）成本还不止于此。一旦模型训练完成，运行推理也是昂贵的。估计表明，在 2023 年 1 月，ChatGPT 使用了近 3 万个 GPU 来处理数亿的日常用户请求。华盛顿大学电子与计算机工程助理教授 Sajjad Moazeni 表示，这些查询每天可能消耗大约 1 GWh 的能源。
美国每千瓦时（kWh）的平均电力成本在 12-17 美分之间（取决于你咨询的来源）。以14美分计算，每天 1 GWh 转化为每天 14 万美元的成本，每年 5100 万美元——这大约是芯片前期成本的 10 倍，几乎与训练模型本身的成本持平。
通过 25 倍的降低（加上前面提到的连锁反应），这是一个改变游戏规则的东西。它从根本上改变了最终用户的预算分配。
而 Blackwell 的继任者，被称为 Rubin，已经在筹备中，并计划在 2026 年推出。预计 Rubin 将在性能和节能方面在 Blackwell 的基础上进一步改进，其各种技术改进（例如，Versa CPU、HBM4 存储器等）将进一步扩大英伟达的护城河。
其他风险和总结
就下行风险而言，估值风险是首要风险。这是许多看空者倾向于强调的风险，这里有很好的理由。值得注意的是，如下图所示（这张图经常用于突出估值风险），英伟达目前的股价接近其销售额的40倍，是思科在互联网泡沫顶峰时期的数倍。发生在思科身上的事情——正如俗话所说，现在已经成为历史——肯定也会发生在英伟达身上。
然而，这张图表没有显示出一个关键的区别：英伟达现在实际上赚了很多钱，远远超过了思科在2000年代的收入。如第二张图表所示，思科的市盈率超过200倍，而英伟达的市盈率为47倍(以FWD为基础)。
另一个不利因素是竞争加剧。除了来自其他芯片公司（如AMD、英特尔）的压力外，许多非芯片公司（如苹果、谷歌、Meta 等）也在开发自己的AI芯片。例如，如下图所示，AMD的研发预算在过去三年里翻了一倍多，超过了英伟达。值得注意的是，收购赛灵思大大加强了AMD的市场地位，并扩大了自适应计算市场的潜力。赛灵思是FPGA芯片的领导者和发明者，这在人工智能时代也是一项很有前途的技术。
FPGA芯片的最大优势是灵活性：即使在制造和安装之后，也可以灵活地重新编程或功能升级。考虑到先进芯片的成本和快速发展的计算环境，这是一个关键的战略优势。
总而言之，尽管竞争格局和高估值（尽管注意 AMD 的 FWD 市盈率也在 46 倍左右），但考虑到增长催化剂，英伟达依旧很有前景。正如本文所论述的那样，Blackwell的25倍节能将改变游戏规则，为英伟达芯片的广泛部署铺平道路。软件生态系统和 Rubin 平台等新产品的良好管线有助于维持增长轨迹。
精彩评论