英伟达业绩会:公司正在努力扩大明年Blackwell的产能,但需求仍超过供给

智通财经网11-21 11:02

智通财经APP获悉,11月21日,英伟达召开FY25Q3业绩会。英伟达介绍,Blackwell正在全力生产,本季度交付的Blackwell超出预期,公司正在努力扩大明年的产能,但需求仍超过供给,CSP对Blckawell的需求很强劲。公司已经有几代的集成经验,但目前仍然有很多工作需要完成,Blackwell的需求很好,本季度供应量和发货量都超出预期。

路线图方面,公司正在努力执行年度路线图,并在提供平台性能的同时,致力于减少训练、推理成本,降低AI的使用门槛,以及在电力资源有限的情况下最大化单位能耗的性能,一切按计划进行。

Hopper的需求持续到明年前几个季度。Blackwell下季度交付的数量也会比这个季度更高,下下季度继续增长。毛利率方面,公司预计随着Blackwell陆续出货,毛利率会开始增长,预计毛利率在75%左右。

Q&A

Q:Blackwell需求的驱动力?

A:基础模型预训练的扩展仍然在延续。除此外,还有两种扩展:(1)训练后扩展,第一代是强化学习人工反馈,现在有基于合成数据的扩展;(2)推理时间的扩展,比如strawberry、chatgpt o1等模型,思考的时间越长,答案的质量就越高,模型也会考虑思路链、多路径规划、反思等方案,模拟人类回答问题时脑海中的思考模式。

因此,现在有三种扩展,产生对公司基础设施强大的需求,上一代模型用10万个hopper,下一代用10万个Blackwell。

此外,推理的增长也会推动需求,公司现在是全球最大的推理平台,未来Blackwell会用于训练,也会用于推理。

最后,企业对AI Agent的需求成为最新的潮流,这也推动了需求

Q:考虑到最近发热问题相关的传闻,市场关心公司能否按GTC提出的规划顺利发布各项产品?Blackwell的产能瓶颈现在是什么环节?

A:(1)Blackwell正在全力生产,本季度交付的Blackwell超出预期,公司正在努力扩大明年的产能,但需求仍超过供给,CSP对Blckawell的需求很强劲。

(2)公司已经有几代的集成经验,但目前仍然有很多工作需要完成,Blackwell的需求很好,本季度供应量和发货量都超出预期;

(3)供应链方面,Blackwell有很多平台,包括风冷/液冷、NVL72/NVL36、X86/Grace等不同组合,得到了全球供应链的支持,包括台积电、安费诺、Vertiv、SK-海力士、美光、安靠、京元电、富士康、广达、纬颖、戴尔惠普、联想等公司,供应链合作伙伴数量惊人;

(4)路线图方面,公司正在努力执行年度路线图,并在提供平台性能的同时,致力于减少训练、推理成本,降低AI的使用门槛,以及在电力资源有限的情况下最大化单位能耗的性能,一切按计划进行。

Q:考虑到Q4 blackwell收入可能会超过原先数十亿美元的预期,公司预计什么时候Blackwell收入超过hopper?毛利率展望?

A:(1)Hopper的需求持续到明年前几个季度;Blackwell下季度交付的数量也会比这个季度更高,下下季度继续增长;

(2)毛利率方面,公司预计随着Blackwell陆续出货,毛利率会开始增长,预计毛利率在75%左右;

(3)市场正在两个计算转型的窗口,一个是cpu转型gpu,第二个是机器学习的发展,现在的数据中心是AI智能工厂,能生成新的资料,如果客户很多,这些工厂会全天候运行,这与过去的数据中心有所不同,这两个转型将持续数年。

Q:明年下半年恢复75%毛利率是否是合理假设?公司预计什么时候会看到市场进入硬件的消化周期?公司预计需要几个季度来满足第一轮需求?

A:(1)公司认为明年下半年有可能恢复到mid70%的毛利率。

(2)现在绝大多数数据中心都是CPU时代的产物,并不符合数据中心现代化的需求,未来开出来的数据中心项目都会是AI的,这种转型是一部分需求;

(3)同时,生成式AI也在带动新的增量,比如openAI、harvey、runway,这些并不是取代过去的功能,而是新的事物。

综上,数据中心的现代化以及AI新应用的带动,会推动硬件的需求。

Q:毛利率下限预计是多少?下个季度hopper是否可能环比下滑?

A:首先,毛利率低位可能是71%-72.5%这个范围,公司目标改善到75%。

Hopper Q4还会继续销售,同时,Blackwell的需求也很强劲,两者都会发生,至于Hopper Q4的环比表现,有可能可以实现环比增长,但仍需继续观察。

Q:公司在推理市场的看法?

A:公司的愿景是未来世界出现大量推理场景,那才是AI的真正成功,公司希望看到每家公司都在进行全天候的推理,用户打开Outlook、Powerpoint、excel、PDF时的体验都在生成token;此外,公司对物理AI也有所期待,这对于工业AI、机器人很有价值,也是很多AI初创团队的机会,这是公司构建omniverse的原因。

公司的目标是推理,并且看到这一增长趋势正在发生。推理的难点包括准确度、高吞吐量、低成本、低延迟、多模态等,这些创新和要求下,英伟达的架构、生态系统表现很棒,任何创新都可以进入英伟达的计算平台,无论是数据中心还是机器人等边缘场景。

Q:网络业务的现况?

A:网络同比保持高增,本季度只是略有下滑,但增长势头预计很快恢复,团队正在为blackwell和越来越多的系统做准备。

Q:主权AI的展望?

A:公司提到了很多公司在主权AI方面的项目,因此,主权AI的表现和pipeline仍然很好,各国正在致力于用自己的语言、文化构建模型,这会是一个增长机会,包括欧洲的机会、亚太的机会。

Q:公司现在游戏业务进展如何?是否存在产能被挤占的问题?

A:公司努力确保不同产品的供应能力,游戏方面的供给没有问题,挑战在于能以多快的速度投向市场,随着更多供应商回归正轨预计有所改善,本季度只是暂时性地供给紧张。

Q:随着供给爬坡,环比增速是否还会再度提速?

A:公司只提供一个季度的指引,随着下季度blackwell逐步放量,公司会给出更多信息。

Q:中国数据中心业务的展望?大选后是否出现变化

A:无论新政府有什么要求,公司会完全遵守法规规定,并尽最大努力支持客户、参与市场竞争。

Q:现在训练、推理大概的比重?公司提到三个扩展的比重?

A:目前主要在基础模型的预训练,训练后的新技术才刚刚出现,此外,还需要尽可能降低推理的成本,三个扩展都在发展,市场需要越来越多的计算,因此公司必须尽最大努力将性能一次性提高好几倍,才能保持计算成本的下降。

免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法