英伟达电话会全文来了!Blackwell产能爬坡顺利,Q4收入将超预期,Scaling Law没放缓

英伟达财报电话会表示,Blackwell推出初期,毛利率将降至70%的低点,即71-72.5%;Blackwell四季度收入将超出之前预计的数十亿美元,Hopper的需求将持续到明年,最少是明年的前几个季度。

AI芯片巨头英伟达第三财季营收增长继续放缓,预计本季度还将进一步放缓。虽然上季的收入高于分析师预期,但本季的指引中值未能达到买方分析师的高端预期。从股价表现看,投资者似乎觉得这样的指引不够炸裂,盘后英伟达股价下跌。

在财报公布后的电话会上,英伟达发布了预期指引,四季度英伟达Hopper需求将持续,Blackwell将实现初步增长,预计收入将超出之前预计的数十亿美元收入。随着Blackwell产品规模的扩大,预计毛利率将放缓至70%以下。

问答环节,分析师将“炮火”集中在Blackwell,围绕该芯片进展情况提出了一系列问题,如潜在客户是否会推动Blackwell 的更大需求?Blackwell是否存在供应限制?四季度是不是Blackwall对毛利率压力最严重的时期?

以下是本次电话会要点:

1、毛利率情况:由于Blackwell将于本季度推出,成本增加将导致毛利率缩减。芯片推出初期,毛利率将降至70%的低点,即71-72.5%。2025财年下半年将达到70%以上的中值,也就是75%附近。

2、Blackwell需求情况:Blackwell计划本季开始出货,未来一年加快步伐,预计到2026财年需求将超过供应,推理需求不断增加将推动芯片需求持续增长。CEO黄仁勋称下季度Blackwell的交付量会超出公司此前预期。

3、Blackwell路线图和供应限制:将继续执行在GTC上提出的路线图,即明年推出Ultra以及在26年过渡到Rubin。英伟达的执行工作进展顺利,公司有庞大的供应链网络,包括台积电和安费诺、Vertiv、SK 海力士、美光、安靠、KYEC、富士康、广达、纬颖、戴尔、惠普、超微、联想等,Blackwell产能爬坡方面的进展良好。

4、AI需求将长期增长,会增长到2030:到2030年,全球用于计算的数据中心将达到几万亿美元。第一点是,从编码到机器学习,实现数据中心的现代化。第二点是生成式人工智能,建设人工智能工厂,我们现在正在创造一种新产业,一个世界上从未有过的新的细分市场。

5、Hopper需求增长将持续:Hopper的需求将持续到明年,最少是明年的前几个季度,与此同时下一季度的出货量将超过本季度。

6、Scaling Law没放缓:现在有三种训练方式,预训练会继续,这是经验定律不是什么物理定律。除此之外又有了后训练和推理scaling law。行业在预训练、后训练以及现在非常重要的推理时间方面发展。

以下是英伟达电话会全文

科莱特-克雷斯,首席财务官:

第三季度又是一个创纪录的季度,我们继续实现令人难以置信的增长。收入达到351亿美元,环比增长17%,同比增长94%,远高于我们预期的325亿美元。在英伟达加速计算和人工智能的推动下,所有市场平台都实现了强劲的环比和同比增长。

从数据中心开始,数据中心再创新高。收入达到308亿美元,环比增长17%,同比增长112%。英伟达Hopper的需求异常强劲,H200的销售额连续大幅增长,达到两位数的十亿美元,是公司历史上增长最快的产品。H200的推理性能提高了2倍,TCL提高了约50%。云服务提供商约占我们数据中心销售额的一半,收入同比增长超过2倍。云服务提供商部署了NVIDIA H200基础架构和高速网络,GPU安装量达到数万颗,以促进业务增长,满足对人工智能训练和推理工作负载快速增长的需求。AWS 和 Microsoft Azure 现已提供英伟达H200 驱动的云实例,Google Cloud 和OCI也即将推出。在大型CSP大幅增长的同时,北美、欧洲、中东和非洲以及亚太地区的GPU云收入也同比增长了2倍,原因是英伟达云场景和主权云建设不断增加。

消费者互联网收入同比增长了一倍多,企业扩大了英伟达Hopper 基础设施的规模,以支持下一代人工智能模型、训练、多模态和代理人工智能、深度学习推荐引擎以及生成式人工智能推理和内容创建工作负载。英伟达的Ampere和Hopper基础架构正在推动客户的推理收入增长。英伟达是全球最大的推理平台,庞大的装机量和丰富的软件生态系统鼓励开发人员针对英伟达进行优化,不断提高性能和TCL。英伟达软件算法的快速发展在一年内将Hopper推理吞吐量提高了惊人的5倍,时间缩短了5倍。

我们即将发布的 NVIDIA NIM 将把 Hopper Inference 的性能再提高 2.4 倍,持续的性能优化是英伟达的一大特色,它为整个公司的安装用户带来了越来越多的经济回报。在成功执行大规模变更之后,Blackwell 已经全面投入生产。我们在第三季度向客户交付了13000个GPU样品,其中包括首批开放人工智能的Blackwell DGX工程样品。Blackwell是一个全堆栈、全基础架构的人工智能数据中心规模系统,具有可定制的配置,可满足从X86到ARM、从训练到增强型GPU、从InfiniBand到以太网交换机以及从液冷到风冷等多样化且不断增长的人工智能市场的需求。

每个客户都在争先恐后地进入市场,Blackwell现在已掌握在所有主要合作伙伴的手中,他们正在努力提升自己的数据中心。我们正在将Blackwell系统集成到客户的各种数据中心配置中。Blackwell的需求量惊人,我们正在加紧扩大供应,以满足客户对我们的巨大需求。客户正在准备大规模部署Blackwell。甲骨文宣布推出全球首个人工智能云计算集群,可扩展至超过131,000个Blackwell GPU,帮助企业训练和部署一些要求最苛刻的下一代人工智能模型。昨天,微软宣布他们将成为首家在私有预览版中提供基于英伟达GB200和量子InfiniBand的Blackwell云实例的CSP。上周,Blackwell 在最新一轮的训练结果中首次亮相,在GPU基准测试中一举夺魁,性能是Hopper的2.2 倍。

这些结果还证明了我们对降低计算成本的不懈追求。与256个H100相比,运行GPT3基准仅需64个Blackwell GPU,成本降低了4倍。英伟达Blackwell架构的交换机可将推理性能提高30倍,并将推理扩展吞吐量和响应时间提升到一个新的水平,非常适合运行OpenAI的o1模型等新的推理推断应用。每一次新的平台转变,都会催生一波新创公司。数百家人工智能原生公司已经在提供人工智能服务方面取得了巨大成功。Anthropic、Perplexity、Mistral、Adobe Firefly、Runway、MidJourney、Lightrix、Harvey、Codium、Cursor 以及谷歌、Meta、微软和OpenAI 等领头羊,而数以千计的人工智能原生初创公司正在构建新的服务。

人工智能的下一波浪潮是企业人工智能和工业人工智能,企业人工智能正在全面展开。英伟达人工智能企业版包括NeMo和NIM微服务,是一个代理人工智能操作平台。行业领导者正在使用英伟达人工智能来构建协同驾驶和代理,与英伟达公司合作的Cadence、Cohesity、NetApp、Nutanix、Salesforce、SAP和ServiceNow等公司正在加快这些应用的开发速度,并有可能在未来几年内部署数十亿个代理。埃森哲和德勤等咨询业领军企业正在将英伟达人工智能带入全球企业。埃森哲成立了一个新的业务部门,拥有30000名接受过英伟达人工智能技术培训的专业人员,以帮助推动这一全球建设。此外,拥有77万多名员工的埃森哲正在内部利用英伟达支持的Agentic AI应用程序,其中一个案例将营销活动中的人工步骤减少了25%至35%。

近1000家公司正在使用NVIDIA NIM,NVIDIA AI Enterprise的货币化速度可见一斑。我们预计AI企业版的全年营收将比去年增长2倍以上,而且我们的销售渠道还在继续扩大。总体而言,我们的软件、服务和支持收入的年增长为15亿美元,预计今年的年增长将超过20亿美元,工业人工智能和机器人技术正在加速发展。

这是由物理人工智能的突破所引发的,也就是能够理解物理世界的基础模型。与面向企业人工智能代理的 NVIDIA NeMo 一样,我们为开发人员构建了 NVIDIA Omniverse,用于构建、训练和操作工业人工智能和机器人。世界上一些最大的工业制造商正在采用 NVIDIA Omniverse 来加快业务发展、实现工作流程自动化并将运营效率提升到新的水平。全球最大的电子产品制造商富士康正在使用基于 NVIDIA Omniverse 的数字孪生和工业人工智能来加快其Blackwells工厂的建设速度,并将效率提升到新的水平。仅在墨西哥工厂,富士康预计每年的千瓦时用量就将减少330%。分地区来看,我们在中国的数据中心收入连续增长,这得益于符合出口标准的铜产品的行业出货量,但在数据中心总收入中所占的比例仍远低于出口管制开始前的水平。我们预计未来中国市场的竞争仍将非常激烈。我们将继续遵守规定,并同时为我们的客户提供服务。

随着各国纷纷采用英伟达加速计算技术来推动由AI驱动的新一轮工业革命,我们的主权人工智能(AI)计划也在继续蓄势待发。印度领先的CSP(包括产品通信和Zoda数据服务)正在为数以万计的英伟达GPU建设人工智能工厂。到年底,他们将把印度的英伟达GPU部署量提高近10倍,TSC、Wipro正在采用英伟达AI Enterprise,并培训近50万名开发人员和顾问,帮助客户在我们的平台上构建和运行AI代理。在日本,软银正在利用英伟达DGX Blackwell和量子InfiniBand构建该国最强大的人工智能超级计算机。软银还与英伟达合作,利用英伟达AI Aerial和ARAN平台将电信网络转变为分布式人工智能网络,该平台可在CUDA上处理5G RAN和人工智能。

我们正在美国与 T-Mobile 合作推出同样的产品。包括 NEC 和 NTT 在内的日本领先企业正在采用英伟达AI Enterprise,包括 EY、Strategy 和 Consulting 在内的大型咨询公司将帮助把英伟达AI技术引入日本各行业。网络业务收入同比增长 20%。收入连续增长的领域包括 InfiniBand 和以太网交换机、SmartNex 和 BlueField DPU。虽然网络收入连续下降,但网络需求强劲且不断增长,我们预计第四季度网络收入将连续增长。

CSP和超级计算中心正在使用和采用英伟达InfiniBand平台,为新的H200集群提供动力。NVIDIA Spectrum-X Ethernet for AI的收入同比增长了3倍多,我们的产品线还在不断扩大,多家CSP和消费互联网公司都在计划部署大型集群。传统以太网并非为人工智能而设计。英伟达Spectrum-X利用以前InfiniBand独有的技术,使客户能够实现大规模的GPU计算。利用Spectrum-X,xAI的Colossus 100,000 Hopper超级计算机将实现零应用延迟,并保持95%的数据直通输出,而传统以太网仅为60%。

现在谈谈游戏和AIPC,游戏收入为33亿美元,环比增长14%,同比增长15%。第三季度是游戏业务大丰收的一个季度,笔记本电脑、游戏机和台式机收入均实现环比和同比增长。由于消费者继续选择 GeForce RTX GPU 和设备来支持游戏、创意和人工智能应用,返校销售的强劲势头推动了 RTX 的终端需求。渠道库存保持健康,我们正在为假日旺季做准备。我们开始从华硕(ASUS)和微星(MSI)出货新的GeForce RTX AI PC,最多可配备321个AI顶点,预计第四季度将配备微软的Copilot+功能。

这些机器利用RTX光线追踪和人工智能技术的强大功能,为游戏、照片和视频编辑、图像生成和编码提供了超级动力。上一季度,我们庆祝了全球首款GPU GeForce 256诞生 25 周年。英伟达GPU从改变计算图形到点燃人工智能革命,一直是我们这个时代一些最具影响力的技术背后的驱动力。再来看ProViz,收入为4.86亿美元,环比增长7%,同比增长 17%。英伟达RTX工作站继续成为专业图形、设计和工程相关工作负载的首选。

此外,人工智能正在成为强大的需求驱动力,包括自动驾驶汽车模拟、用于生产力相关用例的生成式人工智能模型原型,以及媒体和娱乐领域的生成式人工智能内容创作。汽车行业收入达到创纪录的4.49亿美元,环比增长30%,同比增长72%。强劲的增长主要得益于英伟Orin自动驾驶技术提升以及终端市场对NAVs的强劲需求。

汽车公司正在推出基于英伟达Orin和DriveOS的全电动 SUV,现在来看损益表的其他部分。GAAP毛利率为74.6%,非GAAP毛利率为75%,环比下降主要原因是数据中心内的H100系统向更复杂、成本更高的系统混合转移。由于推出新产品所需的计算、基础设施和工程开发成本较高,GAAP 运营费用和非 GAAP 运营费用环比增长了 9%。第三季度,我们以股票回购和现金分红的形式向股东返还了112亿美元。

下面,请允许我谈谈第四季度的展望。总收入预计为 375 亿美元,增幅为正负2%,其中包括对Hopper Architecture持续需求和 Blackwell 产品的初步增长。虽然需求大大超过供应,但随着我们对供应情况的了解不断增加,我们有望超过Blackwell之前预计的数十亿美元收入。在游戏方面,尽管第三季度销售强劲,但由于供应限制,我们预计第四季度收入将连续下降。按照美国通用会计准则(GAAP)和非美国通用会计准则(Non-GAAP),毛利率预计分别为73%和 73.5%,增幅为正负50个基点。Blackwell是一种可定制的人工智能基础架构,配备多种不同类型的英伟达内置芯片、多种网络任务选项,适用于风冷和液冷数据中心。我们目前的重点是应对强劲的需求,提高系统可用性,并为客户提供最佳的配置组合。

随着Blackwell 规模的扩大,我们预计毛利率将放缓至70%以下,Blackwell 的毛利率将在 70% 左右。按照美国通用会计准则(GAAP)和非美国通用会计准则(Non-GAAP),运营支出预计分别约为 48 亿美元和 34 亿美元。我们是一家数据中心规模的人工智能基础设施公司,我们的投资包括建设数据中心,以开发我们的硬件和软件堆栈,并支持新产品的推出。按照美国通用会计准则(GAAP)和非美国通用会计准则(Non-GAAP),不包括非关联投资收益和损失,其他收入和支出预计约为 4 亿美元。美国通用会计准则(GAAP)和非美国通用会计准则(Non-GAAP)税率预计为 16.5%加或减 1%,不包括任何离散项目。

更多财务细节,请参见首席财务官评论以及我们投资者关系网站上的其他信息。最后,请允许我重点介绍一下即将举行的金融界活动,我们将参加12月3日在斯科茨代尔举行的瑞银全球技术与人工智能大会,1月 6 日Jensen将在拉斯维加斯举行的CES上发表主题演讲,第二天(1 月 7 日),我们将为金融分析师举办问答会,敬请参加。我们将于 2025 年 2 月 26 日召开财报电话会议,讨论 2025 财年第四季度的业绩。现在开始接受提问。

Q&A环节

Q1 Cantor Fitzgerald分析师C.J. Muse:我想我只想问你一个问题,是关于大语言模型的缩放规则争论,显然我们现在还为时尚早,但我很想听听你在这方面的想法。你们是如何帮助客户解决这些问题的?很显然,我们正在讨论尚未从Blackwell受益的集群,这是否会推动对 Blackwell 的更大需求?谢谢。

回答者:

训练前的基础模型缩放完好无损,而且还在继续。大家都知道,这是经验法则,而不是基本物理法则,但有证据表明,它仍在继续训练。然而,我们正在学习的是,这还不够,我们现在还发现了另外两种训练方式,一种是后训练,另一种是后训练是强化学习的人类反馈,但现在我们有了强化学习的人工智能反馈和各种形式的合成数据生成的数据,这些都有助于后训练的拓展。

最大的事件之一和最令人兴奋的发展之一是草莓,即OpenAI的o1模型,它进行推理时间扩展,即所谓的推理时间。它思考的时间越长,得出的答案就越好、质量就越高,它考虑了思维链、多路径规划等方法,以及各种必要的反思技术等等。直观地说,这有点像我们在回答问题前在脑子里思考。

因此,我们现在有三种训练方式,而且我们看到了所有三种训练方式。因此,对我们基础设施的需求非常大。你现在可以看到,上一代基础模型的容量是大约10万个Hopper芯片,而下一代则从10万个Blackwell 芯片开始。你可以从中了解到行业在预训练、后训练、及现在非常重要的推理时间扩展方面的发展方向。

因此,出于所有这些原因,需求确实很大。但请记住,与此同时,我们公司的推理能力也在不断增强。我们是当今世界上最大的推理平台,因为我们的装机量非常大,而且所有的推理都是在和跳线上训练出来的,令人难以置信。

随着我们转而使用 Blackwells 来训练基础模型,它也带来了大量已安装的用于推理的基础设施。因此,我们看到推理需求不断增加。我们看到推理时间在不断延长。我们看到人工智能原生公司的数量持续增长。当然,我们也开始看到企业采用 Agentic AI,这确实是最近的流行趋势。我们看到来自不同地方的大量需求。

Q2 高盛Toshiya Hari:Jensen你在今年早些时候实施了大规模的改革,上周末有一些关于发热问题的报道。在此背景下,你们是否有能力执行今年在GTC上提出的路线图,即明年推出Ultra以及在26年过渡到 Rubin。你能谈谈这个问题吗?一些投资者对此表示质疑。如果你能谈谈你按时执行的能力,那将会非常有帮助。然后是Blackwell部分,关于供应限制,是众多零部件造成了这种情况吗?还是特别是HBM?是供应限制吗?供应限制是否有所改善?是否在恶化?任何有关这方面的信息都会非常有用。谢谢。

回答者:

是的,谢谢,那么让我们来看看,回到第一个问题。Blackwell的生产已经全面启动。事实上,正如科莱特之前提到的,本季度我们将交付比之前预计更多的Blackwells。因此,供应链团队正在与我们的供应合作伙伴一起,为增加Blackwells的产量而出色地开展工作。明年,我们将继续努力增加Blackwell的产量。

现在的情况是供不应求,这也在意料之中,因为众所周知,我们正处于人工智能革命的起步阶段。我们正处于新一代基础模型的起步阶段,这些模型能够进行推理,能够进行长期思考,当然,真正令人兴奋的领域之一是物理人工智能,即现在能够理解物理世界结构的人工智能。

因此,Blackwall的需求非常强劲。我们的执行工作进展顺利。显然,我们正在全球范围内进行大量的工程设计。你现在看到的是戴尔和 Core Weave 正在安装的系统。我想你也看到了甲骨文公司的系统正在投入使用。还有微软的系统,他们即将预览 Grace Blackwell系统。

谷歌有自己的系统,所有这些 CSP 都在争先恐后。如你所知,我们与它们合作的工程设计相当复杂。其原因在于,尽管我们构建了全栈和全基础设施,但我们将所有人工智能超级计算机拆分开来,并将其集成到世界各地架构中的所有定制数据中心中。

这个整合过程我们已经做了好几代了,我们对此非常擅长,但目前仍有大量的工程工作要做。但正如你从所有正在安装的系统中看到的那样,Blackwell的状况非常好。正如我们之前提到的,本季度的供应量和计划发货量超过了我们之前的预计。

关于供应链,有七种不同的芯片,七种定制芯片,我们内置订购,以便我们提供Blackwell系统。Blackwell系统采用风冷或液冷、NVLink 8或NVLink 72或NVLink 8、NVLink 36、NVLink 72,我们有x86或GRACE,将所有这些系统集成到全球的数据中心堪称奇迹。

因此,要实现如此规模的增长,所需的组件供应链是必不可少的,你知道,你必须回过头来看一看我们上个季度的Blackwell出货量是多少,那是零。而本季度 Blackwell 系统的总出货量将以十亿为单位,其增长速度令人难以置信。几乎世界上所有的公司都参与了我们的供应链,我们有非常好的合作伙伴,包括台积电和连接器公司安费诺、Vertiv、SK 海力士、美光、Amkor、KYEC、富士康、Quanta、WeWin、戴尔、惠普、超微、联想等,公司数量之多令人难以置信。

我肯定还漏掉了参与Blackwell扩产的合作伙伴,对此我非常感激。总之,我认为目前我们在产能爬坡方面的情况很好。

最后,关于我们执行路线图的问题,我们正在执行年度路线图,我们希望继续执行年度路线图。当然通过这样做,我们可以提高平台的性能,但同样重要的是,当我们能够提高性能并同时提高X个系数时,我们就降低了培训成本,降低了推理成本,降低了人工智能的成本,从而使人工智能更加普及。

但另一个非常重要的因素是,当数据中心有一定的固定规模时,过去可能是10兆瓦,而现在大多数数据中心是100兆瓦到几个100兆瓦的数据中心,以及计划中的千兆瓦数据中心。数据中心有多大其实并不重要,电力是有限的。在电力有限的数据中心,每瓦最高的性能将直接转化为我们合作伙伴的最高收入。因此,一方面,我们的年度路线图降低了成本。但另一方面,由于我们的每瓦特性能比其他任何产品都要好,因此我们能为客户创造尽可能多的收入。因此,这种年度节奏对我们来说非常重要,我们完全有意愿继续这样做。据我所知,一切都在按计划进行。

Q3 瑞银 Timothy Arcuri:我想知道你能否谈谈今 Blackwall的发展轨迹。刚才确实谈到了Blackwall比一月份说的几十亿美元要好,听起来公司要做的还不止这些。但我认为在最近几个月里,你也说过Blackwall在四季度会超过Hopper。所以我想我有两个问题要问,首先,四季度Blackwall将在与Hopper交叉,这种想法对吗?然后,科莱特,你提到Blackwall的毛利率会下降到 70%以下。所以我想,如果四季度是交叉期,那是不是毛利率压力最严重的时候?四月份毛利率就会降到 70%以下。我只是想知道你是否能为我们描述一下。谢谢。

科莱特-克雷斯,首席财务官:

当然,让我先回答你的问题,谢谢你关于我们毛利率的问题。我们讨论过我们的毛利率,因为我们在一开始就在提升Blackwall的性能,而且我们将向市场推出许多不同的配置、许多不同的芯片,我们将专注于确保我们的客户在安装时获得最佳体验。

我们的毛利率将开始增长,但我们相信在增长的第一阶段,毛利率将在70%左右。所以,你说得没错,在之后的几个季度里,我们将开始提高毛利率,我们希望能很快达到70%。

Jensen Huang,首席执行官:

Hopper的需求将持续到明年,肯定是明年的前几个季度。与此同时下一季度的出货量将超过本季度。我们下一季度的 Blackwells 出货量将超过第一季度。因此,从这个角度来看。我们正处于计算领域两个重大根本性转变的开端。第一个转变是从在 CPU 上运行的编码转向在 GPU 上运行的创建神经网络的机器学习。

目前,从编码到机器学习的根本性转变非常普遍。没有公司不进行机器学习。因此,机器学习也是生成式人工智能的基础。因此,一方面,正在发生的第一件事是,价值 1 万亿美元的计算系统和世界各地的数据中心正在为机器学习进行现代化改造。另一方面,我想,在这些系统的基础上,我们将创造出一种新型的人工智能能力。

当我们说“生成式人工智能”时,我们实质上是在说这些数据中心其实就是人工智能工厂。它们正在产生一些东西。就像我们生产电力一样,我们现在也要生产人工智能。如果客户数量庞大,就像电力消费者数量庞大一样,这些发电机将全天候运行。如今,许多人工智能服务都在全天候运行,就像人工智能工厂一样。因此,我们将看到这种新型系统的上线,我称其为人工智能工厂,因为这确实非常接近它的本质。它不同于过去的数据中心。因此,这两个基本趋势才刚刚开始。因此,我们预计这种增长--这种现代化和新产业的创建将持续数年。

Q4 美银证券 Vivek Arya:科莱特,我想问一下,你认为英伟达在25年下半年的毛利率能恢复到70%左右,这个假设合理吗?然后,我的主要问题是,从历史上看,当我们看到硬件部署周期时,不可避免地会包括一些消化过程。你认为我们什么时候会进入这个阶段,还是现在讨论这个问题还为时过早,因为Blackwells公司才刚刚起步?你认为需要多少个季度的出货量才能满足第一波的需求?到26年还能继续增长吗?我们应该如何做好准备,对吧,长期的、世俗的硬件部署的消化期?

科莱特-克雷斯,首席财务官:

让我澄清一下你关于毛利率的问题,明年下半年我们的毛利率能否达到 70%。我认为这是一个合理的假设,也是我们要做的一个目标,但我们得看看爬坡的混合情况如何,但是这绝对是有可能的。

Jensen Huang,首席执行官:

我认为,在我们将1万亿美元的数据中心现代化之前,是无法消化的。因此,纵观全球的数据中心,绝大多数都是在手工编写应用程序并在CPU上运行的时代建造的。现在这样做已经不合理了。如果每家公司的资本支出,如果他们准备在明天建立一个数据中心,他们就应该为未来的机器学习和生成式人工智能而建,对吗?

因为他们有很多老旧的数据中心。那么,在接下来的X年里会发生什么呢?让我们假设在4年里,随着我们在 IT 领域的发展,全世界的数据中心都将实现现代化。大家都知道,IT每年的增长速度大约为20%、30%。比方说,到2030年,全球用于计算的数据中心将达到几万亿美元。我们必须适应这种增长。从编码到机器学习,我们必须实现数据中心的现代化。这是第一点。第二部分是生成式人工智能。我们现在正在创造一种世界上从未有过的新型能力,一个世界上从未有过的新的细分市场。

如果你看看 OpenAI,它并没有取代任何东西。它是一种全新的东西。在很多方面,它就像 iPhone 诞生时一样,是完全崭新的。它并没有取代任何东西。因此,我们会看到越来越多这样的公司。他们将从自己的服务中创造和生成本质上的智能,其中一些将是数字艺术家智能。

有些是基础智能,如 OpenAI。有些是法律智能,如哈维数字营销智能,如作家等等。这些公司的数量数以百计,它们被称为人工智能原生公司,几乎每一个平台都在发生变化,否则,就像你记得的那样,以前有互联网公司,有云优先公司,有移动优先公司,现在它们都是人工智能原生公司。它们是移动为先的公司,而现在它们是人工智能原生公司。这些公司之所以诞生,是因为人们看到了平台的转变,看到了做全新事情的全新机会。

因此,我的感觉是,我们将继续建设现代化的信息技术,首先是现代化的计算,其次是创建人工智能工厂,打造人工智能生产的新产业。

Q5 Bernstein Research分析师Stacy Rasgon:澄清的问题是,当你说毛利率低至70%时,73.5%算不算低至 70%,你是否有其他想法?至于我的问题,你在指导总收入,所以我的意思是,下一季度数据中心的总收入一定会增长几十亿美元,但听起来Blackwells现在的增长应该不止于此。但你也说过Hopper依然强劲。那么Hopper下一季度是否会连续下滑?如果是,为什么?是因为供应紧张吗?中国市场一直很强劲,但进入第四季度后,中国市场会有所下滑。因此,如果您能告诉我们Blackwells的增长情况,以及Blackwells与Hopper在第四季度的表现,将非常有帮助。谢谢。

科莱特-克雷斯,首席财务官:

首先从你的第一个问题开始,关于我们的毛利率和定义的低点。当然,我们的毛利率会低于中位数,比如说我们的毛利率可能是71%,也可能是 72%,72.5%,我们会在这个范围内。我们也有可能比这更高。我们得看看结果如何。我们确实希望在今年余下的时间里,能确保我们的产量和产品都能不断提高,并持续改善,到那时我们将达到75%左右。

第二个问题是关于我们的Hopper,H200有了大幅增长,这不仅体现在订单方面,还体现在立项的速度方面。这是一款令人惊叹的产品,也是我们所见过的增长最快的产品。

我们将继续在本季度和第四季度销售 Hopper。这涉及到我们所有不同的配置,我们的配置包括我们在中国可能采取的措施。但请记住,人们同时也在寻求建立自己的 Blackwell。

因此,我们在第四季度可能会同时出现这两种情况。是的,Hopper是否有可能在第三季度和第四季度之间实现增长,这是可能的,但我们只能拭目以待。

Q6 摩根士丹利 约瑟夫-摩尔:我想请你谈谈你在推理市场上看到的情况。你已经谈到了草莓和更长扩展推理项目的一些影响。但你也谈到,随着一些 Hopper 集群的老化,你可能会使用一些 Hopper 潜在芯片进行推理。你是否预计推理将在未来12个月的时间内超过训练?

Jensen Huang,首席执行官:

我们的希望和梦想是,有一天,全世界都能进行大量的推理。到那时,人工智能才算真正成功了,对吗?到那时,每家公司的营销部门、预测部门、供应链部门、法律部门、工程部门,当然还有编码部门,都会在公司内部进行推理。我们希望每家公司都能全天候进行推理,将有一大批人工智能原生初创企业和成千上万家人工智能原生初创企业正在生成代币和人工智能,从使用Outlook到制作 PowerPoint,或者当你坐在那里使用 Excel 时,你的电脑体验的方方面面都在不断生成代币。

每次阅读 PDF、打开 PDF,都会生成一大堆token。我最喜欢的应用程序之一是 NotebookLM,谷歌推出的一款应用程序。我用得不亦乐乎,就是因为它很有趣,你知道的。我把每个 PDF 文件、每份存档文件都放进去,只是为了听一听,以及扫一扫。所以我认为,我们的目标就是训练这些模型,以便人们使用它。现在,人工智能进入了一个全新的时代,一个被称为物理人工智能的全新人工智能流派,这些大型语言模型能够理解人类的语言以及我们的思维过程。物理人工智能理解物理世界,它理解结构的含义,理解什么是合理的,什么是不合理的,什么可能发生,什么不会发生,它不仅理解,还能预测和推出一个短暂的未来。

这种能力对于工业人工智能和机器人技术来说,具有难以置信的价值。因此,许多人工智能原生公司、机器人公司和物理人工智能公司都因此火了起来,你可能也听说过这些公司。这也是我们建立 Omniverse 的真正原因。Omniverse可以让这些人工智能在Omniverse中创建和学习,并从合成数据生成和强化学习的物理反馈中学习,而不是从人类的反馈中学习。

为了具备这些能力,我们创建了Omniverse,以便实现物理人工智能。因此,我们的目标是生成token。我们的目标是推理,而且我们已经开始看到这种增长。所以我对此感到非常兴奋。现在让我再说一件事。推理超级难。推理之所以超难,是因为一方面你需要高精度,另一方面你需要高吞吐量。你需要高吞吐量,这样成本才能尽可能低,但你也需要低延迟。而既要有高吞吐量,又要有低延迟的计算机是非常难以制造的。这些应用具有较长的上下文长度,因为它们希望理解,希望能够在理解上下文的情况下进行推理。因此,上下文长度越来越大。

另一方面,模型越来越大,而且是多模态的。要知道,推理创新的维度之多令人难以置信。这种创新速度正是英伟达架构的伟大之处,因为我们的生态系统非常出色。每个人都知道,如果他们在英伟达架构的 CUDA 基础上进行创新,他们就能更快地实现创新,而且他们知道一切都应该是可行的。

如果有什么事情发生,很可能是他们的代码而不是我们的。因此,我们有能力同时在各个方向上进行创新,拥有庞大的安装基础,这样无论你创造了什么,都可以在英伟达电脑上实现,并广泛部署到全球的各个数据中心,一直到机器人系统的边缘,这种能力真的非常惊人。

Q7 富国银行分析师Aaron Rakers:我们关注数据中心业务的周期时,我想问你一个问题。当我看到上一季度的业绩时,科莱特,你提到网络业务显然连续下降了15%,但你的评论是,你看到了非常强劲的需求。

您还提到,在这些大规模集群方面,您赢得了多个云CSP的设计。因此,我很想知道,你是否能解释一下网络业务的发展情况,以及你在哪些方面看到了一些制约因素,还有你对 Spectrum-X 的发展速度是否有信心,达到你之前谈到的数十亿美元的规模。

科莱特-克雷斯,首席财务官:

首先从网络开始,同比增长是巨大的。自收购 Mellanox 以来,我们的工作重点一直是将我们在数据中心方面所做的工作结合在一起。网络是其中至关重要的一部分。我们将我们的网络与我们在数据中心所做的许多系统一起销售的能力正在持续增长,而且表现相当出色。

因此,本季度的业绩只是略有下滑,我们的增长势头会马上恢复。他们正在为Blackwells和越来越多的系统做好准备,这些系统不仅将使用我们现有的网络,还将使用我们提供给这些大型系统的网络。

Q8 花旗银行Atif Malik:我有两个问题想问科莱特。科莱特,在上次财报电话会议上,你提到主权需求是低两位数。你能提供这方面的最新情况吗?然后,你能解释一下游戏供应紧张的情况吗?这是因为你们正在将供应转向数据中心吗?

科莱特-克雷斯,首席财务官:

首先从主权人工智能开始,这是增长的一个重要部分,随着生成式人工智能的出现以及在全球各个国家建立模型,这一点已经真正浮出水面。我们看到了很多这样的公司,我们在今天的电话会议上也谈到了很多这样的公司,以及他们正在做的工作。因此,我们的“主权人工智能”Sovereign AI)和我们未来的管道仍然是绝对完整的,因为这些人正在努力用他们自己的语言、自己的文化来建立这些基础模型,并在这些国家的企业中开展工作。我认为,这将继续成为一个增长机会,你可能会看到我们的区域云正在存储和/或那些专注于主权人工智能许多部分的人工智能工厂。

不仅在欧洲,在亚太地区也有增长。让我来谈谈你提出的关于游戏的第二个问题。从供应方面来看,我们现在正忙于确保我们的所有不同产品都能正常生产。在这种情况下,我们的游戏机供应,从我们看到的销售情况来看,进展相当快。现在,我们面临的挑战是,如何才能在本季度快速向市场供应这些产品。不用担心,我认为在新的一年里,我们会有更多的供应商回归正轨。只是本季度的供应会比较紧张。

Q9 Melius Research分析师Ben Reitzes:本季度的连续增长非常强劲,你们的营收指引约为7%。你们对Blackwells的评论是否意味着,随着供应量的增加,我们的增长速度会重新加快?就在上半年,似乎会有一些追赶者。因此,我想知道您在这方面有多大的指导意义。

Jensen Huang,首席执行官:

我们一次指导一个季度。

科莱特-克雷斯,首席财务官:

目前,我们正在进行本季度的工作,并在Blackwells公司建立我们需要的运输体系。全球所有的供应商都与我们合作无间。一旦我们进入下一季度,我们将帮助大家了解下一个阶段和之后的产量增长情况。

Q10 New Street Research分析师Pierre Ferragu:你在评论中提到了预训练、实际语言模型和强化学习,强化学习在训练和推理中也变得越来越重要。然后还有推理本身。我想知道,你是否对整个人工智能生态系统有一种高层次的典型感觉,比如你的一个客户或一个大型模型。每一个计算单元的计算量是多少?今天有多少用于预训练,多少用于强化,多少用于推理?你是否知道计算量是如何分配的?

Jensen Huang,首席执行官:

如今,预训练基础模型的工作非常重要,因为大家都知道,后训练的新技术才刚刚上线。无论你在前期训练和后期训练中做了什么,你都会努力去做,以便尽可能降低每个人的推理成本。然而,你能优先做的事情有限。因此,你总得进行现场思考、情境思考和反思。因此,我认为,根据我们的情况,这三者的规模实际上是非常合理的。

在基础模型领域,我们现在有了多模态基础模型,而这些基础模型所要训练的视频量达到了令人难以置信的PB级。我的预期是,在可预见的未来,我们将不断扩大预训练和后训练的规模,以及推理时间的规模,这也是我认为我们需要越来越多计算的原因,我们必须尽可能地提高性能,每次提高X倍,这样我们才能继续降低成本,继续增加收入,推动人工智能革命。谢谢。

现在请黄仁勋生成致闭幕词。

Jensen Huang,首席执行官:

谢谢,英伟达公司业务的巨大增长得益于两个基本趋势,这两个趋势正在推动全球对英伟达计算的采用。首先,计算堆栈正在经历一场重塑,即从编码到机器学习的平台转变。从在 CPU上执行代码到在GPU上处理神经网络。传统数据中心基础设施的1万亿美元安装基础正在为软件 2.0 而重建,软件2.0将应用机器学习来产生人工智能。其次,人工智能时代正在全面到来。生成式人工智能不仅是一种新的软件能力,而且是一个由人工智能工厂制造数字智能的新产业,这是一场新的工业革命,可以创造数万亿美元的人工智能产业。对 Hopper 的需求和对 Blackwell 的期待(Blackwell现已全面投产)令人难以置信,原因有以下几点。现在的基础模型制造商比一年前更多,前期训练和后期训练的计算规模继续呈指数级增长。

人工智能原生初创企业比以往任何时候都要多,成功推理服务的数量也在不断上升。而随着ChatGPT o1、OpenAI o1 的推出,一种名为测试时间缩放的新缩放法则已经出现。所有这些都需要消耗大量计算。人工智能正在改变每个行业、公司和国家。企业正在采用代理人工智能来彻底改变工作流程。随着时间的推移,人工智能同事将协助员工更快更好地完成工作。由于物理人工智能的突破,对工业机器人的投资正在激增。

随着研究人员在兆字节的视频和全宇宙合成数据上训练世界基础模型,推动了新的训练基础设施需求。机器人时代即将到来。世界各国都认识到我们所看到的人工智能基本趋势,并已意识到发展本国人工智能基础设施的重要性。人工智能时代已经来临,而且规模庞大,种类繁多。英伟达的专业知识、规模以及提供全栈和全基础架构的能力,让我们能够服务于未来整个价值数万亿美元的人工智能和机器人机遇。

从每一个超大规模云、企业私有云到主权区域人工智能云、内部部署到工业边缘和机器人技术。感谢您参加今天的会议,下次再见。

 

 

- 点击下图报名参会 -

一线大咖教你寻找下一个“英伟达”

 

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
相关文章