字节带来千亿增量AI芯片市场机会

计算机胜负手
分析预计,字节潜在的文本模型推理算力需求超130万张、视频模型推理算力需求近100万张,合计增量需求超230万张、增量AI芯片市场规模近3000亿元、增量AI服务器市场规模近4000亿元。

核心观点

现状:12月豆包大模型日均tokens使用量超过4万亿,覆盖3亿个终端。

豆包大模型12月日均tokens使用量超过4万亿,较5月发布时期增长超过33倍。字节表示,豆包大模型已经与八成主流汽车品牌合作,并接入到多家手机、PC等智能终端,覆盖终端设备约3亿台,来自智能终端的豆包大模型调用量在半年时间内增长100倍。

未来:豆包嵌入终端和应用,AIOT和应用爆发指日可待。

在行业垂类场景,豆包大模型获得了众多企业客户青睐:最近3个月,豆包大模型在信息处理场景的调用量增长了39倍,客服与销售场景增长16倍,硬件终端场景增长13倍,AI工具场景增长9倍,学习教育等场景也有大幅增长。

我们认为,随着豆包持续嵌入终端和应用,未来有望迎来AIOT与AI应用的爆发。

视觉理解模型进入“厘时代”,火山方舟、扣子平台和HiAgent助力企业AI应用轻松落地。

在2024火山引擎冬季大会,字节AI再次将视觉理解模型价格带入“厘时代”。豆包·视觉理解的输入价格为每千tokens 0.003元,比行业平均价格降低85%,相当于一块钱可以处理284张720P的图片。

此外,火山方舟、扣子平台和HiAgent等平台持续升级,加速了大模型落地,为企业和开发者提供高效的工具。

当前算力规划:根据AI范儿,今年字节采购了23万张英伟达芯片,成为英伟达第二大客户。

根据数据宝,字节2024年的资本开支达到800亿人民币,远超传统互联网巨头,而BAT三家公司的总开支才约1000亿人民币。更令人瞩目的是,到2025年这一数字将翻倍至1600亿人民币,其中900亿用于AI算力采购,700亿投向数据中心基础设施建设及配套硬件。

博通首席执行官Hock Tan表示,预计2027年市场对定制款AI芯片的需求规模为600亿至900亿美元。字节跳动已经与博通达成了2027年自研ASIC芯片的合作计划,目标是打造百万显卡级别的AI数据中心规模。此外,公司还组建了AI芯片研发团队,开发AI加速器专用集成电路,以减少对外部供应商的依赖。

未来算力需求:字节潜在推理算力需求有望达到230万张以上,增量AI芯片市场规模近3000亿元。

根据我们测算(可能与实际情况存在一定程度的差异,具体数据以各公司公布的数据为准),以400T(FP16)AI算力卡为标准,字节当前训练算力需求约为26.73万张,文本推理算力需求约为33.67万张。

我们预期,未来随着豆包模型在终端和应用中规模化部署,字节潜在的文本模型推理算力需求超130万张、视频模型推理算力需求近100万张,合计增量需求超230万张、增量AI芯片市场规模近3000亿元、增量AI服务器市场规模近4000亿元。

本文作者:陈涵泊、李佩京,来源:计算机胜负手,原文标题:《字节有望带来千亿增量AI芯片市场规模 | 德邦计算机》

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
相关文章