核心观点
现状:12月豆包大模型日均tokens使用量超过4万亿,覆盖3亿个终端。
豆包大模型12月日均tokens使用量超过4万亿,较5月发布时期增长超过33倍。字节表示,豆包大模型已经与八成主流汽车品牌合作,并接入到多家手机、PC等智能终端,覆盖终端设备约3亿台,来自智能终端的豆包大模型调用量在半年时间内增长100倍。
未来:豆包嵌入终端和应用,AIOT和应用爆发指日可待。
在行业垂类场景,豆包大模型获得了众多企业客户青睐:最近3个月,豆包大模型在信息处理场景的调用量增长了39倍,客服与销售场景增长16倍,硬件终端场景增长13倍,AI工具场景增长9倍,学习教育等场景也有大幅增长。
我们认为,随着豆包持续嵌入终端和应用,未来有望迎来AIOT与AI应用的爆发。
视觉理解模型进入“厘时代”,火山方舟、扣子平台和HiAgent助力企业AI应用轻松落地。
在2024火山引擎冬季大会,字节AI再次将视觉理解模型价格带入“厘时代”。豆包·视觉理解的输入价格为每千tokens 0.003元,比行业平均价格降低85%,相当于一块钱可以处理284张720P的图片。
此外,火山方舟、扣子平台和HiAgent等平台持续升级,加速了大模型落地,为企业和开发者提供高效的工具。
当前算力规划:根据AI范儿,今年字节采购了23万张英伟达芯片,成为英伟达第二大客户。
根据数据宝,字节2024年的资本开支达到800亿人民币,远超传统互联网巨头,而BAT三家公司的总开支才约1000亿人民币。更令人瞩目的是,到2025年这一数字将翻倍至1600亿人民币,其中900亿用于AI算力采购,700亿投向数据中心基础设施建设及配套硬件。
博通首席执行官Hock Tan表示,预计2027年市场对定制款AI芯片的需求规模为600亿至900亿美元。字节跳动已经与博通达成了2027年自研ASIC芯片的合作计划,目标是打造百万显卡级别的AI数据中心规模。此外,公司还组建了AI芯片研发团队,开发AI加速器专用集成电路,以减少对外部供应商的依赖。
未来算力需求:字节潜在推理算力需求有望达到230万张以上,增量AI芯片市场规模近3000亿元。
根据我们测算(可能与实际情况存在一定程度的差异,具体数据以各公司公布的数据为准),以400T(FP16)AI算力卡为标准,字节当前训练算力需求约为26.73万张,文本推理算力需求约为33.67万张。
我们预期,未来随着豆包模型在终端和应用中规模化部署,字节潜在的文本模型推理算力需求超130万张、视频模型推理算力需求近100万张,合计增量需求超230万张、增量AI芯片市场规模近3000亿元、增量AI服务器市场规模近4000亿元。
本文作者:陈涵泊、李佩京,来源:计算机胜负手,原文标题:《字节有望带来千亿增量AI芯片市场规模 | 德邦计算机》