正文
A100缺货潮持续发酵,算力供应方开始涨价或断供。
自阿里云官网不再展示A100云服务器的租赁方案后,市场开始密切关注算力供给侧的动向。中贝通信今日公告的算力租赁订单价格达18万元/P·年,相较于9月公示的订单上涨50%;并济科技(汇纳科技合作方)日前公告将A100租赁费用提升一倍;火山引擎、腾讯云、微软Azure的A100租赁零售价相对之前的市场平均价均有不同程度提升;青云科技等算力租赁企业均表示算力供应较为紧张,会考虑涨价。我们认为,在芯片进口有所限制、AI应用加速迭代的前提下,此次算力集体提价并非短期波动,而是在开启中长期的涨价潮。
“风浪越大,鱼越贵”,算力涨价是供应趋于紧张+需求不断上行的直接结果,而背后反映的是AI大趋势从未改变。
市场此前存在疑虑,AI行情可能会在一两年时间内结束,我们认为,全球云厂商正不断加码AI,算力板块带来的业绩拉动将逐季体现;算力市场愈加精细化,以提高硬件利用率,新兴的技术服务和商业模式日新月异,算力“黑马”品种有望涌现。
OpenAI新品发布后频发宕机,证明算力需求远未见顶。
OpenAI开发者大会结束后不久,由于访问量远超预期,ChatGPT和API服务经历了将近2小时的故障,OpenAI的最大竞争对手Anthropic也遇到了服务器无法响应的问题,算力紧缺和服务器稳定性的挑战可见一斑。我们认为,搭建高速光通信网络,通过超高速率芯片&内存互联,允许万卡集群跨GPU数据高速无损交换,仍是充分发挥算力集群性能的核心。
算力后周期加速崛起,“卖铲人”畅享科技红利。
云化、调优、调度是将纸面算力变为可用算力的先期步骤,云化使算力变成用户可以便捷调用的“数字能源”,调优则是从通信和模型层面压榨GPU利用率,实现算力降本增效的必经之路。调度是将全国乃至全球的算力资源统筹分配,实现成本优化、入网即有算力的核心环节。我们认为,由于大模型训练时的主要壁垒依然是数据并行下的通信瓶颈和长期积累的AI大工程经验,这三个涉及显卡数据交换与流通的环节的竞争壁垒将不断提高,其发挥的价值也将持续显现——OpenAI单位token成本降低,或因OpenAI解决了此前算力利用率低、GPU平均故障时间较长的问题,算力调优从降本维度加速了AI飞轮的旋转。
本文作者:宋嘉吉,来源:吉时通信,原文标题:《国盛通信|算力涨价潮即将开启》
宋嘉吉 S0680519010002