作者：李笑寅
来源：硬AI
成本高企，正在成为AI企业们的“头号焦虑”。
近日，花旗银行的分析师Yitchuin Wong等参加了在奥兰多举行的Gartner数据分析峰会。在会后总结报告中，花旗指出，AI目前仍面临诸多挑战，尤其是在成本高昂的情况下，很多企业客户开始重新关注ROI（投资回报率）。
为什么会成本高昂？这就不得不谈到“AI芯片之王”——英伟达。
伴随AI技术蓬勃发展，英伟达生产的图形处理器（GPU）能够满足AI训练的庞大算力需求，在市场上长期“供不应求”，芯片售价随之激增，一再将公司股价推至历史新高。
疯狂押注“AI信仰”的交易行为也让英伟达的上游硬件供应商受益其中。据媒体报道，英伟达的主要硬件供应商之一、高带宽内存芯片制造商美光科技到2025年的产品均已售罄。
在接受媒体采访的过程中，美光直言：
“我在历史上从未见过内存提前18个月分配的情况。这完全是由英伟达和这场AI游戏中的许多其他公司共同推动的。”
成本高企导致下游应用落地不佳
此前华尔街见闻提及，一块H100 GPU的价格在2022年就已经超过了3万美元。到去年，Ebay网站上每块H100的售价已经飙涨至4万美元上方，其平均售价是AMD竞争产品MI300X的四倍之多。
而对GPU的部署还远未结束。扎克伯格曾在今年表示，Meta今年将大规模投资GPU，其中包括高达35万块英伟达“Hopper”H100以及其他设备，到年底达到“相当于近60万个H100的计算能力”。
一边是技术发展带来的持续“缺芯”，另一边是居高不下的GPU售价。企业们不得不开始思考AI商业化变现的能力，接下来对GPU的市场需求还能继续强劲吗？
花旗称，对于生成式AI的热情正在冷却，大规模项目落地还“为时尚早”。
报告表示，尽管生成式AI依然是大多数参会管理层关注的焦点，但实际的项目规模和使用案例还比较小（比如文本/图像生成）而不是大规模的转型变革。
据媒体报道，亚马逊网络服务和其他生成人工智能提供商们已经降低了销售预期，OpenAI的主要竞争对手之一Cohere的去年营收实际上也微乎其微，该公司表示，在寻求融资的过程中，客户对成本持谨慎态度，并正在衡量该技术的功能性。
花旗提及，据信息技术研究和咨询公司Gartner预计，将有约三分之一的项目会因为过早推出POC（Proof Of Concept，概念验证）而失败。
美光科技的高管Narasimhan以及IBM半导体研究部门总经理Mukesh Khare均表示，AI的成本远远超过传统计算的成本，只有成本先降下来，才能对吸引更多企业客户。
美光科技表示：
“目前，涉及大语言模型的成本相当高，对于大型企业来说或许可接受，但对于大众而言则不然。”
“坦率地说，今天我认为投资正在变得……我不想用炒作这个词……有太多人对此感到兴奋，如果你有预算，你那么你可能会优先考虑投资在生成式AI服务器上，而不是其他任何领域。”
对于“成本何时能下降”的问题，美光认为这“是一个价值十亿美元的问题”，但“它会下降，这是不可避免的竞争”。
另外，花旗还指出，企业客户对于数据治理的担忧也在增加。为了提升数据和AI素养，数据治理和质量将成为企业持续投资的更优先事项。
本文来自微信公众号“硬AI”，关注更多AI前沿资讯请移步这里
