火山引擎谭待：大模型的超低定价，来自对技术的信心

“降价的基本逻辑是，我们有信心用技术手段降低成本，市场也需要更低价的大模型。”5月15日，字节跳动豆包大模型正式发布，火山引擎总裁谭待谈到大模型定价策略时表示，降价是用技术优化成本来实现的。如果只是补贴，用亏损换收入是不可持续的，火山引擎不会走这条路。

对于“大模型开始价格战”的说法，谭待认为，大模型市场仍在发展初期，远远没到激烈竞争的阶段。“池塘有多大，鱼就有多大，现在整个池塘还在培养的过程。”（全天候科技）

据介绍，大模型推理成本的优化，技术上有很多手段。首先是模型本身，模型结构、训练方法都可以持续改进，其次是工程上的优化。大模型的调用量越大，优化推理成本的空间也越大。谭待进一步解释说，豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片，这里有不同的负载，可以把不同任务混合在一起，互相错峰，通过智能调度把它们的利用率都跑得很高，就能极大地提升资源利用率，实现整体成本的优化。