ARK在其《2024 Big Ideas》报告里提到:
训练成本的持续降低:根据赖特定律,加速计算硬件的改进预计每年将降低人工智能相关计算单元(RCU)的生产成本53%,而算法模型的增强可能进一步每年降低训练成本47%。这意味着硬件和软件的结合可能会使AI训练成本以每年75%的速度下降。
推理成本的下降:随着生产用例的出现,研究人员现在将重点转移到推理成本上。基于企业规模的用例,推理成本似乎正在以约每年86%的速度下降,甚至超过了训练成本。目前,与一年前的GPT-3相比,GPT-4 Turbo的推理成本更低。