一个大模型，未来可能配一颗专属芯片

美国知名风险投资人Martin Casado表示，前沿大模型的训练成本已经高达30亿到50亿美元，推理阶段可能需要创造约100亿美元收入才能收回投入。在这种规模下，只要专属芯片把推理成本降低20%，就能省下20亿美元，足以覆盖一颗定制ASIC的研发费用。再加上模型权重相对固定，芯片可以围绕单个模型深度优化，未来甚至可能出现“一个大模型配一颗专属芯片”的格局。