马斯克带头签署了一封由一个名为“未来生命研究所”公布的公开信,信中呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。如果不能迅速实施这种暂停,政府应介入并实行暂停。
公开信强调,广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险,高级AI可能代表地球生命史上的深刻变化,应该以相应的关照和资源进行规划和管理。不幸的是,这种级别的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至他们的创造者——能理解、预测或可靠地控制。
公开信中的问题,在30年前AI道路开始被确认时,就已经存在,只不过从未像现在这样紧迫。
如果了解目前AI路径的来龙去脉,就会知道为什么马斯克乃至整个美国,对如今AI技术的进步,为什么不是兴奋而是恐惧。