Anthropic呼吁全球暂缓前沿AI研发

Anthropic公司呼吁各大顶尖人工智能实验室考虑放缓研发步伐，并指出AI系统的演进速度极快，可能很快就能在无需人类干预的情况下实现自我改进，而这种能力恐将引发重大的社会风险。

Anthropic在一篇博客文章中披露了内部数据，详实记录了其最先进的模型正以何等惊人的速度实现性能提升。文章指出，AI模型的进步似乎正朝着“递归式自我改进”的方向迈进，即AI系统能够在无需人类干预的情况下实现自主优化。

文章称：“我们认为，如果世界可以选择放缓或暂时中止前沿人工智能的研发，以使社会结构和相关研究能够跟上技术发展的步伐，这对世界是有益的。”文章提议达成一项全球协议，明确如何可能放缓人工智能的研发速度，并建立一种机制来验证竞争对手是否遵守该协议。