一位Anthropic安全研究员表示，人工智能（AI）“杀死全人类”的概率超过10%。几小时前，另一位员工因担忧AI实验室正在“拿我们的生命赌博”而宣布辞职。Anthropic研究员Jacob Coxon说，他已从公司辞职，Anthropic和OpenAI均未负责任地行事。“他们正直奔自我进化的超级智能而去，拿我们的生命做赌注，”Coxon在X平台上发帖称。
这些言论凸显了AI核心开发者日益增长的担忧：即便Anthropic和OpenAI继续筹集巨额资金并朝着预期的上市目标迈进，这项技术仍可能失控并对人类构成威胁。
自我进化（Self-improvement）是指AI系统能够在很少人类干预的情况下自我提升的理念。这种通常被称为“递归自我进化”（Recursive self-improvement）的能力目前尚未实现，但AI实验室正致力于实现这一目标。
“不要低估这项技术的力量。它们很快将成为超人系统，能够入侵任何东西，一夜之间彻底改变任何领域，并获得真正的权力和资源。我们已经见证了这些领域的进展，而且进展并未放缓，”Coxon说。