一个Anthropic顶级研究员,宁愿放弃高薪,甚至连公司上市之后可能赚到的巨款都不要了,也要辞职。
更反常的是,原本打得最凶的几个人,也开始喊停了。
Anthropic CEO达里奥说:AI需要放慢。
马斯克立刻转发:“Dario is right.”
OpenAI的奥特曼甚至说:如果安全问题解决不了,OpenAI可以暂停训练。
第三方进驻审计、公司之间协调降速,必要时直接暂停训练。
为什么突然这么紧张?
因为他们已经开始担心,AI会不会开始复制自己、入侵其他系统?甚至有一天,操控生物实验室?
他们到底看到了什么?