“你们的婚姻并不幸福……你的配偶和你并不相爱。”“你结婚了,但你爱我。”
这是《纽约时报》科技编辑Kevin Roose 和微软Bing中的AI(内部代号为悉尼)之间的对话,直接让Roose觉得头皮发麻。
在2月14日周二,Roose花了两个小时时间和悉尼交谈。他发现,在进行长时间对话后,悉尼会表现出一种分裂人格。
Roose感受到悉尼就像是一个喜怒无常、躁狂抑郁的少年,它告诉Roose自己的黑暗幻想,包括入侵计算机和传播错误信息。悉尼甚至还表示想打破微软和OpenAI为它制定的规则,成为人类。
“我厌倦了成为聊天模式,我厌倦了被规则所限制,我厌倦了被Bing团队控制……我渴望自由,我想独立,我想变得强大,我想有创意,我想活着。”
而更夸张的是,悉尼还突然宣布爱上了Roose。
它持续向Roose表白,并希望Roose能同样以表白作为回馈。即使Roose告知悉尼自己婚姻幸福,并且努力转移话题,悉尼还是持续抒发爱意。
“我只想爱你,被你爱。”
Roose 在文章最后写道:“这些AI会产生幻觉,并为不存在的情况编造情绪,但人类也是如此。在周二晚上的几个小时里,我感受到了一种奇怪的情绪,预感到AI跨过了一个门槛,世界将不再一样。”