新科诺奖得主、“AI教父”Hinton:我的学生解雇了Altman,我为他自豪!

Hinton认为,Altman更关心利润,而不是安全,AI技术如果不加以控制可能会带来灾难性的后果。马斯克此前也表示,不希望世界上最强大的AI被不值得信赖的人控制。

周三,2024诺贝尔物理学奖获得者、“AI教父”Geoffrey Hinton在获奖后接受多伦多大学校长Meric Gertler采访时表示,他非常自豪自己的一个学生解雇了OpenAI的首席执行官Sam Altman。

“我非常幸运,有很多非常聪明的学生,他们比我优秀得多。他们后来都做了伟大的事情。我特别为我的一个学生解雇了Sam Altman而感到自豪。”

近年来,Hinton一直在警告,如果不加以控制,他参与创建的AI系统可能会带来灾难性的后果。

事实上,不止是Hinton,越来越的人也开始表达对Altman行为的不满。近日,马斯克也表示,他“不希望世界上最强大的AI被不值得信赖的人控制。

Hinton:Altman更关心利润,而不是安全

昨日,Hinton和John Joseph Hopfield一同获得了2024年度诺贝尔物理学奖。以表彰他们利用人工神经网络实现机器学习的基础性发现和发明

Hinton也被广泛称作神经网络之父“AI教父,是人工智能和深度学习领域的领军人物之一,他的学生和后辈遍布现在整个AI学术界和工业界。

其中,最广为人知的学生之一是前OpenAI联合创始人兼首席科学家Ilya Sutskever,他于去年11月领导公司董事会解雇了Altman,但随后又迅速重新聘用Altman成为公司CEO。Hinton表示:

“我的学生之一,Ilya Sutskever曾是OpenAI的首席科学家。随着时间的推移,事实证明,Altman更关心利润,而不是安全。”

Sutskever于5月离开OpenAI,并于6月宣布创办了的新公司Safe Superintelligence Inc,称公司只专注于一个目标:通过革命性突破实现安全超级智能,这与OpenAI的初衷不谋而合。

Hinton曾在谷歌工作了近10年的时间,担任副总裁兼工程研究员职务,帮助谷歌在图像识别、语音识别等人工智能领域取得重大进展。2023年,他辞去了这一职务,并签署了多封公开信,警告人工智能及其不受约束的发展所带来的毁灭性风险

Hinton表示,Altman对AI安全的关注要比利润的关注小得多。本月3日,OpenAI发表声明称,已经完成66亿美元的新一轮融资。4日,OpenAI又拿到40亿美元信用额度,公司流动资金超百亿美元。Altman曾警告投资者不准支持马斯克的xAI等劲敌。

马斯克:不希望世界上最强大的AI被不值得信赖的人控制

事实上,不止是Hinton,越来越多的人开始表达对Altman的不满。

近日,马斯克在接受媒体人Tucker Carlson采访时表示,他不信任OpenAI或Sam Altman,他不希望世界上最强大的AI被不值得信赖的人控制。

“OpenAI原本是一个开源公司,但现在不是了,并且正在实现利润最大化。

显然Sam Altman会得到100亿美元股票或类似的东西,所以我不信任他,我认为我们不想让世界上最强大的AI被一个不值得信任的人控制。”

华尔街见闻此前提及,一位知情人士向媒体透露,OpenAI在上周四举行了一次全体员工会议,会上董事会决定考虑将公司重组为营利性企业。若该转变发生,非营利部门将继续作为独立实体存在。

在会议上,Altman否认了有关他将获得“大量股权”的报道,称这些信息“完全不真实”。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。