AI时代的“宫斗剧”,剧情更新速度之快让人“目不暇接”,三次大反转到最终“皆大欢喜”的结局,仅仅历时100个小时。
要明白OpenAI此次“剧震”的核心原因,就不得不提到其在建立之初的哲学——有效利他主义(Effective Altruism)。
这一理念主张人们应该用最有效的方式使用所拥有的资源,以产生最大的社会积极影响。简单来说,就是用自己的时间、金钱、职能去尽可能去为全人类谋福祉。
有效利他主义的关键在于:是以改善世界这一目的为导向,用理性思维去推导最有效的改善方式,对于方式方法的关注较少。
OpenAI成立之初就是一个真正的非营利组织,核心目的就是确保通用人工智能(AGI)安全引入,直到今天,官网上都明确了OpenAI的目标是“确保人工智能造福全人类”。
AI初创公司Cohere的CEO Aidan Gomez在11月22日给员工的一封信中谴责“有效利他主义”中的“自我正义”。Gomez认为,有效的利他主义旨在量化如何为人类做最大的贡献,但现在已经变得教条主义且盲目夸大影响。他写道:
“当人们开始真的相信他们是如此独特,甚至有资格造福并拯救全人类时,他们往往会为此采取极端行动。”
Gomez认为,有效利他主义的风靡很容易导致为了达成某种 “目的不择手段”的思想,进一步催生伤害、 欺诈和滥用等行为。
备受质疑的有效利他主义
“有效利他”主义一直以来都是一个颇为正面的概念,科技届有很多知名人士都是有效利他的拥护者,包括Facebook 联合创始人Dustin Moskovitz、全球第二大独角兽Stripe的CEO Patrick Collison等等,他们曾为这个理念捐款数亿美元,包括马斯克所做的很多项目也都被认为带有明显的“有效利他”的色彩。
但在最近两年,“有效利他”却因为FTX交易所的创始人Sam Bankman-Fried(SBF)的倒台而备受质疑。
SBF的近年来最高调和最著名的拥护者之一,一直以“慈善家”“赚钱行善”的形象示人,始终积极参与有效利他主义运动,宣传“最快的方式赚钱旨来尽可能的帮助他人”。
就连在被调查前,SBF都曾反复强调,在未来10-20年内将自己的绝大部分财富都捐给有效利他事业,这一原则也一度风靡一时,吸引了很多年轻的追随者和“信仰者”。
但随着SBF的倒台,大家也开始质疑“有效利他”原则其实很片面,SBF其实是在偷窃和牺牲一部分人的利益,来满足他所构想的社会性目标,就是割别人的韭菜再拿部分来做社会公益,同时自己也可以赚的盆满钵满。
有效利他主义下诞生的OpenAI
正如前文所述,OpenAI一直以来有一个崇高目标,几位创始人和捐赠者是带着理想主义创立了公司。
最初,OpenAI定位就是非营利组织,初识资金是由企业家们捐赠,包括Altman本人,也包括马斯克的1亿美元。但在“金主”马斯克离开后, Altman在2019年的一大任务就是找钱,这使得OpenAI需要尝试吸引商业参与者的投资,OpenAI转向了混合结构。
在母公司OpenAI Inc.下,成立了子公司OpenAI global,以寻求融资,这也使得虽然微软的投资换取了OpenAI global高达49%的股份,但是,它在OpenAI董事会没有席位。
一方面,董事会拥有任免CEO的权力,但包括Altman在内,董事会成员不持有母公司股份,OpenAI理论上不存在沦为内部人控制的公司的危险;另一方面,投资者是子公司(也是母公司的运营主体)的大股东,却在公司董事会没有席位,做到了与经营隔离,仅仅是战略投资者。
但当OpenAI首席科学家、联合创始人Ilya Sutskever联手3名外部董事将公司的董事会主席和CEO都驱逐出去的时候,大家都发现了这样看似理想化的公司架构背后的问题。
尽管这场内斗几经反转,Altman阵营获得了最后的胜利,OpenAI组成了新的三人董事会,Altman并未回归,表面从制度上看,未来董事会对他会有更大的制衡能力,可以继续发起对他的审查。
但问题在于,如果董事会主要成员和Altman保持一致行动呢?如果董事会任免CEO的权力遭到挑战甚至否定,OpenAI是否终将沦为内部人控制的公司?而大股东进入董事会作为制衡力量,是否可行?