【深度】OpenAI动荡的五天:利益战胜了理想

界面新闻记者|彭欣

就在奥特曼在拉斯维加斯参加上周末的——F1比赛时,他收到了一个谷歌会议链接。

在点击这个链接之前,奥特曼就像摇滚明星一样被世界所关注。一年前,在他的公司OpenAI发布ChatGPT,彻底敲开AI时代的大门之后,奥特曼就一直出现在公众面前——召开发布会,开启公司宏大的商业化进程;会见各国政要,确定全球AI政策议程;他还将敲定一笔融资,OpenAI的估值将达到860亿美元,是今年早些时候的近3倍。

回到酒店,他参加了会议,发现公司的董事会成员都在盯着他。不幸的是,他最亲密的盟友OpenAI的董事长兼首席技术官格雷格·布罗克曼(Greg Brockman)没有出席。OpenAI董事会成员兼首席科学家伊利亚·苏茨基弗(Ilya Sutskever)告诉奥特曼,他被解雇了,这个消息很快就传开了,没有解释奥特曼为什么被解雇。

然后,是震惊世界的公告。

OpenAI在官网公告中表示,这符合公司清除奥特曼的使命。这是董事会经过仔细研究后得出的结论。奥特曼在与董事会沟通中的“不忠”阻碍了董事会履行职责的能力,因此董事会对他继续领导OpenAI的能力不再有信心。同时,布罗克曼被董事会除名,但继续担任公司职务。

消息公布后,目瞪口呆的布罗克曼愤怒地宣布辞职。他在社交媒体上说,“我很自豪,我八年前从我的公寓开始了这项业务(OpenAI)。我们一起经历了低谷和高光,克服了很多困难,但得知今天的消息后,我退出了。”

OpenAI最初的董事会成员包括altman、Brockman、Ilya和Quora的and Adam D & apos安吉洛,塔莎·麦考利和海伦·托勒。在罢免奥特曼的行动中,有四名董事支持这一决定。

在OpenAI的故事开始时,参与者们曾期望实现一个宏伟的蓝图来实现他们的野心,但8年后,最新的一幕却是一场令人惊讶的风暴。它不是“茶杯里的风暴”,而是影响着人工智能世界的未来。

五天后,风暴暂时平息。11月22日,OpenAI表示,奥特曼在被董事会解雇几天后将再次担任公司首席执行官,他将由布雷特·泰勒、拉里·萨默斯和亚当·D & apos;安吉洛),泰勒将是董事会主席。

新的董事会接管了公司,其中布雷特·泰勒是脸书的首席技术官。他还曾担任全球知名的SaaS公司Salesforce的首席执行官,以及Twitter的董事长。拉里·萨默斯是著名的经济学家,曾担任美国前财政部长。亚当·迪安杰洛(Adam Di ‘Angelo)是OpenAI的董事会成员,事发前是Quora的首席执行官。OpenAI还表示,各方都在努力“共同努力澄清细节”。五天前参与罢免奥特曼的四名董事会成员中,有三人不会成为最初的董事会成员。

“如果你看看现在这个董事会的构成,应该说这是各方的最大公约数,也是结束这场‘政变’的最大公约数。一位关注此事的科技行业观察人士表示,台面上的冲突暂时告一段落,但未来的博弈仍未结束。舞台会转到公司内部。奥特曼仍然没有董事会,OpenAI的最大投资者微软也没有出席。就连几天前选择支持解雇奥特曼的亚当·迪安杰洛(Adam Di Angelo)也仍在新董事会成员名单中。这家科技公司的未来还不确定。

坚持将奥特曼清洗出公司的OpenAI首席科学家伊利亚现在处境微妙。在这一事件中,他的态度发生了急剧的转变。“我从来没有故意伤害过OpenAI。我热爱我们共同创造的一切,我会尽力让公司重新团结起来。”他在社交媒体上表示,并签署了一封由700多名OpenAI员工签名的公开信,指责前董事会无力监管OpenAI,要求其辞职。

被激怒的OpenAI投资者也向原董事会施压,要求召回奥特曼担任公司首席执行官。包括微软和Thrive Capital在内的OpenAI投资者都在积极匹配奥特曼。微软甚至表示,如果奥特曼不能回归,他将加入微软,领导一个新的高级AI研究团队,并欢迎OpenAI的前员工加入。

董事会联合罢免管理层,却遭到大部分股东和员工的集体反对,导致公司陷入僵局,这是商业史上罕见的一幕。一个又一个事件的发展,彻底将OpenAI内部隐藏的矛盾踢了出来,业界一片哗然。

奥特曼责怪自己没有更好地控制董事会。他认为董事会被一些过于关注AI安全的人接管,受到“有效利他主义”的影响。这些害怕失控的AI可能对人类生存造成威胁的董事会成员,并不是特别关心公司的未来。

自2015年成立以来,陷入了罢免创始人的风波。OpenAI呈现了一个理想主义公司在人工智能加速时代的坎坷命运。

OpenAI的成立,本来就是多方共识的结果。

奥特曼、埃隆·马斯克、LinkedIn创始人里德·霍夫曼等科技领军人物在2015年底成立了OpenAI。OpenAI承诺投资10亿美元,旨在开发“通用人工智能(AGI)”技术,希望实现这一目标,造福人类,并开放所有专利和研究成果。

在从0到1的发展过程中,OpenAI进展缓慢,烧钱。早期的目标是让AI能够掌握一款叫做刀塔2的电子竞技游戏,因为他们发现最有前景的技术路线需要海量的数据和大量的计算资源,需要大量的资金来运营。当时,仍在创业加速器YC公司工作的奥特曼发挥了重要作用。

2019年初,奥特曼辞去了YC总裁的职务,接管了已经运行了四年的OpenAI。他在OpenAI做的第一件事就是成立一家盈利公司,然后自己担任CEO寻找融资。

奥特曼没有要OpenAI的股份。在最新一轮的内部冲突让奥特曼处于劣势之前,他在OpenAI的地位与他的创始人身份和他与硅谷的深厚关系有关。

这期间,奥特曼和马斯克之间出现了裂痕。随着特斯拉销量激增和人工智能研究投资增加,马斯克退出了OpenAI董事会,称双方存在“利益冲突”。

OpenAI的潜力迎来了微软的关注。2019年7月,微软宣布向OpenAI投资10亿美元。奥特曼在随后的一次活动中透露,微软投资的10亿美元是现金,而不仅仅是OpenAI使用微软Azure云计算服务的使用配额。后来,微软可能对OpenAI投资超过130亿美元,成为OpenAI的最大投资者。

即使投入如此巨大,微软在未来OpenAI的公司治理上也没有足够的话语权。一方面,OpenAI制定了复杂的财务设计,以确保非营利的初衷:董事会下设非营利组织OpenAI非营利,全资拥有一家“有限盈利公司”,有权控制和管理营利性子公司。

此外,投资者最多只能获得初始投资本金100倍的回报。OpenAI不向投资者分配股权,而是分配不涉及所有权的未来利润。微软只是这个“有限利润公司”的小股东,没有决策权。

简单来说,一个非盈利的董事会控制着OpenAI的运营,可以改变其领导层。

后来连奥特曼自己也承认这个结构很奇怪(这可能也是马斯克退出的原因之一)。当OpenAI进行最新一轮融资时,一些潜在投资者被其复杂的结构吓跑了,后来导致奥特曼临时下台。

当初赶走奥特曼的OpenAI的董事会,在过去的一年里也不稳定。它失去了三名董事会成员,其中最引人注目的是里德·霍夫曼。在里德·霍夫曼(reid hoffman)将其创立的职场社交平台LinkedIn出售给微软后,他一直是创建OpenAI盈利子公司计划的主要支持者。其他离开OpenAI的董事会成员包括脑机接口公司Neuralink的高管Shivon Zilis和德克萨斯州前众议员Will Hurd。

人们认为,过去一年OpenAI董事会的变化使该组织转向了学术界和外部人士。“他们对奥特曼和他的愿景的忠诚度并没有那么高。”华尔街日报说。

特殊的非营利目标和“奇怪”的企业架构设计,让OpenAI有了崇高的使命感,获得了独立发展空。但这种结构极不稳定,也为矛盾埋下了种子。在这个公司越来越感兴趣,要求越来越高的过程中,一旦环境发生变化,暂时的稳定就会被打破,局面变得不可控。

OpenAI的特殊性在于其董事会不需要对投资人负责,而董事会成员更关心的是公司的使命、愿景和价值观是否实现。这也是为什么前任董事会一再坚持要解雇奥特曼的原因,因为奥特曼失去了董事会的信任,那就是他没有带领OpenAI去构建造福人类的通用人工智能。

前董事会随后向OpenAI员工解释,这是一个治理问题,是董事会如何履行职责、推动OpenAI使命的核心问题。他们的目的很明确:取代奥特曼。

在这次政变式的公司动荡之前,OpenAI内部存在严重的不和。

2021年,当达里奥·阿莫代伊(Dario Amodei)和丹妮拉·阿莫代伊(Daniela Amodei)等OpenAI的前员工越来越担心公司会变得过于商业化,并在安全问题上与OpenAI的管理层发生冲突时,他们选择离开,成立了竞争对手公司Anthropic。

Anthropic的几位联合创始人在OpenAI中看到,只要为AI模型提供更多的数据和计算能力,模型就可以变得更智能,而无需对模型的底层架构做出重大改变。这让他们担心当模型越做越大的时候,会触碰到危险的临界点。

用奥特曼的话来说,达里奥·阿莫代伊(Dario Amodei)等人离开企业的一个最大动机是,如何获得安全的生成式人工智能与OpenAI不同。分歧主要发生在2019年OpenAI获得微软投资之后,商业化进度之快超出了Anthropic创始团队的预期。

“作为OpenAI的安全团队,我们关注的是在训练大规模语言模型和生成模型时,把安全放在最前面。”丹妮拉·阿莫代伊说。为了确保其理想主义的研究,Anthropic被注册为具有特殊治理结构的公益公司,这使其免受市场压力。

目前,Anthropic被广泛认为是OpenAI的“最强对手”,他们也被认为是人工智能行业早期理想的体现。

相比之下,从这场“政变”的具体操作来看,OpenAI和奥特曼的董事会似乎已经冲进了风暴。

多年来,在硅谷,人工智能研究人员和活动家圈子一直在警告人工智能系统变得过于强大,失控的人工智能可能会对人类的生存构成威胁。

通用人工智能的发展逐渐加快。2015年,有业内专家指出,担心AI对人类的威胁就像“担心火星上人口过剩”。八年后,这一威胁确实变得更加明显。

这使得人工智能末日论者和有效利他主义者逐渐走向主流,他们公开呼吁警告监管者认真对待人工智能安全。受这些想法影响的人包括OpenAI的一些前董事会成员,直到上周五,他们扳倒了世界顶级人工智能公司的首席执行官。

导致原董事会决定罢免奥特曼的并不是某个具体事件,而是久而久之的信任丧失,让他们越来越感到不安。此外,奥特曼越来越多的AI相关外部投资项目也让事情变得更加复杂,这让董事会质疑OpenAI是如何使用自己的技术的。

但是,最初的董事会按照自己的想法取得了部分成功。他们担心奥特曼在建立一个强大且可能有害的人工智能系统方面进展太快,所以他们阻止了他。这是他们追求的胜利,哪怕是以公司为代价。

反弹也是巨大的,因为他们没能赢得OpenAI员工的支持。如果OpenAI最终因奥特曼被解雇而受到不可挽回的伤害,人们将指责原董事会破坏硅谷最有前途的初创企业之一,未能在理念上妥协,这将威胁到公司结构的可持续性。

奥特曼回归后,OpenAI的做法可能依旧,两种观点的斗争似乎已经结束。在接下来的几个月里,新的董事会有很多工作要做。他们需要再次扩大董事会,并探索OpenAI治理结构的实质性变化。包括微软在内的投资者和高管都在期待一种新的制衡机制,以限制董事会突然驱逐创始人,最终危及数十亿美元的商业利益。但他们将不再拥有否决权,也不会像过去的董事会那样有能力立即关闭公司。

但这并不是原董事会在推动OpenAI“政变”时所想象的。推动政变的Ilya Sutzkwell等前董事会成员对人工智能既害怕又敬畏,担心人工智能技术超出人类控制,希望将技术的破坏性影响降到最低。

最终,企业的利益战胜了对未来的担忧。人工智能作为一项可能引领第四次工业革命的技术,不太可能被那些想要长期减缓其发展的人所控制。《纽约时报》感叹“人工智能现在属于资本主义”。

我们在加速冒险吗?

您可能还喜欢...