全人类最担心的“AI安全”,害Sam Altman最终“失业”

图片来源@视觉中国

作者|核心,编辑|靖宇

好莱坞的间谍电影,连这个都不敢拍。

当地时间11月17日,在一次视频会议中,OpenAI董事会突然宣布联合创始人兼首席执行官萨姆·奥特曼立即离职,ChatGPT开发中的关键人物格雷格·布罗克曼(Greg Brockman)也被免职,该公司CTO米拉·穆拉蒂(Mira Murati)被任命为临时首席执行官。

在X上发表的一篇帖子中,萨姆·奥特曼说“我喜欢在OpenAI的时光”,他将“对未来有更多的话要说”。

格雷格·布罗克曼说,“山姆和我对董事会今天的所作所为感到震惊和难过。”“我们会没事的。更伟大的事情来了。」

现在,大家都在疑惑,OpenAI怎么了?你为什么解雇萨姆·奥特曼和格雷格·布罗克曼?

OpenAI的董事会由首席科学家Ilya Sutskever、Adam D & apos,Quora的CEO安吉洛、科技企业家塔莎·麦考利和乔治敦安全与新兴技术中心战略总监海伦·托纳。

就在OpenAI宣布解雇萨姆·奥特曼之前,llya给Sam发了一条短信,通知他参加17日上午的视频会议。后来的事大家都知道了。

根据目前的信息,解雇是由董事会成员伊利亚·苏茨基弗通知的,她领导了一个AI安全团队,而临时首席执行官]

萨姆·奥特曼最终被踢出局的原因,可能不是首席科学家llya的“宫斗”,而是整个AI行业都在谈论的,全球监管者最担心的“安全”问题。

“安全”分歧

在萨姆·奥特曼被炒之前,open AIAI内部一直存在关于安全性的分歧和争论。

今年夏天,OpenAI成立了一个安全团队,寻找防止AI失控的技术解决方案,了解和限制AI对社会的危害,如滥用、经济混乱、虚假信息、偏见和歧视、成瘾和过度依赖,并表示将把公司获得的20%的计算能力用于这项工作。

领导安全团队的人之一是伊利亚·苏茨基弗,她是 OpenAI 的联合创始人、首席科学家和董事会成员,正是这个人给萨姆·奥特曼下了解雇的最后通牒。

qz.com特拉维夫的一次活动上,萨姆·奥特曼和伊利亚·苏茨基弗(右)

据格雷格·布罗克曼(Greg Brockman)称,美国时间11月16日晚,山姆收到伊利亚发来的短信,要求周五中午通话。山姆参加了一个会议,除了格雷格,所有的董事会成员都在。伊利亚告诉山姆,他被解雇了,这个消息很快就会发布。

11月17日中午,格雷格收到伊利亚发来的短信,要求快速通话。伊利亚发送了一个会议链接,格雷格后来被告知,他将被从董事会中移除,但公司将保留他的角色。

Greg是OpenAI的首批员工之一,他花了大量时间编写软件,是开发ChatGPT和其他核心产品的关键人物,并持有公司股份。在董事会解雇萨姆·奥特曼几个小时后,他选择了辞职,也许是因为他是萨姆·奥特曼的亲密盟友

几乎在同一时间,OpenAI发表了一篇博文。他说:“奥特曼先生的辞职是经过董事会审议通过的。他在与董事会的沟通中总是不诚实,这阻碍了他履行职责的能力。董事会对他继续领导OpenAI的能力不再有信心。」

大家都在质疑这是不是OpenAI的恶意“政变”。被解雇的萨姆·奥特曼得到了很多支持和遗憾。

前谷歌 CEO 埃里克·施密特(Eric Schmidt)直接称萨姆·奥特曼为英雄,称赞他将OpenAI从无到有转变为900亿美元的非凡估值。Airbnb首席执行官布莱恩·切斯基(Brian Chesky)也加入了对萨姆·奥特曼的赞美,称他是这一代最优秀的创始人之一。

在解雇萨姆·奥特曼后的一次临时员工会议上,伊利亚对“政变”指控的回应据称是,“你可以这么说,但我不同意”。他认为“[S2/]这是董事会履行其非营利组织使命的责任,即确保开放AI [/S2]。

在一份发给员工的内部备忘录中,临时首席执行官米拉·穆拉蒂提到了“我们的使命和共同发展安全和有益的AGI的能力”。她说,OpenAI有三个支柱,包括“最大限度地提高我们的研究计划,我们的安全和校准工作——特别是我们在科学上的预测和风险能力,以及以惠及所有人的方式与世界分享我们的技术。”」

伊利亚·苏茨基弗、萨姆·奥特曼、米拉·穆拉蒂、格雷格·布罗克曼|连线

OpenAI成立于2015年,成立之初就定位为公益组织。然而,2019年,OpenAI重组,萨姆·奥特曼成为OpenAI的CEO。他帮助创建了一个名为OpenAI LP的盈利子公司,从微软等外部投资者那里筹集资金,用于培训人工智能。OpenAI本身仍然是一个由董事会管理的非营利组织。

奥特曼在筹集资金方面发挥了关键作用,包括来自微软的100亿美元。尽管OpenAI为投资者设定了利润上限,但其估值目前已达850亿美元。根据萨姆·奥特曼的数据,它每年产生13亿美元的收入。

另一方面,对AI安全性和OpenAI商业化的担忧也使OpenAI内部管理出现分裂。就在2020年底,OpenAI的一批员工离职,创办了AI公司Anthropic。这家公司以安全为卖点,创始人直接说离开是因为不满OpenAI的商业化和策略。

伊利亚也一直担心未来几年AGI强大的危险。此前,在OpenAI的一篇博文中,他写道“一个巨大的超智能力量可能是非常危险的,可能会导致人类的剥夺甚至灭绝。」

解雇萨姆·奥特曼后,OpenAI董事会在一份声明中继续说道,“OpenAI旨在推进我们的使命:确保人工智能造福全人类。理事会将继续全力以赴完成这项任务。」

什么是“不诚实”?

除了“安全”问题,OpenAI的董事会还说萨姆·奥特曼“不诚实”。从现有消息来看,萨姆·奥特曼是否隐瞒了这笔支出也值得怀疑。

11月15日,就在萨姆·奥特曼被解雇的前两天,OpenAI颇具争议地宣布停止ChatGPT Plus(每月20美元的高级版)的新注册。这在一定程度上凸显了成本和收益的问题。

据内部人士透露,OpenAI在每一个ChatGPT Plus用户上都是赔钱的,增强服务器容量需要时间。

这与解雇萨姆·奥特曼不谋而合,以至于一些人怀疑萨姆·奥特曼是否向董事会虚报了财务数据、用户数量或云计算的成本。支出是否高于预期?还是他阻止了董事会获取相关信息?

另一方面,董事会也解雇了OpenAI的联合创始人兼首席技术官格雷格·布罗克曼(Greg Brockman),因为格雷格可能担心运行OpenAI系统的技术成本。他是这家初创公司最有影响力的人物之一,从产品决策到为工程团队设定方向,他在所有事情上都有发言权。如果支出出轨,两位经理可能是共犯。

此外,萨姆·奥特曼的离开还有一些不寻常的因素。据报道,萨姆·奥特曼计划在Worldcoin中使用OpenAI技术,这也引发了一些对道德风险的担忧。

萨姆·奥特曼和萨提亚在OpenAI开发者大会| OpenAI上开了个小玩笑

作为OpenAI的“金主”,微软是什么态度?据知情人士透露,在萨姆·奥特曼被解雇的消息公开之前,微软领导层只从OpenAI那里得到了5到10分钟的提前通知。OpenAI临时首席执行官米拉·穆拉蒂(Mira Murati)周五在全公司会议上告诉员工,他们与微软的关系保持稳定。

不久前的11月9日,微软曾短暂阻止员工在公司设备上访问ChatGPT,并警告员工存在安全隐患。

距离OpenAI的开发者大会只有10天了。当时,萨姆·奥特曼与微软高管谈笑风生,甚至参加了他15日与微软基础设施高管的例会。

“今天在很多方面都是一次奇怪的经历。萨姆·奥特曼在X的帖子上坦言。

他曾表示,GPT五号的终极目标是制造一个相当于人脑的超级AI,但AI的发展是否出现了安全问题,最终导致了这种快速的内部“政变”?

被踢出OpenAI后,萨姆·奥特曼下一步会做什么?

萨姆·奥特曼被OpenAI解雇时间表:

2023年11月6日

OpenAI召开开发者大会,推出“自定义ChatGPT”功能。

2023年11月9日

由于安全问题,微软向员工发出了停止使用ChatGPT的警告。

2023年11月15日

OpenAI暂停了ChatGPT Plus的注册。微软首席执行官Satyanarayana nadella在Ignite大会上宣布,OpenAI的所有创新都将用于微软的Azure云服务。

2023年11月16日

萨姆·奥特曼收到了莱雅发来的短信,通知他周五中午见面。

2023年11月17日

OpenAI董事会突然宣布,联合创始人兼首席执行官萨姆·奥特曼立即离职。经过审查,董事会得出结论,阿尔特曼在与董事会的沟通中不够诚实,阻碍了董事会履行职责的能力。董事会对他继续领导OpenAI失去了信心。同一天,奥特曼在X平台(原推特)上发表了一份关于自己离职的声明。

2023年11月17日晚些时候

OpenAI联合创始人、前董事长格雷格·布罗克曼(Greg Brockman)宣布,他也将离开公司。这发生在董事会要求布罗克曼辞去董事会主席职务,但保留其在公司的角色之后。

2023年11月17日

OpenAI任命公司首席技术官米拉·穆拉蒂(Mira Murati)为临时首席执行官。

您可能还喜欢...