OpenAI宫斗的几个冷门细节

OpenAI事件暂时尘埃落定。有朋友问:你因为支持伊利亚被打脸了吗?

打脸,就打脸。

其实我对权力或利益的争夺兴趣不大,也从来没有预测过结果。没有微软股票,我也没有跟任何人赌过。谁对谁错并不重要。

让我分享一些我观察到的不受欢迎的细节,其中一些可能是非共识的:

1.自2019年OpenAI转向微软以来,微软已经投资了至少130亿美元。从Satya和Sam的结盟来看,OpenAI只在形式上属于微软。这是从山姆被介绍到微软开始的。但无论如何,半独立至少比被微软完全合并要好。

山姆的公关能力很好。他的导师保罗·格拉厄姆也说,“没有人比山姆更擅长处理这种紧急情况。”

3.董事会的表现很差。它没有提供任何令人信服的解雇山姆的信息,也无法向员工解释。当临时首席执行官要求提供证据时,他没有拿出证据。到现在我还是不理解几个导演,整个过程都是沉默。正是这位临时首席执行官在其任期内促成了谈判。

伊利亚对此表示遗憾,并签署联名信要求董事会辞职。据说他被格雷格一家的眼泪感动了。然而,我们最关心的是:解雇山姆的理由是什么?他为什么用如此暴力的方式做这件事?目前我们还不知道。

对于关心AI安全的人来说,AI安全警报并没有解除。希望伊利亚的“超级比对”项目真的能拿到20%的计算资源,在四年内实现“超级比对系统”,或者更早,因为最近AI的进展加快了。

比如Q*,昨天有新闻。虽然有不同的声音,但我终于觉得离事情的起因近了一点。

6.还有一个重要消息:“伊利亚克服了数据的限制,可以合成数据来训练模型。”AI一直依赖人工标注数据。以至于有句粗话:“有多少人,就有多少人。”比如近几年NLP领域发展最快的机器翻译,很大程度上得益于现成的平行语料库(原文翻译)。这是另一大AI加速因素。

7.95%的员工签署了联名信,团结就是力量?据说有匿名调查显示,很多员工并不是自愿的。至少你应该看看一些不同的声音:

8.OpenAI的联合创始人卡帕西表示,他正在考虑集权和分权。我认为这是一个非常重要的问题。

9.如果经过这次事件,大众再次普及AI安全意识,对世界来说也是一大收获,对AI风险获得一种制衡力量。

10.此外,AI正在多极化:Google Deepmind,微软,OpenAI,Amazon +Anthropic,Meta的开源Llama阵营,X.ai,加上欧洲的Mistral和中国的大模型厂商。

AI扩散,多权分散而不是垄断,对世界是好的。如果加速不可避免,去中心化是更安全的选择。

11.尽管马斯克和萨姆意见不合,尽管事情朝着马斯克不希望看到的方向发展,但X并没有(至少没有人怀疑)干预事件信息。Sam,OpenAI,微软,媒体,以及大量的当事人通过X向世界发布信息,X是公正可信的,值得尊重。

特朗普和马斯克这样的人都有一些被人诟病的缺点,没有完美的人。生活在聚光灯下,至少是一种坦诚和透明。

12.就在昨天OpenAI事件结束时,太空探索技术公司又发射了23颗卫星。

后来在感恩节的时候,宣布了最初的特斯拉Roadster的所有设计和工程文档都是开源的。

13.AI安全危机并未解除,但越来越多的人开始关注它。人类走出地球摇篮,成为星际物种的努力还在继续,这多少有些可喜。

您可能还喜欢...