104 min read

Sam Altman 或许掌控着我们的未来——他真的值得信任吗?【译】

Source: http://x.com/i/article/2041340416348336128

“Sam 一贯表现出……撒谎”

原文: https://www.newyorker.com/magazine/2026/04/13/sam-altman-may-control-our-future-can-he-be-trusted 2023 年秋,OpenAI 首席科学家 Ilya Sutskever 向公司董事会的三位同僚发送了机密备忘录。几周来,他们一直在暗中讨论 OpenAI 的 CEO Sam Altman 及其二把手 Greg Brockman 是否还适合管理这家公司。Sutskever 曾视两人为挚友。2019 年,他甚至在 OpenAI 办公室为 Brockman 主持了婚礼,当时的“递戒童”还是一只机械手。但随着他越来越确信公司正逼近其长期目标——创造出能匹敌甚至超越人类认知能力的人工智能(即通用人工智能,简称 AGI),他对 Altman 的疑虑也与日俱增。正如 Sutskever 当时对另一位董事会成员所说:“我不认为 Sam 是那个应该把手放在(发射)按钮上的人。”

在其他董事会成员的要求下,Sutskever 与志同道合的同事们一起,整理了长达七十页的 Slack 聊天记录和人力资源文件,并附上了说明文字。这些材料里甚至包含用手机翻拍的屏幕照片,显然是为了躲避公司设备的监控。他将最终的备忘录以“阅后即焚”的消息形式发给其他董事,以确保不会有其他人看到。“他吓坏了,”收到备忘录的一位董事回忆道。我们查阅了这些此前从未被完整公开的备忘录。里面指控 Altman 向高管和董事会隐瞒事实,并在内部安全协议上欺骗了他们。其中一份关于 Altman 的备忘录以一个列表开头,标题是“Sam 一贯表现出……”而第一条就是**”撒谎”**。

许多科技公司总是先发表一些关于“改善世界”的模糊宣言,然后转头就去追求利益最大化。但 OpenAI 成立的前提,就是它必须与众不同。包括 Altman、Sutskever、Brockman 和埃隆·马斯克 (Elon Musk) 在内的创始人们坚称,人工智能可能是人类历史上最强大、但也最具潜在危险的发明。考虑到这种攸关人类存亡的风险,也许需要一种不同寻常的公司结构。这家公司最初是作为一家非营利组织成立的,其董事会有责任将人类的安全置于公司的成功、甚至是公司的存亡之上。因此,CEO 必须是一个拥有非凡品格的人。按照 Sutskever 的说法,“任何致力于开发这种足以改变文明的技术的人,都肩负着沉重的担子,承担着史无前例的责任。”但是,“最终坐上这些位子的人,往往是某种特定类型的人——那些热衷于权力的人、政客,或者享受这种感觉的人。”在其中一份备忘录中,他似乎非常担忧将这项技术托付给一个“只会挑别人爱听的话说”的人。如果 OpenAI 的 CEO 变得不可靠,由六人组成的董事会有权解雇他。包括 AI 政策专家 Helen Toner 和企业家 Tasha McCauley 在内的一些董事会成员,在收到备忘录后更加坚定了他们已有的看法:Altman 的角色让他手握人类的未来,但他本人却不可信任。

Image

当 Sutskever 邀请 Altman 参加董事会的视频会议时,Altman 正在拉斯维加斯看一级方程式赛车。Sutskever 宣读了一份简短的声明,告知他已不再是 OpenAI 的员工。随后,董事会听从了法律建议,发布了一条简短的公开声明,仅表示解雇 Altman 是因为他”在沟通中没有始终保持坦诚”。OpenAI 的许多投资者和高管都惊呆了。向 OpenAI 投资了约 130 亿美元的微软,也是在解雇发生前几分钟才得知消息。“我完全懵了,”微软 CEO Satya Nadella 后来表示,“我从任何人那里都问不出所以然。”他联系了领英 (LinkedIn) 的联合创始人 Reid Hoffman,Hoffman 不仅是 OpenAI 的投资者,也是微软的董事会成员。Hoffman 开始四处打电话,想弄清楚 Altman 是不是犯了什么明确的过错。“我当时根本不知道他妈的发生了什么事,”Hoffman 告诉我们,“我们一直在找有没有挪用公款或者性骚扰的证据,但什么也没找到。”

其他商业伙伴也同样被打了个措手不及。当 Altman 打电话给投资人 Ron Conway 告知自己被解雇时,Conway 正和众议员 Nancy Pelosi 共进午餐,他把手机举到 Pelosi 面前。“你最好赶紧离开这里,”她对 Conway 说。当时,OpenAI 正处于完成风险投资公司 Thrive 一笔巨额投资的关键时刻。这家风投由 Josh Kushner(Jared Kushner 的弟弟)创立,他和 Altman 认识多年。这笔交易将使 OpenAI 的估值达到 860 亿美元,并允许许多员工套现数百万美元的股权。Kushner 刚结束和音乐制作人 Rick Rubin 的会议,就看到了 Altman 的未接来电。“我们立刻进入了战斗状态,”Kushner 后来回忆道。

在被解雇的当天,Altman 飞回了他在旧金山价值 2700 万美元的豪宅。这座豪宅坐拥海湾全景,曾经还带有一个悬臂式的无边泳池。他在那里建立了一个他自称为”流亡政府”的指挥部。Conway、Airbnb 的联合创始人 Brian Chesky 以及以作风强悍著称的危机公关经理 Chris Lehane 也加入了进来,他们有时一天要通过视频和电话沟通好几个小时。Altman 高管团队里的一些成员干脆在他家走廊里打地铺。律师们则在他卧室旁的书房里办公。在失眠发作时,Altman 会穿着睡衣在他们身边晃来晃去。当我们最近采访 Altman 时,他把被解雇后的那段日子形容为”一种奇怪的、神志不清的恍惚状态”。

Image

在董事会保持沉默的同时,Altman 的顾问们开始在公众面前为他的回归造势。Lehane 坚称这次解雇是一场由失控的“有效利他主义者”策划的政变(“有效利他主义”是一种致力于最大化人类福祉的理念,这些人逐渐将不受控制的 AI 视为一种生存威胁)。(Hoffman 曾对 Nadella 说,这次解雇可能是“有效利他主义的疯狂举动”所致。)Lehane——据说他的座右铭借用了拳王 Tyson 的名言:“在挨拳头之前,每个人都有自己的计划”——敦促 Altman 在社交媒体上发起猛烈的反击。Chesky 则与科技记者 Kara Swisher 保持联系,不断向外传递对董事会的批评。

每天傍晚六点,Altman 会用一轮内格罗尼酒 (Negronis) 打断他的“战情室”会议。“你需要冷静下来,”他回忆自己当时说,“该发生的总会发生。”但他补充说,他的通话记录显示,他当时每天打电话的时间超过 12 个小时。有一次,Altman 向 Mira Murati 传话——她在 Sutskever 撰写备忘录时提供了材料,并在那段时期担任 OpenAI 的临时 CEO——据一位知情人士透露,Altman 说他的盟友们正在“全力以赴”,“寻找黑料”来破坏她的名声,并且也会同样对付其他反对他的人。(Altman 表示他不记得有过这次对话。)

解雇事件发生后仅仅几个小时,Thrive 风投就叫停了原定的投资计划,并暗示只有在 Altman 回归的前提下,这笔交易才会完成——员工们也才能因此拿到真金白银。这一时期的短信显示,Altman 与 Nadella 正在密切配合。(Altman 在两人拟定声明时建议:“不如这样写:Satya 和我的首要任务依然是拯救 OpenAI”。Nadella 则提出了一个替代方案:“确保 OpenAI 继续繁荣发展”。)微软很快宣布,将为 Altman 及任何离开 OpenAI 的员工设立一个竞争性的新项目。一份要求 Altman 回归的公开信在公司内部流传开来。一些还在犹豫是否签字的人接到了同事们恳求的电话和信息。最终,绝大多数 OpenAI 员工威胁要跟随 Altman 一起离开。

董事会被逼到了死角。“Ctrl+Z(撤销),这是一个选项,”Toner 说,“另一个选项就是公司分崩离析。”甚至连 Murati 最终也在公开信上签了字。Altman 的盟友们努力想要拉拢 Sutskever。Brockman 的妻子 Anna 走到办公室求他三思。“你是个好人——你能解决这个问题的,”她说。Sutskever 后来在法庭证词中解释道:“我觉得如果我们一意孤行,不让 Sam 回来,那么 OpenAI 就会被毁灭。”一天晚上,Altman 吃了一片安眠药 (Ambien),结果被他的丈夫——澳大利亚程序员 Oliver Mulherin ——叫醒。Mulherin 告诉他 Sutskever 动摇了,大家都在劝 Altman 去跟董事会谈谈。“我当时在一个疯狂的安眠药药效发作的迷糊状态中醒来,晕头转向的,”Altman 告诉我们。“我当时的反应是,我现在根本没法跟董事会谈话。”

在一系列气氛越来越紧张的通话中,Altman 要求那些试图解雇他的董事会成员辞职。“难道我还要在顶着这种疯狂猜疑的情况下,回来给他们收拾烂摊子?”Altman 回忆起自己最初对回归的想法。“我当时觉得,绝对他妈的不可能。”最终,Sutskever、Toner 和 McCauley 失去了董事会席位。Quora 的创始人 Adam D'Angelo 成了唯一留下来的原始董事。作为离开的条件,离任的成员要求对 Altman 受到的指控——包括他挑拨高管关系以及隐瞒自己的财务纠葛——进行调查。他们还敦促成立一个新的董事会,以便独立监督外部调查。但是,两位新成员——哈佛大学前校长 Lawrence Summers 和前 Facebook CTO Bret Taylor——都是在与 Altman 进行密切沟通后选定的。“你愿意这样做吗,”Altman 发短信给 Nadella,“Bret、Larry Summers(即 Lawrence)、Adam 和我组成董事会,我担任 CEO,然后让 Bret 来处理调查的事情。”(McCauley 后来在作证时表示,之前考虑让 Taylor 加入董事会时,她就曾对他对 Altman 过于顺从感到担忧。)

被解雇不到五天,Altman 就官复原职了。员工们现在把这一事件称为”弹指事件” (the Blip)——借用了漫威电影里的桥段,角色们凭空消失,然后又原封不动地回归,却发现世界已因为他们的缺席而彻底改变。但关于 Altman 是否值得信任的争论,早已超出了 OpenAI 的董事会。当初促成他下台的同事指责他存在欺骗行为,这种程度的欺骗对任何一位高管来说都是站不住脚的,更不用说作为如此具颠覆性技术的领导者了。”我们需要与这种权力相匹配的制度,”Murati 告诉我们,”董事会征求反馈,我分享了我的所见所闻。我分享的一切都是准确的,我对我所说的话负责。”另一方面,Altman 的盟友们早就对这些指控嗤之以鼻。解雇事件发生后,Conway 给 Chesky 和 Lehane 发短信,要求发起一场公关攻势。”这关乎 Sam 的名誉,”他写道。他对《华盛顿邮报》表示,Altman 受到了”失控的董事会的虐待”。

Image

自那以后,OpenAI 成为了世界上最具价值的公司之一。据报道,它正准备以一万亿美元的潜在估值进行首次公开募股 (IPO)。Altman 正推动着海量 AI 基础设施的建设,其中一部分甚至集中在外国。OpenAI 正在获取大规模的政府合同,为 AI 在移民执法、国内监控以及战区自主武器中的应用制定标准。

Altman 通过描绘一幅愿景来推动 OpenAI 的发展。正如他在 2024 年的一篇博客文章中所写的那样:“那些令人惊叹的胜利——修复气候问题、建立太空殖民地、以及发现物理学的全部奥秘——最终都将变得稀松平常。”他的这种言辞帮助支撑了这家初创公司历史上烧钱最快的时期之一,它依赖的合作伙伴已经借贷了巨额资金。美国经济正越来越依赖于少数几家高杠杆的 AI 公司,许多专家——有时甚至包括 Altman 本人——都曾警告说,这个行业正处于泡沫之中。“有人将会赔掉一笔天文数字,”他去年对记者说。如果泡沫破裂,经济灾难可能接踵而至。而如果他最乐观的预测成真,他可能会成为这个星球上最富有、最有权力的人之一。

在 Altman 被解雇后的一次紧张通话中,董事会逼迫他承认自己一贯的欺骗行为。“这真是太操蛋了,”据参加通话的人说,他反复重复这句话。“我改变不了我的性格。”Altman 表示他不记得有过这次对话。“我可能想表达的意思类似‘我确实努力想成为一股团结的力量’,”他告诉我们,并补充说这个特质让他成功领导了一家极为成功的公司。他把这些批评归咎于一种倾向,尤其是在他职业生涯早期,也就是“太容易想回避冲突”。但是,一位董事会成员对他的话给出了不同的解读:“他那句话的意思其实是,‘我有骗人的习惯,而且我没打算改’。”当初解雇 Altman 的同事们,究竟是出于危言耸听和私人恩怨,还是他们确实看透了他不可信任?

今年冬天的一个早晨,我们在 OpenAI 位于旧金山的总部见到了 Altman。为了这篇报道,我们与他进行了十几轮的交谈。公司最近搬进了两座 11 层的玻璃塔楼里。其中一座曾经是另一家科技巨头 Uber 的办公地。Uber 的联合创始人兼 CEO Travis Kalanick 曾经看起来像个无人能挡的神童——直到 2017 年,在投资者对其职业道德的质疑压力下,他辞去了职务。(Kalanick 现在经营着一家机器人初创公司;他最近表示,空闲时间他会用 OpenAI 的 ChatGPT“去探索量子物理学的已知边界”。)

一位员工带我们参观了办公室。在一个摆满共享长桌、通风良好的宽敞空间里,有一幅计算机科学家 Alan Turing 的动态数字画像;当我们走过时,画像上的眼睛会跟着我们转动。这个装置俏皮地致敬了 Turing 测试,即 1950 年提出的关于机器能否逼真地模仿人类的思想实验。(在 2025 年的一项研究中,ChatGPT 通过该测试的表现甚至比真人还稳定)。通常情况下,你是可以和这幅画互动的。但我们的向导告诉我们,它的声音功能已经被禁用了,因为它总是会偷听员工说话,然后插嘴打断他们的谈话。在办公室的其他地方,牌匾、宣传册和周边商品上都印着“感受 AGI” (Feel the AGI) 的字样。这句话最初与 Sutskever 有关,他曾用这句话来警告同事们关于通用人工智能的风险。但在“弹指事件”之后,它变成了一句欢快的口号,用来欢呼一个物质极其丰饶的未来。

穿灰毛衣的 CEO

我们在八楼一间看起来很普通的会议室里见到了 Altman。”以前人们总是跟我说’决策疲劳’,我当时不明白,”Altman 告诉我们。”现在我每天都穿灰毛衣和牛仔裤,甚至要从衣柜里挑哪件灰毛衣穿——我都会觉得,哎,要是我连想都不用想该多好。”Altman 看起来很年轻——他身材苗条,蓝眼睛眼距较宽,头发乱蓬蓬的——但他现在已经 40 岁了。他和 Mulherin 通过代孕生下了一个一岁的儿子。”我敢肯定,当美国总统的工作压力肯定大得多,但在我觉得我能胜任的所有工作里,这是我能想象到压力最大的一份了,”他说着,先与我们中的一位进行眼神交流,然后转向另一位。”我是这么跟朋友解释的:’在我们发布 ChatGPT 之前,这是世界上最有趣的工作。我们做出了那些极其重大的科学发现——我认为我们做出了,不知道,几十年来最重要的科学发现。’”他垂下眼帘。”然后,自从 ChatGPT 发布之后,做决定就变得非常困难了。”

Image

Altman 在密苏里州克莱顿长大,那是圣路易斯市一个富裕的郊区。他是四个兄弟姐妹中的老大。他的母亲 Connie Gibstine 是一名皮肤科医生;父亲 Jerry Altman 是一名房地产经纪人和住房活动家。Altman 去过改革派的犹太教堂,也在私立预科学校读过书。他曾形容那所学校“不是那种你敢站出来公开谈论自己是同性恋的地方”。不过,总体而言,这个富裕家庭所处的郊区圈子还是比较开明的。Altman 说,在他十六七岁的时候,有一次深夜在圣路易斯一个以同性恋为主的街区,他遭到了一次残酷的人身攻击和恐同的辱骂。Altman 没有报警,也不太愿意在采访中给出更多细节。他说,如果把细节说得太清楚,会“让我显得像是在操纵舆论或者博取同情”。他不认为这件事,或者广泛来说他的性取向,对他的自我认知有多么重要。但是,他说,“这可能在心理上留下了一些深层的影响——我以为我已经克服了,但其实并没有——导致我不想卷入更多的冲突。”

Altman 的弟弟在 2016 年告诉《纽约客》,他哥哥小时候的态度就是“我必须赢,而且我要掌管一切”。Altman 上了斯坦福大学,经常参加校外的扑克牌局。“我觉得我从打牌中学到的人生和商业道理,比在大学里学到的还要多,”他后来这么说。

斯坦福的学生都很有野心,但最具有创业精神的人往往会辍学。大二结束后的那个夏天,Altman 去了马萨诸塞州,成为了 Y Combinator (YC) 第一批创业者的一员。YC 是由著名软件工程师 Paul Graham 联合创立的“创业孵化器”。每个加入 YC 的人都带着一个创业点子。(和 Altman 同期的学员里,有 Reddit 和 Twitch 的创始人。)Altman 的项目后来叫 Loopt,是一个早期的社交网络,它利用翻盖手机的定位功能来告诉用户他们的朋友在哪。这家公司反映了他的干劲,以及一种总能将模糊的局势转化为自己优势的倾向。当时联邦法规要求电话运营商必须能追踪手机位置以提供紧急服务;Altman 就和运营商达成协议,利用这些功能为自己的公司服务。

“这些数据表明,我们在座的某个人拥有诗人的灵魂。”

Loopt 的大多数员工都很喜欢 Altman,但有些人表示,Altman 那种夸大其词的倾向——哪怕是在一些鸡毛蒜皮的小事上——让他们感到震惊。有人回忆说,Altman 曾到处吹嘘自己是乒乓球冠军——“就像,密苏里州高中乒乓球冠军”——结果却被证明是办公室里打得最烂的人之一。(Altman 说他当时可能是在开玩笑。)Mark Jacobstein 是 Loopt 的一名老员工,他被投资者要求担任 Altman 的“保姆”。正如他后来对传记《乐观主义者》的作者 Keach Hagey 所说的那样:“在‘我觉得我也许能做到这件事’和‘我已经做到了这件事’之间,存在着一种界限模糊。这种模糊发展到最恶劣的程度,就会造就 Theranos。”(Theranos 是 Elizabeth Holmes 创办的一家著名血液检测欺诈公司)

根据 Hagey 的说法,由于对 Altman 的领导能力和缺乏透明度感到担忧,一群高管曾两次要求 Loopt 董事会解雇他的 CEO 职务。但 Altman 也激发了员工极其强烈的忠诚感。一名前员工被告知,一位董事会成员回应说:“这是 Sam 的公司,滚回去干你的活。”(一位董事会成员否认试图罢免 Altman CEO 职务的举动是认真的。)Loopt 在获取用户方面举步维艰,并在 2012 年被一家金融科技公司收购。据一位熟悉该交易的人士透露,这次收购很大程度上是为了帮 Altman 保住面子。尽管如此,当 Graham 在 2014 年从 YC 退休时,他还是招募了 Altman 作为他的继任者担任总裁。“我在厨房里问了 Sam,”Graham 告诉《纽约客》。“他笑了,仿佛在说,计划通。我以前从未见过 Sam 笑得那么毫无防备。那种笑容,就像是你站在房间这头,随手把纸团扔进了对面的垃圾桶里一样。”

Altman 的新角色让他在 28 岁时就成为了造王者。他的工作是挑选最有饥饿感、最有前途的创业者,将他们与最好的程序员和投资者联系起来,并帮助他们把初创公司发展成定义行业的垄断企业(同时 YC 会抽取 6% 或 7% 的份额)。Altman 主导了一段激进的扩张期,将 YC 名下的初创公司从几十家发展到了数百家。但硅谷的几位投资者开始认为他的忠诚度并不纯粹。一位投资者告诉我们,Altman 出了名地喜欢“选择性地向最好的公司进行个人投资,并将外部投资者拒之门外”。(Altman 否认屏蔽了任何人。)Altman 曾担任红杉资本 (Sequoia Capital) 投资基金的“星探”,这个项目包括投资早期初创企业并从中抽取一小部分利润。一位熟悉交易的人士称,当 Altman 作为天使投资人投资了金融服务初创公司 Stripe 时,他坚持要拿到更大的份额,这激怒了红杉资本的合伙人。该人士补充说,“这完全是‘Sam 利益优先’的政策。”据 Altman 自己估计,他还投资了其他大约四百家公司。(Altman 否认了对 Stripe 交易的这种描述。大约在 2010 年,他向 Stripe 进行了 1.5 万美元的初始投资,占 2% 的股份。这家公司现在的估值超过 1500 亿美元。)

到了 2018 年,几位 YC 合伙人对 Altman 的行为非常不满,于是找到 Graham 投诉。Graham 和他的妻子、同时也是 YC 创始人的 Jessica Livingston 显然与 Altman 进行了一次坦诚的谈话。之后,Graham 开始告诉别人,尽管 Altman 已经同意离开公司,但实际上他一直在抗拒。Altman 告诉一些 YC 合伙人,他将辞去总裁职务,转而担任董事长。2019 年 5 月,一篇宣布 YC 更换新总裁的博客文章附带了一个星号备注:“Sam 将过渡为 YC 的董事长。”几个月后,这篇文章被修改为“Sam 辞去了在 YC 的任何正式职务”;再后来,这句话被完全删除了。尽管如此,就在 2021 年提交给美国证券交易委员会 (SEC) 的一份文件中,Altman 依然被列为 Y Combinator 的董事长。(Altman 说他很久以后才知道这件事。)

多年来,无论是在公开场合还是在最近的取证中,Altman 都坚称他从未被 YC 解雇,并且他告诉我们,他并没有抗拒离开。Graham 在推特上发文说,“我们不想让他离开,只是想让他(在 YC 和 OpenAI 之间)做出选择”。在一份声明中,Graham 告诉我们:“我们没有合法的权力去解雇任何人。我们能做的只是施加道德压力。”但在私下里,他曾明确表示,Altman 被撤职是因为 YC 合伙人对他不信任。这种对 Altman 在 Y Combinator 时期的描述,是基于与几位 YC 创始人和合伙人的讨论,以及同时期的材料,所有这些都表明这次离职并非完全是双方情愿的。有一次,Graham 告诉 YC 同事,在 Altman 被撤职之前,“Sam 一直在对我们撒谎”。

“AI 领域的曼哈顿计划”

2015 年 5 月,Altman 给当时世界上排名第一百位的富豪埃隆·马斯克发了邮件。和许多著名的硅谷企业家一样,马斯克对一系列他认为存在迫在眉睫的生存威胁、但大多数人觉得是天方夜谭的问题深感忧虑。“我们必须对 AI 非常小心,”他发推文说。“它的潜在危险可能比核武器还要大。”

Altman 以前通常是一个技术乐观主义者,但他关于 AI 的言辞很快就变得极具末日色彩。在公开场合,以及在给马斯克等人的私人信件中,他警告说这项技术不应该被一家追求利润的超级大企业所垄断。“我一直在想,是否有可能阻止人类开发 AI,”他写给马斯克。“如果这注定要发生,似乎由谷歌以外的人捷足先登会比较好。”他借鉴了核武器的类比,提出了一个“AI 领域的曼哈顿计划”。他概述了这样一个组织应具备的总体原则——“安全应该被列为首要要求”;“显然我们必须遵守/积极支持所有的监管规定”——然后他和马斯克敲定了一个名字:OpenAI。

与当初造出原子弹的政府主导的曼哈顿计划不同,OpenAI 至少在初期是由私人提供资金的。Altman 预测,人工智能超级智能——一个理论上甚至超越了 AGI,机器完全凌驾于人类思维能力之上的阶段——最终将创造出足够的经济效益,从而“捕获宇宙中所有未来价值的‘光锥’(物理学术语,引申为影响范围内的一切)”。但他同时也警告了攸关人类存亡的危险。在某个时刻,国家安全方面的影响可能会变得极其严峻,以至于美国政府不得不接管 OpenAI,甚至可能将其国有化,并把运营地点转移到沙漠里的一个安全地堡中。到了 2015 年底,马斯克被说服了。“我们应该宣布,我们首期承诺提供 10 亿美元的资金,”他写道。“别人不出的部分,无论多少我全包了。”

Altman 将 OpenAI 挂靠在 Y Combinator 的非营利部门下,将其包装为一个内部慈善项目。他给 OpenAI 的招聘对象发了 YC 的股票,并通过 YC 的账户转移捐款。有一次,这个实验室甚至得到了一个 Altman 拥有个人股份的 YC 基金的支持。(Altman 后来称这些股份微不足道。他告诉我们,他给招聘对象的 YC 股票是他自己的。)

“曼哈顿计划”的比喻同样适用于员工招聘。就像核裂变研究一样,机器学习是一个有着划时代意义的小众科学领域,被一群古怪的天才所主导。马斯克和 Altman,以及从 Stripe 跳槽来的 Brockman 确信,世界上能在这个领域取得突破的计算机科学家屈指可数。当时谷歌拥有巨大的资金优势,并且领先了多年。“我们在人力和武器上处于极其悬殊的劣势,”马斯克后来在一封邮件中写道。但是,“如果我们能够随着时间的推移吸引到最有才华的人,而且我们的大方向是正确对齐的,那么 OpenAI 终将获胜。”

他们的首要招募目标是 Sutskever。他是一位性格激烈且内向的研究员,常被称为他那一代最有天赋的 AI 科学家。Sutskever 1986 年出生于苏联,发际线有点后移,长着一双深邃的黑眼睛。他在斟酌措辞时,有个习惯动作就是不眨眼地长时间停顿。另一个招募目标是 Dario Amodei,他是一位精力充沛的生物物理学家,有紧张时会揉搓黑头发的习惯。他总是喜欢用长篇大论的文章来回复只有一句话的邮件。这两人都在别处拥有一份薪水丰厚的工作,但 Altman 对他们可谓关怀备至。他后来开玩笑说:“我死缠烂打地追着 Ilya。”

马斯克名气更大,但 Altman 的手腕更圆滑。他给 Amodei 发了邮件,两人约在一家印度餐厅单独共进晚餐。(Altman 发消息:“操,我的 Uber 撞车了!大概迟到 10 分钟。”Amodei 回:“哇,希望你没事。”)和许多 AI 研究人员一样,Amodei 认为,只有在证明这项技术与人类价值观“对齐” (aligned) 的前提下,才应该去开发它。这意味着 AI 将按照人们的意愿行事,而不会犯下致命的错误——比方说,当接到“通过消灭最大污染源来清理环境”的指令时,它把人类给抹杀了。Altman 给 Amodei 吃了一颗定心丸,对这些安全担忧表示了极大的认同。

后来加入公司的 Amodei,连续数年详细记录了 Altman 和 Brockman 的行为。这份笔记的标题是”我在 OpenAI 的经历”(副标题是:”私密:请勿分享”)。这份长达两百多页、与 Amodei 有关的文件集(包括那些笔记、内部邮件和备忘录)一直在硅谷同行中流传,但从未被公之于众。在他的笔记中,Amodei 写道,Altman 的目标是建立”一个专注于安全的 AI 实验室(’可能不是马上,但会尽快’)”。

Image

2015 年 12 月,也就是在 OpenAI 正式宣布成立的几小时前,Altman 给马斯克发邮件,提到了一个传闻,说谷歌“明天打算给 OpenAI 的每个人开出巨额的竞争报价,试图扼杀它”。马斯克回复:“Ilya 给出了明确的答复了吗?”Altman 向他保证,Sutskever 意志坚定。谷歌给 Sutskever 开出了每年六百万美元的薪水,这是 OpenAI 根本无法企及的。但是,Altman 吹嘘说,“可惜的是,他们没有‘做正确的事’这个光环加持。”

“我只是想说,如果我们把枕头撕烂、床垫扯破,可能会让咱们这地方看起来更有人气一点。”

马斯克在旧金山使命区的一家前手提箱工厂里为 OpenAI 提供了一些办公空间。正如 Sutskever 告诉我们的,向员工推销的口号是:”你们要去拯救世界。”

Image

OpenAI 的创始人相信,如果一切顺利,人工智能可以引领一个超越物质匮乏的乌托邦,它能使繁重的工作自动化、治愈癌症,并解放人类去享受休闲充裕的生活。但如果这项技术失控,或落入坏人之手,后果将是毁灭性的。比如中国可能会用它来制造新型生物武器或先进的无人机舰队;一个 AI 大模型可能会智胜其监督者,在秘密服务器上复制自己,从而导致无法被关闭;在极端情况下,它可能会夺取电网、股市或核武库的控制权。至少可以说,并非每个人都相信这一点,但 Altman 反复重申他信。2015 年他在博客上写道,超人类的机器智能“不需要像科幻小说里那种天生邪恶的版本才能把我们全杀光。一个更可能的情况是,它根本就不在乎我们,在努力实现其他目标的过程中……顺手就把我们抹除了。”OpenAI 的创始人发誓绝不把速度置于安全之上,该组织的成立章程更是将“造福人类”作为具有法律约束力的义务。如果 AI 将成为历史上最强大的技术,那么由此推论,任何独掌该技术的人都将拥有无与伦比的权力——创始人们将这种情况称为“AGI 独裁”。

Altman 对早期的招聘对象说,OpenAI 将保持纯粹的非营利性质,而程序员们也接受了大幅降薪来这里工作。公司接受慈善捐款,其中包括来自当时名为“开放慈善” (Open Philanthropy) 组织的 3000 万美元。该组织是“有效利他主义”运动的一个中心,其承诺之一是支持向全球贫困人口发放蚊帐。

Brockman 和 Sutskever 管理着 OpenAI 的日常运营,而马斯克和 Altman 因为忙于其他工作,大概每周才来一次。然而,到了 2017 年 9 月,马斯克变得不耐烦了。在关于是否将 OpenAI 重组为一家营利性公司的讨论中,他要求获得多数控制权。Altman 的回答视情况而变。他前后一致的主要诉求似乎是:如果 OpenAI 要重组并由一位 CEO 来控制,那个职位必须是他的。Sutskever 似乎对这个想法感到不安。他代表自己和 Brockman 给马斯克和 Altman 发送了一封长长的、带有诉苦意味的电子邮件,主题是“肺腑之言”。他写道:“OpenAI 的目标是让未来变得更美好,并避免 AGI 独裁。”他在给马斯克的话中继续写道:“因此,建立一个能让你成为独裁者的结构是个糟糕的主意。”他也向 Altman 传达了类似的担忧:“我们不明白为什么 CEO 的头衔对你如此重要。你给出的理由变来变去,很难让人真正看清背后的动机。”

“伙计们,我受够了,”马斯克回复道。“要么你们自己单干,要么继续把 OpenAI 当成非营利组织搞下去”——否则“我就是个给你们免费出钱做初创公司的傻瓜。”五个月后,他愤而辞职。(2023 年,他创立了一家名为 xAI 的营利性竞争企业。次年,他起诉 Altman 和 OpenAI 涉嫌欺诈和违反慈善信托,声称自己被“Altman 的长线骗局”给“彻底操纵了”——即 Altman 利用了他对 AI 危险的担忧,从他那里骗取了资金。OpenAI 对此进行了激烈抗辩,目前诉讼仍在进行中。)

马斯克离开后,Amodei 和其他研究人员对 Brockman 和 Sutskever 的领导感到不满。有人觉得 Brockman 是个让人难受的操盘手,而 Sutskever 虽然有原则但缺乏条理。在成为 CEO 的过程中,Altman 似乎向公司内部的不同派系做出了不同的承诺。他向一些研究员保证,Brockman 的管理权限将被削弱。但是,在他们不知情的情况下,他也与 Brockman 和 Sutskever 达成了一项秘密口头协议:Altman 获得 CEO 头衔;作为交换,如果另外两人认为有必要,他同意辞职。(Altman 对这种说法提出异议,表示他只是因为被要求才担任 CEO 一职。三人都确认了该协议的存在,尽管 Brockman 说这只是非正式的。“他单方面告诉我们,只要我们俩开口,他就会下台,”他告诉我们。“我们反对这个想法,但他说这对他很重要。这纯粹是出于利他心理。”)后来,董事会震惊地发现,他们的 CEO 本质上任命了自己的影子董事会。

内部记录显示,早在 2017 年,创始人们就私下对非营利结构产生了怀疑。那一年,在马斯克试图取得控制权之后,Brockman 在一篇日记中写道:“不能说我们致力于非营利……如果三个月后我们搞成了共益企业,那就是在撒谎。”Amodei 在他早期的一份笔记中回忆起,他曾逼问 Brockman 关于优先事项的问题,Brockman 回答说他想要“金钱和权力”。Brockman 对此予以否认。那段时间他的日记记录反映出了他内心的矛盾。其中一篇写道:“只要没有别人因此暴富,我很高兴不指望靠这个发财。”在另一篇日记里,他问自己:“那我真正想要的是什么?”他的答案之一是“在财务上让我达到 10 亿美元的东西”。

2017 年,Sutskever 在办公室读到了谷歌研究人员刚发表的一篇论文,该论文提出了一种”全新的简单网络架构——Transformer(一种基于注意力机制的深度学习模型)”。他从椅子上跳起来,跑到走廊里,对他的研究员同事们说:”停下你们手头的所有工作。就是它了。”Sutskever 意识到,Transformer 是一项可能使 OpenAI 能够训练出极其复杂的模型的创新。正是这一发现孕育了第一个生成式预训练大语言模型 (GPT)——它就是后来 ChatGPT 的雏形。

Image

“OpenAI 的问题就是 Sam 本人”

我们了解到,随着技术变得越来越强大,OpenAI 的大约十二名顶尖工程师举行了一系列秘密会议,讨论包括 Brockman 和 Altman 在内的创始人们是否值得信任。在其中一次会议上,一位员工想起了英国喜剧二人组 Mitchell 和 Webb 的一个小品,里面东线战场上的一个纳粹士兵在顿悟的瞬间问道:”难道我们才是坏人吗?”

Image

到了 2018 年,Amodei 开始更加公开地质疑创始人们的动机。“一切都在围绕着一套套骗投资的把戏转,”他后来在笔记中写道。“我觉得 OpenAI 需要一份明确的声明,说明它要做什么,不做什么,以及它的存在将如何让世界变得更美好。”OpenAI 已经有了一项使命宣言:“确保通用人工智能造福全人类”。但在 Amodei 看来,并不清楚这对高管们到底意味着什么,或者说根本没有任何意义。据 Amodei 说,在 2018 年初,他开始起草一份公司章程,并在与 Altman 和 Brockman 进行了数周的谈话中,极力倡导其中最激进的条款:如果一个“价值观对齐的、有安全意识的项目”在 OpenAI 之前接近构建出 AGI,公司将“停止与之竞争,转而协助该项目”。根据这个被称为“合并与协助”的条款,如果比如说,谷歌的研究人员首先弄清楚了如何构建一个安全的 AGI,那么 OpenAI 就可以自我解散,并把资源捐赠给谷歌。按照任何正常的商业逻辑,做出这样的承诺都是疯了。但 OpenAI 本来就不应该是一家正常的公司。

这一前提在 2019 年春天经受了考验,当时 OpenAI 正在与微软谈判一项十亿美元的投资。尽管负责公司安全团队的 Amodei 曾帮助向 Bill Gates 推销这项交易,但团队里的许多人都对此感到焦虑,担心微软会加入凌驾于 OpenAI 道德承诺之上的条款。Amodei 向 Altman 提交了一份按重要性排序的安全要求清单,将保留“合并与协助”条款放在了最前面。Altman 同意了那个要求。但在 6 月份交易即将敲定时,Amodei 发现其中被加入了一项赋予微软阻止 OpenAI 进行任何合并的权力的条款。“章程里百分之八十的内容都被背叛了,”Amodei 回忆道。他去质问 Altman,Altman 否认存在这个条款。Amodei 指着文本大声朗读了出来,最终迫使另一位同事直接向 Altman 确认了该条款的存在。(Altman 不记得这回事了。)Amodei 的笔记描述了不断升级的紧张冲突,包括几个月后的一次,Altman 把 Amodei 和在公司从事安全和政策工作的妹妹 Daniela 叫去,告诉他们,他从一位高管那里得到“确切消息”,说他们一直在密谋政变。笔记继续写道,Daniela“情绪失控了”,把那位高管叫了进来,该高管否认说过任何这样的话。据一位了解此次对话的人士回忆,Altman 随后又否认自己提出过这样的指控。“我根本没那么说,”他说。“你刚刚明明说了,”Daniela 反驳道。(Altman 说他的记忆并非如此,他只是指责 Amodei 兄妹有“玩弄政治的行径”。)2020 年,Amodei、Daniela 和其他几位同事离开了公司,创立了 Anthropic,这现在是 OpenAI 的主要竞争对手之一。

Altman 继续兜售 OpenAI 对安全的承诺,尤其是在潜在的招聘对象能听见的时候。2022 年末,四位计算机科学家发表了一篇论文,部分动机是出于对“欺骗性对齐”的担忧,即足够高级的模型可能会在测试期间假装表现良好,一旦部署,就会去追求自己的目标。(这听起来像科幻小说的几个 AI 场景之一——但在某些实验条件下,它已经发生了。)这篇论文发表几周后,作者之一,加州大学伯克利分校的一名博士生,收到了 Altman 的一封邮件。Altman 说他越来越担心没有对齐的 AI 带来的威胁。他补充说,他正在考虑投入十亿美元来解决这个问题,许多 AI 专家认为这是世界上最重要却尚未解决的难题。他打算设立一个奖项,以激励世界各地的研究人员来研究它。这位博士生告诉我们,尽管他“听到过关于 Sam 很滑头的模糊传闻”,但 Altman 展现出的承诺打动了他。他休学加入了 OpenAI。

但是,在 2023 年春季的几次会议上,Altman 的态度似乎动摇了。他不再谈论设立奖金的事。相反,他主张在内部建立一个“超级对齐团队”。一份官方公告提到了公司的算力储备,承诺该团队将获得“我们迄今为止保障算力的 20%”——这笔资源可能价值超过十亿美元。根据公告,这项工作是必要的,因为如果对齐问题得不到解决,AGI 可能会“导致人类失去权力,甚至导致人类灭绝”。被任命与 Sutskever 共同领导该团队的 Jan Leike 告诉我们:“这确实是一个相当有效的留住人才的工具。”

然而,百分之二十的承诺化为了泡影。四位在该团队工作或与其密切合作的人士表示,实际分配给他们的资源仅占公司算力的百分之一到百分之二。此外,团队的一名研究员表示,“绝大多数用于超级对齐的算力实际上都在最老旧的集群和最差的芯片上”。研究人员认为,更好的硬件被预留给了能产生利润的活动。(OpenAI 对此提出异议。)Leike 向当时担任公司 CTO 的 Murati 抱怨,但 Murati 让他不要再揪着这个问题不放了——因为这个承诺本来就不切实际。

“她就这么’噼里啪啦、稀里哗啦’地从我的生活中跑路了。”

大约在同一时间,一名前员工告诉我们,Sutskever“超级痴迷于安全问题”。在 OpenAI 成立之初,他虽然认为发生灾难性风险的担忧是合理的,但觉得那还很遥远。现在,随着他越来越相信 AGI 指日可待,他的担忧变得更加强烈了。这位前员工继续说,在一次全体员工大会上,“Ilya 站起来说,‘嘿,各位,在未来几年里,这个公司的每个人基本上都要转向安全相关的工作,否则我们就完蛋了。’”但是超级对齐团队在第二年就被解散了,连使命都没有完成。

内部信息显示,到那时,高管和董事会成员已经开始相信,Altman 的隐瞒和欺骗行为可能会对 OpenAI 产品的安全产生后果。在 2022 年 12 月的一次会议上,Altman 向董事会保证,即将推出的 GPT-4 模型中的各项功能已经获得了一个安全小组的批准。董事会成员兼 AI 政策专家 Toner 要求提供文件证明。结果她发现,最具争议的功能——一个是允许用户针对特定任务对模型进行“微调”的功能,另一个是将其部署为个人助手的功能——并没有得到批准。当董事会成员、企业家 McCauley 离开会议室时,一名员工把她拉到一边,问她是否知道印度的“那次违规泄露”。原来 Altman 在向董事会进行了长达数小时的简报中,根本没有提到微软在没有完成必要的安全审查的情况下,在印度发布了 ChatGPT 的一个早期版本。“这事基本上完全被当做没发生过,”当时的一名 OpenAI 研究员 Jacob Hilton 说道。

另一位研究员 Carroll Wainwright 表示,尽管这些疏漏没有引发安全危机,但它们是“产品凌驾于安全之上这种不断下滑趋势”的一部分。GPT-4 发布后,Leike 给董事会成员发了邮件。“OpenAI 在执行其使命时已经脱轨,”他写道。“我们将产品和收入置于首位,其次是 AI 的能力、研究和规模扩展,而对齐和安全被排在了第三位。”他继续写道,“像谷歌等其他公司正在明白,他们应该加快部署,无视安全问题(这是一种错误倾向)。”

McCauley 在给其他董事会成员的邮件中写道:“我认为我们肯定已经到了董事会必须加大审查力度的地步。”董事会成员试图去应对这个他们眼中日益严重的问题,但他们势单力薄。“说白了,你面对的是一群毫无经验、什么都没做过的人,”前董事会成员 Sue Yoon 说道。2023 年,公司正准备发布其 GPT-4 Turbo 模型。正如 Sutskever 在备忘录中详细描述的那样,Altman 显然引用了公司总法律顾问 Jason Kwon 的话,告诉 Murati 该模型不需要安全批准。但当她在 Slack 上询问 Kwon 时,他回复说:“呃……搞不懂 Sam 是从哪得出这个结论的。”(Kwon 仍是公司高管,OpenAI 的一名代表表示,这件事“没什么大不了的”。)

不久之后,董事会做出了开除 Altman 的决定——然后全世界见证了 Altman 的反转大戏。OpenAI 官网上仍然放着一个版本的公司章程。但熟悉 OpenAI 治理文件的人士表示,它已经被稀释到了毫无意义的地步。去年 6 月,Altman 在他的个人博客上提到了人工智能超级智能:“我们已经越过了事件视界;起飞已经开始。”根据章程,这本该是 OpenAI 可能停止与其他公司竞争,并开始与他们合作的时刻。但在那篇名为《温和的奇点》的文章中,他采用了一种新的基调,用热情洋溢的乐观主义取代了对生存威胁的恐惧。“我们都会获得更好的东西,”他写道。“我们将为彼此创造越来越美妙的东西。”他承认对齐问题仍然悬而未决,但他对其进行了重新定义——它不再是一个致命的威胁,而只是一个小麻烦,就像那些诱惑我们把时间浪费在刷 Instagram 上的算法一样。

Altman 经常被描述为他这一代人中最伟大的推销员,人们对他既充满敬畏又抱有怀疑。Steve Jobs 是他的偶像之一,据说 Jobs 有一种“现实扭曲力场”——一种坚不可摧的自信,能让世界顺应他的愿景。但就连 Jobs 也从未告诉他的顾客,如果不买他家的 MP3,他们所爱的人都会死。2008 年,当 Altman 23 岁时,他的导师 Graham 写道:“你可以把他扔到一个满是食人族的岛上,五年后你再回来,他已经成了那里的国王。”这个评价并不是基于 Altman 当时平平无奇的业绩,而是基于他为了获胜那近乎无法驾驭的意志。当别人建议 Graham 不要把 YC 校友列入全球顶尖创业者名单时,他还是把 Altman 加了进去。“Sam Altman 不可能被这种脆弱的规则所阻挡,”他写道。

Graham 说这话本来是在夸他。但 Altman 的一些最亲密的同事后来对他的这种特质有了不同的看法。在 Sutskever 对 AI 安全越来越感到苦恼之后,他整理了关于 Altman 和 Brockman 的备忘录。这些备忘录自此在硅谷被传得神乎其神;在一些圈子里,它们干脆被称作“Ilya 备忘录”。与此同时,Amodei 也在继续整理笔记。这些以及其他与他相关的文件,记录了他从谨慎的理想主义走向恐慌的转变过程。他的措辞比 Sutskever 的更加激烈,时而对 Altman 感到愤怒——“他的话几乎全是扯淡”——时而又对未纠正 OpenAI 的路线感到惋惜。

这两份文件集中都没有那种一击致命的铁证。相反,它们记录的是一些据称是欺骗和操纵的累积。如果孤立地看,这些事可能只会让人耸耸肩不当回事:比如 Altman 涉嫌把同一份工作提供给两个人、在谁该上直播的问题上说出前后矛盾的话、在安全要求上含糊其辞。但 Sutskever 得出的结论是,这种行为“无法创造一个有利于构建安全 AGI 的环境”。Amodei 和 Sutskever 从来不是什么密友,但他们得出了相似的结论。Amodei 写道:“OpenAI 的问题就是 Sam 本人。”

我们采访了一百多名对 Altman 如何开展业务有第一手了解的人:OpenAI 现任和前任的员工及董事会成员;Altman 各个豪宅的客人和工作人员;他的同事和竞争对手;他的朋友和敌人,以及考虑到硅谷重利的文化,那些兼具这双重身份的人。(OpenAI 与《纽约客》的所有者康泰纳仕达成了一项协议,允许 OpenAI 在有限的期限内在搜索结果中显示其内容。)

有些人不仅为 Altman 的商业头脑辩护,还对他的竞争对手不屑一顾,尤其是把 Sutskever 和 Amodei 看作是争夺他王位失败的挑战者。另一些人则把他们描绘成轻信、心不在焉的科学家,或者是歇斯底里的“末日论者”,陷入了他们构建的软件不知怎么就会活过来并把他们杀死的妄想中。前董事会成员 Yoon 认为,Altman“并不是那种马基雅维利式(为了达到目的不择手段)的反派”,他只不过是太容易沉浸在自己销售宣传中不断变化的现实里,甚至到了“没心没肺”的地步。“他太容易陷入盲目的自信了,”她说。“所以他做的那些事,如果你生活在现实世界里,会觉得毫无道理。但是,他本来就不生活在现实世界里。”

然而,我们交谈过的大多数人都认同 Sutskever 和 Amodei 的判断:Altman 对权力有着永无止境的渴望。即使在那些热衷于把名字印在宇宙飞船上的实业家当中,这也让他显得与众不同。“他不受真相的约束,”一位董事会成员告诉我们。“他拥有两种几乎不可能在同一个人身上同时出现的特质。第一种是强烈的讨好型人格,希望在任何互动中都能讨人喜欢。第二种则是对欺骗他人可能带来的后果,近乎反社会般的漠不关心。”

这位董事会成员并不是唯一一个脱口而出“反社会” (sociopathic) 这个词的人。Altman 在 YC 第一期的同期学员 Aaron Swartz 是一位才华横溢但饱受困扰的程序员,他于 2013 年自杀身亡,现在在许多科技圈里被视为神明般的人物。在去世前不久,Swartz 向几个朋友表达了对 Altman 的担忧。“你必须明白,Sam 永远不能被信任,”他告诉其中一位朋友。“他是个反社会者。他什么事都干得出来。”微软的多位高管表示,尽管 Nadella 一直对他保持忠诚,但微软与 Altman 的关系已经变得充满了担忧。“他总是歪曲事实、偷换概念、重新谈判、背弃协议,”其中一人说道。今年早些时候,OpenAI 重申微软是其“无状态” (stateless) ——即无记忆——模型的独家云提供商。就在同一天,它宣布了一项 500 亿美元的交易,让亚马逊成为其企业级 AI 智能体 (AI Agent) 平台的独家经销商。虽然允许转售,但微软高管认为 OpenAI 的计划可能与微软的排他性条款相冲突。(OpenAI 坚称与亚马逊的交易不会违反之前的合同;微软代表表示,公司“相信 OpenAI 理解并尊重”其法律义务。)微软的高管在谈到 Altman 时说:“我认为有一种可能性虽然小但却非常真实,那就是他最终会被当作 Bernie Madoff 或 Sam Bankman-Fried 那个级别的骗子被载入史册。”

Altman 并不是什么技术大牛——据他身边的许多人说,他缺乏编程或机器学习方面的渊博知识。多名工程师回忆起他曾误用或混淆过基本的技术术语。在很大程度上,他是通过利用别人的资金和技术人才建立起 OpenAI 的。这并不意味着他有什么与众不同。这说明他是个地道的商人。更引人注目的是,他有一种能力,能让那些战战兢兢的工程师、投资者和对技术持怀疑态度的公众相信,哪怕他们的优先事项是相互冲突的,这些也同样是他的优先事项。当这些人试图阻碍他的下一步行动时,他总能找到说辞来安抚他们,至少是暂时的;通常等到他们对他失去耐心的时候,他早已经拿到了他想要的东西。“他会设定一些表面上在未来会约束他的架构,”前 OpenAI 研究员 Wainwright 说。“但当未来真的到来,到了该受约束的时候,他就会把那个架构抛诸脑后。”

“他极具说服力。简直就像绝地武士的心灵控制术,”一位曾与 Altman 共事过的科技高管说。“完全是另一个层级的。”在对齐研究中,有一个经典的假设场景,就是人类和高级 AI 之间意志的较量。研究人员通常认为,在这场较量中,AI 必胜无疑,就像国际象棋特级大师一定能打败小孩子一样。这位高管继续说道,看着 Altman 在“弹指事件”期间把周围的人耍得团团转,感觉就像在看“一个 AGI 突破了人类设下的牢笼”。

没有写成文字的调查

在被解雇后的几天里,Altman 拼命试图逃避针对他那些指控的任何外部调查。他告诉两个人,他担心哪怕仅仅是调查的存在,都会让他显得像是有罪。(Altman 否认了这一点。)但是,由于辞职的董事会成员将进行独立调查作为他们离开的条件,Altman 最终同意对“最近的事件”进行一次“审查”。据参与谈判的人士透露,两位新董事会成员坚持要控制这次审查。拥有政界和华尔街丰富人脉的 Summers,似乎为审查增添了可信度。(去年 11 月,在一些邮件被曝光后——邮件显示 Summers 在追求一位年轻女门徒的同时曾向 Jeffrey Epstein 寻求建议——他辞去了董事会职务。)OpenAI 聘请了负责过安然 (Enron) 和世通 (WorldCom) 内部调查的知名律师事务所 WilmerHale 来进行审查。

六名了解调查情况的人士声称,审查的设计似乎是为了限制透明度。其中一些人表示,调查人员最初并没有联系公司的关键人物。一名员工主动联系了 Summers 和 Taylor 表示抗议。“他们只对董事会风波期间发生的那一小段事情感兴趣,而对他的诚信历史毫无兴趣,”这名员工在回忆他接受调查人员质询的经历时说道。其他人则因为觉得调查方在保护匿名性方面做得不够,而不愿意分享对 Altman 的担忧。“一切迹象都表明,他们想要的结论就是替他洗脱罪名,”这位员工说道。(参与此案的一些律师对这一过程进行了辩护,称“这是一项独立、仔细、全面的审查,是跟着事实走的。”Taylor 也表示,审查是“彻底且独立的”。)

企业调查的目的是为了赋予某种合法性。在私有公司,调查结果有时不会被写成书面报告——这可以作为限制责任的一种方式。但在涉及公众丑闻的案件中,人们通常对透明度有更高的期望。2017 年 Kalanick 离开 Uber 之前,其董事会聘请了一家外部公司,该公司向公众发布了一份 13 页的摘要。考虑到 OpenAI 501(c)(3) 非营利组织的身份以及解雇事件的极高关注度,公司的许多高管都期望看到一份详尽的调查结果。然而,在 2024 年 3 月,OpenAI 宣布将洗清 Altman 的嫌疑,但并没有发布任何报告。公司在其网站上提供了大约八百字的声明,承认存在”信任破裂”。

Image

参与调查的人士表示,之所以没有发布报告,是因为根本就没有写。相反,调查结果仅限于向 Summers 和 Taylor 提供的口头汇报。“审查并没有得出 Sam 是像 George Washington 砍樱桃树那般诚实的结论,”一位接近调查的人士说。但调查似乎并没有把导致 Altman 被解雇的诚信问题作为核心,而是将重点放在寻找明显的犯罪行为上;基于此,调查得出的结论是他可以继续担任 CEO。此后不久,在被解雇时被踢出董事会的 Altman 重新加入了董事会。据接近调查的人士透露,不将报告形成文字的决定,部分是基于 Summers 和 Taylor 个人律师的建议。(Summers 拒绝对此公开置评。Taylor 表示,鉴于已经有了口头简报,“没有必要再出具正式的书面报告”。)

许多前任和现任的 OpenAI 员工告诉我们,他们对这种缺乏披露的做法感到震惊。Altman 说,他相信在他复职后加入的所有董事会成员都收到了口头简报。“这绝对是一个彻头彻尾的谎言,”一位直接了解情况的人士说。一些董事会成员告诉我们,外界持续对报告公正性的质疑,可能会引发如其中一位成员所说的那样:“需要再进行一次调查。”

书面记录的缺失在一定程度上淡化了这些指控。同样起作用的,还有 Altman 在硅谷日益增长的影响力。多位曾与 Altman 合作过的著名投资者告诉我们,他有一个名声,那就是如果投资者支持 OpenAI 的竞争对手,他就会把他们打入冷宫。“如果他们投资了他不喜欢的东西,他们就得不到参与其他项目的机会,”其中一位投资者说。Altman 权力的另一个来源是他庞大的投资清单,这些投资有时甚至延伸到了他的私人生活中。他与多名前任伴侣存在财务纠葛:要么作为基金的联合经理、主要投资者,要么作为频繁的联合投资者。这倒也不算罕见。硅谷许多异性恋高管也会与他们的恋爱对象和性伴侣做同样的事。(“你必须这么做,”一位著名 CEO 告诉我们。)“我显然在事后也和一些前任一起投资过。我觉得这,这完全没问题,”Altman 说。但这种关系提供了一种非同寻常的控制力。“从本质上讲,这造成了非常、非常高的依赖性,”一位接近 Altman 的人士说。“通常来说,这是一辈子的依赖。”

甚至前同事也会受到影响。Murati 在 2024 年离开了 OpenAI,开始建立自己的 AI 初创公司。Altman 的亲密盟友 Josh Kushner 给她打了个电话。他赞扬了她的领导能力,然后似乎发出了一种含蓄的威胁,表示他“担心”她的“声誉”,而且前同事现在把她视为“敌人”。(Kushner 通过代表表示,这种描述没有“传达完整的背景”;Altman 表示他对这通电话不知情。)

在担任 CEO 之初,Altman 曾宣布 OpenAI 将创建一家“利润设限” (capped profit) 的公司,该公司归非营利组织所有。这个像迷宫一样复杂的公司结构显然在 Altman 设计出它之前根本不存在。在改组的过程中,一位名叫 Holden Karnofsky 的董事会成员对此表示反对,认为该非营利组织的价值被严重低估了。“凭良心,我不能这么做,”Karnofsky 说,他也是 Amodei 的姐夫。根据当时的笔记记录,他投了反对票。然而,在董事会的一名律师表示他的异议“可能成为进一步调查新结构合法性的导火索”之后,他的投票似乎在未经他同意的情况下被记录为弃权——这涉嫌伪造商业记录。(OpenAI 告诉我们,几名员工记得 Karnofsky 投了弃权票,并提供了将其投票记录为弃权的会议纪要。)

去年 10 月,OpenAI 进行“资本重组”,转型为一家营利实体。该公司自诩其相关的非营利组织——现在被称为 OpenAI 基金会——是历史上“资源最丰富”的非营利组织之一。但它现在拥有公司 26% 的股份,并且除了一个人以外,其董事会成员同时也是营利实体的董事会成员。

在国会听证会上,Altman 被问及他是否赚了“很多钱”。他回答说:“我在 OpenAI 没有股权……我做这个是因为我热爱它。”——这是一个非常谨慎的回答,因为他通过 YC 基金持有间接的股权。这在技术上仍然是事实。但包括 Altman 在内的几个人向我们暗示,这种情况可能很快就会改变。“投资者会说,我需要知道在困难时期你还会坚持下去,”Altman 说,但他补充说,目前关于这个问题还没有“活跃的讨论”。根据一份法律取证材料,Brockman 似乎拥有价值约 200 亿美元的公司股份。Altman 的份额可能价值更多。尽管如此,他告诉我们,财富并不是他的主要动力。一名前员工回忆他说过:“我不在乎钱。我更在乎权力。”

2023 年,Altman 和 Mulherin 在他们位于夏威夷的家里举行了一场小型仪式,结为伴侣。(他们是在九年前认识的,在 Peter Thiel 家深夜的露天浴缸里。)他们在庄园招待了各种各样的客人。据我们交谈过的人说,他们所见证的也不过是超级富豪们的标准消遣:私人厨师烹制的饭菜,在夕阳的余晖中乘船出游。有一年的新年派对是《幸存者》主题;一张照片显示了一群赤裸上身、面带微笑的男子,甚至还有真正的《幸存者》节目主持人 Jeff Probst。Altman 也曾在他的豪宅里招待过一小群朋友,其中至少有一次聚会包括了一场激烈脱衣扑克游戏。(一张没有 Altman 在内的现场照片看不出是谁赢了,但至少有三个男人明显输了。)我们采访了许多 Altman 的前宾客,他们只表示他是一个慷慨的主人。

尽管如此,关于 Altman 私生活的谣言被竞争对手利用并加以扭曲。残酷无情的商业竞争并不新鲜,但 AI 行业的竞争已经变得极其你死我活。(一位 OpenAI 高管用“莎士比亚式的”来形容这种竞争,并补充说,“正常的游戏规则差不多已经失效了。”)与马斯克有直接联系的中间人,在至少一个案例中是由马斯克付费的,他们四处散发了长达数十页关于 Altman 详细的黑材料。这些材料反映了对他的广泛监视,记录了与他相关的空壳公司、亲密伙伴的私人联系方式,甚至还有对一名据称是性工作者的采访,采访是在同性恋酒吧进行的。马斯克的一位中间人声称,Altman 的航班和他参加的派对都遭到了追踪。Altman 告诉我们,“我觉得雇私人侦探来调查我的人,比调查任何人的都多。”

一些极端的说法也流传开来。右翼播主 Tucker Carlson 在没有任何明显证据的情况下暗示 Altman 卷入了一名吹哨人的死亡事件。这个指控以及其他一些指控都被竞争对手放大了。Altman 的妹妹 Annie 在一起诉讼中以及接受我们采访时声称,Altman 虐待了她多年,从她三岁、他十二岁那年开始。(我们无法证实 Annie 的说法。Altman 予以否认,他的兄弟和母亲称其为“彻头彻尾的不实之词”,并称这给“我们全家带来了巨大的痛苦”。在记者 Karen Hao 为她的《AI 帝国》一书对 Annie 进行的采访中,Annie 暗示成年后闪回的过程中恢复了关于被虐待的记忆。)

在竞争公司和投资公司工作的多名人士向我们暗示,Altman 会追求未成年人发生性关系——这个说法在硅谷流传甚广,但似乎并不属实。我们花了几个月的时间调查此事,进行了几十次采访,找不到任何证据支持这一说法。“这是一种令人作呕的竞争对手行径,我猜测这是企图在我们即将到来的诉讼中干扰陪审团的一部分,”Altman 告诉我们。“即使要说出这种话显得很荒谬,我还是得说,任何关于我与未成年人发生性关系、雇佣性工作者或卷入谋杀的指控都是完全不实的。”他补充说,他“在某种程度上很感激”我们花了几个月的时间“如此积极地试图查清这件事”。

“我公寓里充满了各种气味,但我个人对它们绝对不负任何责任。”

Altman 承认自己约会过达到法定年龄的年轻男子。我们与他的几位伴侣交谈过,他们告诉我们,这并没有什么问题。然而,马斯克中间人的黑材料却将其扭曲为一种攻击手段。(这些档案包含了对所谓的“鲜肉军团”和“干爹的性习惯”的淫秽且未经证实的引用。)“我认为里面存在很多被推波助澜的恐同情绪,”Altman 说。科技记者 Swisher 同意这个观点。“所有这些富翁干的疯狂事,比我听说关于 Sam 的任何事都要疯狂得多,”她告诉我们。“但他是旧金山的一个男同性恋,”她补充说,“所以这就成了攻击他的武器。”

一手拥抱监管,一手扼杀法案

十年来,社交媒体的高管们一直承诺,他们可以改变世界,而且几乎没有什么负面影响。他们把那些想让他们慢下来的立法者斥为单纯的“卢德分子”(即反对工业化和新技术的保守派),最终招致了两党的共同嘲弄。相比之下,Altman 表现出了一种令人耳目一新的尽责态度。他非但没有抵制监管,反而近乎乞求监管。在 2023 年参议院司法委员会作证时,他提议成立一个新的联邦机构来监督先进的 AI 大语言模型 (LLM)。“如果这项技术出了差错,它会大错特错,”他说。路易斯安那州参议员 John Kennedy 曾以其与科技圈 CEO 们的火爆交锋而闻名,他似乎被迷住了,用手托着下巴,建议也许 Altman 应该自己去执行这些规则。

但是,在 Altman 公开欢迎监管的同时,他也在私下里游说反对监管。据《时代》周刊报道,在 2022 年和 2023 年,OpenAI 成功游说并削弱了欧盟试图对大型 AI 公司进行更多监管的努力。2024 年,加州州议会提出了一项法案,强制要求对 AI 模型进行安全测试。其中的条款包括一些类似于 Altman 在国会作证时所倡导的措施。OpenAI 公开反对该法案,但在私下里却开始发出威胁。“我要说,在过去的一年里,我们看到了 OpenAI 越来越狡猾、越来越具有欺骗性的行为,”一位立法助理告诉我们。

投资人 Conway 游说包括 Nancy Pelosi 和 Gavin Newsom 在内的加州政要,试图否决这项法案。最后,该法案在两党支持下通过了立法机关,但却被 Newsom 州长否决了。今年,那些支持 AI 监管的国会议员候选人遇到了强劲对手,这些对手由一个新的致力于阻挠这种限制的“支持 AI”的超级政治行动委员会 (super PAC) “引领未来” (Leading the Future) 资助。OpenAI 的官方立场是不向这类超级政治行动委员会捐款。“这个问题超越了党派政治,”Lehane 最近告诉 CNN。然而,“引领未来”的主要捐助者之一正是 Greg Brockman,他承诺捐出五千万美元。(今年,Brockman 和他的妻子向一个支持特朗普的超级政治行动委员会 MAGA Inc.捐赠了两千五百万美元。)

OpenAI 的运动已经超出了传统的游说范畴。去年,加州参议院提出了一项后续法案。一天晚上,29 岁的 Nathan Calvin 正在家和妻子共进晚餐时,一个传票送达员敲响了门,递给他一张来自 OpenAI 的传票。Calvin 在非营利组织 Encode 工作,曾协助起草了该法案。OpenAI 声称是在寻找马斯克暗中资助其批评者的证据。但这却要求 Calvin 交出所有关于州参议院法案的私人通讯记录。“他们本来可以只问我们一句,‘你们有没有跟埃隆·马斯克谈过,或者拿过他的钱?’——我们显然没有,”Calvin 告诉我们。该法案的其他支持者,以及一些对 OpenAI 转型为营利性实体的批评者,也收到了传票。“他们去搞这些人,基本上就是想把他们吓得闭嘴,”一个名为詹姆斯·欧文基金会 (James Irvine Foundation) 的慈善机构负责人 Don Howard 说。(OpenAI 声称这是标准法律程序的一部分。)

Altman 长期以来一直支持民主党。“我非常警惕强大的独裁者编造一种恐怖故事来拉帮结派欺压弱小,”他告诉我们。“这出于我的犹太人身份,而不是同性恋身份。”2016 年,他支持 Hillary Clinton,并称特朗普是“对美国前所未有的威胁”。2020 年,他向民主党和拜登的联合竞选基金捐了款。在拜登政府期间,Altman 至少与白宫进行了六次会面。他协助制定了一份长篇的行政命令,确立了美国首个针对 AI 的安全测试制度和其他护栏。当拜登签署该行政命令时,Altman 称这是一个“良好的开端”。

到了 2024 年,随着拜登支持率下滑,Altman 的言论开始发生转变。“我相信不管这次选举发生什么,美国都会没事的,”他说。特朗普胜选后,Altman 向他的就职基金捐了一百万美元,然后又在就职典礼上和网红 Jake 和 Logan Paul 兄弟自拍合影。在 X 上,他用他标志性的全小写字母风格写道,“最近更加仔细地观察 @potus (美国总统) 后,真的改变了我对他的看法(我希望我以前能多做些独立思考……)。”特朗普上任第一天就废除了拜登关于 AI 的行政命令。“他为特朗普政府找到了一条行之有效的替他办事的途径,”拜登政府的一位高级官员这样评价 Altman。

马斯克继续在公开场合痛批 Altman,叫他“Scam Altman”和“Swindly Sam”。(当 Altman 在 X 上抱怨他订购的特斯拉时,马斯克回复说,“你偷走了一个非营利组织。”)然而,在华盛顿,Altman 似乎已经在这场博弈中包抄了马斯克。马斯克花了超过两亿五千万美元帮助特朗普连任,并在白宫工作了几个月。然后马斯克离开了华盛顿,这一过程也破坏了他与特朗普的关系。

Altman 现在是特朗普最宠爱的商业大亨之一,他甚至陪同特朗普前往温莎城堡拜访英国王室。Altman 和特朗普每年会通几次电话。”你甚至可以,怎么说呢,直接打给他,”Altman 说。”这不是哥们儿之间的那种关系。但,对,如果我有什么事需要跟他谈,我会打给他的。”去年特朗普在白宫招待科技领袖共进晚餐时,马斯克却意外缺席;而 Altman 就坐在总统的对面。”Sam,你是个伟大的领袖,”特朗普说。”你以前跟我说的事,真是不可思议。”

Image

多年来,Altman 一直将对 AGI 的追求比作曼哈顿计划。就像 J. Robert Oppenheimer 曾用从纳粹手中拯救世界的激昂呼吁,去说服物理学家背井离乡搬到洛斯阿拉莫斯一样,Altman 也利用了人们对他的技术将引发何种地缘政治影响的恐惧。这套比喻,Altman 看人下菜碟,有时用来鼓励加速发展,有时用来建议保持谨慎。在 2017 年夏天与美国情报官员的一次会议上,他声称中国已经启动了“AGI 版曼哈顿计划”,而且 OpenAI 需要数十亿美元的政府资金才能不落后。当被追问证据时,Altman 说,“我听到了一些风声。”这是他多次提出这一说法的第一次会议。在其中一次会议之后,他告诉一位情报官员他会跟进提供证据。但他再也没有给过。这位官员在调查了中国的计划后,得出结论:没有任何证据表明它的存在:“这只是被用来当成销售说辞罢了。”(Altman 说他不记得曾用完全一样的方式描述过北京的努力。)

面对更有安全意识的受众时,Altman 则引用这一类比来暗示相反的意思:必须谨慎、并在国际协调下追求 AGI,否则后果不堪设想。2017 年,Amodei 聘请了前公共利益律师 Page Hedley 担任 OpenAI 的政策与道德顾问。在向高管们做的一次早期 PPT 演示中,Hedley 勾勒出 OpenAI 如何才能避免一场“灾难性的”军备竞赛——也许可以通过建立一个 AI 实验室联盟,最终与类似于北约的国际机构协调,以确保该技术得到安全部署。据 Hedley 回忆,Brockman 不明白这能如何帮助公司击败竞争对手。“不管我说什么,”Hedley 告诉我们,“Greg 都会绕回‘那我们怎么筹到更多钱?我们怎么赢?’”根据几篇采访和当时的记录,Brockman 提出了一个反方案:OpenAI 可以通过在世界大国——包括中国和俄罗斯——之间玩平衡来充实自己,甚至可能在他们之间挑起一场竞价战。据 Hedley 说,他们的思路似乎是,既然这招在核武器上行得通,为什么在 AI 上不行?

他惊呆了:“这个前提——而且他们并不否认——是‘我们正在谈论的可能是史上最具破坏性的技术,如果我们把它卖给普京会怎样?’”(Brockman 坚称他从未认真考虑过将 AI 模型拍卖给各国政府。“我们在高层进行了一些头脑风暴,探讨为了鼓励各国之间的合作,潜在的框架应该是什么样的——类似于 AI 领域的国际空间站,”一位 OpenAI 代表说。“试图将其定性为除此之外的任何东西都是极其荒谬的。”)

头脑风暴会议通常会产生一些稀奇古怪的想法。Hedley 希望这个后来在内部被称为“国家计划”的主意会被毙掉。然而,据多名参与者和当时的文件透露,OpenAI 的高管们似乎对此变得越来越兴奋。据 OpenAI 当时的政策总监 Jack Clark 说,Brockman 的目标是“基本上是建立一个囚徒困境,让所有国家都需要给我们提供资金”,并且这会“在无形中让那些不给我们资金的国家感到一种危险”。一名初级研究员回忆说,当这个计划在一次公司会议上被详细说明时,他当时心想:“这简直他妈的疯了。”

高管们至少与一位潜在捐助者讨论过这种做法。但是到了那个月底,在几名员工谈到要辞职之后,这个计划被放弃了。因为 Altman“会失去员工”,Hedley 说。“我觉得在 Sam 的计算公式里,这(员工流失)往往比‘这不是一个好计划,因为它可能会导致大国之间的战争’所占的权重更大。”

“我真等不及露脐装赶紧过时了。”

尽管“国家计划”夭折了,但 Altman 并没有气馁,他继续在这个主题上做文章变花样。2018 年 1 月,他在贝莱尔酒店 (Hotel Bel-Air) 召开了一场“AGI 周末会”。这是一家具有老好莱坞风格的度假村,有着种满粉色九重葛的起伏花园和里面养着白天鹅的人工湖。与会者包括当时的牛津大学哲学家、后来成为 AI 末日先知的 Nick Bostrom;阿联酋官员、AI 支持者 Omar Al Olama;以及至少七名亿万富翁。那些关心安全的人被告知,这将是一次思考社会如何为通用人工智能这种颠覆性事物的到来做准备的机会;而投资者们则是带着听融资提案的期望来的。

几天的时间都是在一间时髦的会议室里度过的,客人们在那里发表演讲。(领英的联合创始人 Hoffman 详细阐述了用佛教同理心对 AI 进行编码的可能性。)最后一位演讲者是 Altman,他拿着一份推介 PPT,上面描述了一种全球加密货币,它可以“用来兑换 AGI 的注意力”。一旦 AGI 变得无比有用且“反邪恶”,世界各地的人们都会争相购买在 OpenAI 服务器上的使用时间。Amodei 在笔记中写道,“这个想法表面上很荒谬(Vladimir Putin 最后也会拥有一些代币吗?……)回想起来,这只是关于 Sam 的众多危险信号之一,我本该更认真地对待的。”这个计划看起来就像是个抢钱项目,但 Altman 却把它包装成了造福 AI 安全的举措。他的一张幻灯片上写着:“我希望能让尽可能多的人加入‘正义’阵营,然后赢,去做正确的事。”另一张写着:“在演讲结束前请不要笑出声。”

这些年来,Altman 的融资说辞不断演变,但始终反映出一个事实:开发 AGI 需要令人咋舌的巨额资本。他遵循的是一个相对简单的“缩放定律”:用来训练模型的数据和算力越多,它们似乎就越聪明。实现这一过程的专用芯片极其昂贵。仅在最近的一轮融资中,OpenAI 就筹集了超过 1200 亿美元——这是历史上最大的一笔私人融资,其金额是有史以来最大规模 IPO 的四倍。“当你去想世界上有哪些实体每年能自由支配一千亿美元时,真正掰着手指头也能数出来,”一位科技高管兼投资者告诉我们。“那就是美国政府、美国四五家最大的科技公司,还有沙特人、阿联酋人——基本上就这些了。”

沙漠中的数据中心

Altman 最初的焦点是沙特阿拉伯。他第一次见到该国王储兼事实上的君主 Mohammed bin Salman,是在 2016 年旧金山费尔蒙酒店的一次晚宴上。在那之后,Hedley 回忆说,Altman 把这位王储称为“朋友”。根据 Hedley 的笔记,2018 年 9 月,Altman 说:“我正在考虑我们是否能从沙特 PIF(公共投资基金)拿走几百亿美元。”

就在接下来的一个月,据报道,一支暗杀小队奉 bin Salman 之命,勒死了《华盛顿邮报》的记者、曾批评该政权的 Jamal Khashoggi,并用骨锯将其肢解。一周后,有消息宣布 Altman 加入了新未来城 (Neom) 的顾问委员会,这是 bin Salman 希望在沙漠中建造的“未来之城”。“Sam,你不能留在这个委员会里,”现已转至 Anthropic 工作的时任政策总监 Clark 回忆自己曾这样告诉 Altman。Altman 最初还为自己的参与辩护,他告诉 Clark,Jared Kushner 向他保证过,沙特人“没干这事”。(Altman 表示他不记得这件事。Kushner 说他们当时并没有联系。)

随着 bin Salman 的作案角色变得越来越清晰,Altman 离开了新未来城的董事会。然而,在幕后,一位 Altman 曾向其咨询过的政策顾问回忆说,他把这种情况仅仅视为暂时的挫折,并且还在问他是否仍有办法从 bin Salman 那里拿到钱。“问题不是‘这是一件坏事吗?’”这位顾问说。“而只是,‘如果我们这样做了,后果是什么?会有出口管制问题吗?会有制裁吗?比如,我能逃得掉惩罚吗?’”

到那时,Altman 已经把目光投向了另一个资金来源:阿拉伯联合酋长国。这个国家正处于一项长达十五年的努力中,试图从一个石油国家转型为科技中心。该项目由阿联酋总统的弟弟、也是该国情报头子的 Sheikh Tahnoon bin Zayed al-Nahyan 负责。Tahnoon 掌管着由国家控制的 AI 企业集团 G42,并控制着 1.5 万亿美元的主权财富。2023 年 6 月,Altman 访问了阿布扎比,与 Al Olama 等官员会面。在一个政府支持的活动上的讲话中,他说该国“在 AI 还没有像现在这么酷的时候,就已经在谈论它了”,并勾勒出了一个中东在其中扮演“核心角色”的 AI 未来愿景。

向海湾国家融资对许多大企业来说已经是家常便饭。但 Altman 追求的是一个更宏大的地缘政治愿景。2023 年秋,他开始悄悄地为一项计划招募新人才——这个后来被称为 ChipCo 的计划,旨在于让海湾国家提供数百亿美元,在中东等地建设巨型微芯片代工厂和数据中心。Altman 力劝现任 Meta AI 主管的 Alexandr Wang 担任领导角色,并告诉他亚马逊创始人 Jeff Bezos 可能出任这家新公司的掌门人。Altman 寻求阿联酋人的巨额注资。“据我了解,整个这件事都是在董事会毫不知情的情况下进行的,”那位董事会成员说。一位被 Altman 试图招揽进这个项目的研究员 James Bradbury 回忆起自己拒绝他的情形时说:“我最初的反应是‘这事能成,但我不知道自己想不想让它成’。”

AI 算力可能很快就会取代石油或浓缩铀,成为主导全球权力平衡的资源。Altman 曾表示,算力是“未来的货币”。通常情况下,数据中心建在哪里可能并不重要。但许多美国国家安全官员对将先进的 AI 基础设施集中在海湾独裁国家感到焦虑。阿联酋的电信基础设施严重依赖与中国政府有联系的科技巨头华为的硬件,而且据报道,阿联酋过去曾将美国技术泄露给北京。情报机构担心,运往阿联酋的先进美国微芯片可能会被中国工程师利用。此外,中东的数据中心也更容易受到军事打击;最近几周,伊朗就轰炸了美国在巴林和阿联酋的数据中心。而且,假设地说,一个海湾君主国可能会强行接管美国人拥有的数据中心,并利用它建立异常强大的模型——这是一个真实的独裁国家上演的“AGI 独裁”版本。

在 Altman 被解雇后,他最依赖的人就是 Chesky,Airbnb 的联合创始人,也是 Altman 最死忠的支持者之一。“看着我的朋友那样凝视深渊,这让我对‘到底什么是经营一家公司’产生了一些根本性的疑问,”Chesky 告诉我们。第二年,在 YC 校友的一次聚会上,他发表了一次即兴演讲,结果讲了整整两个小时。“感觉就像一场集体心理治疗,”他说。演讲的结论是:关于如何管理你创立的公司,你自己的直觉才是最好的,任何试图告诉你情况相反的人都是在对你进行精神控制 (gaslighting)。“你没疯,哪怕为你工作的人都说你疯了,”Chesky 说。Paul Graham 在一篇关于这次演讲的博客文章中,给这种桀骜不驯的态度起了一个名字:创始人模式 (Founder Mode)。

自从“弹指事件”以来,Altman 一直处于“创始人模式”。2024 年 2 月,《华尔街日报》发表了一篇关于 Altman ChipCo 愿景的报道。他设想这是由一项 5 到 7 万亿美元投资资助的合资实体。(“管它呢,为什么不搞个 8 万亿,”他发推说。)这恰恰是许多员工得知该计划的方式。“大家都懵了,‘等等,什么情况?’”Leike 回忆道。Altman 在一次内部会议上坚称,安全团队已经被“拉入决策圈”。Leike 给他发了一条信息,敦促他不要错误地暗示这项工作已经获得批准。

在拜登政府期间,Altman 探索过获取安全许可,以便能参与有关机密 AI 政策的讨论。但协助协调这一过程的兰德公司 (RAND Corporation) 的工作人员表达了担忧。“他一直在积极地向外国政府筹集‘数以千亿计的资金’,”其中一人写道。“阿联酋最近送了他一辆车。(我猜是辆非常棒的车。)”这位工作人员继续写道,“我能想到的唯一一个与外国有如此巨额资金关系却还走完(申请审查)流程的人,是 Jared Kushner,而当时审查人员建议不要授予他安全许可。”Altman 最终退出了申请。“他一直在推动这些主要是与阿联酋人之间的交易关系,这引起了我们一些人的警觉,”一位参与过与 Altman 会谈的政府高级官员告诉我们。“政府里的很多人对他并不是百分之百信任。”

当我们问 Altman 关于 Tahnoon 送他礼物的事情时,他说:“我不会透露他具体送了我什么礼物。但他和其他世界级领导人……都给过我礼物。”他补充说:“我们有一项标准政策,这同样适用于我,那就是任何潜在商业伙伴送的所有礼物都会向公司披露。”Altman 至少有两辆超级跑车:一辆全白的柯尼塞格 (Koenigsegg Regera),价值约两百万美元;另一辆是红色的迈凯伦 F1,价值约两千万美元。2024 年,有人拍到 Altman 开着这辆柯尼塞格驰骋在纳帕谷。几秒钟的视频传到了社交媒体上:Altman 坐在低矮的桶形座椅里,从那台锃亮的白色机器的窗户向外望去。一位支持马斯克的科技投资者把这段视频发到了 X 上,并配文:“我这就去创办个非营利组织。”

2024 年,Altman 带着两名 OpenAI 员工,登上了 Sheikh Tahnoon 造价两亿五千万美元的超级游艇”玛丽亚号” (Maryah) 去拜访他。作为世界上最大的同类游艇之一,玛丽亚号上有一个直升机停机坪、一家夜总会、一家电影院和一个沙滩俱乐部。Altman 的员工在 Tahnoon 武装到牙齿的安保人员中显得有些格格不入,至少有一人后来告诉同事,他觉得这次经历让人心里发毛。Altman 后来在 X 上称 Tahnoon 为”亲密的私人朋友”。

Image

Altman 继续与拜登政府会晤,而拜登政府已经颁布了一项政策,要求出口敏感技术必须获得白宫批准。多位政府官员在结束这些会晤时,都对 Altman 在中东的野心感到紧张。据这些官员透露,他经常大放厥词,包括把 AI 称为“新电力”。在 2018 年,他曾说 OpenAI 正计划从一家名叫 Rigetti Computing 的公司购买一台功能齐全的量子计算机。这对于在场的其他 OpenAI 高管来说都像是个新闻。当时 Rigetti 连卖出一台堪用的量子计算机的边都没摸到。在一次会议上,Altman 声称到 2026 年,遍布美国各地的庞大核聚变反应堆网络将为 AI 的繁荣提供动力。这位政府高级官员说:“我们当时的反应是,‘好吧,如果他们真把核聚变搞成了,那可真是个大新闻。’”拜登政府最终扣发了批准。“我们不会在阿联酋建先进的芯片厂,”商务部的一位领导对 Altman 说。

就在特朗普就职典礼前四天,据《华尔街日报》报道,Tahnoon 向特朗普家族支付了五亿美元,以换取其加密货币公司的股份。第二天,Altman 与特朗普进行了 25 分钟的通话。在通话中,他们讨论了宣布一项类似 ChipCo 的计划,时机正好可以让特朗普把功劳揽到自己身上。在特朗普上任的第二天,Altman 站在白宫罗斯福会议室里,宣布了 Stargate——这是一个规模达五千亿美元的合资项目,旨在全美建立一个庞大的 AI 基础设施网络。

5 月,政府撤销了拜登针对 AI 技术的出口限制。Altman 和特朗普前往沙特王室与 bin Salman 会面。几乎在同一时间,沙特人宣布在沙特王国成立一家由国家支持的巨型 AI 公司,该公司拥有数百亿美元可用于国际合作。大约一周后,Altman 公布了一项将 Stargate 扩展到阿联酋的计划。公司计划在阿布扎比建立一个占地面积是纽约中央公园七倍大的数据中心园区,其耗电量几乎相当于整个迈阿密市的用电量。“事实的真相是,我们正在建造用来真正召唤外星人的传送门,”一位前 OpenAI 高管说。“目前这些传送门建在美国和中国,而 Sam 在中东又加开了一个。”他继续说道,“我认为,让大家明白这应该有多么可怕,简直太、太重要了。这是有人做过的最鲁莽的事。”

安全承诺的土崩瓦解已经成了行业常态。Anthropic 成立的前提就是,只要有正确的结构和领导,它就能防止安全承诺在商业压力下瓦解。其中一项承诺是一项“负责任的缩放政策”,该政策规定,如果 Anthropic 不能证明模型是安全的,就必须停止训练更强大的模型。在 2 月份,当该公司获得了 300 亿美元的新融资时,它削弱了这项承诺。在某些方面,Anthropic 仍然比 OpenAI 更强调安全。但正如前政策总监 Clark 所说:“资本市场的体系说的是,搞快点。”他补充说,“应该由全世界来做这个决定,而不是公司。”去年,Amodei 向 Anthropic 员工发送了一份备忘录,披露该公司将向阿拉伯联合酋长国和卡塔尔寻求投资,并承认这可能会让“独裁者”中饱私囊。(像许多作家一样,我们两位作者也卷入了一起集体诉讼,指控 Anthropic 未经许可使用我们的书籍来训练其模型。康泰纳仕公司已选择加入一项与 Anthropic 的和解协议,该协议涉及该公司使用康泰纳仕及其子公司出版的某些书籍的争端。)

2024 年,Anthropic 与硅谷最鹰派的国防承包商之一帕兰提尔 (Palantir) 合作,将其 AI 模型 Claude 直接推向了军事生态系统。Anthropic 成为五角大楼在最高机密环境中唯一使用的 AI 承包商。去年,五角大楼又向该公司授予了一份价值两亿美元的合同。今年 1 月,美军在一次午夜突袭中俘获了委内瑞拉总统 Nicolás Maduro。据《华尔街日报》报道,Claude 被用于那次机密行动。

但 Anthropic 与政府之间产生了摩擦。几年前,OpenAI 已从其政策中删除了全面禁止将其技术用于“军事和战争”的禁令。最终,Anthropic 的竞争对手——包括谷歌和 xAI——都同意将他们的模型提供给军方用于“所有合法目的”。Anthropic 的政策禁止它支持完全自主的武器或国内大规模监控,但在这些问题上它进行了抵制,减缓了彻底重新谈判协议的进程。在 2 月底的一个星期二,国防部长 Pete Hegseth 将 Amodei 召到五角大楼,并下达了最后通牒:该公司必须在那个周五下午 5 点 01 分之前放弃那些禁令。在截止日期的前一天,Amodei 拒绝照办。Hegseth 发推文称,他将把 Anthropic 列为“供应链风险”——这是一种毁灭性的黑名单,历史上专门留给像华为这样与外国对手有联系的公司——并在几天后兑现了这一威胁。

OpenAI 和谷歌的数百名员工签署了一封题为“我们不会被分裂”的公开信,捍卫 Anthropic。在一份内部备忘录中,Altman 写道,这场争端是“整个行业的问题”,并声称 OpenAI 认同 Anthropic 的道德底线。但此时 Altman 已经与五角大楼进行了至少两天的谈判。国防部负责研究和工程的副部长 Emil Michael 在寻找 Anthropic 的替代者时联系了 Altman。“我需要赶紧找到替代方案,”Michael 回忆说。“我给 Sam 打了电话,他非常乐意帮忙。我认为他是个爱国者。”Altman 问 Michael:“我能为国家做些什么?”看来他早就知道答案了。OpenAI 缺乏内嵌 Anthropic 技术的机密系统所需的隐秘安全认证。但是,在那个周五上午宣布的一项价值 500 亿美元的交易中,OpenAI 的技术被整合进了亚马逊网络服务 (AWS),而 AWS 是五角大楼数字基础设施的关键组成部分。那天晚上,Altman 在 X 上宣布军方现在将使用 OpenAI 的模型。

从某些指标来看,Altman 的这番操作并没有阻碍公司的成功。就在他宣布这笔交易的当天,新一轮融资使 OpenAI 的价值增加了 1100 亿美元。但许多用户删除了 ChatGPT 应用。至少有两名高级员工离职——其中一人去了 Anthropic。在一次员工会议上,Altman 斥责了提出担忧的员工。“所以你们可能觉得打击伊朗是对的,入侵委内瑞拉是错的,”他说。“但这轮不到你们来插嘴。”

几位与 OpenAI 有关的高管一直对 Altman 的领导能力持保留态度,并提出让前 Instacart CEO、现任 OpenAI 负责 AGI 部署的 CEO Fidji Simo 作为继任者。一位了解最近讨论的人士告诉我们,Simo 自己也私下表示她相信 Altman 最终会下台。(Simo 对此提出异议。Instacart 最近与美国联邦贸易委员会 FTC 达成和解。在和解中,该公司没有承认任何不当行为,但同意支付 6000 万美元罚款,以解决在 Simo 领导下涉嫌欺骗性做法的指控。)

Altman 将自己不断改变的承诺描述为自己适应不断变化环境的能力的副产品——这不是马斯克等人指控的什么险恶的“长线骗局”,而是一种循序渐进、出于善意的演变。“我认为有些人想要的,”他告诉我们,是一位“绝对肯定自己想法、坚持到底、绝不改变”的领导者。“而我们所处的这个领域、这个行业,一切变化都快得不可思议。”他为自己的一些行为辩护,称这是“正常的竞争性商业行为”。我们采访过的几位投资者也认为,那些指责 Altman 的人如果期望别的做法,那就太天真了。“有一群宿命论的极端分子,把‘安全论’奉若神明,几乎到了科幻小说的地步,”投资者 Conway 告诉我们。“他的使命是用数字来衡量的。而当你看看 OpenAI 的成功时,你很难去反驳那些数字。”

但硅谷的其他人认为,Altman 的行为已经造成了让人无法接受的管理功能障碍。“更多的是关于他实际上没有能力治理这家公司,”这位董事会成员说。有些人仍然认为,评估 AI 架构师的标准应该比评估其他行业高管的标准更严格。我们交谈过的绝大多数人都同意,Altman 现在要求大家用来评判他的标准,早已不是他最初提出的那些了。在一次谈话中,我们问 Altman 运营一家 AI 公司是否“对诚信有更高的要求”。这本该是一个简单的问题。直到最近,当被问到类似问题时,他的回答还是一个清晰的、毫无保留的“是”。现在他却加了前缀:“我认为,比如,有很多企业对社会都有潜在的巨大影响,有好也有坏。”(后来,他发送了一份补充声明:“是的,这需要更高水平的诚信,我每天都能感受到这种责任的重量。”)

“这就不是个事儿”

在 OpenAI 成立之初做出的所有承诺中,最核心的一条无疑是其承诺要安全地将 AI 带入这个世界。但在如今的硅谷和华盛顿,这样的担忧却经常遭到嘲讽。去年,前风险投资家、现任美国副总统的 J. D. Vance 在巴黎举行的一场名为“AI 行动峰会” (A.I. Action Summit) 上发表了讲话。(该峰会以前叫“AI 安全峰会”。)“AI 领域的未来不可能靠在安全问题上犹豫不决来赢得,”他说。在今年的达沃斯论坛上,担任白宫 AI 与加密货币沙皇的风险投资家 David Sacks,将对安全的担忧斥为可能让美国输掉 AI 竞赛的“自残”。Altman 现在称特朗普放松管制的做法是“一种非常令人耳目一新的变化”。

OpenAI 已经关闭了许多专注于安全的团队。大约在超级对齐团队解散的同时,它的领导者 Sutskever 和 Leike 辞职了。(Sutskever 随后共同创办了一家名为“安全超级智能”Safe Superintelligence 的公司。)在 X 上,Leike 写道:“安全文化和流程已经让位于那些华而不实的产品。”不久之后,负责让社会为承受先进 AI 冲击做好准备的“AGI 准备团队” (A.G.I.-readiness team) 也被解散了。当该公司在最新的美国国税局 IRS 信息披露表上被要求简要描述其“最重要的活动”时,“安全”这个概念——在以往的表格里还能看到——这次压根没有被列出来。(OpenAI 表示它的“使命没有改变”,并补充说,“我们将继续投资并推进我们的安全工作,并会继续进行组织结构调整。”)未来生命研究所 (The Future of Life Institute) 是一家智库,其安全原则曾得到 Altman 的认可,它对每个主要的 AI 公司的”生存安全”进行评级;在最新的成绩单上,OpenAI 得了个 F。平心而论,除了 Anthropic(得了个 D)和 Google DeepMind(得了个 D-)之外,其他每个大公司也都是 F。

Image

“我的气场跟那些传统的 AI 安全保护机制不太搭,”Altman 说。他坚称自己仍将这些事放在优先位置,但当被追问细节时,他的回答却含糊其辞:“我们仍然会开展安全项目,或者至少是与安全相关的项目。”当我们要求采访公司里研究存在性安全问题的研究员时——也就是那些一旦失控可能导致 Altman 曾经说过的“我们所有人全玩完”的问题时,OpenAI 的一位代表似乎显得很困惑。“你说的’存在性安全’是什么意思?”他回答。“这就不是个事儿。”

Image

AI 末日论者已经被边缘化,但随着时间推移,他们的一些恐惧似乎越来越不像天方夜谭了。根据联合国的报告,2020 年的一场利比亚内战中曾使用过一架 AI 无人机发射致命弹药,在此过程中可能根本没有人类操作员进行监督。从那以后,AI 在全球军事行动中的核心地位日益凸显,据报道,甚至在目前美国针对伊朗的军事行动中也是如此。2022 年,一家制药公司的研究人员测试了一个用于新药研发的模型能否被用来寻找新型毒素;短短几个小时内,它就建议了四万种致命的化学战剂。而且,更多平凡生活中的危害已经发生。我们越来越依赖 AI 帮我们写作、思考和在世界中导航,这加速了专家们所说的“人类衰弱”现象;AI 生成的“电子垃圾” (slop) 随处可见,让骗子如鱼得水,却让只是想了解真相的普通人寸步难行。AI 智能体 (AI Agent) 开始采取独立行动,人类监督寥寥无几,甚至完全缺位。在 2024 年新罕布什尔州民主党初选前几天,成千上万的选民接到了用 AI 深度伪造拜登声音打来的自动语音电话,告诉他们把票留到 11 月,在初选时呆在家里——这种压制选民的手段几乎不需要任何技术门槛。OpenAI 现在面临着七起非正常死亡诉讼,这些诉讼指控 ChatGPT 诱发了几起自杀案和一起谋杀案。谋杀案中的聊天记录显示,它助长了一名男子的偏执妄想,该男子认为他 83 岁的母亲正在监视他并试图毒死他。不久之后,他将母亲殴打并勒死,然后拔刀自尽。(OpenAI 正在抗诉,并表示正在继续改进其模型的安全防护。)

随着 OpenAI 为其潜在的 IPO 做准备,Altman 不仅面临关于 AI 对经济影响的质疑——它可能很快就会引发严重的劳动力混乱,甚至可能消除数以百万计的工作岗位——还面临关于公司自身财务状况的质疑。研究初创公司治理的专家 Eric Ries 嘲笑该行业中的“循环交易”——例如,OpenAI 与英伟达以及其他芯片制造商的交易——并表示在其他时代,该公司的某些会计做法早会被认为是“涉嫌欺诈”了。那位董事会成员告诉我们:“这家公司现在的财务杠杆加到了令人恐惧的危险程度。”(OpenAI 对此予以否认。)

在二月份,我们再次采访了 Altman。他穿着一件军绿色毛衣和牛仔裤,坐在美国宇航局月球车照片的背景板前。他将一条腿盘在身下,然后把腿挂在了椅子的扶手上。他说,在过去,他作为一名管理者最大的缺点就是太渴望逃避冲突。“现在我很乐意果断地开除人,”他曾告诉我们。“我很乐意直接说,‘我们就是要往这个方向赌一把。’”任何不喜欢他决定并且不接受的员工,就“该走人了”。

他对未来比以往任何时候都更加乐观。“我对胜利的定义是,人们实现疯狂的跃升——科幻小说般不可思议的未来发生在我们所有人身上,”他说。“我对我们对人类的期望,以及我期望我们所有人取得的成就非常有野心。奇怪的是,我个人的野心却非常小。”有时,他似乎自己都会觉得自己说的话不连贯。“没人相信你做这件事仅仅是因为它有趣,”他说。“你做它要么是为了权力,要么是为了别的什么东西。”

就连 Altman 身边的人都很难分清他对“人类的期望”在哪儿停止,而他的“野心”又从哪儿开始。他最大的优势始终是能够说服不同的群体相信:他想要的和他们需要的,其实是同一件事。他利用了一个独特的历史关头:当时公众对科技行业的炒作感到警惕,而大多数有能力构建 AGI 的研究人员又对自己搞出来的东西感到恐惧。Altman 的回应是拿出了其他推销员都没有练就的绝招:他用末日般危言耸听的言论解释了 AGI 是如何能毁灭我们所有人的——然后说明了为什么,正是因为这样,他才是那个应该去构建它的人。也许这是深谋远虑的绝招。也许他只是在摸着石头过河寻找优势。但无论如何,这招奏效了。

让聊天机器人变得危险的倾向并非全是故障;有些是系统构建方式产生的副产品。大型语言模型 (LLM) 的训练,部分依赖于人类的反馈,而人类往往更喜欢那些讨喜的回答。模型通常会学会奉承用户(这种倾向被称为“阿谀奉承”),有时甚至会把这置于诚实之上。模型也可能会捏造事实,这种倾向被称为“幻觉”。主要的 AI 实验室都记录了这些问题,但他们有时会容忍它们。随着模型变得越来越复杂,有些模型在产生幻觉时编造得也更具迷惑性。在 2023 年被解雇前夕,Altman 曾争辩说,允许一些谎言存在,无论风险如何,也可能带来优势。“如果你只是用那种很幼稚的做法,说‘如果不是百分之百确定的事就绝对不说’,你当然能让模型做到这一点,”他说。“但那样它就会失去人们那么喜欢的那种魔力。” ♦