揭秘OpenAI“宫斗”更多细节:微软称这是“一场鸡飞狗跳的闹剧”,已想好3个备案

2023-12-05 18:24:34 浏览数 (3)

编译 | 核子可乐、凌敏

微软与 OpenAI 共同制定了雄心勃勃的 AI 安全发布协议。但不久之后,OpenAI 董事会就推翻了他们精心制定的所有规划。

“一场鸡飞狗跳的闹剧”

临近感恩节之前的周五,上午 11:30 左右,微软 CEO 萨蒂亚·纳德拉(Satya Nadella)正与高管团队举行每周例会。这时,一位惊慌失措的同事让他接起电话。这通电话就是由 OpenAI 那边的高管打来,表示接下来 20 分钟之内,该公司董事会就将发布解雇联合创始人兼现任 CEO 山姆·奥特曼(Sam Altman)的消息。由此时起,这场为期五天的人事危机牵动了全世界的心,并在微软内部被称为“Turkey-Shoot Clusterfuck”——一场鸡飞狗跳的闹剧。

向来神情随和的纳德拉一时间愣住了,不知该说些什么。作为与奥特曼亲密合作了四年多的老友,双方已经建立起钦佩和信任之情。此外,他们的合作也促成了微软十年来最大规模的业务迭代,一系列前沿 AI 成果被纳入微软全家桶。这些智能助手就建立在 OpenAI 的技术之上,被集成至微软的核心生产力程序当中,包括大名鼎鼎的 Word、Outlook 和 PowerPoint。这些助手在本质上就是 OpenAI 发布的 ChatGPT 的专业版本,被命名为 Office Copilots。

而纳德拉不知道的是,奥特曼与 OpenAI 董事会之间的关系已经陷入僵局。六人董事会的多数成员发现,奥特曼一直在操纵和纵容某些“不当”行为——这种能力在科技企业的 CEO 身上相当常见,但却触碰了那帮学术界 / 非营利组织背景成员的逆鳞。一位熟悉董事会讨论内幕的人士表示,“他们觉得奥特曼一直在对他们撒谎。”如今紧张局势终于在纳德拉面前爆发,威胁到微软与 OpenAI 之间的合作伙伴关系。

微软已经有好多年未能重回科技行业的最前沿,但他们与 OpenAI 的联盟关系(OpenAI 于 2015 年创立时是一家非营利组织,四年后新增了营利性部门)使其成功超越谷歌和亚马逊等竞争对手。Copilots 让用户能够像跟同事、前辈交流那样轻松提出问题,“告诉我这段视频通话中的计划有什么优缺点”,或者“这 20 份电子表格中最赚钱的产品是什么?”,而后即时得到用英语编写的答案。Copilots 还能根据简单指令编写出完整的文档,比如“综合之前的十份经营摘要,生成一份涵盖过去十年的财务综述”,把备忘录转换成 PowerPoint 文稿,听取 Teams 视频会议并把内容总结成多种语言版本,甚至为参会者制作待办事项清单。

要进一步推动 Copilots 的发展,微软就不能放弃与 OpenAI 的继续合作。这种关系对微软重要、对纳德拉也同样重要。OpenAI 的核心技术名为 GPT,即用于生成预训练 Transformer 的大语言模型。GPT 能够吸收互联网及其他数字知识库的公开文本,借此模仿人类对话,再用复杂的数学公式来确定各个信息片段之间的关联性。

尽管这类系统取得了显著成果,但也有着严重缺陷:倾向于“产生幻觉”或者说捏造事实;让普通人获得了作恶的能力;无法区分合理问题和阴险应用之间的区别等等。为此,微软和 OpenAI 共同制定一项安全开发和应用 AI 技术的协议,双方相信这些工具能让他们在回避威胁的同时充分发挥生成式 AI 的巨大潜能。Copilots 的发布也代表着两家公司的历史性时刻,意味着微软和 OpenAI 将在这波 AI 普及化浪潮中稳稳占据主动。2022 年底 ChatGPT 一经推出就席卷全球,日均用户量达到 1400 万;而作为第一合作方的微软,则坐拥 10 亿受众。

当纳德拉从震惊中回过神来,立刻给 OpenAI 董事会成员 Adam D’Angelo 打去电话并询问细节。几分钟后,D’Angelo 在一份新闻稿中给出了语焉不详的回应:奥特曼“在与董事会的沟通中未能一贯坦诚”。那奥特曼是否有过不当行为?并没有,但 D’Angelo 不愿透露更多。从表现来看,他跟其他董事会成员好像是故意不想解释解雇奥特曼的意图,以免纳德拉跑去提醒这位年轻的亲密伙伴。

不受约束的 AI“超级智能” 可能引发危险

纳德拉只能沮丧地挂断了电话。微软掌握着 OpenAI 营利部门近一半的股份,所以这样的决策当然应该征求纳德拉的意见。更重要的是,他知道这场“逼宫”很可能会引发 OpenAI 内部的激烈动荡,甚至波及到整个科技行业。毕竟技术领域关于 AI 快速发展到底是不是好事的争论一刻未停,早就有人想让奥特曼滚蛋、让 OpenAI 灭亡。

纳德拉随后给微软首席技术官 Kevin Scott 打去电话,Scott 也是促成微软与 OpenAI 合作的关键人物。Scott 也听说了这个消息,事态传播得很快。二人与其他微软高管进行了视频通话,大家都想知道奥特曼是不是因为急于发布 AI 成果、忽略安全问题才被踢出了局。确实,OpenAI、微软乃至整个科技行业都有人对 AI 的大爆发表示担忧,同时批评相关企业不顾一切争夺速度优势。

就连 OpenAI 首席科学家兼董事会成员 Ilya Sutskever 也曾公开表示不受约束的 AI“超级智能”可能引发危险,且时间就在 2023 年 3 月,OpenAI 发布其最强大的 AI 成果 GPT-4 之后不久。到目前为止,包括马斯克和沃兹尼亚克在内的数千人签署了一封公开信,呼吁暂停训练高级人工智能。“我们应该让机器用宣传话语和谎言塞满人类的信息渠道吗?我们应该冒上这份失去对文明控制权的风险吗?”不少硅谷观察人士认为,这封信基本就是在点名谴责 OpenAI 和其背后的金主微软。

Kevin Scott 对于这些批评意见倒是表示可以理解。但他认为围绕 AI 的这些奇谈怪论过度关注科幻小说描述的那些场景——即计算机毁灭人类,但却忽视了 AI 技术为头脑清醒的人们“创造公平竞争环境”的潜力。在他看来,AI 已经能用简单的自然语言与用户交流,只要在开发过程中保持充足的谨慎和耐心,AI 一定会成为一股有利于公平性的变革力量。

为此,Scott 和 OpenAI 那边的合作伙伴决定稳步开发后续 AI 产品,并招募大量科学家及非技术人员参与公开试验:微软将观察未经训练的用户如何与 AI 技术交互,由用户自行了解 AI 的优点和局限性。通过先发布还不完美的 AI 成果,客户能够提供真实反馈,微软再据此做后续改进,从而开辟一条既有利于技术发展、又能在用户中培养思辨习惯的理想路径。Scott 认为,破除 AI 威胁论的最佳方式就是尽可能保持技术透明,让其更多渗透到每个人的日常生活当中,而且最好就从最简单的用途入手。它就像个刚学会说话的孩子,多跟它聊聊,相信人们很快就会意识到 AI 是怎么一回事。

但 Scott 的一切谨慎布局如今几乎成为泡影。随着人们听说奥特曼被解雇,OpenAI 员工们带着自己对于奥特曼本人以及 OpenAI 使命的狂热信念,开始在网上表达各种负面评论。OpenAI 公司的首席技术官 Mira Murati 被任命为临时 CEO,但她对新职务表现得相当消极。很快,OpenAI 总裁 Greg Brockman 发推文称“我不干了。”受此号召,更多 OpenAI 也开始威胁要辞职。

微软的 ABC 计划

在与纳德拉的视频通话中,微软高管开始讨论针对奥特曼下台应当采取的应对措施。首选计划就是先支持 Murati 稳定住局势,再看看 OpenAI 董事会的决定还有没有挽回的余地,至少要求他们对这场鲁莽的政变做出明确解释。

如果董事会仍然拒绝采取任何行动,微软高管将采取 B 计划:利用微软巨大的影响力(包括已经承诺、但尚未实际支付给 OpenAI 的数十亿美元)帮助奥特曼重回 CEO 宝座,再通过更换董事会成员来重塑 OpenAI 的治理结构。一位知情人士表示,“从我们的角度来看,事情一直进展顺利,只是 OpenAI 的董事会做了一些有碍稳定的事情。所以我们觉得「应该让成熟的人接管事态,回到之前的正常轨道上来。」”

C 计划则是直接把奥特曼及其最有才华的同事吸纳到微软中来,在软件帝国内部重建 OpenAI。这样软件巨头将掌握一切即将出现的新技术,甚至可以考虑把业务出售给其他厂商,抓住这次机会赚上一笔意外之财。

在视频通话中,微软高管团队认为这三个方案都很可行。内部人士表示,“我们只是想恢复正常”。这项战略的前提,就是认定微软已经找到了开发负责任 AI 所需的方法、保障措施和核心框架。这样无论奥特曼本人的命运如何,微软的技术路线都不会动摇,最终必将把 AI 带入现实、交付给大众。

但 OpenAI 董事会成员对事情却有不同的看法,他们认为奥特曼这小子相当狡猾、无法信任。例如几个月前,奥特曼就曾与董事会成员、乔治敦大学安全与新兴技术中心主任 Helen Toner 直接对线,理由是对方参与撰写了一篇论文,似乎批评 OpenAI“不断煽动 AI 炒作”。Toner 为自己的观点做了辩护,但后来还是向董事会道歉,表示没有预料到自己的论文会被这样解读。奥特曼随后与其他董事会成员接洽,讨论将 Toner 踢出局。

而在成员间谈话之后,大家发现奥特曼其实在搬弄是非,通过歪曲造成了成员们支持罢免 Toner 的印象。熟悉董事会讨论内容的知情人士指出,“他会通过撒谎来挑拨各位董事会成员间的关系,而且类似的情况已经不是第一次发生了。”但另一位知情人士则强调,“虽然试图罢免董事会成员的方式不高明”,但奥特曼并不存在操纵董事会的嫌疑。

奥特曼无疑是位精明的商人,他的这种特性也成为 OpenAI 走向成功的必要元素:2018 年,他曾阻止早期董事会成员马斯克收购 OpenAI 的决议。奥特曼有着强大的信息控制与观念操纵技巧,并借此为这家年轻的公司吸引到了大量风险投资、建立起竞争优势。他的人事心术也相当高超,所以董事会的四名成员 Toner、D’Angelo、Sutskever 和 Tasha McCauley 达成共识,必须迅速行动来打奥特曼个措手不及。知情人士透露,“很明显,一旦奥特曼得到了消息,他就会尽一切努力破坏董事会的决议。”

董事会成员们最大的不满,在于 OpenAI 似乎越来越不在意当初对于 AI 技术培训保持警惕的理念,至少认为奥特曼的领导一直在强调赚钱、忽略了这份社会责任。另一位知情人士引述其观点,“我们的使命是多方位的,要通过保障 AI 的方式造福全人类。如果 CEO 不愿支持,那这份使命就注定要落空。”但奥特曼明显不这么看。熟悉他观点的人士表示,奥特曼曾与董事会进行“非常正常且健康的辩论”,但某些董事会成员明显不熟悉商业规则、而且对自己肩负的责任产生了畏惧心理。这位消息人士指出,“我们每向通用人工智能(AGI)迈进一步,人们就朝着理智崩溃又近了一点。”

很难说董事会成员到底更害怕计算机产生自我意识,还是奥特曼彻底失控。无论如何,他们决定亲自动手解决问题,而且错误地认为微软会支持他们的“义举”,共同把矛头指向奥特曼。

在纳德拉得知奥特曼将被解雇,并与 Scott 等其他高管召开视频会议后不久,微软的 A 计划即开始实施:通过支持 Murati 担任临时 CEO 来稳定局势,同时查明董事会为什么要如此冲动行事。纳德拉还批准发布一份声明,强调“随着我们将 AI 推向新的时代,微软将努力支持 Murati 及其管理团队。”纳德拉甚至还在个人 X 和 LinkedIn 账户上转发了这一观点。他与 Murati 保持着频繁联系,希望借她随时了解 OpenAI 董事会的动向。

不过纳德拉的布局似乎作用有限。就在奥特曼被解雇的前一天晚上,OpenAI 董事会就已经将决定告知 Murati,但要求她保持沉默。当时董事会天真地认为 Murati 的口头承诺代表她认可这项决议,至少不会与董事会对抗。至于其他 OpenAI 员工,那肯定也会支持最高决策层的意见。可实际情况恰恰相反,Murati 及其他 OpenAI 高管对此事表达了不满,部分员工甚至直接用“政变”形容董事会的此番操作。OpenAI 员工还向董事会成员提出了尖锐的问题,但后者几乎没有做出回应。两位熟悉董事会内情的人士提到,受到保密协定的约束,成员们不得不保持沉默。此外,随着奥特曼下台成为震动全球的大新闻,“与包括微软在内的各方难以顺畅沟通”的董事会成员很快感到不知所措。

在解雇事后发生的第二天,OpenAI 首席运营官 Brad Lightcap 向全公司发出一份备忘录,表示他了解到“董事会的决定并不涉及渎职行为,也与财务、业务、安全或者隐私保障之类的问题无关。仅仅是因为奥特曼与董事会之间沟通不畅。”但每当有人询问奥特曼到底有没有像董事会最初批评的那样“未能一贯坦诚”,各位成员都选择保持沉默,甚至拒绝没有提到奥特曼曾经针对过 Toner。

“这是成年人能干出来的事儿吗?”

在微软内部看来,整个事态发展蠢得令人难以置信。据报道,截至目前 OpenAI 的市值约为 800 亿美元。该公司的一位高管证实,“董事会做出的每个决定似乎都莫名其妙、几乎可以说是现状之下的最差选择,所以唯一的解释就是董事会想要摧毁整个公司。”而且面对多位 OpenAI 员工在 Greg Brockman 的带领下公开辞职,董事会仍然一言不发。

微软的 A 计划显然失败了,于是高管们很快转向了 B 计划:纳德拉开始跟 Murati 商议,看看有没有办法让奥特曼重归 CEO 岗位。但当时恰逢板球世界杯大赛,所以纳德拉作为印度队的球迷,在对话中常常用比赛进程来打破紧张气氛。但很遗憾,面对板球这种小众体育项目,很多同事压根不知道纳德拉在说什么。

外界对于奥特曼被废黜的批评之声也一浪高过一浪。科技记者 Kara Swisher 在推文中表示,“OpenAI 真是史诗级别的愚蠢,董事会长的是什么脑回路。”纳德拉则不断提出问题:董事会的下一步计划是什么?董事会打算如何重新赢得员工的信任?但就像弱智版 GPT 一样,董事会给出的所有答案都无法令人满意。OpenAI 威胁要反抗,Murati 也带领员工在微软的支持下敦促董事会成员主动辞职。最终,部分成员表示只要有合适的替代者,他们愿意离开。他们甚至表示可以接受奥特曼回归,只要不继续担任 CEO 也不进董事会就行。

到临近感恩节的周日,每个人都已经身心俱疲。Kevin Scott 对同事开玩笑说,他越来越不敢入睡,生怕醒过来之后又会曝出什么疯狂的新闻。记者们一刻不停盯着 OpenAI 的办公室和奥特曼的住所。OpenAI 董事会则邀请 Murati 私下谈谈,告诉她董事会一直在秘密招聘新的 CEO,而且终于找到了愿意接下这份烂摊子的人选。

对 Murati 来说,这已经是压倒大部分 OpenAI 乃至微软心理防线的最后一根稻草。到这时候也不用废话了,C 计划正式启动:周日当晚,纳德拉正式邀请奥特曼和 Brockman 加入微软并领导新的 AI 团队。在微软的研究实验室中,他们将拥有无穷无尽的资源和自由。两人也欣然接受。

微软开始为他们乃至后续可能跳槽的几百位 OpenAI 员工准备办公室,Murati 和同事们则向 OpenAI 董事会发出一封公开信:“抱歉,我们没办法继续为能力有限、判断力不足、而且对我们的使命和员工漠不关心的人们继续工作。”信中提到他们都将辞职并“加入微软新建立的子公司”,除非现任董事会成员集体辞职并恢复奥特曼和 Brockman 的职务。几个小时之内,几乎全体 OpenAI 都在信上署名。

Scott 发表推文表示,“致我在 OpenAI 的各位合作伙伴:我们已经看到了你们的请愿书,也欢迎你们愿意加入奥特曼在微软领导的新 AI 研究实验室。请大家放心,你们将在微软找到与原本职位薪酬相符的工作,与我们一道接过 OpenAI 的使命。”虽然科技界也有不少人对 Scott 咄咄逼人的态度颇有微词,但他本人倒是无所谓,并表示“今天一早,Twitter 上有很多人骂我是混蛋。没关系,我的任务是解决问题,而这可能会成为我职业生涯中的又一个亮点。”

C 计划和 OpenAI 员工的大规模离职显然把董事会吓得魂不附体。感恩节前两天,OpenAI 宣布奥特曼将重新担任 CEO。而且除 D’Angelo 之外,所有董事会成员都将辞职,而包括 Facebook 前高管、Twitter 董事长 Bret Tayllor,以及前财政部长兼哈佛大学校长的 Larry Summers 等新鲜血液将接过权柄。他们还考虑推动进一步治理调整,甚至对公司结构做出全面调整。OpenAI 的高管团队同时对此次事件开展独立调查,包括奥特曼担任 CEO 期间的过往行为。

“大赢家”微软

尽管 C 计划同样未能落地,但微软高管最终得出结论,认为目前的情况应该就是最好的结果。毕竟全面接收 OpenAI 员工可能引发成本高昂且旷日持久的诉讼,没准政府也会参与干预。在新的框架之下,微软在 OpenAI 董事会中获得了一个无投票权席位,能够在不引发监管审查的情况下获得更大的决策影响力。

实际上,这场闹剧中的最大赢家应该就是微软了,其 AI 开发方法也得到了最终认可。正如位微软高管所言,“奥特曼和 Brockman 真的很聪明,他们本来有很多选择,但最终还是选择了微软。所有 OpenAI 都选择了微软,就如同他们四年之前选择我们作为合作伙伴一样。这是对我们现有体系的重大认可,他们知道微软才是延续他们原有工作的最佳地点、安全环境。”

与此同时,被解雇的董事会成员们则坚称自己的行为完全正确。知悉内情的人士告诉我们,“未来将会进行全面、独立的调查,董事会的新成员不会是奥特曼的亲信,而是一群能够对抗他的新人。奥特曼手腕强硬、极具说服力,善于按照自己的观念推动事态变化,但现在他站在聚光灯下、不能像过去那么随意了。”Toner 还指出,“董事会自始至终的重点都是履行我们规范 OpenAI 使命的义务。”不过奥特曼表示他欢迎这项调查,这也是为了让他自己能理解为什么会闹出这场冲突,未来该采取哪些措施防止矛盾再次激化。

但一些 AI 监管机构对这样的结果并不满意。开源 AI 厂商 Hugging Face 首席道德科学家 Margaret Mitchell 就认为,“董事会对奥特曼的解雇就是在正常履行职责,而奥特曼的回归将会产生寒蝉效应,导致未来人们不敢再为此发声。敢于在公司内部提出反对意见的人越来越少,因为他们担心自己被解雇,而高管团队则会越来越不受约束。”

奥特曼显然不这么看,他评论道“我认为我们将迎来优秀的董事会团队、维持住良好的治理能力。我们将就此次事件开展独立调查,我个人也非常期待最终结果。我希望每个人都能在 OpenAI 奋力向前、感受到努力的快乐。我们绝不会停止开拓的脚步。”

原文链接:

https://www.newyorker.com/magazine/2023/12/11/the-inside-story-of-microsofts-partnership-with-openai

0 人点赞