当前位置: 当前位置:首页 >焦点 >OpenAI事件大复盘:过程、起因和影响正文

OpenAI事件大复盘:过程、起因和影响

作者:知识 来源:休闲 浏览: 【】 发布时间:2024-03-29 02:49:09 评论数:
来源: 新硅NewGeek

  OpenAI这出大戏终于迎来了结局。事件

  北京时间11月22日下午2:03分,大复OpenAI官方账号发布推文宣布阿尔特曼重任CEO,盘过大橘为重并且董事会大换血:

  这距离OpenAI官方宣布解雇阿尔特曼,程起仅仅过去了106个小时。因和影响在这106个小时里,事件全世界关注AI浪潮的大复人都屏住了呼吸。

  重组后的盘过董事会从原先的6个人降到了3个,先看看这几位董事都是程起什么身份。

  董事会主席Bret Taylor,因和影响谷歌地图的事件联合创始人及Facebook的CTO,其主要工作是大复围绕产品创新、团队管理和企业战略。盘过

  Bret Taylor

  Larry Summers,程起克林顿时期的因和影响财政部长,奥巴马时期的国家经济委员会主席,还曾担任过哈佛校长,一位著名的经济学家。

  Larry Summers

  Adam D’Angelo,硕果仅存的OpenAI前董事会一员,美版知乎Quora的联合创始人兼CEO,据传是这次政变的推手之一,他在董事会还能留多久值得观察。

  Adam D’Angelo

  在一些周边八卦的消息里,围绕董事会成员的博弈有三点:

  1. 最棘手的问题是重任CEO的阿尔特曼是否应当加入董事会,谈判的结果是初期不加入董事会,这一让步很大程度上促成了谈判的结果。

  2. Adam D’Angelo是否应该继续留在董事会,结果是他继续留任,但这也预示了当前只有三名成员的情况下,新董事会达成一致颇具挑战。

  3. 微软是否拥有董事会席位,或是至少以观察员的身份出现,但结果是暂时没有进入,可能还需要进一步厘清潜在的监管问题后再决定。

  对OpenAI员工来说,这些麻烦事儿以后可以慢慢解决,当务之急是先庆祝。一同回归的前任总裁Greg Brockman发了一张合影,可见员工都很开心。

  事已至此,暂时告一段落,咱们终于可以完整复盘一下故事始末了。

  过程

  我们详细梳理了整场政变的全过程,其中包括21个主线节点和16个花絮,下面按照美国西部时间来详细展开:

  主线#01:11月16日晚间,Sam Altman收到了来自同事Ilya Sutskever的大橘为重一条短信,表示要在第二天跟他聊一聊,并给了一个Google Meet的会议链接。

  花絮1:此时Sam Altman的美女同事Mira Murati已经知道了自己上司即将被解雇的消息,但Mira并没有私下里通知Sam,这通常会被视为背叛。

  OpenAI四名核心高管(左起):

  Mira Murati,CTO

  Sam Altman,CEO,董事会成员

  Greg Brockman,总裁,董事会成员

  Ilya Sutskever,首席科学家,董事会成员

  主线#02:11月17日中午12点,Sam准时登陆Google Meet参会,发现OpenAI的董事会成员都在(除了Greg),Ilya代表董事会通知Sam:你被解雇了。

  花絮2:OpenAI奇葩的董事会有6名成员,其中三名外部董事和Ilya结成了联盟,Sam则可以代表没参会的Greg投票,结果就是4:2,Sam出局。

  OpenAI董事会的六名成员

  主线#03:紧接着12点23分,Greg Brockman也收到了Ilya发来的Google Meet会议链接,上去后被告知他被董事会除名,但保留公司职务,而Sam已经被解雇。

  花絮3:一家微软占股49%的公司,内部开会没用微软Teams,而是用Google的产品,可见Teams都多难用。

  主线#04:然后17号下午3点,OpenAI正式官宣,Mira Murati接任CEO。在官宣前的1分钟,OpenAI通知了微软——是的你没看错,是1分钟。

  主线#05:随后,Sam Altman在发推上证实了自己被开除,两个小时后Greg Brockman转发这条推特,并宣布辞职,跟老大共同进退。

  主线#06:政变在OpenAI内部引发轩然大波,17号晚间推特上有人爆出“将有大批员工离职”;11月18日凌晨,三名高级研究人员宣布辞职。

  花絮4: Sam Altman的助理Alex Cohen跟他老板一起被解雇,他在推上发了求职意愿,16分钟后就找到了新工作:roofer.com的首席AI研究员。

  主线#07:OpenAI董事会受到了全球舆论的口诛笔伐,一脸懵逼的微软和第二大股东Thrive Capital也回过神来,开始对OpenAI董事会施加压力。

  花絮5:似乎只有马斯克在暗暗支持政变,他发帖道:Ilya有着良好的道德准则,并且不热衷权力。除非他觉得绝对有必要,否则他是不会采取这种极端行动的。ps:Ilya就是马斯克当年帮OpenAI招进来的。

  主线#08: 在巨大的压力下,第一次反转剧情出现了:临时CEO Mira在11月18号邀请Sam Altman第二天回公司谈判,这离解雇他仅仅只过去一天。

  花絮6:11月18日上午,Sam Altman发帖强调自己非常喜欢OpenAI团队,理论上是敌人的Mira转发并奉上爱心,吃瓜群众感到一阵迷糊。

  主线#09:11月19日下午,Sam回到OpenAI旧金山总部,Greg陪同。他办了张访客卡,并发推表示:这是我第一次也是最后一次佩戴访客牌。

  花絮7:有人调侃,乔布斯重回苹果用了12 年,Sam Altman重回OpenAI 用了48 小时。

  主线#10:11月19日晚间,谈判破裂,Iiya宣布Sam不会回归OpenAI,Twich联合创始人Emmett Shear将接任CEO。

  似乎要成为OpenAI新国王的Emmett Shear

  花絮8:临时CEO Mira姐姐因为坚持想让Sam和Greg回归,这激怒了董事会,所以从外部找了新CEO。不过对Mira来说,这可能是她很聪明的选择。

  主线#11:11月20日凌晨,微软CEO纳德拉宣布Sam Altman和Greg Brockman将加入微软,而OpenAI员工眼看Sam回归无望,开始出现离职潮。

  主线#12: 到了20号晚上,Ilya召开内部员工会,向大家介绍了新任CEO Emmett Shear,参加的员工并不多,现场跟Ilya怼了起来,后者情绪低落。

  花絮9:OpenAI员工纷纷在Slack上对新老板Emmett Shear用“Fuck You”表情包表达欢迎。

  主线#13: OpenAI高管和员工开始用脚投票,在推上疯狂刷一句话:“OpenAI Is Nothing without its people”,逼宫态度溢于言表。

  花絮10:市场预计OpenAI员工会集体跳槽至微软,后者股价大涨。

  主线#14:Ilya的态度开始松动,他发帖忏悔:“我对参与董事会的行动深表遗憾。我从未想过要伤害 OpenAI。我热爱我们共同建立的一切,我会尽我所能让公司重新团结起来。”

  花絮11:Greg的老婆 Anna Brockman也是OpenAI员工,她在办公室里恳求Ilya改变态度,并当场哭了。妹子流泪可能是影响Ilya的一大因素。

  主线#15:在推上刷屏的同时,Mira姐姐内部发起了一封态度强硬的公开信,要求董事会辞职,以及Sam和Greg回归,否则将追随他们加入微软。

  花絮12: 很多OpenAI休假的员工也赶回了公司,表达对Sam Altman的支持。

  主线#16:大量员工开始签名,最后有743人——超过95%的员工签署,甚至包括滑跪的Ilya。这是商业历史上最大的集体辞职运动。

  花絮13:Sam Altman对同事们的表现非常满意,并发推点名表扬了Mira Murati、Brad Lightcap(COO)和Jason Kwon。对Mira来说,这有些“赦免”的意味。

  主线#17: OpenAI董事会开始病急乱投医。根据The Information报道,他们去找了竞争对手Anthropic,探讨合并的可能,但被果断拒绝。

  主线#18:纳德拉在11月20号晚上上了彭博,再次坚定地表达了对Sam Altman的支持。第二天的11月21日,Sam Altman跟OpenAI董事会重新开始谈判。

  Bloomberg采访纳德拉

  花絮14:新任CEO Emmett Shear感到大事不妙,赶紧表示如果董事会说不清为何解雇Sam Altman,自己也会选择离职。

  主线#19:Altman让自己的朋友、Airbnb的 CEO Brian Chesky 代表自己谈判,而代表董事会的则是刚刚上任的CEO Emmett Shear。

  花絮15:在谈判期间,在公开信上签名的比例来到了97%(747/770),筹码显然在Sam Altman手里。

  主线#20:谈判结束,Sam Altman回归OpenAI担任CEO,并组建新董事会:成员包括 Bret Taylor(担任主席)、Larry Summers 和 Adam D‘Angelo。

  花絮16:Greg撒花庆祝,表示自己要马上回去写代码,而当了3天CEO的Emmett Shear也发推邀功:

  主线#21:Sam Altman发推,庆祝事件结束,并表示要加强跟微软的合作。纳德拉转发,微软在此事中赢得了长远的利益。

  历时106个小时,人类当前最重要的公司上演了一出莎士比亚式的政变。跟百转千回的剧情相比,这场政变的背后原因,才是最值得探究的。

  起因

  一则在“政变”期间不起眼的新闻,验证了政变的原因:加速主义与安全主义的路线之争。

  11月20日晚间,The Information爆料:OpenAI董事会在驱逐Sam Altman之后,跟AI创业公司Anthropic秘密接洽,意图合并两家公司。

  Anthropic是何方神圣?这家公司跟OpenAI一样,做的都是大模型,创始人Dario Amodei曾经是OpenAI的员工,2020年离职创办了这家公司。

  Anthropic创始人Dario Amodei

  在目前的大模型创业赛道上,Anthropic是仅次于OpenAI的存在,核心产品Claude2不逊于ChatGPT,公司先后拿了亚马逊和Google的投资。

  问题是,微软在OpenAI身上已经烧了一百多个亿,要是真合并了,OpenAI岂不是成了三姓家奴?

  不过Anthropic拒绝了合并的请求,显然不想掺和这事儿。外界普遍把合并的请求看作OpenAI董事会的一次病急乱投医,所以这则新闻也并不起眼。

  但仔细剖析,就能发现这件事不简单:Anthropic创始人Dario Amodei对AI的道德和伦理风险充满了警惕,这跟Sam Altman的理念差异巨大,2020年就是因为这个才离职的。

  OpenAI董事会在关键时刻却递出橄榄枝,目的不难看出:想请Dario Amodei同志回来“拨乱反正”,纠正OpenAI越来越追逐商业化的倾向。

  围绕AGI的安全问题,OpenAI内部虽然没有明确的出现“派别”,但也至少有两种声音:

  一种对通用人工智能充满警惕,担忧AI会对人类的生存造成风险,坚持用谨慎的态度来发展AI。代表人物是此次政变的推动者Ilya Sutskever和早已退出OpenAI的马斯克。

  一种是充满资本主义精神,对AGI的商业化抱有无限热情,准备大干快上跑步进入第四次工业革命,缔造下一个科技巨头。代表人物自然是这次被推翻的Sam Altman。

  前者通常被称为“安全主义”或者“超级对齐”,后者通常被称为“加速主义”或者“有效加速”。

  这两个派别在OpenAI创立之初就存在吗?显然不可能。创立时的OpenAI相对比较纯粹,多数OpenAI员工都把精力放在了技术本身上,没有明确倾向,整天思考人类命运的毕竟是少数。

  早期的OpenAI是非营利组织,但这种架构无法持续吸引顶级人才,尤其在薪资和期权方面,2019年,OpenAI在Sam Altman的领导下开始向“盈利上限”公司转型。

  他们成立了一个可营利实体——OpenAI Global LLC——来接受融资,同年微软投资10亿美元,但公司仍然保持了非营利组织时期的董事会结构。

  OpenAI董事会的作用就是确保AI安全,甚至公司章程直截了当地指出,OpenAI的“首要法定责任是对人类负责”,而不是对投资者和员工负责。

  这给本次董事会发动政变,提供了“合法性”,为后面发生的事情埋下了伏笔。之后,理想主义的科学家和现实主义的投资人维持着一种脆弱的平衡。

  打破这一平衡的,是ChatGPT。《大西洋月刊》采访OpenAI员工的原文是这样写的:

  “在ChatGPT之后,赚取收入和利润的道路变得清晰,你再也无法为‘理想主义研究实验室’的身份做辩护了。那里有客户正等着服务。”

  可产品部门却希望借着这一势头,推进商业化的进程,2023年1月,微软宣布GPT加入全家桶,2月推出付费版本ChatGPT,3月推出API工具帮助企业用户,两周后,GPT-4问世。

  在商业化突飞猛进的背景下,秉持“科技应当无休止加速进步”的一派,和“应当先确保AI不会威胁人类”再发布公开产品的一派,开始出现微妙的对立。

  尤其是Ilya,他把对AI的担忧写在脸上。2023年上半年他委托旧金山一位艺术家制作了一个木雕,起名为“不具备人类道德的AI”,然后当场烧掉。

  慈

  悲情怀的Ilya Sutskever

  今年7月,Ilya宣布要成立一个名为“超级对齐”的项目组,目的是在“爱”的这个层面上,让AI对人类产生类似耶稣或者释迦牟尼这种级别的大爱,无条件的爱。

  在一段采访中Ilya举了个例子来解释这种爱是什么:

  “人类喜欢动物,并自发的保护他们的生存,但我们并不会在两个城市间修高速的时候征求它们的许可,我们这么做只是因为这么做对我们很重要。”

  他认为,如果在AI进化的起点不能够诞生一种无条件的爱,那么以AI自我进化的速度,人类终究无法掌控,从而变成这种“人类与动物之间”的关系。

  但没等他把“超级对齐”彻底落实,危机就爆发了,是什么成为了导火索?

  导火索目前看是一连串的——即持有“安全主义”观点的董事会成员对Sam Altman近期的一系列动作和最近OpenAI内部的某些技术突破感到担忧,积累到一定程度,就爆发了。

  首先,是11月7日的OpenAI开发者大会,发布的GPTs和GPT Store大获成功,无数开发者像潮水一样涌来,复制苹果AppStore的路径已经跃然纸上。

  其次,是Sam Altman在APEC上的讲话,给人一种取得了重大突破的感觉,其原话是这样讲的:

  “现在正在发生的技术变革,将彻底改变我们生活方式、经济和社会结构以及其他可能性限制……这在OpenAI的历史上有四次,而最近一次,就是在过去几周内。”

  到底是那方面获得了重大突破?目前流传最多的就是OpenAI内部的Q-Star项目。

  据报道,OpenAI两位顶尖研究人员 Jakub Pachocki 和 Szymon Sidor开发出了名为Q*(Q-Star)的模型。

  这个模型强在哪里?它能够以前所未有的能力来解决数学问题,这是一个重要的技术里程碑,“该模型的演示在OpenAI内部流传,其发展速度令一些关注人工智能安全的研究人员感到震惊。”

  能够取得这种突破,本身就是基于Ilya Sutskever启动于2021年的一项重要工作:GPT-Zero。该项目研究如何使用计算机生成的数据——而不是现实世界的数据,例如从互联网上提取的文本或图像——来训练新模型。

  GPT-Zero获得了突破,于是OpenAI克服了高质量语料不足的障碍,一下子有了足够多的高质量数据来训练新模型,随后,Q-Star项目获得了突破。

  但身为“超级对齐”派的Ilya,对Q-Star持谨慎和警惕的态度,而身为“有效加速”派的Greg Brockman却一直想着怎么把该技术集成到新产品中。

  估计Ilya觉得兹事体大,于是夺权的危机就爆发了。

  但作为全世界最聪明的大脑,Ilya Sutskever没有预料到OpenAI员工对Sam Altman的忠诚如此强,最终政变失败,Ilya虽然滑跪掉头,但分歧显然还在。

  这种分歧以赤裸裸的方式展现给全世界后,人类可能真的要认真讨论AI的安全和监管了。

  影响

  这次政变及其结果,微软是最直接的受益者。

  在危机刚爆发时,微软无疑是最大的潜在输家。它已经给OpenAI投资了上百亿美金,内乱无疑将严重打乱微软一系列产品计划。

  在Sam Altman被宣布解雇后,微软CEO纳德拉就意识到这是一场噩梦般的危机,当时摆在微软面前的几乎是一个死局:

  要么站在董事会这边,完全不管,任由Sam Altman和追随他的员工流散各地。但很明显,这样做会放任OpenAI被掏空,微软的投资布局打水漂,显然不符合自己的利益。

  更重要的是,加州没有竞业协议的限制,Google、亚马逊、特斯拉、Anthropic等公司早就在旁边磨刀霍霍,OpenAI员工一旦流失到友商,等于给对手送上大礼包。

  要么接纳Sam Altman,并安置跟随Sam的OpenAI员工,如何安置也分成两种情况:一是安置在内部,组建独立的AGI部门;二是安置在外部,投钱给他们,再搞一家OpenAI。

  安置在内部,对微软股价是个好事,但结局可能会很骨感:OpenAI的700多名员工大概率会陆续离职。

  原因很简单:大部分加入OpenAI的科学家都喜欢一个纯粹的工作环境,微软的形象再怎么伟岸,也是硅谷公司政治的老牌重镇。

  用马斯克讽刺的话来说就是:让这帮追求情怀的人上班用微软Teams,你猜他们能待多久?

  另外,安置在微软内部还有一个后果,就是类似ChatGPT这种“不可测”的AIGC应用,因为存在大量法务和道德约束,在大公司的内部被批准。

  一个案例是Google,之前Google Photo的AI把黑人自动打标签成了猩猩,引发轩然大波,直接导致了在开发聊天机器人时畏手畏脚,被ChatGPT抢了先。

  而安置在外部,再造一个OpenAI并非不可能,毕竟700多名员工基本就等同于OpenAI了,推特上刷屏的那句“OpenAI is nothing without its people”可不是说着玩的。

  但再造一个OpenAI,会让微软耽误1~2年的时间窗口,代价非常大。

  当前,OpenAI刚刚推出了GPTs,下一代AppStore已经呼之欲出,这个时候如果给对手送上一两年的时间窗口,绝对是百亿甚至千亿美金的损失。

  其实对于微软来说,目前跟OpenAI和合作模式几乎是最理想的模式。

  一方面能够大幅度降低了创新成本,赋能微软全家桶产品;另一方面不用过于顾忌潜在风险,不会出现ChatGPT说错一两句话,却导致微软股价跌出10个OpenAI的情况。

  所以对微软来说最好的结局,就是Sam Altman回归,员工基本没离职,微软拿到董事会席位,马照跑舞照跳,跟危机之前比,微软能够小赚。

  而最终Sam Altman顺利回归,对于微软基本算是最好的结果。这离不开纳德拉的奔走和运作——经此一战,他的历史地位还会上升。

  而对于其他友商——如Anthropic、Google、Meta和亚马逊——来说,由于整个过程变化太快,他们基本上也只有吃瓜的份儿。

  而对全人类来说,这场闹剧是在用一种美剧的叙事结构和drama效果,变相通知了世界一件事:AGI已经明确搞出来了,推向碳基社会箭在弦上。

  OpenAI内部的“突破”到底会恐怖到什么程度?是不是会真的改变碳基社会的命运,目前还是一个未知数,但答案很快就会揭晓。

  现在有点儿像《进击的巨人》开头一幕:超大型巨人的手摸上了城墙,人们远远围观,并不知道未来会发生什么,这时候旁白缓缓说道:

  那一天,人类终于想起了被巨人所支配的恐惧。

  全文完。

  引用素材:

  [1] OpenAI Board Taps Former Twitch CEO Shear to Succeed Altman,Bloomberg

  [2] The Doomed Mission Behind Sam Altman‘s Shock Ouster From OpenAI,Bloomberg

  [3] The War Within OpenAI and What Comes Next,The information

  [4] Former GitHub CEO Friedman, Scale AI Founder Wang Declined OpenAI Top Job, The information

  [5] OpenAI chaos is good for Google, Amazon, and others trying to catch the AI leader, Business insider

  [6] SAM ALTMAN’S MANIFEST DESTINY,The NewYorker

  [7] Inside the Chaos at OpenAI, The Atlantic

  部分内容来自饭统戴老板微博,已获授权

  作者:张泽一

  编辑:辛十四

  视觉设计:疏睿

  责任编辑:张泽一

  亦感谢实习生成思怡对本文的贡献

责任编辑:王许宁