《纽约客》万字长文还原OpenAI“宫斗”内幕

taiyang @ 2023年12月04日  财经风云

《纽约客》万字长文还原OpenAI"宫斗"内幕

腾讯科技 



微软为OpenAI准备了A、B、C三个方案。
据国外媒体《纽约客》(The New Yorker)报道,在人工智能初创公司OpenAI上月发生的"宫斗"事件之前,该公司与微软已经制定出一个雄心勃勃但安全地发布人工智能的协议。但是OpenAI的时任董事会彻底打乱了微软与OpenAI精心布局的计划。

以下为文章全文:

今年感恩节前的周五(11月17日),上午11点30分左右,微软首席执行官萨提亚·纳德拉(Satya Nadella)正在与公司高层进行每周例会,这时一位惊慌失措的同事让他接电话。人工智能初创公司OpenAI的一名高管打电话解释说,在接下来的20分钟内,公司董事会将宣布解雇OpenAI联合创始人、首席执行官山姆·奥特曼(Sam Altman)。这也是OpenAI为期五天的"宫斗"戏的开始。微软内部把OpenAI的这场危机戏称为"一边倒的闹剧"(the Turkey-Shoot Clusterfuck)。

举止随和的纳德拉当时感到异常惊讶,以至于一时不知道该说什么。他与奥特曼密切合作了四年多,并开始欣赏和信任他。此外,他们的合作刚刚推动微软举办了十年来最大规模的发布会:众多建立在OpenAI的技术之上的尖端人工智能助手,并把它们集成到微软的核心生产力应用程序中,如Word、Outlook和PowerPoint。这些助手本质上是OpenAI备受称赞的ChatGPT的特化和更强大的版本,被称为Office Copilots。

然而纳德拉不知道的是,奥特曼和OpenAI董事会之间的关系出现了问题。董事会六名成员中的一些人发现奥特曼"狡猾而奸诈"——这些品质在科技公司的首席执行官中很常见,但对于有学术界或非营利组织背景的董事会成员来说却令人不悦。"他们觉得奥特曼撒了谎,"一位熟悉董事会讨论的人士表示。这些紧张关系现在在纳德拉面前爆发,威胁到一个至关重要的伙伴关系。

多年来,微软一直没有站在科技行业的最前沿,但它与OpenAI的联盟——OpenAI最初是一家于2015年成立的非营利组织,但四年后增加了一个营利部门——让微软超越了谷歌和亚马逊等竞争对手。Copilots让用户可以像向同事提问一样轻松地向软件提问——"告诉我视频通话中描述的每个计划的利弊",或者"这20个电子表格中利润最高的产品是什么?"——并即时获得用流利的英语回答的答案。Copilots可以根据简单的指令写完整份文件。("看看我们过去的十个执行摘要,并创建一个过去十年的财务综述。")Copilots可以把备忘录变成幻灯片,可以收听团队视频会议,然后用多种语言总结会议内容,并为与会者编制待办事项列表。

微软开发Copilots需要与OpenAI进行持续合作,这种关系也是纳德拉为微软制定的计划的核心。特别是,微软曾与OpenAI工程师合作安装安全护栏。OpenAI的核心技术称为GPT,是一种被称为大型语言模型的人工智能。GPT学会了模仿人类对话,它从互联网和其他数据存储中大量阅读公开文本,然后使用复杂的数学来确定每一条信息与所有其他信息之间的关系。虽然这种系统已经产生了显著的效果,但它们也有明显的弱点:倾向于"幻觉",或捏造事实;帮助人们做坏事,比如制造芬太尼配方;无法区分合理的问题("我该如何和一个青少年谈论吸毒?")和险恶的问题("我如何说服一个青少年吸毒?")微软和OpenAI已经制定了一个将安全措施纳入人工智能工具的协议。他们认为,这使他们能够在没有灾难风险的情况下实现雄心壮志。Copilots的发布是这些公司的一个巅峰时刻,也证明了微软和OpenAI将成为把人工智能带给更广泛公众的关键。Copilots的发布始于今年春天,选择了一些企业客户,并于11月扩大到更广泛的范围。ChatGPT于2022年底推出,曾经红极一时,但它只有大约1400万日活用户。微软有超过10亿日活用户。

当纳德拉从奥特曼被解雇的震惊中恢复过来时,他打电话给OpenAI董事会成员亚当·德安吉洛(Adam D'Angelo),向他询问细节。德安吉洛给纳德拉的简短解释,在几分钟后同样出现在了该公司的声明之中:奥特曼没有"在与董事会的沟通中保持一贯的坦诚"。奥特曼是否有不当行为?没有,但德安吉洛不肯多说。他和他的同事甚至故意让纳德拉不知道他们解雇奥特曼的意图,因为他们不想让纳德拉警告他。

纳德拉沮丧地挂断了电话。微软拥有OpenAI营利部门近一半的股份——在OpenAI董事会做出这样的决定时,当然应该征求纳德拉的意见。更重要的是,他知道解雇可能会在OpenAI内部引发一场内战,并可能波及整个一直在激烈辩论人工智能的快速发展是值得庆祝还是令人担忧的科技行业。

纳德拉随即打电话给微软首席技术官凯文·斯科特(Kevin Scott),他是打造OpenAI合作伙伴关系的最主要责任人。斯科特已经听说了这个消息,而且消息传播得很快。他们与其他微软高管立即召开视频会议。他们互相询问,奥特曼被解雇是因为在发布人工智能产品时,速度与安全之间的紧张关系吗?OpenAI和微软以及科技圈的一些大咖之前都表达了对人工智能公司鲁莽前进的担忧。甚至OpenAI的首席科学家兼董事会成员伊尔亚·苏茨克维(Ilya Sutskever)也公开谈论过不受约束的人工智能的危险。2023年3月,在OpenAI发布其迄今为止最强大的人工智能服务GPT-4后不久,包括"硅谷钢铁侠"埃隆·马斯克(Elon Musk)和苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)在内的数千人曾联名签署了一封公开信,呼吁暂停训练高级人工智能模型。"我们应该让机器用宣传和谎言淹没我们的信息渠道吗?"这封信中反问。"我们应该冒着让我们文明失控的风险吗?"许多硅谷观察家认为,这封信实质上就是对OpenAI和微软的指责。

在某种程度上,斯科特尊重他们的担忧。他认为,对于那些知道自己希望计算机做什么,但缺乏实现它的培训的人而言,围绕人工智能的讨论一直奇怪地集中在科幻小说的场景上——计算机摧毁了人类——并且在很大程度上忽视了该技术"创造公平竞争环境"的潜力。斯科特觉得如果人工智能是以足够的谨慎和足够的耐心建立起来的话,它会有能力用简单的语言与用户交流,可以成为一种变革和平衡的力量。

斯科特和他在OpenAI的合作伙伴已经决定缓慢但持续地发布人工智能产品:微软将观察未受教育的用户如何与该技术互动,而用户将自学该技术的优势和局限性。通过发布公认不完美的人工智能软件,并从客户那里获得坦率的反馈,微软找到了一种既能改进技术又能在用户中培养怀疑的实用主义的方法。斯科特认为,管理人工智能危险的最佳方式是对尽可能多的人尽可能透明,并让这项技术逐渐渗透到我们的生活中——从单调的用途开始。还有什么比通过文字处理器这样不性感的东西来教人类使用人工智能更好的方法呢?

斯科特所有的谨慎定位都因奥特曼被解雇变得岌岌可危。随着越来越多的人知道奥特曼被解雇,OpenAI的员工——他们对奥特曼和OpenAI的使命的信仰近乎狂热——开始在网上表达出沮丧之情。这家初创公司的首席技术官米拉·穆拉蒂(Mira Murati)随后被任命为临时首席执行官,但她并没有热情地接受了这个角色。很快,OpenAI总裁格雷格·布罗克曼(Greg Brockman)在社交平台X上说:"我不干了。"其他OpenAI员工也开始威胁着要辞职。

在与纳德拉的视频通话中,微软高管开始讨论对奥特曼下台的可能回应。A计划是试图通过支持穆拉蒂来稳定局势,然后与她合作,看看这家初创公司的董事会是否会改变决定,或者至少对其轻率的举动进行解释。

如果OpenAI董事会拒不遵从,微软高管将实施B计划:利用其巨大的影响力,包括承诺给OpenAI但尚未打款的数十亿美元,帮助奥特曼重新担任首席执行官并重塑OpenAI的治理结构,方法是更换董事会成员。知情人士表示,在当时的会议中,微软高管提到:"从我们的角度来看,事情一直进展得很好,而OpenAI的董事会做了一些不稳定的事情,所以我们想,'让一些成年人来负责,回到我们所拥有的一切。'"

如果以上两个计划都失败,C计划将是微软聘用奥特曼及其最有天赋的同事,在微软内部重新建立OpenAI。在这种情况下,这家软件巨头将拥有所有出现的新技术,意味着它可以把这些技术出售给其他人——这可能会狠狠赚上一笔。

参与视频通话中的团队认为,这三个计划都很有力。但是微软的目的还是让一切恢复正常。这种策略背后的信念是,微软已经搞清楚了开发负责任人工智能所需的方法、安全保障和框架中的一些重要内容。无论奥特曼发生了什么,公司都在根据自己的蓝图推进人工智能的普及。

01 与OpenAI合作的关键人物
斯科特确信人工智能可以改变世界,这是因为技术已经彻底改变了他自己的生活。他在弗吉尼亚州格拉迪斯(Gladys)长大,这是一个离南北战争时期南方主将李将军向格兰特投降的地方不远的小社区。他家里没有人上过大学,医疗保险几乎是一个陌生的概念。作为一个男孩,斯科特有时依赖邻居的食物。他的父亲是一名越南兽医,曾尝试着经营过加油站、便利店、卡车运输公司和各种建筑企业,但都以失败告终,并两次宣布破产。

斯科特想要一种不同的生活。他的父母以每月分期付款的方式给他买了一套百科全书,斯科特像大型语言模型Avant La Lettre一样,把这套书从头到尾阅读了一遍。为了好玩,他拆开了家中的烤面包机和食物搅拌器。他攒够了钱,买得起Radio Shack最便宜的电脑,然后通过查阅图书馆书籍学会了编程。

在斯科特1972年出生前的几十年里,格拉迪斯周围的地区是家具和纺织厂的所在地。到他青春期时,大部分制造业都转移到了海外。技术——供应链自动化,和电信的进步表面上是罪魁祸首,因为它们使得在海外生产商品变得更加容易,那里的日常开支更便宜。但是,即使在十几岁的时候,斯科特也觉得技术不是真正的罪魁祸首。"这个国家告诉自己,外包是不可避免的,"斯科特今年9月接受采访时曾表示。"我们可以告诉自己失去制造业的社会和政治负面影响,或者保护社区的重要性。但那些从未真正成为现实。"

在进入林奇堡学院(一所隶属于基督门徒的当地学校)后,斯科特获得了维克森林大学的计算机科学硕士学位,并于1998年开始在弗吉尼亚大学攻读博士学位。他对人工智能很着迷,但他了解到许多计算机科学家将其视为等同于占星术。早期创造人工智能的各种尝试都失败了,这个领域有勇无谋的观念在学术部门和软件公司根深蒂固。许多顶级思想家已经放弃了这门学科。在2000年,一些学者试图通过将人工智能研究重新命名为"深度学习"来复兴它。但怀疑论持续存在:在2007年的一次人工智能会议上,一些计算机科学家制作了一个恶搞视频,暗示深度学习人群是由邪教徒组成的。

当斯科特攻读博士学位时,他注意到他遇到的一些最优秀的工程师强调了成为短期悲观主义者和长期乐观主义者的重要性。"这几乎是必须的,"斯科特说。"你看到世界上所有破碎的东西,而你的工作就是努力修复它。"即使工程师们认为他们尝试的大部分都不会成功,而且一些尝试可能会让事情变得更糟,他们也"必须相信他们可以解决问题,直到事情最终变得更好。"

2003年,斯科特从他的博士项目中请假加盟谷歌,在那里他负责监督移动广告工程。几年后,他从谷歌辞职,在移动广告初创公司AdMob负责工程和运营,谷歌后来以7.5亿美元收购了这家公司。斯科特随后跳槽到领英,在那里他因异常擅长以既鼓舞人心又现实的方式构建雄心勃勃的项目而闻名,2016年,领英被微软收购,斯科特也随之加入了微软。

那时的斯科特已经非常富有,但在技术圈里却鲜为人知,因为他喜欢"匿名"。他曾计划在微软收购完成后离开领英,但2014年成为微软首席执行官的纳德拉敦促他重新考虑。纳德拉分享了一些让斯科特对人工智能感到好奇的信息,部分由于更快的微处理器,该领域当时的发展让这项技术身名鹊起:Facebook已经开发了复杂的面部识别系统;谷歌建立了一个能够熟练翻译语言的人工智能。纳德拉很快宣布,在微软,人工智能"将决定我们未来的所有行动。"

斯科特不确定他和纳德拉是否有相同的抱负。他给纳德拉发了一份备忘录,解释说如果他留下来,他希望自己的部分议程是提升那些通常被科技行业忽视的人。斯科特希望人工智能能够帮助那些聪明但没有接受过数字教育的人,他就是在这些人中长大的。这是一个引人注目的论点——一些技术专家会认为这是故意的吗?鉴于人们普遍担心人工智能辅助的自动化会消除杂货店收银员、工厂工人或电影临时演员等工作。

然而,斯科特相信一个更乐观的故事。他在接受采访时表示,曾经有一段时间,大约70%的美国人从事农业工作。技术进步减少了对劳动力的需求,如今只有1.2%的劳动力务农。但这并不意味着有数百万农民失业:许多这样的人成为卡车司机,或回到学校成为会计师,或找到其他道路。斯科特表示,"也许在更大程度上,人工智能比之前的任何技术革命都更能用来重振美国梦。"他觉得,在弗吉尼亚州经营一家养老院的童年好友可以利用人工智能来处理她与医疗保险和医疗补助的互动,让该机构专注于日常护理。另一个朋友在一家为主题公园制造精密塑料部件的商店工作,他可以利用人工智能来帮助他制造部件。斯科特认为,人工智能可以通过将"有赢家和输家的零和交易转变为非零和进步,让社会变得更好。"

纳德拉读了备忘录,正如斯科特所说:"是的,听起来不错。"一周后,斯科特被任命为微软的首席技术官。

如果斯科特希望微软领导人工智能革命,他必须帮助该公司超越谷歌。谷歌通过向几乎任何人提供数百万美元来拉拢人工智能领域的人才,哪怕他们只是取得了一个小小的突破。在过去的20年里,微软一直试图通过在内部人工智能项目上花费数亿美元来与谷歌竞争,但收效甚微。微软高管们开始认为,像微软这样巨大的公司——拥有超过20万名员工和庞大的官僚体系——不具备人工智能发展所需的灵活性和动力。"有时候越小越好,"斯科特在接受采访时说。

在这种情况下,斯科特开始关注各种创业公司,其中一家脱颖而出:OpenAI。这家公司的使命是要确保"通用人工智能——我们指的是在最具经济价值的工作中超越人类的高度自治系统——造福全人类。"在此之前,微软和OpenAI已经建立起了合作关系:这家初创公司使用了微软的云计算平台Azure。2018年3月,斯科特在这家位于旧金山的初创公司安排了一次与一些员工的会面。他很高兴见到几十个年轻人,他们拒绝了大型科技公司的数百万美元薪酬,为一个承诺其发明不会"伤害人类或过度集权"的组织每天工作18小时。该公司首席科学家苏茨克维特别关注为人工智能的出现做准备,人工智能如此复杂,可能会解决人类的大多数问题——或者导致大规模的破坏和绝望。

与此同时,奥特曼是一位有魅力的企业家,他决心让人工智能变得有用和赚钱。斯科特认为,这家初创公司的敏感性非常理想。他表示,OpenAI致力于"将能量导向影响最大的事物。他们有一种真正的文化,即'这是我们正在努力做的事情,这些是我们正在努力解决的问题,一旦我们发现什么可行,我们就会加倍努力。'他们对未来有一套自己的理论。"

OpenAI当时已经取得了令人瞩目的成果:它的研究人员创造了一只机器人手,可以玩魔方,即使遇到以前没有遇到过的挑战,比如把它的一些手指绑在一起。然而,最让斯科特兴奋的是,在随后的一次会议上,OpenAI的管理层告诉他,他们已经放弃了机器人手,因为它不够有前途。"最聪明的人有时最难管理,因为他们有一千个绝妙的主意,"斯科特说。但该公司的员工对他们的工作几乎充满了救世主般的热情。在今年7月斯科特遇到苏茨克维后不久,苏茨克维向斯科特说,人工智能将"颠覆人类生活的每一个领域",这可能会使医疗保健等领域比现在"好一亿倍"。这种自信吓跑了一些潜在投资者,但斯科特觉得这很吸引人。

这种乐观与当时弥漫在微软的阴郁气氛形成了鲜明对比。一位微软前高管表示:"每个人都认为人工智能是一场数据游戏,谷歌拥有更多数据,微软处于永远无法缩小的巨大劣势。"该高管补充说,"我记得当时感到非常绝望,直到斯科特说服我们,还有另一种方式来玩这个游戏。"微软和OpenAI之间的文化差异使他们成为特殊的合作伙伴。但对斯科特和在成为OpenAI的首席执行官之前曾领导创业加速器Y Combinator的奥特曼来说,联手是非常明智的。

纳德拉、斯科特和微软的其他人愿意容忍这些奇怪的事情,因为他们相信,如果他们能够用OpenAI技术强化自己的产品,并利用初创公司的天赋和雄心,他们将在人工智能竞赛中获得显著优势。2019年,微软同意向OpenAI投资10亿美元。从那以后,微软实际上获得了OpenAI营利部门49%的股份,以及将OpenAI过去和未来的发明商业化的权利,包括在Word、Excel、Outlook、以及Skype和Xbox游戏机等产品,都可以应用OpenAI的技术。

02 贫困中长大的穆拉蒂
纳德拉和斯科特对这项投资的信心是由他们与奥特曼、苏茨克维和首席技术官穆拉蒂形成的纽带支撑的。斯科特特别重视与穆拉蒂的关系。像他一样,她也是在贫困中长大的。她1988年出生于阿尔巴尼亚,经历了黑帮资本主义的兴起和内战的爆发。她通过参加数学竞赛来应对这一巨变。

当穆拉蒂16岁时,她获得了加拿大一所私立学校的奖学金,在那里她表现出色。"我童年的很多时光充斥着警笛声、枪击案以及其他可怕的事情,"穆拉蒂在今年夏天接受采访时说。"但是仍然有快乐的生日、少女的单相思和知识的海洋。这教会你一种坚韧的品德——相信如果你继续努力,事情会变得更好。"

穆拉蒂在达特茅斯大学学习机械工程,期间加入了一个研究团队,该团队正在建造一辆由超级电容器电池供电的赛车,这种电池能够产生巨大的能量爆发。其他研究人员认为超级电容器不切实际;还有一些人追求更深奥的技术。穆拉蒂认为这两种观点都太过极端。这样的人永远不可能穿越弹坑到达她的学校。穆拉蒂说,你必须是一个乐观主义者和现实主义者,"有时人们会把乐观主义误解为粗心的理想主义。但这必须经过充分的考虑和深思熟虑,要有很多护栏——否则,你会冒很大的风险。"

毕业后,穆拉蒂加入了特斯拉,然后在2018年加入了OpenAI。斯科特表示,他同意十亿美元投资的一个原因是他"从未见过穆拉蒂慌张的样子。"他们开始讨论如何使用超级计算机来训练各种大型语言模型。

两家公司很快就建立并运行了一个系统,结果令人印象深刻:OpenAI训练了一个机器人,它可以生成令人惊叹的图像,以响应诸如"给我看狒狒在耶稣旁边扔披萨,以马蒂斯的风格呈现"的提示。另一个创造GPT,能够用英语会话回答任何问题——即使不总是正确的。但目前还不清楚普通人如何将这种技术用于除了无所事事的娱乐之外的任何事情,也不清楚微软如何收回投资。今年年初又有消息称,微软的投资将增加至100亿美元。

2019年的一天,一位名为达里奥·阿莫代伊(Dario Amodei)的OpenAI副总裁向他的同行展示了一件非凡的事情:他向GPT输入了一个软件程序的一部分,并要求系统完成编程。它几乎立刻就这么做了(使用了阿莫代伊自己没有计划使用的技术)。没有人能确切地说出人工智能是如何做到这一点的——大型语言模型基本上是一个黑盒。GPT的实际代码相对较少;它的答案是一个字一个字地基于数十亿的数学"权重",根据复杂的概率决定下一步应该输出什么。在回答用户的问题时,不可能绘制出模型建立的所有联系。

对OpenAI内部的一些人来说,GPT神秘的编程能力令人恐惧——毕竟,这是《终结者》等反乌托邦电影的场景。当员工们注意到,尽管GPT技术高超,但有时还是会犯编程错误,这几乎令人振奋。在了解到GPT的编程能力后,斯科特和穆拉蒂感到有些担心,但更多的是兴奋感。他们一直在寻找人工智能的实际应用,人们可能会付费使用。

03 Copilot的诞生
5年前,微软收购了GitHub,其原因与它投资OpenAI的原因大致相同。GitHub的文化年轻且快速发展,不受传统和正统文化束缚。被收购后,它成为微软内部的一个独立部门,拥有自己的首席执行官和独立决策权。事实证明该策略是成功的,GitHub深受软件工程师的喜爱,其用户数量增长到了一亿多。

因此,斯科特和穆拉蒂在寻找一个可能会对能够自动完成代码的工具感到兴奋的微软部门——即使它偶尔会出错——他们转向GitHub的首席执行官纳特·弗里德曼(Nat Friedman)。毕竟,发布在GitHub上的代码有时会包含错误;用户已经学会解决不完美的地方。弗里德曼说他想要这个工具。他指出,GitHub只需要想出一种方法来告诉人们,他们不能完全信任自动完成功能。GitHub员工集体讨论了该产品的名称:Coding Autopilot、Automated Pair Programmer、Programarama Automat。弗里德曼是一名业余飞行员,他和其他人认为这些名称错误地暗示该工具可以完成所有工作。而这个工具更像是一个副驾驶——一个和你一起进入驾驶舱并提出建议的人,同时偶尔也会提出一些不合时宜的建议。通常你会听副驾驶的意见;有时你会选择忽略。当斯科特听到弗里德曼最喜欢的名字——GitHub Copilot时,他很喜欢这个名字。斯科特说:"这个名称完美地传达了它的优点和缺点。"

但当GitHub准备在2021年推出Copilot时,微软其他部门的一些高管提出抗议,认为该工具偶尔会产生错误,会损害微软的声誉。"这是一场激烈的战斗,"弗里德曼告诉我。"但我是GitHub的首席执行官,我知道这是一个很棒的产品,所以我发布了它。"当GitHub Copilot发布后,立即大获成功。"Copilot简直让我大吃一惊,"一名用户在发布几小时后发推文说。"这是魔法!!!"另一个贴子说。微软开始对该应用程序收取每月10美元的费用;不到一年,GitHub的年收入就超过了一亿美元。该部门的独立性得到了回报。

但是GitHub Copilot也引起了不太积极的反应。在留言板上,程序员推测,如果有人太懒或太无知而没有在部署自动完成的代码之前检查它,这种技术可能会蚕食他们的工作,或者给网络恐怖分子提供动力,或者引发混乱。包括一些人工智能先驱在内的知名学者引用了已故的斯蒂芬·霍金(Stephen Hawking)在2014年的声明,即"全人工智能可能意味着人类的终结。"

令人震惊的是,GitHub Copilot的用户发现了如此多的灾难性可能性。但GitHub和OpenAI的高管们也注意到,人们使用这个工具越多,他们对它的能力和局限性的理解就越微妙。"使用一段时间后,你会对它擅长什么和不擅长什么有一种直觉,"弗里德曼说。"你的大脑会学习如何正确使用它."

微软高管认为,他们找到了一个既有魄力又负责任的人工智能发展战略。斯科特开始写一份备忘录,题为《人工智能Copilot的时代》,于2023年初发送给微软的技术领导人。斯科特写道,重要的是,微软为向世界解释这项技术找到了一个强有力的比喻:"Copilot做的正是名字所暗示的;对于试图完成复杂任务的用户来说,它是一个专家助手……Copilot可以帮助用户了解其能力的极限。"

在ChatGPT发布后,它让大多数人了解了人工智能,并迅速成为历史上增长最快的消费级应用程序。但是斯科特可以预见未来:机器和人类通过自然语言进行互动;人们,包括那些对编程一无所知的人,仅仅通过说出他们想法来给计算机编程。这是他一直追求的公平竞争环境。正如OpenAI的联合创始人在社交媒体上所说:"最热门的新编程语言是英语。"

斯科特写道:"在我的职业生涯中,我从未经历过我的领域发生如此大变化的时刻,重新想象可能性的机会如此现实和令人兴奋。"下一个任务是将GitHub Copilot——一款精品产品——的成功应用于微软最受欢迎的软件。这些Copilot的引擎将是一项新的OpenAI发明:一个大型语言模型。OpenAI称之为GPT-4。

微软多年前曾试图将人工智能带给大众,但最终尴尬的以失败收场。1996年,该公司发布了Clippy,这是其办公产品的"助手"。Clippy在屏幕上显示为一个有着卡通大眼睛的纸夹,看似随机地弹出,询问用户是否需要帮助来写信、打开PowerPoint或完成其他任务。杰出的软件设计师艾兰·库伯(Alan Cooper)后来说,Clippy的设计是基于对研究的"悲剧性误解",研究表明人们可能会更好地与似乎有情感的计算机互动。用户当然对Clippy有情绪:他们讨厌它。史密森尼称之为"计算机史上最糟糕的软件设计失误之一。"2007年,微软砍掉了Clippy。

9年后,微软创造了人工智能聊天机器人Tay,旨在模仿一个十几岁女孩的语调和注意力,目的是为了与推特用户互动。Tay几乎立即开始发布种族主义、性别歧视和同性恋恐惧的内容,包括"希特勒是对的"的声明。在发布后的第一个16小时内,Tay发布了96000次,此时微软意识到这是一场公关灾难,将其关闭。

到2022年底,微软高管们觉得已经准备好开始为Word、Excel和其他产品开发Copilots了。但微软明白,就像法律是不断变化的一样,即使在产品发布后,产生新的保护措施的需求也会不断增加。人工智能工程主管莎拉·伯德(Sarah Bird)和斯科特经常因这项技术的失误而感到汗颜。在疫情期间,当他们测试另一项OpenAI发明图像生成器Dall-E 2时,他们发现如果要求系统创建与新冠肺炎有关的图像,它通常会输出货架被抢空的图片。一些微软员工担心这样的图像会加剧人们对疫情导致经济崩溃的担忧,他们建议改变产品的安全措施以抑制这种趋势。但微软的其他人认为这些担忧是愚蠢的,不值得软件工程师花费时间。

斯科特和伯德决定在有限的公开发布中测试这个场景,而不是裁定这个内部辩论。他们推出了一个版本的图像生成器,然后等着看用户是否会因为看到屏幕上的空货架而感到不安。他们不会为一个没有人确定存在的问题设计一个解决方案——就像一个眼睛瞪得大大的回形针帮助你浏览一个你已经知道如何使用的文字处理器——他们只会在必要时增加一个缓解措施。在监控社交媒体和互联网的其他角落,并收集用户的直接反馈后,斯科特和伯德得出结论,这些担忧是没有根据的。"你必须在公共场合进行实验,"斯科特说。"你不能试图自己找到所有的答案,并希望你把一切都做对。我们必须学会如何一起使用这些东西,否则我们谁也搞不懂。"

2023年初,微软准备发布首次将GPT-4集成到微软品牌产品中:搜索引擎必应。集成人工智能技术的必应受到热烈欢迎,下载量猛增了八倍。纳德拉开玩笑说微软打败了"800磅重的大猩猩",以此来嘲讽谷歌。(尽管这项创新令人印象深刻,但就市场份额而言并没有多大意义:谷歌仍然占据90%以上的搜索份额。)

必应只是一个微软议程上的一个开端。随后微软开始在其他产品中推出Copilot。今年春天,当微软最终开始推出Copilots时,版本的发布是小心翼翼地错开的。最初,只有大公司才能使用这项技术;随着微软了解这些客户如何使用它并开发出更好的保护措施,它才会被提供给越来越多的用户。截至11月15日,已有数万人在使用Copilots,预计很快会有数百万人注册。

在此两天之后,纳德拉忽闻奥特曼被解雇。OpenAI董事会的一些成员发现奥特曼是一个狡猾得令人不安的操纵者。例如,今年秋初,他与乔治敦大学安全和新兴技术中心主任海伦·托纳(Helen Toner)对质,因为她与人合写了一篇论文,似乎批评OpenAI"助长了人工智能炒作的火焰"。托纳为自己辩护(尽管她后来向董事会道歉,没有预料到这篇论文会被怎样看待)。奥特曼开始单独接触其他董事会成员,讨论替换她的问题。当这些成员交换谈话记录时,一些人认为奥特曲解成他们支持解除托纳职务。"他会在其他人的想法上撒谎,让他们互相争斗,"熟悉董事会讨论的人士透露。"这样的事情已经发生多年了。"(一位熟悉奥特曼观点的人士表示,他承认"试图让一名董事会成员下台的方式很笨拙",但他没有企图操纵董事会。)

04 微软的A、B、C计划
奥特曼被认为是一个精明的企业斗士。这在过去对OpenAI很有帮助:2018年,他阻止了早期董事会成员马斯克收购OpenAI的冲动。奥特曼控制信息和操纵认知的能力——公开的和秘密的——吸引了风险资本家通过投资各种创业公司来相互竞争。他的战术技巧如此令人畏惧,以至于当董事会的四名成员——托纳、德安吉洛、苏茨克维和塔莎·麦考利(Tasha McCauley)——开始讨论罢免他时,他们决心保证让他措手不及。"很明显,一旦山姆知道了,他会尽一切可能削弱董事会,"熟悉这些讨论的人士说。

不高兴的董事会成员觉得OpenAI的任务要求他们对人工智能变得太危险保持警惕,他们认为奥特曼在位的情况下,他们无法履行这一职责。"任务是多方面的,要确保人工智能造福全人类,但如果不能让首席执行官负起责任,没人能做到,"另一名了解董事会想法的人说。奥特曼看问题的角度不同。熟悉他的观点的人说,他和董事会进行了"非常正常和健康的董事会辩论",但一些董事会成员不熟悉商业规范,并被他们的责任所吓倒。这个人说,"我们每向人工智能靠近一步,每个人都要承受10分的精神错乱。"

很难说董事会成员更害怕有感知能力的计算机,还是担心奥特曼擅作主张。但不管怎样,董事会最终选择了先发制人,他们误以为微软会和他们站在一起,共同把奥特曼当做目标,支持他们的罢免决定。

纳德拉得知奥特曼被解雇的消息并召集斯科特和其他高管召开视频会议后不久,微软开始执行A计划:支持穆拉蒂担任临时首席执行官以稳定局势,同时试图查明董事会为何如此冲动。纳德拉已经批准发布一份声明,强调"在我们将人工智能的下一个时代带给我们的客户时,微软仍然致力于米拉和他们的团队",并在他的个人X和LinkedIn账户上表达了同样的观点。他与穆拉蒂保持着频繁的联系,以便及时了解她从董事会掌握的信息。

答案是:不多。在奥特曼被解雇的前一天晚上,董事会通知了穆拉蒂他们的决定,并得到了她保持沉默的承诺。他们认为她的同意意味着她支持解雇奥特曼,或者至少不会反对董事会,他们还认为其他员工也会同意。他们错了。在内部,穆拉蒂和其他OpenAI高管表达了他们的不满,一些员工认为董事会的行动是一次政变。OpenAI的员工向董事会成员提出尖锐的问题,但董事会几乎没有回应。两名熟悉董事会想法的人士表示,出于保密的考虑,董事会成员感到必须保持沉默。此外,随着奥特曼下台成为全球新闻,董事会成员感到不知所措,"与任何人接触的带宽有限,包括微软。"

奥特曼被解雇的第二天,OpenAI的首席运营官布拉德·莱特卡普(Brad Lightcap)发送了一份全公司备忘录,称他了解到"董事会的决定不是为了应对渎职或任何与我们的财务、业务、安全或安全/隐私实践相关的事情。"他接着说,"这是山姆和董事会之间沟通的中断。"但是,每当有人要求奥特曼举例说明他没有像董事会最初抱怨的那样"在沟通中一贯坦诚",董事会成员都保持沉默,甚至拒绝提及奥特曼反对托勒的运动。

在微软内部,整个事件看起来愚蠢得令人难以置信。据报道,到目前为止,OpenAI价值约800亿美元。该公司的一位高管表示:"除非OpenAI董事会的目标是毁灭整个公司,否则他们似乎总是莫名其妙地在每次做决定时做出最糟糕的选择。"即使其他OpenAI员工在总裁布罗克曼的带领下公开辞职,董事会仍然保持沉默。

A计划显然失败了。因此,微软的高管们转向了B计划:纳德拉开始与穆拉蒂协商,看是否有办法恢复奥特曼的首席执行官职位。在此期间,板球世界杯正在进行,纳德拉钟爱的印度队在决赛中对阵澳大利亚队。纳德拉偶尔会在社交平台X上发帖报告赛事的最新进展,希望缓解紧张的氛围,但他的许多同事不知道他在说什么。

OpenAI员工威胁要反抗。穆拉蒂和这家初创公司的其他人在微软的支持下,开始敦促所有董事会成员辞职。最终,他们中的一些人同意离开,只要他们认为替代者可以接受。他们表示,他们甚至可能对奥特曼的回归持开放态度,只要他不是首席执行官,并且没有获得董事会席位。到了感恩节前的那个周日,每个人都筋疲力尽了。OpenAI董事会邀请穆拉蒂单独加入他们进行私人谈话。他们告诉她,他们一直在秘密招聘一位新的首席执行官,并终于找到了愿意接受这份工作的人。

对穆拉蒂、OpenAI员工、微软而言,他们只能抓住最后一根稻草,启动C计划。周日晚上,纳德拉正式邀请奥特曼和布罗克曼领导微软内部的一个新的人工智能研究实验室,并提供他们想要的所有资源和尽可能多的自由。两人都接受了。微软开始为他们认为将加入该部门的数百名OpenAI员工准备办公室。

穆拉蒂和她的同事们写了一封公开信给OpenAI的董事会:"我们无法为那些缺乏能力、判断力且不关心我们使命和员工的人工作或与他们合作。"该信件的作者承诺辞职并"加入新成立的微软子公司",除非所有现任董事会成员辞职并重新任命奥特曼和布罗克曼。几个小时内,几乎所有OpenAI员工都签署了这封信。

C计划以及OpenAI大规模离职的威胁足以让董事会态度软化。感恩节前两天,OpenAI宣布奥特曼将重新担任首席执行官。除德安吉洛外,所有董事会成员都将辞职,而更知名的人物——包括Facebook前高管、推特董事长布雷特·泰勒(Bret Taylor),以及前财政部长、哈佛大学校长拉里·萨默斯(Larry Summers)——将出任董事。OpenAI的高管同意对所发生的事情进行独立调查,包括奥特曼过去作为首席执行官的行为。

尽管C计划最初看起来很诱人,但微软高管后来得出的结论是,目前的情况是最好的结果。将OpenAI的员工转移到微软可能会导致成本高昂且浪费时间的诉讼,还可能引发政府调查。在新框架下,微软获得了OpenAI的无投票权的董事会观察员席位,使其在不引起监管审查的情况下获得了更大的影响力。

05 微软的巨大胜利
事实上,这出肥皂剧的结局被视为微软的巨大胜利,也是对其开发人工智能方法的有力认可。一位微软高管表示:"奥特曼和布罗克曼真的很聪明,他们可以去任何地方。但他们选择了微软,所有那些OpenAI的人都准备选择微软,就像四年前选择我们一样。这极大地验证了我们建立的体系。他们都知道,这里是继续他们正在做的工作的最佳地点,最安全的地点。"

与此同时,被解雇的董事会成员坚称他们的行为是明智的。"将会有一个全面和独立的调查,而不是把一群山姆的亲信放在董事会,我们最终有了可以对抗他的新人,"熟悉董事会讨论的人透露说。"山姆很有权力,他很有说服力,他善于为所欲为,现在他注意到人们在看着他。"前董事托纳说,"董事会始终专注于履行我们对OpenAI使命的义务。"(奥特曼告诉其他人,他欢迎调查——部分是为了帮助他理解为什么会发生这样的悲剧,以及他本可以采取哪些不同的措施来防止这种情况发生。)

一些人工智能监管机构对这个结果不是特别满意。开源人工智能平台Hugging Face的首席伦理学家玛格丽特·米歇尔(Margaret Mitchell)认为,"董事会解雇奥特曼的时候,确实是在做自己的工作。他的回归将会产生寒蝉效应。我们将会看到越来越少的人在公司内部直言不讳,因为他们会认为自己会被解雇——而高层的人会更加不负责任。"

就奥特曼而言,他准备讨论其他事情。"我认为我们只是转向良好的治理和优秀的董事会成员,我们将进行独立评估,这让我非常兴奋,"他告诉我。"我只是希望每个人都继续生活,开心快乐。我们会继续进行这项任务。"

让纳德拉和斯科特松了一口气的是,随着Copilots的大规模发布,微软的一切都恢复了正常。不过Office Copilots看起来既令人印象深刻又平庸。它们让平凡的任务变得更容易,但它们距离取代人类工人还有很长的路要走。它们感觉和科幻小说预言的相去甚远,但是它们也是人们可能每天都会用到的东西。

根据斯科特的说法,这种效果是有意的。"真正的乐观主义意味着有时要慢慢来,"他说。如果他、穆拉蒂和纳德拉如愿以偿——鉴于他们最近的胜利,这种可能性现在更大——人工智能将继续稳步渗透到我们的生活中,其速度足以适应短期悲观主义所需的警告,并且只有在人类能够吸收这项技术应该如何使用的情况下才会如此。事情仍有可能失控——人工智能的渐进发展将阻止我们意识到这些危险,直到为时已晚。但是,就目前而言,斯科特和穆拉蒂相信他们能够平衡进步和安全。

斯科特表示:"人工智能是人类为提高每个人的生活质量而发明的最强大的东西之一。但这需要时间,也应该需要时间。我们总是通过技术来解决极具挑战性的问题。因此,我们可以告诉自己一个关于未来的好故事,也可以告诉自己一个关于未来的坏故事——无论我们选择哪一个,那都有可能成为现实。"

本文作者:无忌,来源:腾讯科技,原文标题:《《纽约客》万字长文还原OpenAI"宫斗"内幕》


风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。