微软解雇了教员工如何负责任地制作AI工具的团队

Platformer获悉，微软解雇了人工智能组织内的整个道德和社会团队，作为最近裁员的一部分，影响了整个公司的10,000名员工。

现任和前任员工表示，此举让微软没有专门的团队来确保其AI原则与产品设计紧密相关，而此时该公司正带头向主流提供AI工具。

微软仍然有一个活跃的负责任人工智能办公室，其任务是制定规则和原则来管理公司的人工智能计划。该公司表示，尽管最近裁员，但其对责任工作的总体投资仍在增加。

该公司在一份声明中表示：“微软致力于安全、负责任地开发人工智能产品和体验，并通过投资优先考虑这一点的人员、流程和合作伙伴关系来实现这一目标。”“在过去的六年里，我们增加了产品团队和负责人工智能办公室的人员数量，他们与我们微软的所有人一起负责确保我们将人工智能原则付诸实践。[...]我们感谢道德与社会所做的开拓性工作，以帮助我们进行持续的负责任的AI之旅。”

但员工表示，道德与社会团队在确保公司负责任的AI原则真正体现在所交付产品的设计中发挥了关键作用。

“我们的工作是……在没有规则的领域制定规则。”

“人们会看着负责任的AI办公室提出的原则，然后说，'我不知道这是如何应用的，'”一位前雇员说。“我们的工作是向他们展示并在没有规则的地方制定规则。”

近年来，该团队设计了一款名为JudgmentCall的角色扮演游戏，帮助设计师设想AI可能带来的潜在危害，并在产品开发过程中进行讨论。这是该团队公开发布的更大的“负责任的创新工具包”的一部分。

最近，该团队一直致力于确定微软在其整个产品套件中采用OpenAI技术所带来的风险。

道德与社会团队在2020年达到了最大规模，当时大约有30名员工，包括工程师、设计师和哲学家。10月，作为重组的一部分，该团队被裁减至大约7人。

在重组后与团队的一次会议上，AI公司副总裁约翰·蒙哥马利(JohnMontgomery)告诉员工，公司领导已指示他们迅速采取行动。“来自[CTO]Kevin[Scott]和[CEO]Satya[Nadella]的压力非常非常大，要采用这些最新的OpenAI模型以及紧随其后的模型，并以非常高的速度将它们交付给客户，”他说，根据Platformer获得的会议音频。

蒙哥马利说，由于这种压力，团队的大部分成员将被转移到组织的其他部门。

团队中的一些成员进行了反击。一位员工在电话中说：“我会大胆地请你重新考虑这个决定。”“虽然我知道有商业问题在起作用……这个团队一直深切关注的是我们如何影响社会以及我们所产生的负面影响。而且它们很重要。”

蒙哥马利拒绝了。“我可以重新考虑吗?我不认为我会，”他说。“不幸的是，压力仍然存在。你没有我的观点，也许你可以为此感激。香肠里有很多东西被磨碎了。”

不过，在回答问题时，蒙哥马利表示球队不会被淘汰。

“这并不是说它正在消失——而是它在进化，”他说。“它正在朝着将更多精力投入到构建服务和软件的各个产品团队的方向发展，这确实意味着一直在做一些工作的中央枢纽正在下放其能力和责任。”

该团队的大多数成员都被转移到微软内部的其他地方。事后，剩下的道德和社会团队成员表示，团队规模较小，难以实施他们雄心勃勃的计划。

一位员工表示，此举在AI产品的整体设计上留下了基础性差距

大约五个月后的3月6日，其余员工被告知在太平洋时间上午11点30分加入Zoom电话会议，听取来自蒙哥马利的“业务关键更新”。开会的时候，他们被告知，他们的队伍终究要被淘汰了。

一名员工表示，此举在AI产品的用户体验和整体设计上留下了根本性的差距。“最糟糕的是，我们这样做让企业面临风险，而人类也因此面临风险，”他们解释道。

这场冲突凸显了科技巨头之间的持续紧张关系，这些科技巨头建立了致力于让他们的产品更具社会责任感的部门。在他们最好的情况下，他们帮助产品团队预测潜在的技术滥用并在发布之前解决任何问题。

但他们也有在组织内部说“不”或“放慢速度”的工作，而这些组织通常不想听这些——或者阐明如果在法律发现中浮出水面可能会给公司带来法律麻烦的风险。由此产生的摩擦有时会引起公众的注意。

2020年，谷歌解雇了道德人工智能研究员TimnitGebru，因为她发表了一篇批评大型语言模型的论文，该模型将在两年后大受欢迎。由此引发的愤怒导致部门内多位高层领导离职，并削弱了公司在负责任的AI问题上的信誉。

道德与社会团队的成员表示，他们通常会尽力支持产品开发。但他们表示，随着微软比竞争对手更快地专注于交付AI工具，该公司的领导层对团队擅长的那种长期思考变得不那么感兴趣了。

这是一个需要仔细审查的动态。一方面，微软现在可能有千载难逢的机会在搜索、生产力软件、云计算和其他巨头竞争的领域获得对谷歌的巨大吸引力。当它重新推出带有人工智能的Bing时，该公司告诉投资者，它在搜索领域从谷歌手中夺走的每1%的市场份额将带来20亿美元的年收入。

这种潜力解释了为什么微软迄今已向OpenAI投资110亿美元，并且目前正在竞相将这家初创公司的技术整合到其帝国的每个角落。它似乎取得了一些早期的成功：该公司上周表示，Bing现在每天有1亿活跃用户，其中三分之一是自该搜索引擎使用OpenAI技术重新推出以来的新用户。

另一方面，参与AI开发的每个人都同意，该技术会带来已知和未知的强大且可能存在的风险。科技巨头已竭力表明他们正在认真对待这些风险——仅微软就有三个不同的小组在处理这个问题，即使在道德和社会团队被解散之后也是如此。但考虑到利害关系，