马斯克和科学家呼吁停止由ChatGPT引发的人工智能竞赛

科技公司在推出有朝一日可能超越人类的强大人工智能技术方面是否进展得太快了?

这是一群著名计算机科学家和其他科技行业知名人士(如埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克)的结论，他们呼吁暂停6个月以考虑风险。

他们周三发布的请愿书是对旧金山初创公司OpenAI最近发布的GPT-4的回应，GPT-4是其广泛使用的AI聊天机器人ChatGPT的更先进的继任者，帮助引发了科技巨头微软和谷歌之间的竞争，以推出类似的应用程序。

他们说什么?

这封信警告说，具有“人类竞争情报的人工智能系统可能会给社会和人类带来深远的风险”——从充斥着虚假信息的互联网和自动化的工作岗位到科幻小说领域之外的更具灾难性的未来风险。

它说：“最近几个月，人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至连它们的创造者——都无法理解、预测或可靠地控制。”

信中说：“我们呼吁所有人工智能实验室立即暂停至少6个月的训练，以训练比GPT-4更强大的人工智能系统。”“这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果这样的暂停不能迅速实施，政府应该介入并暂停。”

许多政府已经在努力规范高风险的人工智能工具。英国周三发布了一份文件，概述了其做法，称其“将避免可能扼杀创新的严厉立法”。27国的立法者一直在谈判通过全面的AI规则。

谁签的?

请愿书是由非营利组织未来生命研究所组织的，该机构表示，已确认的签署人包括获得图灵奖的AI先驱YoshuaBengio和其他领先的AI研究人员，如StuartRussell和GaryMarcus。其他加入的人包括沃兹尼亚克、美国前候选人安德鲁·杨和原子科学家公报的主席雷切尔·布朗森，该公报是一个以科学为导向的倡导组织，以警告人类结束核战争而闻名。

马斯克经营着特斯拉、推特和SpaceX，是OpenAI的联合创始人和早期投资者，长期以来一直对人工智能存在的风险表示担忧。更令人惊讶的是StabilityAI的首席执行官EmadMostaque，该公司是AI图像生成器StableDiffusion的制造商，与亚马逊合作并与OpenAI的类似生成器DALL-E竞争。

回应是什么?

OpenAI、微软和谷歌周三没有回应置评请求，但这封信已经引起了很多怀疑。

“暂停是个好主意，但这封信含糊不清，没有认真对待监管问题，”康奈尔大学数字和信息法教授詹姆斯格里梅尔曼说。“考虑到特斯拉一直在努力为其自动驾驶汽车中有缺陷的人工智能追究责任，埃隆马斯克签署协议也非常虚伪。”

这是人工智能歇斯底里吗?

虽然这封信提出了邪恶人工智能的幽灵，它比实际存在的人工智能要聪明得多，但它并不是一些签署的人担心的“超人”人工智能。虽然令人印象深刻，但诸如ChatGPT之类的工具只是一个文本生成器，它可以根据从大量书面作品中学到的知识，预测哪些词会回答给出的提示。

签署这封信的纽约大学名誉教授加里·马库斯(GaryMarcus)在一篇博客文章中表示，他不同意其他人对智能机器的近期前景感到担忧的观点，这些机器非常聪明，可以在人类无法控制的情况下自我完善。他更担心的是广泛部署的“平庸人工智能”，包括被分子或恐怖分子用来欺骗人们或传播危险的错误信息。

“当前的技术已经带来了巨大的风险，我们对此准备不足，”马库斯写道。“有了未来的技术，事情可能会变得更糟。”