上图所示：文件 - 2023 年 3 月 21 日，星期二，波士顿，在显示 ChatGPT 输出的计算机屏幕前的手机上可以看到 OpenAI 徽标。科技公司在推出有朝一日可能超越人类的强大人工智能技术方面是否进展得太快了？这是一群著名的计算机科学家和其他科技行业知名人士的结论，他们呼吁暂停 6 个月以考虑风险。他们于 2023 年 3 月 29 日星期三发布的请愿书是对旧金山初创公司 OpenAI 最近发布的 GPT-4 的回应。
科技公司在推出有朝一日可能超越人类的强大人工智能技术方面是否进展得太快了？
这是一群著名计算机科学家和其他科技行业知名人士（如埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克）的结论，他们呼吁暂停 6 个月以考虑风险。
他们周三发布的请愿书是对旧金山初创公司 OpenAI最近发布的 GPT-4 的回应，GPT-4 是其广泛使用的 AI 聊天机器人 ChatGPT 的更先进的继任者，帮助引发了科技巨头微软和谷歌之间的竞争，以推出类似的应用程序。
他们说什么？
这封信警告说，具有“人类竞争情报的人工智能系统可能会给社会和人类带来深远的风险”——从互联网上充斥着虚假信息和自动化工作，到科幻小说领域之外的更具灾难性的未来风险。
它说：“最近几个月，人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至是它们的创造者——无法理解、预测或可靠地控制。”
信中说：“我们呼吁所有人工智能实验室立即暂停至少 6 个月的训练，以训练比 GPT-4 更强大的人工智能系统。” “这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应该介入并暂停。”
许多政府已经在努力规范高风险的人工智能工具。英国周三发布了一份文件，概述了其做法，称其“将避免可能扼杀创新的严厉立法。” 欧盟 27 国的立法者一直在谈判通过全面的 AI 规则。
谁签的？
请愿书是由非营利组织未来生命研究所组织的，该机构表示，已确认的签署人包括获得图灵奖的 AI 先驱Yoshua Bengio 和其他领先的 AI 研究人员，如 Stuart Russell 和 Gary Marcus。其他加入的人包括沃兹尼亚克、美国前总统候选人安德鲁·杨和原子科学家公报的主席雷切尔·布朗森，该公报是一个以科学为导向的倡导组织，以警告人类结束核战争而闻名。
马斯克经营着特斯拉、推特和 SpaceX，是 OpenAI 的联合创始人和早期投资者，长期以来一直对人工智能存在的风险表示担忧。更令人惊讶的是 Stability AI 的首席执行官 Emad Mostaque，该公司是AI 图像生成器Stable Diffusion的制造商，与亚马逊合作并与 OpenAI 的类似生成器 DALL-E 竞争。
回应是什么？
OpenAI、微软和谷歌周三没有回应置评请求，但这封信已经引起了很多怀疑。
“暂停是个好主意，但是这封信含糊不清，并没有认真对待监管问题，”康奈尔大学数字和信息法教授詹姆斯格里梅尔曼说。“鉴于特斯拉一直在努力为其自动驾驶汽车中有缺陷的人工智能追究责任，埃隆马斯克签署协议也非常虚伪。”
这是人工智能歇斯底里吗？
虽然这封信提出了邪恶人工智能的幽灵，它比实际存在的人工智能要聪明得多，但它并不是一些签署的人担心的“超人”人工智能。虽然令人印象深刻，但诸如 ChatGPT 之类的工具只是一个文本生成器，它根据从大量书面作品中学到的知识，预测哪些词会回答给出的提示。
签署这封信的纽约大学名誉教授加里·马库斯 (Gary Marcus) 在一篇博客文章中表示，他不同意其他人对智能机器的近期前景感到担忧的观点，这些机器非常聪明，可以在人类无法控制的情况下自我完善。他更担心的是广泛部署的“普通人工智能”，包括被犯罪分子或恐怖分子用来欺骗人们或传播危险的错误信息。
“当前的技术已经带来了巨大的风险，我们没有做好准备，”马库斯写道。“有了未来的技术，情况可能会变得更糟。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“真相网”用户上传并发布，本平台仅提供信息存储服务。
评论跟贴
网友评论仅供其表达个人看法，并不表明本站立场。