AI研究人员呼吁暂停研发更先进的AI技术

【本站】3月31日消息，特斯拉首席执行官埃隆・马斯克、苹果联合创始人史蒂夫・沃兹尼亚克以及其他上千名AI研究人员签署了一封公开信，呼吁暂停研究更先进的AI技术，以减少强大技术带来的全球灾难性和生存风险。这封信由非营利组织“生命未来研究所”撰写，其使命是“减少强大技术带来的全球灾难性和生存风险”。马斯克是该组织的支持者，他在2015年曾向其捐赠了1000万美元。

信中写道：“只有在我们确信AI的影响是积极的、风险是可控的情况下，才应该开发更强大的AI系统。因此，我们呼吁所有AI实验室立即暂停至少6个月训练比GPT-4更强大的AI系统。AI实验室和独立专家应该利用这段时间，共同开发和实施一套高级AI设计和开发的共享安全协议，这些协议由独立的外部专家严格审计和监督。”

其他著名的签名者包括图像生成器创企Stability AI首席执行官伊马德・穆斯塔克、作家兼历史学家尤瓦尔・诺亚・哈拉里和Pinterest联合创始人埃文・夏普等。也有参与AI竞赛的公司的员工签名，包括谷歌姊妹公司DeepMind和微软。据本站了解，尽管OpenAI开发并商业化了GPT系列AI模型，但没有人在信上签名。

不过，这封公开信的发布已经引起了轩然大波，受到许多AI研究人员的仔细审查，包括许多签名者本人。有些签名者重新改变了自己的立场，有些知名人士的签名被证明是假的，更多AI研究人员和专家则公开对这封信中的描述和提议的方法表达了反对意见。

纽约大学心理学和神经科学教授加里・马库斯说：“这封信并不完美，但其精神是正确的。