马斯克等千名科技人士签署公开信呼吁暂停训练比GPT-4更强大的AI系统

，据外媒报道，在当地时间周二发布的一封公开信中，埃隆·马斯克和一群人工智能专家以及科技高管呼吁所有人工智能(AI)实验室立即暂停训练比GPT-4更强大的AI系统。

这封公开信由非营利性组织Future of Life Institute发布，信的开头写道:“广泛的研究表明，具有与人类竞争智能的AI系统可能会对社会和人类造成深远的风险，这一点也得到了顶级AI实验室的承认。”

这封公开信获得了1000多个签名支持，其中包括苹果联合创始人史蒂夫?沃兹尼亚克、Stability AI CEO伊马德?穆斯塔克(Emad Mostaque)、Sapiens的作者尤瓦尔?诺亚?哈拉里亚斯(Yuval Noah Hararias)、马斯克、图灵奖得主约书亚?本吉奥(Yoshua Bengio)、纽约大学名誉教授加里?马库斯(Gary Marcus)等，他们呼吁暂停训练比GPT-4更强大的AI系统至少6个月。

不出所料，OpenAI和微软高管并没有签署这封公开信。此外，Meta首席人工智能科学家Yann LeCun的名字没有出现在署名名单中。

这封公开信提到，6个月的暂停并不意味着AI总体发展的暂停，只是从目前危险的竞赛中退后一步。

公开信指出:“只有在我们确信它们的效果是积极的，风险是可控的，才应该开发强大的人工智能系统。”

这封公开信要求AI实验室和专家共同开发和实施一套安全协议，然后由独立的外部专家进行严格审计和监督。

在这封公开信发布的前两周，也就是在今年3月14日，美国AI研究公司OpenAI推出了新一代大型语言模型GPT-4。GPT-4是迄今为止最先进的AI系统，它的能力既让AI专家感到震惊，也让他们感到恐惧。

GPT-4是一个多模态大型语言模型，即支持图像和文本输入，以文本形式输出；扩写能力增强，能处理超过25000个单词的文本；更具创造力，并且能够处理更细微的指令；在高级推理能力方面超过了2022年11月30日推出的AI聊天机器人工具ChatGPT。