Elon Musk、AI 专家和行业领袖签署了一封公开信，呼吁暂停 6 个月开发超过 OpenAI 的 GPT-4 的人工智能系统，因为它对社会和整个人类存在潜在风险。
除了马斯克，其他科技和人工智能领域的巨头也在这封信上签名。 其中包括 Stability AI 首席执行官 Emad Mostaque、DeepMind 研究人员以及 AI 先驱 Stuart Russell 和 Yoshua Bengio。 苹果联合创始人史蒂夫沃兹尼亚克也在公开信上签名。 然而，据 Future of Life 发言人称，OpenAI 首席执行官 Sam Altman 尚未签署公开信。
该文件强调了与人类竞争的人工智能系统可能对政治和经济造成的破坏。 它还呼吁开发商、政策制定者和监管机构之间进行合作。
“只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。 这种信心必须有充分的理由，并随着系统潜在影响的大小而增加。
“OpenAI 最近关于通用人工智能的声明指出，‘在某些时候，在开始训练未来系统之前获得独立审查可能很重要，并且对于最先进的努力来说，同意限制用于创建的计算的增长率新模型。 我们同意。 那一点就是现在。
“因此，我们呼吁所有人工智能实验室立即暂停对比 GPT-4 更强大的人工智能系统的训练至少 6 个月。 这种暂停应该是公开的和可验证的，并且包括所有关键参与者。 如果不能迅速实施这种暂停，政府应介入并暂停。
“AI 实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级 AI 设计和开发的共享安全协议，并由独立的外部专家进行严格审核和监督。 这些协议应确保遵守它们的系统是安全的，无可置疑。 这并不意味着总体上暂停 AI 开发，只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型，”信中写道。
这封信的签署人纽约大学教授加里马库斯分享了他对此事的看法。
“这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地理解其后果。 它们可能会造成严重伤害……大玩家对他们正在做的事情越来越保密，这使得社会很难抵御可能出现的任何伤害，”他说。
可以在此处访问公开信的链接。
请随时与我们联系以获取新闻提示。 给西蒙发个信息
埃隆·马斯克与其他科技巨头一起呼吁暂停训练超过 GPT-4 的 AI
