专家质疑OpenAI确保人工智能安全的计划，称可能导致人类灭绝

(相关资料图)

OpenAI，ChatGPT的开发商，近日表示将投入大量资源创建研究团队，旨在确保其开发的人工智能对人类的安全。公司联合创始人指出，超级智能的巨大力量或将导致人类被剥夺权力，甚至人类灭绝，而当前我们还没有一个有效的解决方案来操纵或控制潜在的超智能人工智能，防止其失控。他进一步预测，比人类更聪明的超智能人工智能可能在未来十年内出现。 联合创始人强调，人类需要研究比目前更好的技术来控制超级人工智能，而这就是所谓的“对齐研究”，这门重点研究确保人工智能对人类有益的科学。他们的研究团队将会创建一个“人类水平”的AI对齐研究者，OpenAI将使用20%的计算能力来解决这个问题，进一步借助大量的计算能力进行扩展。 然而，这个计划也受到了一些专家的质疑，他们认为该计划的设计存在根本性的缺陷。即最初的人类水平的人工智能可能在解决其安全问题之前就已经失控，从而导致严重的破坏。 值得注意的是，人工智能的潜在威胁已经成为了研究人员和公众最关心的问题。今年4月，一群人工智能行业领袖和专家签署了一封公开信，呼吁暂停六个月开发比OpenAI的GPT-4更强大的系统，他们认为这种超级人工智能对社会存在潜在风险。

关键词：