AI的教父警告说:“像母亲一样训练AI或其他……”

当AI的教父警告AI快速发展时,世界应该坐起来并注意。先驱计算机科学家杰弗里·辛顿(Geoffrey Hinton)分享了他对未来AI聊天机器人需要培训的看法。在一个大胆的新提案中,欣顿主张采用“母体本能”设计高级的AI系统。他也有充分的理由支持他的建议,这暗示了AI的潜在能力有能力接管其聪明的同等学历。

欣顿在拉斯维加斯举行的AI4会议上发表讲话,驳斥了试图通过控制和压制来维持AI的主导地位的方法。他认为,鉴于AI的迅速发展,这种策略是徒劳的。取而代之的是,他提出了一个新概念,表明应以母亲和她的孩子为模型。

他解释说:“正确的模型是我们唯一由不太聪明的事情控制的更聪明的东西的模型,这是母亲由婴儿控制的。”他补充说:“如果这不会给我父母,那将取代我。”

这个想法是,就像一个婴儿有限的智慧一样,可以指导和接受更聪明的母亲的照顾,而人类可以受到超级智能AI的照顾。

欣顿过去的警告

欣顿的最新建议是在多年来对AI带来的风险的持续警告之后。 2023年,当他从Google长期以来的职位辞职时,他成为头条新闻,理由是渴望更自由地谈论他帮助创造的技术的潜在危险。欣顿(Hinton)在神经网络和深度学习方面的基础著作为他赢得了著名的图灵奖,这为AI奠定了基础。现在,他警告他们。

在接受CBS新闻采访时,他将AI的发展与养育“可爱的老虎幼崽”进行了比较,警告说有一天会长大为致命。他还对时间表开放,更新了他对人工通用情报的预测(AGI从30 – 50年到5年至20年的“合理赌注”。Hinton还估计,AI可能会灭绝甚至消除人类的“ 10%到20%”的机会。

“母性本能”解决方案

为了确保该技术对人类的安全,欣顿建议人类只需要专注于使AI更聪明,同时给予“孕妇本能”,以“真正关心我们,他们的婴儿”。他认为,这是他认为真正的国际合作的唯一领域,因为所有国家都在防止AI接管的情况下具有既得利益。

欣顿认为我们需要“ AI母亲而不是AI助手”。他列举了例子,并说明“助手是你可以开除的人。谢天谢地,你不能解雇你的母亲。”