欧洲著名研究机构马克斯-普朗克学会的科学家表示，人类将永远无法控制一个可以拯救或毁灭人类的超级智能人工智能。
 
这是根据上周发表在《人工智能研究杂志》上的研究结果。马克斯-普朗克的科学家们说，问题在于，如果没有比我们今天所能制造的技术先进得多的技术，就没有办法控制这样的算法。
 

 
内部调查
该团队主要关注的是克制问题。如果一个全能的算法以某种方式确定它应该伤害人类，或者以一种更 "终结者 "式的方式彻底终结人类，我们将如何阻止它的行为？
 
他们建议建立一种 "遏制算法"，模拟危险算法的行为，阻止它做出任何有害的事情--但由于遏制算法至少需要和第一个算法一样强大，所以科学家们宣布这个问题无法解决。
 
理论论证
这都是理论上的争论。先进到足以威胁人类的人工智能可能还很遥远，但非常聪明的人正在努力研究它。当然，这使得它成为提前辩论的完美话题--我们想在它到来之前知道危险。
 
"控制世界的超级智能机器听起来像是科幻小说，"研究报告的共同作者、马克斯-普朗克人类发展研究所人类与机器中心数字动员组组长曼努埃尔-塞布里安在一份新闻稿中说。"但已经有一些机器可以独立完成某些重要任务，而不需要程序员完全理解它们是如何学习的。因此，问题是，这是否会在某些时候成为人类的不可控和危险。"