梵蒂冈官员呼吁在人工智能的发展上制定更严格的道德标准,科技巨头IBM和Microsoft是签署该新计划的第一批公司。
 
天主教会提出人工智能条例“保护人民”
 
“罗马呼吁人工智能伦理”提出了六项主要原则:透明度,包容性,责任感,公正性,可靠性以及安全性和隐私性。这些原则说,技术应该“保护人们”,尤其是“弱势群体”。他们还敦促世界各地的决策者针对“具有更高影响人权的风险的先进技术”制定新形式的法规,其中包括面部识别。
 
必须“从人类的兴趣和价值出发,首先塑造人工智能”
IBM副总裁约翰·凯利三世(John Kelly III)在该计划签署后说:“人工智能是令人难以置信的有希望的技术,它可以帮助我们使世界变得更加智能,健康和繁荣。 “但只有在人类利益和价值观开始塑造它的时候。”
 
梵蒂冈希望确保未经个人同意,公司不会将AI用作收集数据的手段,然后将这些数据用于商业或政治利益。最近的一个例子表明,成千上万的联邦政府机构和私人公司正在使用面部识别公司Clearview AI拥有的软件,该软件在人们不知情的情况下抓取面部数据。该公司的数据库具有从各种在线站点提取的30亿张图像,目前正被执法部门用来捕获感兴趣的人。
 
该文件还说,必须确立“解释责任”,基于AI的算法应向个人提供有关这些算法如何做出决策的信息,以确保没有偏见。去年,美国立法者提出了一项法案,该法案将做到这一点,并允许联邦贸易委员会制定规则,迫使这些公司评估包含“高度敏感”信息的自动化系统。
 
梵蒂冈官员希望在未来几个月内增加其AI伦理倡议的签署者数量。他们还希望与全球大学合作,以促进更多有关道德AI准则的科学研究。