【新闻】|教宗谈人工智能:凡是影响人类生命的决策,绝不可委托出去
教宗良十四世接见了一场关于人工智能会议的与会者,强调务必将人类放在科技的中心,以避免那威胁公共福祉、把人贬低为数据的危险。
教宗于2026年10月30日在梵蒂冈接见一场关于人工智能会议的与会者。该会议的主题是“人工智能的未来:梵蒂冈与科学界有关智能科技发展与应用的对话”。
教宗指出,来自多个国家的与会者,带来了新的问题和视角。然而,他们都“对人工智能的发展感到不安”。教宗说:“我们承认我们应走的方向,但是向前迈进的努力仍有所不足。”
与会者们对未来的关切、见解和建议,是“跨学科应对之道的首批成果”。为了应对当今复杂的挑战,跨学科的应对之道显得愈加不可或缺。
始终具有现实意义的话
本次会议由宗座生命科学院和美国非营利组织生命未来研究所(Future of Life Institute)联合举办。教宗表示,这两个机构都“充分意识到在人性尊严受到威胁的地方所兴起的挑战”。关于这点,教宗良十四世提到教宗方济各于2024年在七国集团(G7)峰会上的讲话:当时教宗方济各将人工智能形容成‘令人既兴奋又恐惧的工具’,并强调机器绝不可为攸关人命的事做决定。
这一席话至今仍具有现实意义。教宗良十四世 如此表示。他引述《伟大的人类》通谕,就人工智能提出了五大反省和思考要点:第一、人工智能的未来并非事先预定;第二、机器是工具,不是人;第三、绝不可将特定的决策委托出去;第四、智能科技必须导向公共福祉;第五、机构需要落实伦理原则,以引导人工智能的发展。
人工智能为什么目的服务?
人工智能的未来并非是事先预定好的。既然人类研发出人工智能,那么人工智能的未来就仰赖于人类做的决定。因此,教宗强调,“我们有责任去引导、改变,并在必要时刻,去拒绝人工智能的应用”。
出于这个动机,问题不仅仅是“人工智能可以做什么?”更应该是:“人工智能应为什么目的服务?”研发人工智能的意义不是只在乎终点,却忽略落后的人。教宗表示,那为人服务的可靠系统,其价值远胜于那些“无法充分预测或控制其后果”的强大系统。
机器无法取代人
教宗所阐述的第二个要点是,机器是工具,不是人。机器没有经验、肉身、感受、关系,也不懂得爱、劳动或责任。有些人建议要赋予这些系统权利或法律人格。然而教宗强调,这恐怕会“造成人的责任模糊不清,让那些受到伤害的人去面对一个没有面容的实体”。
第三点是绝不可将特定决策委托给机器。举例来说,把某个人列入目标清单或边境管制数据库,这意味著将他们简化为一个数据。“凡是影响人的生命、自由和武力使用的决策,始终必须受制于实际、知情且负责任的人力监控”。教宗如此解释道。这就是为什么必须消除人工智能的伤害力。再者,教宗也鼓励11月份在日内瓦开会的国家采取行动,禁止致命性自主武器。
我们今天所需要的
第四个反省和思考要点是,智能科技应当导向公共福祉。教宗向与会者强调,“确实,智能科技绝不该以自身为目的,或者仅服务于少数享有特权者的利益”。这些科技应当在全球团体的不同层级鼓励团结和参与,确保进步的福祉平等地造福每一个人。
教宗所提的最后一个要点是一项挑战。世界需要一些能落实伦理原则的机构,来引领人工智能、保护公共福祉。教宗呼吁制定“共同的标准、独立的监管体系,以及清晰的问责机制”,以便于核实有关人工智能发展与使用的决策,并在必要时候提出挑战,并为任何相关伤害提供适当的补救措施。
教宗最后感谢与会者在人工智能领域的贡献,鼓励他们再接再厉,秉持对话的精神携手努力,并为公共福祉共同负起责任。教宗说:“我以我的祈祷陪伴你们,由衷向你们每个人颁赐我的降福。”
——来源:梵蒂冈新闻网
