《伟大的人类》：透过“解除”人工智能的武装来保护人性
教宗良十四世今日在梵蒂冈发表的首份通谕，全面反思了科技变革为当今世界带来的“新典范”。教宗认为，光是制定几条规则是不足的；他敦促我们质疑那些围绕数据压迫人民和文化的“新垄断”。真理、工作和捍卫自由是至关重要的挑战。对基督徒而言，只有在耶稣里，人类才能超越自身的限制。
米兰（亚洲新闻）－教宗良十四世（Pope Leo XIV）在当选后不久便表示，他之所以选择在良十三世之后以自己的名字命名，是因为当今教会和社会必须正视的“新事物”（Rerum novarum），即人工智能（AI）正在为我们的生活以及人与人之间的关系带来的变革。
一年后，教宗发表了他的首份通谕《伟大的人类》（Magnifica Humanitas），阐述了他对这一问题的总体看法。这份通谕于今日发布，共约105页，内容并非着眼于技术问题，甚至没有含糊地提醒人们，面对演算法的强大力量，我们需要制定规则。
正如通谕副标题所言，如今的挑战远不止于此，它关乎“保持人性”，以及维护每个人尊严这一基本原则。而新兴数据科学的惊人力量正日益挑战这项原则。
教宗良十四世在《伟大的人类》开篇写道：“新兴技术的力量和普及程度已融入日常生活的方方面面，影响着决策过程，并深刻地影响着人们的集体想像。”
这一进程的“主要驱动力来自私人机构，这些机构往往是跨国机构，它们拥有的资源和干预能力甚至超过了许多政府。”
这种科技力量的本质是“主要体现在‘私人’层面”；正因如此，“辨别、管理和引导这种力量造福大众更具挑战性”。
正因如此，教会今天有责任帮助世界面对这一挑战，并以教会自1891年《新事通谕》（Rerum Novarum）开启的社会训导历程中所发展的基础和原则为指导，审视这一挑战：人权建立在每个人不可侵犯的尊严之上，公共利益、正义、团结、辅助性原则…
在演算法可能被用来抹杀一切界限的今天，这种视角又意味着什么？我们该如何面对诸如“非人化”等悲剧性后果？这种“非人化”正透过日益残酷的战争蔓延，而这些战争的手段之一就是大规模运用数码宣传。
巴贝耳塔与乃赫米雅墙
为了帮助我们理解这复杂的主题，教宗良十四世在开头就引用了两个对比鲜明的圣经意象。
其一是巴贝尔塔的故事（创世纪 11:1-9），讲述了人类仅基于骄傲和自满的努力最终导致混乱。这是一种“自我肯定”，它“为了效率而牺牲人的尊严，妄图在没有天主祝福的情况下进入天国”。
这不与某些思潮相似吗？例如超人类主义和后人类主义，它们都源自于科技的新兴可能性，并为当今的哲学观点提供理论基础。
然而，圣经也提供了一个应对这些思潮的范例，尼希米在被掳归回后重建耶路撒冷城墙的行动（厄斯德拉 2-6）。根据这一模式，“在采取行动之前”，先知“禁食、祈祷并为人民代求。（……）他没有自上而下地强加解决方案。他召集各家各户，给他们分配一段城墙进行重建，倾听他们的诉求。”
对教宗而言，“首要的选择并非在对科技的‘是’或‘否’之间做出抉择，而是在建造巴贝尔塔还是重建耶路撒冷之间做出抉择；是在声称主宰天庭的权力与在天主面前携手重建兄弟般共存之墙的人民之间做出抉择。”
数据的普遍归宿
然而，要克服巴贝尔塔的困境，就需要对利害关系有透彻的理解。这正是这篇通谕所提供的，尤其是在第三章中，教宗详细分析了何以我们必须致力于在人工智能时代“捍卫我们的人性”。
教宗首先谈到使用这个工具的个人层面，这无疑对每个人都大有裨益，前提是要仔细关注三个方面，即“获取结果的便捷性、客观性的体现以及对人际沟通的模拟”。
他解释说，如果我们忘记这一点，就很容易“助长过度依赖和寻求现成答案的风气”，而忘记了这些答案总是反映“设计和训练它们的人的文化假设”。
当这种情况渗透到缺乏人际关系的环境中时，人工智能甚至会导致我们“逐渐丧失建立真正人际关系的渴望”。
但当目光扩展到人工智能的社会用途时，维护每个人尊严的主题就变得更加广泛。
例如，当自动化系统最终被赋予“敏感决策——涉及就业、信贷、公共服务获取，甚至个人声誉”的重任时，就会出现这种情况，更不用说“明显有害的用途，例如操纵资讯或侵犯隐私”。
面对这些问题，教宗良十四世明确指出，仅仅设想将设备与一些通用值“匹配”，仿佛它们只是与其他参数一样，是远远不够的。
“如果道德标准由少数人决定，那么仅仅拥有更道德的人工智能是不够的。我们需要的是更积极的政治参与，能够在一切加速发展之际放慢速度，并保护那些仍然能够参与和提出问题的群体的机会。”
因此，他呼吁解除人工智能“武装化”的心态，这种心态如今已不再局限于军事领域，并“将技术从垄断控制中解放出来，使其开放给讨论和辩论，从而使其对人类友好，并使其回归人类文化和生活方式的多元性。”
在这个领域应用教会社会训导的原则意味着，例如，要断言“物品的普遍用途”也适用于资料领域。
团结要求我们“承认那些支撑演算法系统的、往往被剥削的隐形劳动者”。而且，“谈论正义需要质疑决定谁能够训练这些模型，谁又仅仅被这些模型所支配的全球权力分配。”
真理、工作与自由
在第四章中，教宗良十四世提出了三个特别重要的议题。
第一个议题是“真理作为公共福祉”。为此，通谕深入分析了资讯与民主之间的关系，并引用汉娜·阿伦特的观点，强调当真假之间的界限不复存在时，极权主义的风险将变得多么普遍。
为了避免这种情况，通谕呼吁建立一种“传播生态”，在这种生态中，真理“是公共福祉，而非掌权者或有影响力者的专属”。在实践中，这凸显了严肃新闻报导（即使在教会内部）、真正的讨论论坛的重要性，以及教育，特别是学校教育的关键作用。
教宗敦促我们避免过早让孩子接触手机，并教导年轻人如何远离人工智能，重新发现研究和思考的乐趣。
另一个关键领域是“数码转型中工作的尊严”。事实上，教宗教宗警告人们要警惕那些未必更好的“新的工作方式”。在人工智能带来的生产世界重组中，他呼吁设计“以人为本而非仅以绩效为中心的系统”。
他指出，迫切需要制定有利于劳工的政策。 “光是在工作岗位消失时才做出反应是不足够的；我们必须提前预见转型”，并关注这种加剧社会不稳定性、导致工作、服务和休息之间失去平衡的社会组织形式对家庭和年轻人的影响。
最后，还有第三个重要问题，就是在数码革命中保障人类自由。教宗在此触及了至关重要的“新奴隶”问题，而正是他们让人工智能的“奇迹”成为可能。
“数码经济的运作很大程度上依赖于数百万人的默默付出，他们从事着至关重要却又鲜为人知的工作，例如数据标注和模型训练。”
此外，还有那些辛勤工作、碾碎用于提取所谓稀土的原料的人们。更不用说那些被从事网路非法交易的犯罪网络剥削的人们了，而这些非法交易又透过“支撑全球经济大部分运作的同一数码回路”。
在这段话中，教宗良十四世承认，在过去的几个世纪里，教会未能及时谴责奴隶制的祸害，并请求宽恕。但正因如此，他敦促今天人们对此问题以及“不再仅仅支配肉体，而是攫取数据，将个人生活转化为可供利用的信息”的新型殖民主义保持高度警惕。
在所有这些领域，教宗呼吁建立真正的AI治理模式，而这种模式只能透过“能够进行有效监管而不致…的机构”之间的多层次合作来实现。
在所有这些领域，教宗良十四世呼吁建立真正的人工智能治理模式，而这种模式只能透过多层次的合作来实现，这些合作包括“能够进行监管而不扼杀发展的机构；将工作和尊严视为成功标准的企业；重建信任和关系的中介组织和教育团体；以及培养责任感、节制、辨别力和真理感的公民”。
人工智能：战争还是爱的文明
通谕的第五章专门探讨了战争问题，这个问题在人工智能的背景下变得特别悲剧。教宗良十四世重申了他近几个月来已经表达过的观点，强调人工智能不仅在研发日益恐怖的武器方面发挥了作用，而且在军事力量使用的“正常化”方面也发挥了作用。
他谴责这些工具所助长的对他人的非人化，这种非人化助长了一种“虚假的现实主义”，在这种现实主义中，我们屈服于权力逻辑的支配。
将复杂问题简化为“我优先”、“敌友难辨”、“我们还是他们”等简单类别，往往会导致不负责任的决策，并破坏国家间的互信。国际法的效力因此被“强权即公理”的论调所取代。
结果，负责解决国家间争端或处理战争罪行的法庭往往被削弱或绕过，对政治文化和社会凝聚力造成毁灭性影响。
但这并非必然的结果。教宗良十四世呼吁人们重新发现保禄六世（Paul VI）所说的“爱的文明”，以此对抗肆无忌惮的权力文化。他指出，机器学习所依赖的资料整合逻辑最终应该指向这一点。
他敦促每个人都应尽自己的一份力，抵制“问题太大，我们太渺小”的诱惑。
为此，他提出了五个非常具体的步骤，这些步骤在个人和社区层面都适用：化解冲突、透过正义建设和平、理解受害者的视角、培养健康的现实主义以及重拾对话的方式。
在国际关系中，“外交必须能够在这种新环境下有效运作”，并制定保护平民和弱势群体的规则。
关于联合国目前的弱点，他解释说，需要的不仅仅是“技术调整”，因为这场危机关乎“信念和价值观”，没有这些信念和价值观，多边主义就无法朝着正确的方向发展。真正的共同福祉。
《人性的伟大》通谕的最后，特别针对基督徒。通谕在结尾概述了一个“冷静而又充满挑战的基督徒生活纲领，使我们能够在福音的光照下应对这一划时代的变革”。
它指出，基督的面容才是对某些人工智能偏差所声称的“更充实、更少受限制和苦难的生活”的渴望的真正答案。
的确，耶稣向我们展示了一条不同的道路，这条道路并非超越人类，而是提升人类，它敦促我们“参与创造的工程，而不是对限制我们自由和责任的技术进程漠不关心”。
