Magnifica Humanitas: custodiar lo humano para 'desarmar' la inteligencia artificial

de Giorgio Bernardelli

Se presentó hoy en el Vaticano la primera encíclica del Papa León XIV, que ofrece una reflexión integral sobre el "nuevo paradigma" que las transformaciones tecnológicas están imponiendo en el mundo actual. No basta con dictar algunas reglas: el pontífice invita a cuestionar los "nuevos monopolios" que, en torno a los datos, oprimen a personas y culturas. La verdad, el trabajo y la defensa de la libertad se perfilan como desafíos cruciales. A los cristianos: solo en Jesús hay una humanidad más grande que nuestros límites.

Milán (AsiaNews) - Lo había dicho inmediatamente después de su elección, cuando explicó por qué había decidido conectar su magisterio, más de un siglo después, con el de León XIII al elegir su nombre: las "Rerum novarum" de hoy con las que la Iglesia y la sociedad deben lidiar son las transformaciones que la inteligencia artificial está introduciendo en nuestras vidas y en las relaciones entre las personas y entre los pueblos. Un año después —con su primera encíclica "Magnifica Humanitas" que se publicó hoy—, el papa León XIV ofrece su visión integral sobre este tema: 105 páginas de profundas reflexiones centradas no en tecnicismos ni tampoco en un vago llamado a la necesidad de establecer normas ante el poder abrumador de los algoritmos. Porque lo que hoy está en juego —explica desde el subtítulo mismo del documento— es mucho más, es el desafío de "seguir siendo humanos", de custodiar ese principio fundamental de la dignidad de cada persona que el asombroso poder de la nueva ciencia de datos cuestiona cada vez más abiertamente.

"El poder y la omnipresencia de las tecnologías emergentes se entrelazan con el tejido de la vida cotidiana —explica León XIV desde las páginas introductorias de Magnifica Humanitas—, moldean los procesos de toma de decisiones e inciden profundamente en el imaginario colectivo". Y es un proceso en el cual "los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos". Se trata, entonces, de un poder tecnológico "con un rostro predominantemente 'privado' y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común". Precisamente por esto —explica el Papa—, hoy la Iglesia tiene el deber de ayudar al mundo a afrontar este desafío analizándolo a fondo y dejándose guiar por los fundamentos y principios que, a lo largo del camino iniciado en 1891 con la "Rerum Novarum", ha desarrollado en su magisterio social: los derechos humanos basados en la dignidad inviolable de cada persona, el bien común, la justicia, la solidaridad y el método de la subsidiariedad. Es necesario considerar qué dice hoy esta perspectiva en un contexto donde los algoritmos corren el riesgo de ser utilizados para borrar todos los límites con las consecuencias dramáticas que ya estamos viendo en la "deshumanización" del otro, un proceso que se prolonga en guerras cada vez más devastadoras, donde también se incluye el uso masivo de la propaganda digital.

La torre de Babel y las murallas de Nehemías

Para orientarse dentro de este complejo tema, desde las primeras páginas el Papa ofrece dos íconos bíblicos contrapuestos: por un lado, el relato de la torre de Babel (Génesis 11,1-9), la empresa humana basada únicamente en el orgullo y en la pretensión de bastarse a sí misma que se transforma en confusión. Una forma de "absolutización de lo humano y de su pretensión de autosuficiencia" que "sacrifica la dignidad de las personas en aras de la eficiencia y aspira a alcanzar el cielo sin la bendición de Dios". ¿No se parece esto a ciertas tendencias que, precisamente a partir de las nuevas posibilidades de la tecnología, llegan incluso a especular con teorías filosóficas como el transhumanismo y el posthumanismo?

Pero la Escritura también ofrece el modelo de una respuesta a estas tendencias: es la reconstrucción de las murallas de Jerusalén que lleva a cabo Nehemías después del exilio, cuando la ciudad yace en ruinas (Nehemías 2-6). Un modelo según el cual el profeta "antes de actuar ayuna, reza e intercede por el pueblo" ante el rey que lo retiene; y luego "no impone soluciones desde arriba. Convoca a las familias y les encomienda a cada una reconstruir una sección de la muralla, escucha los temores, coordina los esfuerzos y hace frente a las oposiciones". "La primera opción —escribe León XIV— no es entre un “sí” o un “no” a la tecnología, sino entre construir Babel o reconstruir Jerusalén: entre un poder que pretende dominar el cielo y un pueblo que, en presencia de Dios, se pone a trabajar unido para levantar de nuevo las murallas de la convivencia fraterna".

El destino universal de los datos

Superar Babel exige, sin embargo, una comprensión profunda de lo que está en juego. Y esto es lo que ofrece la encíclica particularmente en su tercer capítulo, en el cual el papa analiza en detalle por qué debemos comprometernos a "custodiar lo humano" en la era de la inteligencia artificial. El pontífice parte de los aspectos personales relacionados con el uso de esta herramienta que, sin duda, puede constituir una valiosa ayuda, a condición de que se controlen tres aspectos: "la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana". Si nos olvidamos de esto, explica, terminaremos fácilmente por "acostumbrarnos a delegar demasiado y buscar respuestas rápidas", olvidando que estas siempre "reflejan los parámetros culturales de quienes las han proyectado y adiestrado". Además, allí donde se introduce en un contexto pobre en relaciones, puede llevarnos incluso a perder "el deseo mismo de buscar realmente al otro".

Pero la cuestión de custodiar la dignidad de cada persona se amplía significativamente al extender la mirada hacia los usos sociales de la inteligencia artificial, especialmente cuando se corre el riesgo de confiar a sistemas automatizados "decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas". Por no hablar de los "usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad". Frente a estos problemas, León XIV afirma con claridad que no basta con imaginar "una alineación" de la IA con ciertos valores genéricos, como si fuesen parámetros comunes. "No serviría de nada —explica— una IA más moral, si esta moral es decidida por unos pocos. Se necesita una política más presente, capaz de ralentizar donde todo acelera y de proteger los espacios en los que las comunidades pueden seguir participando e interrogándose". Pide "desarmar" la inteligencia artificial, sustrayéndola "a la lógica de la competencia armamentística", que ya no es solo una cuestión militar, sino económica y cognitiva. "Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida".

Aplicar a este campo los principios de la doctrina social de la Iglesia significa afirmar que el "destino universal de los bienes" se aplica también al universo de los datos. La "solidaridad" "obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos. Hablar de justicia pide cuestionar las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación".

Verdad, trabajo y libertad

En este sentido, en el cuarto capítulo León XIV señala tres cuestiones particularmente relevantes. En primer lugar, la cuestión de la "verdad como bien común": la encíclica analiza exhaustivamente el tema de la relación entre información y democracia. Cita a Hannah Arendt para recordar cuán agudo se vuelve el riesgo del totalitarismo cuando ya no existe la distinción entre el hecho y la ficción. Aboga por una "ecología de la comunicación" en la que "la verdad es un bien común y no una propiedad de quienes tienen poder o visibilidad". De ahí la importancia de un periodismo serio (también en la Iglesia), de espacios de debate reales, pero también del mundo de la educación y, en particular, el papel central de la escuela. Asimismo, invita a evitar poner un teléfono celular en manos de los niños demasiado pronto y a enseñar a los jóvenes formas de ayuno de inteligencia artificial para recuperar el gusto por investigar y pensar.

Otro ámbito crucial es el de la "dignidad del trabajo en la transición digital". El Papa advierte contra las "nuevas formas de trabajar", que no son necesariamente mejores. En la reorganización del mundo productivo que está generando la inteligencia artificial, pide que se diseñen "sistemas centrados en la persona y no solo en el rendimiento". Señala la urgencia de políticas laborales: "No basta con reaccionar cuando desaparecen los puestos de trabajo, sino que es necesario gestionar la transformación de forma proactiva". Expresa su preocupación por las consecuencias sobre la familia y los jóvenes de una organización social que agrava la precariedad e impone ritmos carentes de equilibrio entre el trabajo, los servicios y el descanso.

Por último, hay una tercera gran cuestión: la de la libertad humana que es necesario custodiar en la revolución digital. Aquí el Papa plantea el gran problema de los "nuevos esclavos" que hacen posibles los "prodigios" de la inteligencia artificial. "Una parte significativa del funcionamiento de la economía digital se sustenta en el trabajo silencioso de millones de seres humanos, empleados en actividades poco visibles pero esenciales: etiquetado de datos, moderación de contenidos —a menudo pésimos— y entrenamiento de modelos". A esto se suma el esfuerzo de quienes trabajan materialmente en la trituración de los minerales de los que se obtienen las llamadas tierras raras. Sin olvidar a quienes son explotados por redes criminales para realizar negocios ilícitos a través de la web que transitan "dentro de los mismos circuitos digitales que sustentan gran parte de la economía global". En este pasaje, reconoce que en siglos pasados la Iglesia tardó demasiado en condenar el flagelo de la esclavitud y pide perdón por ello. Pero precisamente por eso reclama ahora una mayor vigilancia sobre este fenómeno, así como sobre esa forma de colonialismo que hoy "no sólo domina los cuerpos, sino que se apropia de los datos, transformando las vidas personales en información explotable".

En todos estos campos, el pontífice solicita formas de verdadera gobernanza de la inteligencia artificial, un mecanismo que solo pueden surgir de una colaboración a múltiples niveles entre "instituciones capaces de regular sin asfixiar", "empresas que reconozcan en el trabajo y en la dignidad un criterio de éxito", "organismos intermedios y comunidades educativas que reconstruyan la confianza y los vínculos" y "ciudadanos que cultiven la responsabilidad, la sobriedad, el discernimiento y el sentido de la verdad".

Inteligencia artificial: guerra o civilización del amor

El quinto capítulo aborda específicamente la cuestión de la guerra, que se ha vuelto particularmente dramática en este contexto: en continuidad con los mensajes que viene expresando en los últimos meses, León XIV subraya el papel que la inteligencia artificial ha tenido no solo en el desarrollo de armas cada vez más terribles, sino también en la "normalización de la guerra". Precisamente la deshumanización del otro que estas herramientas facilitan —denuncia— ha dado lugar a un "falso realismo" en el que la sociedad se resigna a la imposición de la lógica del poder. "La simplificación en esquemas —“yo primero”, “amigo-enemigo”, “nosotros-ustedes”— facilita decisiones, a menudo irresponsables, que minan la confianza recíproca entre las naciones. La fuerza del derecho internacional es así sustituida por el supuesto “derecho del más fuerte”, y sus instrumentos —desde los tribunales competentes en crímenes de guerra hasta los tribunales llamados a resolver las controversias entre estados— son a menudo eludidos o debilitados, con consecuencias devastadoras para la cultura política y la convivencia".

Pero esta tampoco es una deriva inevitable: contra la rampante cultura del poder, el papa León pide redescubrir la "civilización del amor" de la que hablaba Pablo VI. Observa que la lógica de recopilar datos en la que se basa el aprendizaje automático debería apuntar, en el fondo, a este objetivo. Invita a cada uno a hacer su parte superando la tentación "sutil" de "pensar que los problemas son demasiado grandes y nosotros demasiado pequeños". Señala cinco pasos muy concretos que son válidos tanto a nivel personal como a escala comunitaria: desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivar un sano realismo y relanzar el diálogo y el multilateralismo. En las relaciones internacionales pide una "diplomacia capaz de operar también en este nuevo entorno" digital, negociando reglas que protejan a los civiles y a los más vulnerables. En cuanto a la debilidad actual de la ONU, explica que no se necesitan "ajustes técnicos", porque esta es una crisis "de convicciones y de valores", sin los cuales no se puede "orientar el multilateralismo hacia el verdadero bien común".

La última palabra de Magnifica Humanitas está dirigida, finalmente, de manera específica a los cristianos: la Conclusión de la encíclica esboza en pocas páginas un "itinerario de vida cristiana sobrio y exigente con el cual vivir este cambio de época a la luz del Evangelio". Señala el rostro de Cristo como la respuesta verdadera a ese deseo "de una vida más plena, menos expuesta a la fragilidad y al sufrimiento" que ciertas deriva de la inteligencia artificial pretenden ofrecer. Porque Jesús abre un camino diferente donde lo humano no se supera, sino que se eleva, llamándolo a ser "colaborador en la obra de la creación, y no espectador resignado ante los procesos tecnológicos que limitan su libertad y su responsabilidad".