León XIV, una encíclica nacida de la escucha: la IA debe ser un laboratorio para 'nuevos horizontes de comunión'

Hoy se presentó en el Vaticano la Magnifica Humanitas. La intervención de Christopher Olah, cofundador ateo de Anthropic señaló las presiones que sufre el sector y desvían de hacer lo correcto. El Papa considera que el desarme por sí solo no es suficiente, sino que es necesario recomponer vínculos y reconstruir la confianza. El Card. Czerny se refirió a la cuestión ecológica. La Prof. Lushombo habló de una invitación al Sur global a no perder el valor de la relación, y recordó algunos conceptos de las culturas de Asia que indican conexión colectiva y apoyo mutuo.

Ciudad del Vaticano (AsiaNews) - "I have listened". "He escuchado". Magnifica Humanitas –la primera carta encíclica de León XIV que se dio a conocer hoy– nació de la escucha, afirmó Prevost en la conferencia de prensa de presentación que tuvo lugar esta mañana en el Aula del Sínodo, en el Vaticano. Una escucha que involucró al Papa en primera persona, y de la cual nació la convicción de que la IA debe ser desarmada. Una expresión contundente, pero "elegida deliberadamente, porque este momento requiere palabras capaces de captar la atención, despertar las conciencias e indicar futuros desarrollos para la humanidad", dijo.

Es la primera vez que un Papa está personalmente presente en la presentación de un documento pontificio tan importante. Esta encíclica social, como ya se había anunciado hace tiempo, retoma la línea de la Rerum novarum de León XIII, exactamente 135 años después de ser publicada en 1891, en la que fue una época de rápidos cambios industriales. La humanidad de hoy se encuentra frente a una transformación de magnitud similar, que amenaza la dignidad humana, afirmó el Papa. León XIV comparte la responsabilidad de León XIII para observar los nuevos cambios "con ojos llenos de fe, lucidez dada por la razón, apertura al misterio y escuchando el clamor de los pobres".

En el estrado del Aula vaticana cuyo nombre recuerda el método de la escucha, Prevost estuvo acompañado por los cardenales Pietro Parolin, Secretario de Estado de la Santa Sede, quien moderó el evento, Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe, y Michael Czerny, prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral. Junto a los purpurados, intervinieron también Anna Rowlands, teóloga y profesora de la Durham University en el Reino Unido, Leocadie Lushombo i.t., profesora de teología política y pensamiento social católico en la Jesuit School of Theology / Santa Clara University en California, y Christopher Olah, cofundador de Anthropic (Estados Unidos).

"He escuchado"

León XIV, que intervino en último lugar, explicó que ha escuchado a científicos, ingenieros, líderes políticos, padres y maestros, y recoge su entusiasmo, pero también la preocupación que nace de la relación con las tecnologías. Estas son capaces de ir más allá del alcance humano y dar vida incluso a sistemas de armamento autónomos, o bloquear el acceso a los sistemas de salud o al empleo sobre la base de los prejuicios e injusticias de los que están impregnados los algoritmos. Un futuro que no sea para unos pocos privilegiados, sino para toda la familia humana, entonces, sólo es posible si se construye juntos: "los que crean estos sistemas y los que se ven influidos por ellos, los países ricos y los países pobres, instituciones e individuos, centros de poder y periferias", dijo León XIV.

Christopher Olah, cofundador de Anthropic (EE. UU.)

Desde este punto de vista es significativa la presencia entre los ponentes de la presentación de hoy de Christopher Olah, de 34 años, canadiense y ateo experto en la interpretabilidad de la inteligencia artificial, y –tras una experiencia en OpenAI– cofundador en 2021 de Anthropic, corporación estadounidense con sede en San Francisco conocida por el desarrollo del chatbot Claude. León XIV le agradeció su presencia al comienzo de su discurso: “Qué gran señal de esperanza es que, a pesar de todas nuestras diferencias, seamos capaces de escucharnos unos a otros. Este intercambio expresa claramente la gravedad de este momento”. A su vez, Olah dijo que hoy es solo el comienzo de un camino compartido, y reconoció la capacidad del Papa para “tomarse todo esto en serio”, así como para observar atentamente los acontecimientos a medida que se desarrollan.

En su intervención, Christopher Olah habló de "vínculos" y "presiones" que afectan al sector de la IA –provenientes de la economía, la investigación, la política, la ambición y el orgullo– que desvían del deseo de hacer lo correcto. Por eso es importante contar con personas dispuestas a ofrecer verdades incómodas, que no estén condicionadas por ese tipo de presiones. Porque las cuestiones que plantea la inteligencia artificial van más allá de "los informáticos". Los modelos de IA se apoyan en una estructura modelada a partir del cerebro, y son alimentados por una enorme herencia de pensamiento y lenguaje humano, dijo. No son fríos robots calculadores, sino que están hechos de nosotros, de nuestras palabras, y contienen aspectos "misteriosos" incluso para sus mismos creadores. Por lo tanto, es bueno preguntarse: ¿qué comportamiento elegimos para ellos? Preguntas como esta atañen a la sociedad en su conjunto, afirmó.

Olah reconoció entonces tres contribuciones que la Iglesia puede ofrecer. En primer lugar, el apoyo a las personas trabajadoras que han sido reemplazadas por la IA: ayudarlas será un imperativo moral de proporciones históricas, dijo. En segundo lugar, la salvaguarda de la necesidad de imaginación y ambición moral de la humanidad, afectada por un uso de la IA lesivo para la dignidad humana. Por último, Olah invitó a un discernimiento con respecto a la estructura de los modelos de IA: "Continuamente encontramos cosas misteriosas, inquietantes: identificamos estructuras que reflejan los hallazgos de la neurociencia humana, encontramos pruebas de introspección, encontramos estados internos que desde el punto de vista funcional reflejan alegría, satisfacción, miedo". Magnifica humanitas ayuda a ver todo esto a los que están "dentro", y que a menudo están ciegos.

Desarmar y construir

“La inteligencia artificial ahora debe ser desarmada, es decir, liberada de las lógicas que la convierten en un instrumento de dominación, de exclusión y de muerte", dijo León XIV, y señaló luego la importancia de construir, ya que el desarme por sí solo no es suficiente. Prevost recordó las inundaciones en Perú en 2017, cuando era misionero. “Aprendí que la reconstrucción no significa simplemente reemplazar lo que fue destruido, sino que significa reparar vínculos, restaurar la confianza y recuperar la esperanza en el futuro”. “La inteligencia artificial puede ser un laboratorio de Historia del cual extraer nuevos horizontes de comunión y donde el progreso tecnológico aprende a estar al servicio de la vida humana”, afirmó. “[Como Iglesia] no poseemos respuestas técnicas, ni deseamos ocupar el lugar de los expertos, pero podemos aportar una sabiduría que concierne al ser humano y a la época actual”.

Transición digital, ecología y salvaguarda de las relaciones

El Card. Víctor Manuel Fernández habló sobre el valor teologal del documento. Recordó que los párrafos 118 a 130 contienen pronunciamientos de carácter teológico. Con respecto al título, afirmó que “a pesar de todo [...] el Santo Padre no se avergüenza de llamar ‘magnífica’ a una humanidad que tiene una terrible capacidad para el mal”, con guerras, y acciones contrarias al derecho internacional. Sin embargo, Fernández señaló que la Magnifica Humanitas dice que también existen entidades y personas cuyo ejemplo hace sentir orgullosos de ser humanos, como la Cruz Roja, la ONU, Martin Luther King, Nelson Mandela y Santa Teresa de Calcuta.

El Card. Michael Czerny, por su parte, ordenó su discurso en torno a tres palabras: ingenio, conciencia y cuidado. Recordó que la tecnología se puede transformar en dominio sobre la humanidad y la Creación, como afirmaba el papa Francisco. De hecho, la nueva encíclica se sitúa en continuidad con los documentos Laudato si’ y Laudate Deum sobre el cuidado de la Creación. “La construcción digital” y “la construcción de nuestra casa común” se encuentran “en relación con la misma pregunta: ¿qué tipo de mundo estamos construyendo, y qué lugar ocupa la persona humana?”, dijo Czerny. Recordó asimismo el nivel material de la IA, cuyas infraestructuras son enormes. La transición digital es también una cuestión ecológica, afirmó, y añadió que la evolución de las tecnologías no sigue un camino inevitable, sino que puede ser orientada por la responsabilidad personal colectiva.

Para la profesora Anna Rowlands, la Magnifica Humanitas del papa León XIV pone en evidencia la necesidad de salvaguardar al ser humano en su libertad y dignidad. Subrayó que la Iglesia se pronuncia sobre el tiempo caracterizado por la inteligencia artificial porque forma parte de su misión de revelar a la Historia el rostro de Dios. Rowlands recordó también la historia positiva de las tecnologías, que tienen la capacidad de ampliar la libertad que Dios nos concede en el Génesis, y forman parte de los términos de la alianza entre Dios y la humanidad. No se debe olvidar que no son meros instrumentos, sino que llevan implícitas arquitecturas morales; sin embargo hoy están concentradas en manos de unas pocas y ricas entidades privadas. Eso nos obliga a preguntarnos cómo se puede poner freno a las distorsiones de poder.

La profesora Leocadie Lushombo compartió con los asistentes –entre ellos periodistas, religiosos y cardenales– cuatro preocupaciones centrales en torno a la IA. La primera se refiere a salvaguardar la capacidad de la mente para alcanzar la verdad, advirtiendo que las máquinas no deben sustituir nuestra responsabilidad. La segunda se refiere a salvaguardar la libertad interior, lo que requiere ser conscientes con respecto a las plataformas digitales y adoptar una actitud sana que incluya silencio y estudio. Como tercera preocupación, señaló que la verdad es profundamente relacional. El conocimiento es relacional, explicó. Este se construye a través de vínculos de confianza.

Recordó por último, en el cuarto punto, algunos conceptos de las culturas de Asia referidos a la conexión colectiva y al apoyo mutuo: jeong para la población coreana, bayanihan para Filipinas y gotong royong para Indonesia y Malasia. Magnifica humanitas, explicó, invita al sur global a no perder esos valores, porque hoy existe el peligro de la erosión de las relaciones. Y añadió, citando a León XIV, que también es responsable de ello un nuevo tipo de colonialismo que transforma las vidas en “datos”.