China, el algoritmo para controlar las religiones y Magnifica Humanitas

Precisamente cuando León XIV plantea la cuestión de la libertad en la era de la ciencia de datos, la Administración Nacional de Asuntos Religiosos de China publica un artículo sobre un nuevo Centro de Computación de la Universidad del Sudeste, en el cual informa que se le ha encomendado la tarea de utilizar la inteligencia artificial generativa para buscar (y censurar) cualquier idea que se desvíe de lo que el Partido quiere que digan las religiones.

Milán (AsiaNews) – La inteligencia artificial generativa es una herramienta que puede mejorar la “eficiencia” de la gobernanza sobre las actividades religiosas en China, porque de ahora en adelante no se limitará a bloquear solo determinadas “palabras sensibles” en los textos que se publican en línea, sino que, gracias a los nuevos modelos desarrollados específicamente para las plataformas de redes sociales, resultará mucho más fácil y generalizado bloquear cualquier contenido que no se ajuste a la visión política de las religiones del “socialismo de la nueva era”, lo que permitirá protegerla de cualquier “influencia extranjera”.

Mientras el mundo debate sobre las cuestiones planteadas por el papa León XIV en la encíclica Magnifica Humanitas, en China, la cuenta de WeChat Weiyan Zongjiao, la voz oficial de la Administración Nacional de Asuntos Religiosos (SARA), reprodujo un artículo que ya se había publicado en el último número de su revista Religiones de China. Está firmado por el profesor Wang Qilong y la investigadora Sun Xiaoli, que se presentan como los responsables de una nueva institución académica, el Centro de Computación Inteligente sobre Información Religiosa de Asia, África y Europa de la Universidad del Sudeste, la histórica universidad de Nanjing, en la provincia de Jiangsu. El artículo es, en esencia, una descripción de las actividades de este nuevo departamento, concebido como un centro de vanguardia que proporciona a la administración pública nuevas herramientas para la “gobernanza” de las religiones en China.

Este hecho en sí mismo ya es emblemático. La Universidad del Sudeste tiene una prestigiosa Escuela de Lenguas Extranjeras con una larga historia; su propio sitio web la describe como un “puente entre culturas” y recuerda que precisamente allí se dictó, en 1917, el primer curso para profesores de inglés en China. Hoy, en el ámbito de esta institución, se ha creado un Centro que utiliza las aplicaciones más avanzadas de inteligencia artificial en las ciencias lingüísticas para “filtrar” los contenidos religiosos de manera que resulte casi imposible encontrar lecturas de la experiencia religiosa que no se ajusten a la visión impuesta por Xi Jinping a todas las comunidades en China.

Garantizar contenidos conformes

No son nuestras conclusiones, sino lo que el artículo lo dice expresamente. “La gobernanza de los asuntos religiosos como un componente importante de la gobernanza del Estado – explican los dos académicos al describir la situación - ha visto que sus ámbitos de actuación se ampliaban constantemente con el desarrollo de las tecnologías de internet, mientras que las dificultades de gestión siguen aumentando. Problemas como los riesgos ideológicos latentes en los contenidos religiosos generados por los grandes modelos lingüísticos nacionales, la creciente diversificación de las formas de difusión en línea de información religiosa ilegal y la insuficiencia de los recursos de gobernanza religiosa de base se han convertido en puntos críticos que obstaculizan la modernización de la gestión de los asuntos religiosos”.

Y precisamente en este ámbito es donde se propone intervenir la nueva institución de la Universidad del Sudeste: “El Centro de Computación considera que sus objetivos centrales son la regulación de la generación y difusión de información religiosa y el fortalecimiento de las capacidades de prevención de riesgos, para lo cual desarrolla tecnologías específicas y estudios regulatorios a fin de promover la asunción de responsabilidades por parte de las empresas de internet y consolidar la primera línea de defensa de la seguridad de la información religiosa en internet”.

El artículo también detalla los métodos de trabajo adoptados: se está creando “una base de datos lingüística autorizada y de alta calidad en el ámbito religioso, basada en una posición política y una orientación ideológica unificadas – explican Sun Xiaoli y Wang Qilong -. Por medio de una revisión sistemática de las principales cuestiones religiosas con implicaciones políticas y de estabilidad social, se ha elaborado un sistema normativo de preguntas y respuestas de referencia claramente orientado, que corrige desde su origen las concepciones erróneas de la historia, la etnicidad y la religión, así como las opiniones que se consideran expresión de una infiltración extranjera, garantizando que la inteligencia artificial produzca contenidos conformes con los criterios establecidos en materia religiosa”.

“La sinización de las religiones en China, el principio de independencia y autogestión de las religiones y la relación entre la ley estatal y las normas religiosas –añaden– se integran en el sistema de entrenamiento, promoviendo el uso de los grandes modelos lingüísticos como un canal permanente para la interpretación de las políticas y la orientación ideológica”. El objetivo resulta más que evidente: “La integración de estas tecnologías en los mecanismos habituales de seguridad de los contenidos de las plataformas –sigue diciendo el artículo– permite la transición del simple filtrado por palabras clave a una evaluación semántica completa y precisa, y de intervenciones de emergencia posteriores a la publicación a sistemas preventivos de alerta temprana. De esta manera se refuerza la responsabilidad de las plataformas de internet y se limita eficazmente la difusión de actividades misioneras ilegales, información religiosa extremista y contenidos que se consideran expresión de infiltración religiosa extranjera, contribuyendo a la continua purificación del espacio religioso en línea”.

Hacia el final del artículo también se explica que esto servirá “para compensar la escasez de personal y de competencias profesionales en las estructuras de base encargadas de la gestión de la red, uniformando al mismo tiempo los estándares de los procedimientos para el manejo de información perjudicial en línea”. En otras palabras: los “celosos funcionarios” de la Administración Nacional de Asuntos Religiosos podrán llegar verdaderamente a todas partes y con el mismo rigor ideológico, sin antipáticas “flexibilidades” de una provincia a otra.

La perspectiva opuesta a Magnifica Humanitas

Que las autoridades chinas utilicen la inteligencia artificial como una herramienta de control social no es, por supuesto, ninguna sorpresa. Pero lo que llama la atención en este artículo es que todo esto se enuncia de manera programática. Es una manera de decir: de ahora en adelante ningún mensaje religioso podrá escapar al control de nuestra red en China.

La coincidencia temporal con la publicación de Magnifica Humanitas probablemente sea solo una casualidad. Sin embargo, ayuda a comprender la distancia entre la visión del Papa León XIV sobre la inteligencia artificial y la de las autoridades de Beijing. En la encíclica, el pontífice plantea abiertamente la cuestión de la libertad frente a las herramientas de la tecnología y la importancia de mantener el corazón abierto a las preguntas. Cita a Platón para decir que “las cosas más profundas e importantes sólo se aprenden tras mucho tiempo y mucho esfuerzo, comprometiéndose en la discusión con los demás para “frotar” los conceptos y las experiencias como si fueran pedernal, hasta que en nosotros salte la chispa de la comprensión”. También invita a proteger a los jóvenes “de esa sutil seducción que hace parecer inútil el pensamiento humano precisamente cuando es más necesario” (Magnifica Humanitas, 140). Es exactamente lo contrario de ese "controlador de las religiones" que la Administración Nacional de Asuntos Religiosos está programando mediante inteligencia artificial en una universidad de Jiangsu..

"LINTERNAS ROJAS" ES EL BOLETÍN DE ASIANEWS DEDICADO A CHINA. ¿QUIERES RECIBIRLO CADA JUEVES EN TU CORREO? SUSCRÍBETE AL BOLETÍN EN ESTE ENLACE