'Magnifica Humanitas': custodire l'umano per 'disarmare' l'intelligenza artificiale

di Giorgio Bernardelli

I contenuti della prima enciclica di papa Leone XIV presentata oggi in Vaticano: una riflessione a 360 gradi sul "nuovo paradigma" che le trasformazioni tecnologiche stanno portando nel mondo di oggi. Non basta dettare qualche regola: dal papa l'invito a mettere in discussione i "nuovi monopoli" che intorno ai dati schiacciano persone e culture. Verità, lavoro e difesa della libertà come sfide cruciali. Ai cristiani: solo in Gesù un'umanità più grande dei nostri limiti.

Milano (AsiaNews) - L’aveva detto subito dopo la sua elezione, spiegando perché avesse scelto di riallacciarsi, oltre un secolo dopo, a Leone XIII nella scelta del nome: le “Rerum novarum” di oggi con cui la Chiesa e la società devono fare i conti - aveva detto - sono le trasformazioni che l’intelligenza artificiale sta introducendo nelle nostre vite e nelle relazioni tra le persone e tra i popoli. A un anno di distanza – con la sua prima enciclica Magnifica Humanitas pubblicata oggi – papa Leone XIV offre il suo sguardo di insieme su questo tema: 105 pagine di riflessioni profonde incentrate non sui tecnicismi e nemmeno su un vago richiamo al bisogno di porre delle regole di fronte allo strapotere degli algoritmi. Perché in gioco - spiega fin dal sottotitolo del documento - oggi c’è molto di più: la sfida è “rimanere umani”, custodire quel principio fondamentale della dignità di ogni persona che la potenza strabiliante della nuova scienza dei dati sempre più apertamente sta mettendo in discussione.

“La potenza e la pervasività delle tecnologie emergenti si innestano nella trama della quotidianità - spiega Leone XIV fin dalle pagine introduttive di Magnifica Humanitas -, plasmano i processi decisionali e incidono in profondità sull’immaginario collettivo”. Ed è un processo in cui “i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi”. Un potere tecnologico dal volto, dunque, “prevalentemente privato” e per questo “ancora più difficile da discernere, governare e orientare al bene comune”. Proprio per questo - spiega il papa - la Chiesa ha il dovere oggi di aiutare il mondo ad affrontare questa sfida. Di guardarla lasciandosi guidare dai fondamenti e dai principi che nel corso del cammino iniziato nel 1891 con la Rerum Novarum ha elaborato nel suo magistero sociale: i diritti umani fondati sulla dignità inviolabile di ogni persona, il bene comune, la giustizia, la solidarietà, il metodo della sussidiarietà... Che cosa dice questo sguardo oggi dentro un contesto dove gli algoritmi rischiano di essere utilizzati per cancellare ogni limite? Come affrontare conseguenze drammatiche come quelle che vediamo già oggi nella “disumanizzazione” dell’altro che dilaga in guerre sempre più devastanti, combattute anche utilizzando massicciamente la propaganda digitale?

La torre di Babele e le mura di Neemia

Per orientarsi dentro a questo tema complesso, fin dalle prime pagine papa Prevost offre due icone bibliche contrapposte: da una parte il racconto della torre di Babele (Genesi 11,1-9), l’impresa umana basata solo sull’orgoglio e sulla pretesa di bastare a se stessi che si trasforma in confusione. Una forma di “assolutizzazione dell’umano e della sua pretesa di autosufficienza”, che “sacrifica la dignità delle persone all’efficienza e ambisce a raggiungere il cielo senza la benedizione Dio“. Non assomiglia a certe derive che proprio a partire dalle nuove possibilità della tecnologia arrivano a teorizzare oggi visioni filosofiche come il transumanesimo e il postumanesimo?

Ma la scrittura offre anche il modello di una risposta a queste derive: si tratta della ricostruzione delle mura di Gerusalemme realizzata da Neemia dopo l’esilio, quando la città giaceva in rovina (Neemia 2-6). Un modello in cui il profeta “prima di agire digiuna, prega, intercede per il popolo” davanti al re che lo tiene prigioniero. E poi “non impone soluzioni dall’alto: convoca le famiglie, affida a ciascuno un tratto di muro da riscostruire, ascolta le paure”. “La prima scelta - commenta Leone XIV – non è tra un ‘sì’ o un ‘no’ alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme: tra un potere che pretende di dominare il cielo e un popolo che, alla presenza di Dio, si mette a lavorare unito per rialzare le mura della convivenza fraterna”.

La destinazione universale dei dati

Superare Babele chiede però di capire fino in fondo la posta in gioco. Ed è quanto l’enciclica offre soprattutto nel terzo capitolo, nel quale il papa analizza nel dettaglio perché dobbiamo impegnarci a “custodire l’umano” nel tempo dell’intelligenza artificiale. Leone XIV parte dagli aspetti personali che riguardano l’uso di questo strumento che può certamente costituire un aiuto prezioso per ciascuno, a patto però di vigilare su tre aspetti: “la facilità di ottenere il risultato, l’impressione di oggettività e la simulazione della comunicazione umana”. Se ce ne dimentichiamo, spiega, finiremo facilmente a “delegare troppo e cercare risposte pronte”, dimenticando che riflettono sempre “i parametri culturali di chi le ha programmate”. Laddove poi si insinua in un contesto povero di relazioni, l'intelligenza artificiale può portarci addirittura a “perdere il desiderio stesso di cercare davvero l’altro”.

Ma il tema della custodia della dignità di ogni persona diventa ancora più ampio quando lo sguardo si allarga ai suoi usi sociali. Ad esempio quando a sistemi automatizzati finiscono per essere affidate “decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone”. Per non parlare di usi “evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy”. Di fronte a questi problemi Leone XIV dice con chiarezza che non basta immaginare “un allineamento” dei dispositivi ad alcuni generici valori, quasi fossero parametri come gli altri. “Non serve – spiega – un’intelligenza artificiale più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi”. Chiede per questo di “disarmare” l’intelligenza artificiale, sottraendola “alla logica della competizione armata” che oggi non è più solo una questione militare. “Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita”.

Declinare in questo campo i principi della dottrina sociale della Chiesa, vuol dire affermare ad esempio che la “destinazione universale dei beni” vale anche per l’universo dei dati. Che la “solidarietà” obbliga a riconoscere “il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici”.Parlare di giustizia, poi, “interroga le geografie del potere che definiscono chi può addestrare i modelli e chi è solo oggetto di addestramento”.

Verità, lavoro e libertà

In questo senso nel quarto capitolo Leone XIV indica tre nodi particolarmente rilevanti. Innanzitutto la questione della “verità come bene comune”: l’enciclica analizza a fondo il tema del rapporto tra informazione e democrazia. Cita Hannah Arendt per richiamare quanto diventi pervasivo il rischio del totalitarismo quando la distinzione tra vero e falso non esiste più. Invoca un’”ecologia della comunicazione” nella quale la verità “è un bene comune e non una proprietà di chi ha potere e visibilità”. Di qui l’importanza di un giornalismo serio (anche nella Chiesa), di luoghi di confronto veri, ma anche la centralità del mondo dell’educazione e in particolare della scuola. Invita a evitare di mettere in mano troppo presto ai ragazzi un cellulare e a insegnare ai giovani anche forme di digiuno dall’intelligenza artificiale, per ritrovare il gusto di ricercare e pensare.

Ma un altro ambito cruciale è quello della “dignità del lavoro nella transizione digitale”. Il papa mette in guardia dai “nuovi modi di lavorare” che non sono necessariamente migliori. Nella riorganizzazione del mondo produttivo che l’intelligenza artificiale sta comportando, chiede di progettare “sistemi centrati sulla persona e non soltanto sulla prestazione”. Indica l’urgenza di politiche del lavoro: “Non basta reagire quando i posti scompaiono, occorre governare in anticipo la trasformazione”. Esprime preoccupazione per le conseguenze sulla famiglia e sui giovani di un’organizzazione sociale che esaspera la precarietà e impone ritmi privi di equilibrio tra lavoro, servizi e riposo.

C’è infine una terza grande questione: quella della libertà umana da custodire nella rivoluzione digitale. Qui il papa pone il grande nodo dei “nuovi schiavi” che rendono possibile i “prodigi” dell’intelligenza artificiale. “Una parte significativa del suo funzionamento si regge sul lavoro di milioni di esseri umani, impiegati in attività poco visibili ma essenziali: etichettatura dei dati, moderazione dei contenuti - spesso pessimi - addestramento dei modelli”. Poi c’è la fatica di chi materialmente lavora per frantumare i materiali da cui si ricavano le cosiddette terre rare. Senza dimenticare chi viene sfruttato da reti criminali per procacciare affari illeciti attraverso il web, che passano poi dagli “stessi circuiti digitali che sostengono gran parte dell’economia globale”. In questo passaggio Leone XIV riconosce che nei secoli passati la Chiesa è arrivata troppo tardi a condannare il flagello della schiavitù e chiede perdono. Ma proprio per questo esorta oggi a una maggiore vigilanza su questo tema, come su quella nuova forma di colonialismo che “non domina più solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili”.

Su tutti questi campi Prevost sollecita forme di governo vero dell’intelligenza artificiale che possono venire solo da una collaborazione a più livelli tra “istituzioni capaci di regolare senza soffocare”, “imprese che riconoscano nel lavoro e nella dignità un criterio di successo”, “corpi intermedi che ricostruiscano fiducia e legami” e “cittadini che coltivino responsabilità, sobrietà, discernimento e senso del vero”.

Intelligenza artificiale: guerra o civiltà dell'amore

Il quinto capitolo dell'enciclica tocca specificamente la questione della guerra, divenuta particolarmente drammatica in questo contesto: ripetendo concetti già espressi in questi mesi, Leone XIV sottolinea il ruolo che l’intelligenza artificiale ha avuto non solo nello sviluppo di armi sempre più terribili ma anche nella “normalizzazione" del ricorso all'uso della forza militare. Proprio la deumanizzazione dell’altro che questi strumenti facilitano – denuncia – ha alimentato un “falso realismo” in cui ci si rassegna all’affermazione della logica di potenza. “La semplificazione in schemi – ‘prima io’, ‘amico-nemico’, ‘noi-voi’ – facilita decisioni spesso irresponsabili, che minano la fiducia reciproca delle nazioni. La forza del diritto internazionale viene sostituita dal preteso ‘diritto del più forte’ e i suoi strumenti – dai tribunali competenti sui crimini di guerra alle corti chiamate a dirimere le controversie tra Stati – vengono spesso aggirati e indeboliti, con conseguenze devastanti sulla cultura politica e sulla convivenza”.

Ma anche questa non è una deriva inevitabile: contro la dilagante cultura della potenza, papa Leone chiede di riscoprire la “civiltà dell’amore” di cui parlava Paolo VI. Osserva che la logica del mettere insieme i dati su cui si basa lo stesso machine learning in fondo a questo dovrebbe chiamare. Invita ciascuno a fare la sua parte vincendo la tentazione di “pensare che i problemi siano troppo grandi e noi troppo piccoli”. Indica in proposito cinque passi molto concreti che valgono tanto a livello personale quanto su scala comunitaria: disarmare le parole, costruire la pace nella giustizia, assumere lo sguardo delle vittime, coltivare un sano realismo e rilanciare il metodo del dialogo. Nelle relazioni internazionali chiede una “diplomazia capace di operare anche in questo nuovo ambiente digitale”, negoziando regole che proteggano i civili e i più vulnerabili. Quanto alla debolezza attuale dell’Onu, spiega che non servono solo “aggiustamenti tecnici”, perché la crisi è “di convinzioni e di valori” senza i quali non si può orientare il multilateralismo al vero bene comune.

L’ultima parola di Magnifica Humanitas è rivolta, infine, specificamente ai cristiani: la Conclusione dell’enciclica tratteggia in poche pagine un “itinerario di vita sobrio ed esigente con cui abitare questo cambiamento d’epoca alla luce del Vangelo”. Indica il volto di Cristo come la risposta vera a quel desiderio “di una vita più piena, meno esposta alla fragilità e alla sofferenza” che certe derive dell’intelligenza artificiale pretendono di offrire. Perché Gesù ci mostra una via diversa che l’umano non lo supera ma lo eleva, chiamandoci ad essere “collaboratori nell’opera della creazione anziché rassegnati spettatori di processi tecnologici che ne limitano la libertà e la responsabilità”.