Restare umani nel tempo degli algoritmi

Nel tempo dell’intelligenza artificiale, con la dignità umana che rischia di essere oscurata dalle enormi concentrazioni di potere tecnologico fuori da ogni controllo, e da nuove forme di disumanizzazione, Papa Leone ci richiama al “dovere urgente” di restare profondamente umani. Nell’epoca delle polarizzazioni e delle violenze, che vede espandersi una “cultura della potenza” con la guerra riabilitata quale strumento di politica internazionale, il Successore di Pietro ci chiede di far crescere la tecnica “senza far regredire il cuore”. Ci invita ad accettare il limite e la fragilità dell’umanità senza considerarli, come fa l’ideologia tecnocratica, un errore da correggere. Ci esorta a guardare il mondo non con l’ottica dei grandi ma dal basso, con gli occhi di chi soffre, a partire dagli ultimi. Con gli occhi di un Dio che ha preso su di sé la nostra debolezza trasformandola in un luogo di salvezza, perché “anche quando le macchine eccellono nell’efficienza, il centro della storia rimane un volto umano che chiede di essere guardato”.

“Magnifica humanitas”, la prima enciclica di Leone XIV, non è innanzitutto un testo analitico sull’intelligenza artificiale, non entra nei dettagli di processi che sono in continua evoluzione. È piuttosto una “summa”, che applica i principi della Dottrina sociale al nostro tempo, che è il tempo dell’IA, consolidando e attualizzando i punti cardine del magistero. È un testo che pone anche fine all’equivoco di quanti, confidando nell’assoluta libertà dei mercati e delle nuove tecnologie, tendono a derubricare come insegnamento opinabile il magistero papale sulla richiesta di un governo umano condiviso dell’IA, sull’ecologia integrale, sulle strutture economiche che diventano “strutture di peccato”, sul no alla guerra.

Il Papa che ha assunto il nome dell’autore della “Rerum novarum”, nel tempo della rivoluzione digitale chiede a ciascuno di noi di assumere un ruolo attivo, perché la costruzione della “civiltà dell’amore” si realizza grazie ad “una somma di fedeltà piccole e tenaci”, capaci di arginare la disumanizzazione. Un compito, dunque, che ci riguarda tutti, e da vicino.

Leone ci ricorda che “le ingiustizie non nascono solo da scelte sbagliate dei singoli, ma anche da strutture, meccanismi, assetti economici e culturali che producono disuguaglianza” e che “non è umano uno sviluppo che aumenta il consumo di alcuni scaricando costi e ferite su altri, o che relega intere regioni a ruoli subordinati”, come purtroppo oggi sta accadendo anche nell’ambito delle nuove tecnologie e delle risorse che richiedono. Nell’enciclica si legge che è “dottrina certa” della Chiesa la funzione sociale della proprietà privata, e oggi, tra i beni universalmente destinati a tutti, “dobbiamo annoverare anche le nuove forme di proprietà: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati”, per evitare che nascano o si consolidino nuove forme di esclusione e privazione di libertà. La tecnica infatti non è un semplice strumento, e quando diventa criterio, “finisce per stabilire che cosa conta e che cosa può essere scartato”, riducendo “le persone a ingranaggi di un sistema da rendere sempre più performante”.

Oggi il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo “non è appannaggio degli Stati, ma di grandi attori economici e tecnologici” che fissano le condizioni di accesso, le regole della visibilità e le possibilità stesse di partecipazione. Quando un tale potere si concentra in poche mani, “tende a farsi opaco e a sfuggire al controllo pubblico”, portando con sé il rischio di uno sviluppo distorto “che genera nuove dipendenze, esclusioni, manipolazioni e disuguaglianze”.

Il Papa, ribadendo il superamento della teoria della “guerra giusta”, chiede che l’uso dell’intelligenza artificiale in campo bellico sia sottoposto ai più rigorosi vincoli etici perché “Non esiste algoritmo che possa rendere la guerra moralmente accettabile”. Inoltre, l’intelligenza artificiale è diventata un elemento determinante per indirizzare l’opinione pubblica attraverso la manipolazione di immagini e contenuti, rendendo sempre più difficile riconoscere il vero dal falso. Tante sono poi le incognite che riguardano il mercato del lavoro. L’enciclica ricorda, a questo proposito, che non è più possibile affidarsi alla sola “mano invisibile” del mercato: è la politica ad avere il compito di orientare le dinamiche economico-tecnologiche verso il bene comune, promuovendo lavoro dignitoso, inclusione sociale e un’equa distribuzione dei benefici dell’innovazione.

Restare umani, governare i processi, evitare – anche in questo campo – monopoli che finiscono per accrescere il potere di pochi a scapito delle esistenze di molti: la via indicata dal Pontefice non alza barricate né rifiuta aprioristicamente l’uso dell’IA. Ne segnala anzi i tanti aspetti positivi e le tante utili applicazioni ma al tempo stesso spiega che non basta porsi una domanda etica sullo scopo buono cattivo per cui la si utilizza. È indispensabile infatti intervenire prima, e chiedersi anche come viene progettato un sistema e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano. Per questo servono quadri giuridici adeguati, vigilanza indipendente, un’educazione degli utenti, e soprattutto, ancora una volta, “una politica che non abdichi al proprio compito”. In caso contrario, il cambiamento sarà governato solo dalle logiche tecnocratiche e sarà presentato come “necessario e inevitabile”, finendo così per imporre regole “dettate” da chi possiede i dati, le infrastrutture e le capacità di calcolo.

È necessario dunque “disarmare” l’IA cioè “rompere questa equivalenza tra potenza tecnica e diritto di governare”. Non per rinunciare alla tecnologia, ma per impedirle di dominare l’umano: va resa discutibile, contestabile, e quindi abitabile. Proprio per non abdicare alla nostra umanità, così fragile e così “magnifica”.