G7, il Papa: nessuna macchina dovrebbe scegliere se togliere la vita a un essere umano

Salvatore Cernuzio – Città del Vaticano

Lo scenario appare distopico, ma il rischio è quanto mai reale: “Nessuna macchina dovrebbe mai scegliere se togliere la vita ad un essere umano”. Francesco è al G7 di Borgo Egnazia, in Puglia, primo Papa a prendere parte a un summit dei ‘Grandi della terra’ a cui parla di intelligenza artificiale: uno “strumento affascinante” ma allo stesso tempo “tremendo”, dice, capace di portare benefici o provocare danni come tutti “gli utensili” creati dall’uomo sin dalla notte dei tempi.

L’arrivo in Puglia

Con venti minuti d’anticipo rispetto al programma, l’elicottero del Papa è atterrato alle 12.10 sul campo sportivo in una distesa di ulivi. Ad accogliere il Pontefice, il presidente del Consiglio italiano, Giorgia Meloni. Con lei una stretta di mano e alcune battute: “Ancora vivi”, dice la premier. “Siamo in due”, risponde Francesco. E Meloni: “Sarà una giornata lunga ma bella”. Insieme in golf car, si dirigono verso la residenza riservata dove, dopo le 12.30, si dà il via ai primi quattro bilaterali previsti: Kristalina Georgieva, direttrice generale del Fondo Monetario Internazionale, e i presidenti ucraino Zelensky, francese Macron e canadese Trudeau. Alle 14 Papa Francesco si trasferisce nella Sala Arena, dove, a turno, stringe le mani di tutti i presenti seduti al tavolo circolare. Qualcuno lo abbraccia o si abbassa per sussurrare alcune parole all’orecchio.

Urgente ripensare sviluppo e utilizzo delle cosiddette “armi letali autonome”

Meloni introduce il discorso del Papa, spiegando anzitutto la scelta della Puglia quale terra che “storicamente ha rappresentato un ponte tra Oriente e Occidente, luogo di dialogo, mare di mezzo con Africa e Medio Oriente”. Ringrazia poi “Sua Santità”, la cui partecipazione, dice, “rende inevitabilmente questo appuntamento storico”.

Seduto al tavolo con i leader, il Papa condivide quindi le sue riflessioni sull’Intelligenza Artificiale, tema a cui aveva già dedicato il Messaggio per la 58.ma Giornata Mondiale delle Comunicazioni sociali. Dinanzi a uomini e donne che detengono responsabilità sul mondo, ne sviscera ora opportunità ma soprattutto rischi ed “effetti sul futuro dell’umanità”. Lo sguardo è fisso soprattutto a questa guerra dai ‘pezzi’ sempre più unificati.  

In un dramma come quello dei conflitti armati è urgente ripensare lo sviluppo e l’utilizzo di dispositivi come le cosiddette “armi letali autonome” per bandirne l’uso, cominciando già da un impegno fattivo e concreto per introdurre un sempre maggiore e significativo controllo umano.

Il potenziale umano

Mai succeda che siano le macchine ad uccidere l’uomo che le ha create. Proprio dall’ingegno umano Francesco snoda la sua riflessione dal palco del G7, per chiarire come non ci sia pregiudizio alcuno sui progressi scientifici e tecnologici, ma piuttosto il timore di una deriva: “La scienza e la tecnologia sono prodotti straordinari del potenziale creativo di noi esseri umani”, scandisce il Pontefice. Ed “è proprio dall’utilizzo di questo potenziale creativo che Dio ci ha donato che viene alla luce l’intelligenza artificiale”. Uno “strumento estremamente potente”, sottolinea il Papa, impiegato in tantissime aree dell’agire umano: medicina, lavoro, cultura, comunicazione, educazione, politica. “È ora lecito ipotizzare che il suo uso influenzerà sempre di più il nostro modo di vivere, le nostre relazioni sociali e nel futuro persino la maniera in cui concepiamo la nostra identità di esseri umani”.

All’essere umano deve rimanere la decisione

Perciò, da un lato, entusiasmano le possibilità che l’IA offre; dall’altro, generano timore per le conseguenze che lasciano presagire. Anzitutto per Francesco bisogna distinguere opportunamente tra una macchina che “può, in alcune forme e con questi nuovi mezzi, produrre delle scelte algoritmiche” e dunque “una scelta tecnica tra più possibilità”, e l’essere umano che, invece, “non solo sceglie, ma in cuor suo è capace di decidere”.

Per questa ragione, di fronte ai prodigi delle macchine, che sembrano saper scegliere in maniera indipendente, dobbiamo aver ben chiaro che all’essere umano deve sempre rimanere la decisione, anche con i toni drammatici e urgenti con cui a volte questa si presenta nella nostra vita

A rischio la dignità umana

Il monito del Papa è incisivo: “Condanneremmo l’umanità a un futuro senza speranza, se sottraessimo alle persone la capacità di decidere su loro stesse e sulla loro vita condannandole a dipendere dalle scelte delle macchine. Abbiamo bisogno – dice – di garantire e tutelare uno spazio di controllo significativo dell’essere umano sul processo di scelta dei programmi di intelligenza artificiale: ne va della stessa dignità umana”.

Rivoluzione cognitivo-industriale

Insomma, non si tratta solo di progresso scientifico ma si è davanti ad “una vera e propria rivoluzione cognitivo-industriale, che – afferma Papa Francesco – contribuirà alla creazione di un nuovo sistema sociale caratterizzato da complesse trasformazioni epocali”.  

L’intelligenza artificiale potrebbe permettere una democratizzazione dell’accesso al sapere, il progresso esponenziale della ricerca scientifica, la possibilità di delegare alle macchine i lavori usuranti; ma, al tempo stesso, essa potrebbe portare con sé una più grande ingiustizia fra nazioni avanzate e nazioni in via di sviluppo, fra ceti sociali dominanti e ceti sociali oppressi, mettendo così in pericolo la possibilità di una “cultura dell’incontro” a vantaggio di una “cultura dello scarto”. Questo è il pericolo…

Etica e algoretica

Francesco parla quindi di “etica”: è in essa che si gioca la condizione umana di “libertà” e “responsabilità”; è senza di essa che “l’umanità ha pervertito i fini del suo essere trasformandosi in nemica di sé stessa e del pianeta”.  E oggi che, osserva il Papa, “si registra come uno smarrimento o quantomeno un’eclissi del senso dell’umano e un’apparente insignificanza del concetto di dignità umana”, i programmi di intelligenza artificiale “debbono essere sempre ordinati al bene di ogni essere umano”. Devono avere, cioè, “un’ispirazione etica”.

In tal senso il Papa cita favorevolmente la firma a Roma, nel 2020 segnato dalla pandemia, della Rome Call for AI Ethics e il sostegno a quella forma di moderazione etica degli algoritmi condensata nel neologismo “algoretica”.

Se facciamo fatica a definire un solo insieme di valori globali, possiamo però trovare dei principi condivisi con cui affrontare e sciogliere eventuali dilemmi o conflitti del vivere

Può funzionare il mondo senza politica?

Tra i vari rischi il Papa paventa pure quello di un “paradigma tecnocratico”. È proprio qui, afferma, che si rende “urgente l’azione politica”. La politica… per molti oggi “una brutta parola” che richiama “errori”, “corruzione”, “inefficienza di alcuni politici” a cui si aggiungono “le strategie che mirano a indebolirla, a sostituirla con l’economia o a dominarla con qualche ideologia”. Il Papa ricorda invece le parole spesso attribuite a Paolo VI, ma che il primo a pronunciare fu Pio XII: “La politica è la forma più alta della carità, la forma più alta dell’amore”.

“Può funzionare il mondo senza politica?”, domanda quindi Jorge Mario Bergoglio. Sì, “la politica serve” è la risposta. “Sempre c’è la tentazione di uniformare tutto”, aggiunge a braccio. E cita “un romanzo famoso di inizio ‘900”, The lord of the World, il libro di Richard Hugh Benson citato già diverse altre volte in passato: “Un romanzo inglese che fa vedere il futuro senza politica, un futuro uniformante. È bello leggerlo, è interessante”, dice il Pontefice.

L’urgenza dell’azione di una “sana politica”

Ribadisce quindi, davanti agli scenari descritti, l’urgenza di una “sana politica” che possa far guardare con speranza e fiducia al nostro avvenire. Ci sono infatti “cose che devono essere cambiate con reimpostazioni di fondo e trasformazioni importanti” e “solo una sana politica potrebbe averne la guida, coinvolgendo i più diversi settori e i più vari saperi”, assicura il Papa. “In tal modo – aggiunge – un’economia integrata in un progetto politico, sociale, culturale e popolare che tenda al bene comune può aprire la strada a opportunità differenti, che non implicano di fermare la creatività umana e il suo sogno di progresso, ma piuttosto di incanalare tale energia in modo nuovo”.