Roberta Barbi – Città del Vaticano
“Fin dall’inizio della discussione sui sistemi di armi letali automatiche, la Santa Sede ha continuamente sottolineato che le sfide presentate dalle tecnologie emergenti in questo settore non si limitano al regno del diritto internazionale umanitario, ma sollevano anche potenziali gravi implicazioni per la pace e la stabilità”. Esordisce così la Missione permanente della Santa Sede presso le Nazioni Unite e altre organizzazioni internazionali a Ginevra nella propria dichiarazione alla riunione del Gruppo di esperti governativi 2021 sui sistemi di armi letali automatiche della Convenzione su alcune armi convenzionali. Dal momento che però, come specificato dalla Santa Sede stessa, all’ordine del giorno della discussione era proprio l’aspetto del diritto internazionale umanitario, su questo ha sviluppato la propria riflessione, fondata su tre punti principali.
Rispettare il diritto umanitario internazionale
“Le convenzioni e i trattati di diritto internazionale umanitario sono pieni di espressioni accuratamente redatte, come ‘previsto’, ‘ci si può aspettare’, ‘danno superfluo’, ‘sofferenza inutile’, che denotano un riferimento fondamentale all’interpretazione, alla buona fede e al giudizio prudenziale. Questi aspetti sono, in parte, informati e basati sul contesto evolutivo delle operazioni, per le quali la persona umana è insostituibile, considerando le azioni che richiedono l’intervento della ragione umana, per esempio, di distinzione, proporzionalità, precauzione, necessità e vantaggio militare atteso: il rispetto e l’applicazione di questi principi richiedono l’interpretazione e la comprensione puntuale di contesti e situazioni particolari che sono difficilmente programmabili”. “È noto che le decisioni giuridiche ed etiche richiedono spesso un’interpretazione delle regole per salvare lo spirito delle regole stesse – prosegue il documento. A questo proposito, i sistemi d’arma autonomi, dotati di capacità di autoapprendimento o autoprogrammabili, lasciano necessariamente spazio a un certo livello di imprevedibilità, che potrebbe, ad esempio, ‘deviare’ in azioni rivolte a non combattenti per massimizzare l’efficienza, violando così il principio di distinzione”. La Missione permanente fa, quindi, riferimento, alla possibilità di utilizzare sciami di mini droni “kamikaze”, cioè sciami di sistemi d’arma dotati di capacità autonome: “L’uso di sciami in aree urbane potrebbe portare ad alti rischi per i civili. Se funzionano senza alcuna supervisione umana diretta, tali sistemi potrebbero commettere errori nell’identificazione degli obiettivi previsti – si osserva –. Il concetto di uno sciame di armi autonome aggrava ulteriormente questo rischio, poiché la natura stocastica dello sciame potrebbe portare a lesioni eccessive ed effetti indiscriminati, in netta contraddizione con il diritto internazionale umanitario”.
No all’intelligenza artificiale a servzio delle armi
In questa direzione, rileva la Santa Sede, c’è una consapevolezza emergente anche tra eminenti scienziati, ingegneri, ricercatori, personale militare, etici e la più ampia comunità della società civile: “Ci sono sempre più casi di impiegati e imprenditori che si oppongono per motivi etici a certi progetti che riguardano l’armamento dell’intelligenza artificiale”, sottolinea. Questa crescente consapevolezza rappresenta, naturalmente, un cambiamento nella percezione pubblica, che è anche una forza trainante per l’attuazione e lo sviluppo del diritto internazionale umanitario: “Mentre i sistemi di armi autonome possono essere considerati ‘normali’ nel senso statistico del termine e quindi ritenuti accettabili, anche se non esplicitamente proibiti, rimangono vietati dai dettami della morale, dai valori spirituali, dall’esperienza e dalle virtù militari – conclude la dichiarazione –. A questo proposito, la clausola di Martens, che si trova all’intersezione tra il diritto internazionale umanitario e l’etica, ma soprattutto rappresenta un obbligo giuridico sancito in diversi trattati del diritto internazionale umanitario, offre a priori una bussola normativa cruciale per il nostro lavoro”.