Da una parte, “entusiasmanti opportunità” come il miglioramento del lavoro, delle condizioni di vita dei popoli, degli strumenti medici e delle interazioni personali; dall’altra, “gravi rischi”, come l’uso sregolato delle cosiddette armi “intelligenti”, il conseguente pericolo di attacchi terroristici, andando così a promuovere “la follia della guerra” o interventi volti a destabilizzare istituzioni di governo legittime, arrivando, ad esempio, a condizionare elezioni politiche. Vizi (possibili ed effettivi) e virtù dell’IA e delle nuove tecnologie il Papa le pone sul piatto della bilancia nel suo Messaggio per la 57.ma Giornata Mondiale della Pace, che si celebra il 1° gennaio 2024. “Intelligenza artificiale e pace” è il titolo del documento in cui il Pontefice porge i suoi auguri di pace – quanto mai pregnanti in un mondo lacerato dalle guerre – al popolo di Dio, alle nazioni, ai capi di Stato e di Governo, ai rappresentanti delle diverse religioni e della società civile.
No alla follia della guerra
È una pace, quella di cui parla il Papa, che passa anche attraverso il progresso della scienza e della tecnologia, che “nella misura in cui contribuisce a un migliore ordine della società umana”, porta “al miglioramento dell’uomo e alla trasformazione del mondo”. Di contro, questo stesso mondo divenuto scenario di una terza guerra mondiale a pezzi “non ha proprio bisogno che le nuove tecnologie contribuiscano all’iniquo sviluppo del mercato e del commercio delle armi, promuovendo la follia della guerra. Così facendo – scrive Francesco – non solo l’intelligenza, ma il cuore stesso dell’uomo, correrà il rischio di diventare sempre più ‘artificiale’”.
Straordinarie conquiste
Nel Messaggio Jorge Mario Bergoglio plaude alle “straordinarie conquiste della scienza e della tecnologia”, grazie alle quali “si è posto rimedio a innumerevoli mali che affliggevano la vita umana e causavano grandi sofferenze”. Allo stesso tempo, tali progressi tecnico-scientifici “stanno mettendo nelle mani dell’uomo una vasta gamma di possibilità”, e alcune – ammonisce il Papa – possono rappresentare “un rischio per la sopravvivenza e un pericolo per la casa comune”.
La libertà e la convivenza pacifica sono minacciate quando gli esseri umani cedono alla tentazione dell’egoismo, dell’interesse personale, della brama di profitto e della sete di potere.
Sistemi d’arma autonomi letali
Lo sguardo è sullo scenario internazionale: “La possibilità di condurre operazioni militari attraverso sistemi di controllo remoto ha portato a una minore percezione della devastazione da essi causata e della responsabilità del loro utilizzo, contribuendo a un approccio ancora più freddo e distaccato all’immensa tragedia della guerra”, scrive il Papa. È “grave motivo di preoccupazione etica” la ricerca sulle tecnologie emergenti nel settore dei cosiddetti “sistemi d’arma autonomi letali”, incluso l’utilizzo bellico dell’intelligenza artificiale.
Mai, afferma, i sistemi d’arma autonomi potranno essere “soggetti moralmente responsabili”. Una macchina, per quanto intelligente, “rimane pur sempre una macchina”. È “imperativo”, allora, “garantire una supervisione umana adeguata, significativa e coerente dei sistemi d’arma”.
Non possiamo nemmeno ignorare la possibilità che armi sofisticate finiscano nelle mani sbagliate, facilitando, ad esempio, attacchi terroristici o interventi volti a destabilizzare istituzioni di governo legittime.
Pavimentare le vie della pace
Le più avanzate applicazioni tecniche andrebbero quindi impiegate “per pavimentare le vie della pace”: “In un’ottica più positiva, se l’intelligenza artificiale fosse utilizzata per promuovere lo sviluppo umano integrale, potrebbe introdurre importanti innovazioni nell’agricoltura, nell’istruzione e nella cultura, un miglioramento del livello di vita di intere nazioni e popoli, la crescita della fraternità umana e dell’amicizia sociale”, sottolinea il Pontefice. In questo senso parla di una “algor-etica”, quale “sviluppo etico degli algoritmi” nella sperimentazione, progettazione, produzione, distribuzione e commercializzazione. Fasi in cui “le istituzioni educative e i responsabili del processo decisionale hanno un ruolo essenziale da svolgere”.
Un trattato su uso e sviluppo dell’IA
Più volte il Papa nel suo Messaggio esorta a controlli e supervisioni di tali processi. E lancia la proposta alla Comunità internazionale a “lavorare unita al fine di adottare un trattato internazionale vincolante”, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme, tenendo conto della voce di tutte le parti interessate, compresi coloro che sono emarginati dal dibattito globale.
Profonde trasformazioni
Tante, troppe, infatti, le “profonde trasformazioni” che le nuove tecnologie hanno già apportato nel campo della comunicazione, della pubblica amministrazione, dell’istruzione, dei consumi, delle interazioni personali e in innumerevoli altri aspetti della vita quotidiana.
Le tecnologie che impiegano una molteplicità di algoritmi possono estrarre, dalle tracce digitali lasciate su internet, dati che consentono di controllare le abitudini mentali e relazionali delle persone a fini commerciali o politici, spesso a loro insaputa, limitandone il consapevole esercizio della libertà di scelta.
Non un vero progresso
In uno spazio come il web, sovraccarico di informazioni, le tecnologie “possono strutturare il flusso di dati secondo criteri di selezione non sempre percepiti dall’utente”. I rischi sono reali e possono toccare la vita di “persone in carne ed ossa”. Le “forme di intelligenza” – giusto parlarne al plurale – hanno un impatto che “dipende anche da obiettivi e interessi di chi li possiede e li sviluppa, nonché dalle situazioni in cui vengono impiegati”, sottolinea il Pontefice. Non è detto che a priori il suo sviluppo “apporti un contributo benefico al futuro dell’umanità e alla pace tra i popoli”. E “non è sufficiente nemmeno presumere, da parte di chi progetta algoritmi e tecnologie digitali, un impegno ad agire in modo etico e responsabile”. Per questo bisogna “rafforzare o, se necessario, istituire organismi incaricati di esaminare le questioni etiche emergenti e di tutelare i diritti di quanti utilizzano forme di intelligenza artificiale o ne sono influenzati”.
Gli sviluppi tecnologici che non portano a un miglioramento della qualità di vita di tutta l’umanità, ma al contrario aggravano le disuguaglianze e i conflitti, non potranno mai essere considerati vero progresso.
Sistemi che possono “allucinare”
Papa Francesco parla di “machine learning”, l’apprendimento automatico, e di “deep learning”, apprendimento profondo: “L’abilità di alcuni dispositivi nel produrre testi sintatticamente e semanticamente coerenti, ad esempio, non è garanzia di affidabilità”, rileva il Papa. Questi strumenti possono “allucinare”, cioè “generare affermazioni che a prima vista sembrano plausibili, ma che in realtà sono infondate o tradiscono pregiudizi”.
Va da sé quanto questo possa creare “seri problemi” se l’intelligenza artificiale viene impiegata in “campagne di disinformazione che diffondono notizie false” e portano a “una crescente sfiducia nei confronti dei mezzi di comunicazione”. Si dà il passo infatti a discriminazione, interferenza nei processi elettorali, controllo delle persone, esclusione digitale come pure all’“inasprimento di un individualismo sempre più scollegato dalla collettività”. Tutti fattori che rischiano di “alimentare i conflitti” e “ostacolare la pace”.
Il rischio di cadere nella spirale di una dittatura tecnologica
Inoltre, “la grande quantità di dati analizzati dalle intelligenze artificiali non è di per sé garanzia di imparzialità”, è il monito di Francesco. “Quando gli algoritmi estrapolano informazioni, corrono sempre il rischio di distorcerle, replicando le ingiustizie e i pregiudizi degli ambienti in cui esse hanno origine”. Nel sistema tecnocratico, che privilegia un efficientismo esasperato, si potrebbe finire per bypassare il “senso del limite”. Che, in altre parole, significa che nell’ossessione di “voler controllare tutto”, l’essere umano rischia di “perdere il controllo su sé stesso” e di “cadere nella spirale di una dittatura tecnologica”. Così “le disuguaglianze potrebbero crescere a dismisura, e la conoscenza e la ricchezza accumularsi nelle mani di pochi, con gravi rischi per le società democratiche e la coesistenza pacifica”.
In futuro, l’affidabilità di chi richiede un mutuo, l’idoneità di un individuo ad un lavoro, la possibilità di recidiva di un condannato o il diritto a ricevere asilo politico o assistenza sociale potrebbero essere determinati da sistemi di intelligenza artificiale.
Forme di manipolazione e controllo
Non solo: “Le forme di intelligenza artificiale sembrano in grado di influenzare le decisioni degli individui attraverso opzioni predeterminate associate a stimoli e dissuasioni, oppure mediante sistemi di regolazione delle scelte personali basati sull’organizzazione delle informazioni”. Sono “forme di manipolazione o di controllo sociale” che “richiedono un’attenzione e una supervisione accurate, e implicano una chiara responsabilità legale da parte dei produttori, di chi le impiega e delle autorità governative”, scrive il Papa. Avverte anche dal pericolo di “improprie graduatorie tra i cittadini”, generate da processi automatici che categorizzano gli individui: essi possono portare anche a “conflitti di potere”, afferma il Pontefice, a danno di “persone in carne ed ossa”.
Il rispetto fondamentale per la dignità umana postula di rifiutare che l’unicità della persona venga identificata con un insieme di dati.
Il tema del lavoro
Nel Messaggio papale si affronta infine il tema del lavoro: “Mansioni che un tempo erano appannaggio esclusivo della manodopera umana vengono rapidamente assorbite dalle applicazioni industriali dell’intelligenza artificiale”, scrive il Papa. Anche in questo caso,” c’è il rischio sostanziale di un vantaggio sproporzionato per pochi a scapito dell’impoverimento di molti”. L’appello è per la Comunità internazionale affinché abbia come “alta priorità” il rispetto della dignità dei lavoratori e l’importanza dell’occupazione per il benessere economico di persone, famiglie e società, la sicurezza degli impieghi e l’equità dei salari.
Appello a scuole e istituzioni
Da qui anche l’invito alle istituzioni ad educare all’uso di forme di intelligenza artificiale: “È necessario che gli utenti di ogni età, ma soprattutto i giovani, sviluppino una capacità di discernimento nell’uso di dati e contenuti raccolti sul web o prodotti da sistemi di intelligenza artificiale”, rimarca Francesco. “Le scuole, le università e le società scientifiche sono chiamate ad aiutare gli studenti e i professionisti a fare propri gli aspetti sociali ed etici dello sviluppo e dell’utilizzo della tecnologia”.
La preghiera del Papa
In conclusione del Messaggio, una preghiera da parte del Vescovo di Roma per il nuovo anno:
“Che il rapido sviluppo di forme di intelligenza artificiale non accresca le troppe disuguaglianze e ingiustizie già presenti nel mondo, ma contribuisca a porre fine a guerre e conflitti, e ad alleviare molte forme di sofferenza che affliggono la famiglia umana”.
