Sguardi sull’Intelligenza Artificiale, con interesse e timore

Le parole di Papa Francesco

di Giovanni Pizzi

19 Marzo 2024

Zitta zitta, è arrivata! Non sappiamo ancora denominare questa cybersofia, ma tanto assomiglia ad una cosa furba che l’abbiamo chiamata Intelligenza Artificiale: IA se ci piacciono le sigle; AI, per chi vuò fà l’ammericano! È l’emergere di una nuova techné, di quelle che ci inventiamo da quando siamo diventati bipedi per facilitare la nostra vicenda umana.

Le origini le individuiamo nel XVI secolo quando Schickard[1] e Pascal[2] impiegarono gli ingranaggi dell’horologion per calcolare le coordinate astronomiche osservabili da chi percorreva i mari; successivamente Jacquard[3] applicò ai telai di tessitura un sistema a schede perforate che consentiva la memorizzazione e l’attuazione di movimenti ciclici per realizzare tessuti operati senza operatori particolarmente qualificati. Su tali indirizzi, Babbage[4] impresse alla sua macchina flessibilità di calcolo; Ada Lovelace[5], sua collaboratrice, ricondusse quella flessibilità ad una forma linguistica: un linguaggio che passo-passo poteva realizzare “al­go­rit­mi” (sequenze di calcoli capaci di conseguire un risultato in un numero finito di passi). È ancora l’esigenza della navigazione a beneficiare di tali procedimenti: sono le nozze tra le macchine e gli algoritmi, tra l’”hardware” ed il “software”!

Il processo ha poi assunto una dinamica irrefrenabile quando, nel secondo conflitto mondiale, valendosi delle intuizioni di Turing[6] e di Neumann[7], si poteva disporre di circuiti elettronici e della velocità di luce. Dispositivi presto ricondotti ai microcircuiti di Faggin[8] e che, a ritmo decennale, hanno subìto compattezze dimensionali raggiungendo le dimensioni nanometriche ormai limitanti di futuri progressi. No problem, direbbe il bipede! Il telefonino incorporerà tanti calcolatori specifici per ogni sua funzione, oppure ci si affiderà a matrici di centinaia di calcolatori - ormai ridotti a piccole schede, in attesa poi dello sviluppo di promettenti tecniche quantistiche (argomento del quale l’autore non vi tedierà ulteriormente).

Sul lato del progresso algoritmico, oltre ai numeri, in forza di un processo di digitalizzazione (la riduzione dei fenomeni a cifre numeriche consentita da metodi di analisi matematica), si opera sui “segni” più vari, sia come “input” (riconoscimento) che “out­put” (attuazione): suoni, luce, colori, immagini, movimenti ... . Tali algoritmi, specifici per ciascun fenomeno, si relazionano infine tra di loro e ne generano di nuovi: quello che permette di riconoscere un’immagine, dialoga con quello che riconosce il suono, poi il parlato, poi le lingue, riuscendo ad emulare quell’integrazioni di capacità e saperi proprie del corpo e della mente umana.

Di più, le potenzialità di calcolo possono collegarsi tra di loro a distanza, in un contesto di universale disponibilità di dispositivi ormai a disposizione di tutti: un processo di popolarizzazione delle elaborazioni che, al termine del secolo XX, è attuato a livello mondiale. In tale contesto, crescevano i frutti della creatività di tanti tecnici e scienziati capaci di valersi dei nuovi strumenti informatici. Sorgevano opportunità di tradurre i risultati in occasioni di lucro, con la vendita o la concessione di licenza d’uso di quanto realizzato, ma anche, con slancio di generosa collaborazione, di conferire idee ed opere a favore di istituzioni aperte al pubblico. Tutto ciò con benefici – enormi – ma anche con altrettanti rischi.

I rischi traggono origine dal fatto che pochi attori hanno messo a disposizione alcuni servizi che inizialmente erano relativamente semplici ma molto utili, essenzialmente: la posta elettronica; il reperimento di informazioni; la pubblicazione di informazioni personali - a platee di utenti presto assurte a numeri altissimi. Ciò ha consentito: l’accumulo di proventi economici  - derivati dalla possibilità di mediare la pubblicità commerciale; l’aggancio relazionale con tale enorme popolazione; l’ammasso, a man bassa, di tutto il capitale culturale del genere umano confluibile sulla “rete” (web), che - ulteriormente tesaurizzato da ogni possibile indice analitico - permette di instaurare quelle relazioni tra le parti che sono alla base dei servizi di IA. Parte dei proventi economici devono naturalmente essere rivolti al conseguimento di nuovi risultati tecnologici da continuare ad offrire, anche gratuitamente, per rinnovare le offerte di servizi con strumenti che ora possono qualificarsi con il prefisso “AI” e che sembrano addirittura offrire anche emozioni e significati.

Di fronte a questo scenario ci si allarma, non tanto per l’armamentario messo in campo, quanto per il fatto che esso sia controllato da pochi attori rapidamente assurti ad una rilevanza superiore a quello di stati nazionali. Ci si potrebbe confortare notando che – a livello degli algoritmi – gli strumenti di IA siano presto assimilati dalla platea scientifica; - a livello delle informazioni di base – queste potrebbero essere accedute altrettanto “fa­cil­men­te” (eventualmente onorando i diritti degli autori!). In sintesi, si potrebbe pensare di poter contrastare tale potere con uno sforzo coordinato da un’autorità mondiale – perché tale è la portata del fenomeno – ma quest’evocazione potrebbe sorgere solo dopo una generale presa di coscienza dei rischi che inevitabilmente accompagnerebbero gli indubbi benefici che possono comunque pervenire al genere umano.

Opportune dunque le riflessioni sul fenomeno “AI”. Per chi ne volesse proficuamente fruire segnaliamo, quale esempio, il recente evento promosso da “I Popolari“ nella sede dell’Istituto Luigi Sturzo ove, qualificati relatori, hanno discusso sul tema: “Umanesimo integrale e potere della tecnologia”. Qui, lo facciamo riportando alcune delle parole che Papa Francesco ha espresso nel suo recente messaggio per la LVII Giornata Mondiale della Pace

Scienza e tecnologia possono essere vie verso la pace!

« L’intelligenza è espressione della dignità donataci dal Creatore, che ci ha fatti a sua immagine e somiglianza e ci ha messo in grado di rispondere al suo amore attraverso la libertà e la conoscenza. La scienza e la tecnologia manifestano in modo particolare tale qualità fondamentalmente relazionale dell’intelligenza umana: sono prodotti straordinari del suo potenziale creativo … Anche il progresso della scienza e della tecnica, nella misura in cui contribuisce a un migliore ordine della società umana, ad accrescere la libertà e la comunione fraterna, porta dunque al miglioramento dell’uomo e alla trasformazione del mondo».

… ma si aprono nuovi rischi

« Le tecnologie che impiegano una molteplicità di algoritmi possono estrarre, dalle tracce digitali lasciate su internet (ndr. il protocollo di scambio di informazioni sul “web” – la rete di interscambio delle comunicazioni dilatabile ad ogni realtà –, sinonimo esso stesso di tale rete), dati che consentono di controllare le abitudini mentali e relazionali delle persone a fini commerciali o politici … limitandone il consapevole esercizio della libertà di scelta. … La ricerca scientifica e le innovazioni tecnologiche non sono disincarnate dalla realtà e «neutrali», ma soggette alle influenze culturali. In quanto attività pienamente umane, le direzioni che prendono riflettono scelte condizionate dai valori personali, sociali e culturali di ogni epoca ».

Il buon uso dell’intelligenza artificiale non è scontato

« Occorre rafforzare o, se necessario, istituire organismi incaricati di esaminare le questioni etiche emergenti e di tutelare i diritti di quanti utilizzano forme di intelligenza artificiale o ne sono influenzati.

L’immensa espansione della tecnologia deve quindi essere accompagnata da un’adeguata formazione alla responsabilità per il suo sviluppo. La libertà e la convivenza pacifica sono minacciate quando gli esseri umani cedono alla tentazione dell’egoismo, dell’interesse personale, della brama di profitto e della sete di potere. ...

Gli sviluppi tecnologici che non portano a un miglioramento della qualità di vita di tutta l’umanità, ma al contrario aggravano le disuguaglianze e i conflitti, non potranno mai essere considerati vero progresso. ….

Le sfide … sono tecniche, ma anche antropologiche, educative, sociali e politiche. … (L’IA) promette, ad esempio, un risparmio di fatiche, una produzione più efficiente, trasporti più agevoli e mercati più dinamici.

L’abilità di alcuni dispositivi nel produrre testi sintatticamente e semanticamente coerenti, ad esempio, non è garanzia di affidabilità. Si dice che possano “allucinare”, cioè generare affermazioni che a prima vista sembrano plausibili, ma che in realtà sono infondate o tradiscono pregiudizi.

… si aggiungono ulteriori conseguenze negative legate a un loro uso improprio, come la discriminazione, l’interferenza nei processi elettorali, il prendere piede di una società che sorveglia e controlla le persone, l’esclusione digitale e l’inasprimento di un individualismo sempre più scollegato dalla collettività. Tutti questi fattori rischiano di alimentare i conflitti e di ostacolare la pace ».

Sul senso del limite.

« Il nostro mondo è troppo vasto, vario e complesso per essere completamente conosciuto e classificato. La mente umana non potrà mai esaurirne la ricchezza, nemmeno con l’aiuto degli algoritmi più avanzati. Questi, infatti, non offrono previsioni garantite del futuro, ma solo approssimazioni statistiche. Non tutto può essere pronosticato, non tutto può essere calcolato; alla fine «la realtà è superiore all’idea» e, per quanto prodigiosa possa essere la nostra capacità di calcolo, ci sarà sempre un residuo inaccessibile che sfugge a qualsiasi tentativo di misurazione.

... Quando gli algoritmi estrapolano informazioni, corrono sempre il rischio di distorcerle, replicando le ingiustizie e i pregiudizi degli ambienti in cui esse hanno origine. Più diventano veloci e complessi, più è difficile comprendere perché abbiano prodotto un determinato risultato. … Lo scopo e il significato (delle operazioni dell’IA) continueranno a essere determinati o abilitati da esseri umani in possesso di un proprio universo di valori.

 … Questo deve farci riflettere su un aspetto tanto spesso trascurato nella mentalità attuale, tecnocratica ed efficientista, quanto decisivo per lo sviluppo personale e sociale: il “senso del limite”. L’essere umano, infatti, mortale per definizione, pensando di travalicare ogni limite in virtù della tecnica, rischia, nell’ossessione di voler controllare tutto, di perdere il controllo su sé stesso; nella ricerca di una libertà assoluta, di cadere nella spirale di una dittatura tecnologica.

... nel contesto ideologico di un paradigma tecnocratico, animato da una prometeica presunzione di autosufficienza, le disuguaglianze potrebbero crescere a dismisura, e la conoscenza e la ricchezza accumularsi nelle mani di pochi, con gravi rischi per le società democratiche e la coesistenza pacifica ».

Temi scottanti per l’etica

« In futuro, l’affidabilità di chi richiede un mutuo, l’idoneità di un individuo ad un lavoro, la possibilità di recidiva di un condannato o il diritto a ricevere asilo politico o assistenza sociale potrebbero essere determinati da sistemi di intelligenza artificiale. …

L’affidamento a processi automatici che categorizzano gli individui, ad esempio attraverso l’uso pervasivo della vigilanza o l’adozione di sistemi di credito sociale, potrebbe avere ripercussioni profonde anche sul tessuto civile, stabilendo improprie graduatorie tra i cittadini. …

In questo contesto non possiamo fare a meno di considerare l’impatto delle nuove tecnologie in ambito lavorativo: mansioni che un tempo erano appannaggio esclusivo della manodopera umana vengono rapidamente assorbite dalle applicazioni industriali dell’intelligenza artificiale. … Il rispetto della dignità dei lavoratori e l’importanza dell’occupazione per il benessere economico delle persone, delle famiglie e delle società, la sicurezza degli impieghi e l’equità dei salari dovrebbero costituire un’alta priorità per la Comunità internazionale, mentre queste forme di tecnologia penetrano sempre più profondamente nei luoghi di lavoro ».

In sintesi, l’intervento del Papa rivela un’attenta consapevolezza dei benefici e dei rischi del fenomeno “IA”. Lo fa anteponendo basi di antropologia condivisibili sul piano umano e met­tendo in campo quei principi guardiniani di “op­po­sizio­ne po­lare” ai quali ci ha felicemente educato.

[1] Wilhelm Schickard (Germania 1592-1635)

[2] Blaise Pascal (Francia, 1623–1662)

[3] Joseph-Marie Jacquard (Francia, 1752-1834)

[4] Charles Babbage (Gran Bretagna, 1791-1871)

[5] Assunta Ada Byron Lady Lovelace (Gran Bretagna, 1815-1852)

[6] Alan Mathison Turing (1912-1954)

[7] János Lajos Neumann (Ungheria, 1903 – 1957)

[8] Federico Faggin (Italia, 1941)

Testo presente anche sul Foglio periodico "Politicamente - Anno XXIV Numero 1"