L'Intelligenza Artificiale e l'Apprendista Stregone

Nel suo ultimo recente saggio, Nexus. Breve storia delle reti di informazione dall'età della pietra all'IA (ed. italiana Bompiani), il popolare intellettuale israeliano Yuval Noah Harari inserisce l'avvento dell'intelligenza artificiale in una prospettiva storica come ultima tappa di un percorso evolutivo che, se da un lato ha già proposto in passato fenomeni sociali analoghi, dall'altro si appresta ad affrontare un salto radicale e forse irreversibile.

Per certi versi, infatti, l’AI non è che l’ennesima tecnologia che si affaccia sul proscenio della storia dell’umanità con la naturale conseguenza di introdurre nuove realtà intersoggettive, entità che non esistono in una singola mente ma solo grazie alla connessione di un gran numero di menti, ovvero di una rete informativa. Esempi di realtà intersoggettive sono le leggi, gli dèi, le nazioni, le società per azioni e le valute, ma l’elenco è praticamente sterminato. Queste cose sono create dallo scambio di informazioni consentito dalle tecnologie più disparate, prima fra tutte le storie trasmesse nell’antichità tramite il racconto orale, seguite poi dalla scrittura, dai libri e, tra questi, i libri sacri su cui sono state fondate le religioni.

Il meccanismo di funzionamento delle reti informative e le realtà intersoggettive che ne derivano modellano la società in un modo complesso che Harari sintetizza con la seguente visione: dalle informazioni scambiate scaturisce non solo o non sempre la verità, come si tenderebbe a ritenere ingenuamente, ma anche la possibilità di stabilire un ordine; mentre è banale riconoscere che dalla verità si può ricavare sapienza (non è forse questa l’utopia su cui qualche decennio fa è stato costruito il world wide web?), è meno scontato razionalizzare che è dal trade-off tra verità e ordine che si può stabilire qualsiasi forma di potere. In altre parole, reti informative sempre più efficienti e vaste non implicano direttamente società più sagge; tutto dipende da quanto la rete privilegia l’ordine rispetto alla verità e dal modo in cui è usato il potere che ne deriva. Il principio baconiano “Sapere è Potere”, etichettato forse impropriamente da Harari come “visione populista” dell’informazione, è solo una faccia della medaglia; l’altra faccia è il modo in cui le informazioni sono ordinate, incasellate in schemi precostituiti.

Quest’ultimo aspetto delle reti informative, d’altronde, è quello che determina la differenza tra reti informative democratiche e totalitarie. In una dittatura le informazioni tendono a confluire in un unico nodo centrale, dove vengono prese le decisioni più importanti: nell’Impero Romano tutte le strade portavano a Roma, nella Germania nazista le informazioni confluivano su Berlino e nell’Unione Sovietica a Mosca. Le democrazie, invece, sono reti distribuite: oltre al potere esecutivo del governo, ci sono molti altri canali di informazione che collegano nodi indipendenti come gli organi legislativi, i partiti politici, i tribunali, la stampa, le imprese, le comunità locali. Un’altra peculiarità delle democrazie è che presuppongono che tutti questi nodi siano fallibili e prevedono quindi meccanismi di autocorrezione, ovvero sistemi di feedback interni come avviene a livello biochimico nei processi corporei o a livello neuronale nelle fasi apprendimento. È lo stesso meccanismo su cui si basa l’evoluzione della scienza tramite il meccanismo di peer review.

Se le tecnologie determinano il funzionamento delle reti informative che modellano la società, è quindi logico chiedersi se una tecnologia disruptive come l’AI stia per forgiare una società democratica o totalitaria. La domanda è urgente perché, come sostiene Harari, l’intelligenza artificiale e i suoi algoritmi hanno il potere di hackerare, forse irreversibilmente, il sistema operativo della civiltà umana. Un esempio si è verificato nel 2016-17 quando gli algoritmi di Facebook, favorendo la diffusione incontrollate di commenti razzisti, hanno contribuito ad alimentare le violenze contro la minoranza etnica dei rohinigya in Myanmar (Birmania) con decine di migliaia di vittime.

Più in generale, la capacità di influenzare la società da parte degli algoritmi di intelligenza artificiale è attuabile tramite quelli che l’intellettuale israeliano definisce “sistemi di credito sociale”, ovvero sistemi di sorveglianza peer-to-peer che operano aggregando punti (che siano “like” o preferenze di vario genere) per determinare un “punteggio complessivo”. Nella storia dell’umanità non è la prima volta che si introduce un meccanismo di questo genere; il denaro, inventato in Mesopotomia cinquemila anni fa, si propone la stessa ambiziosa finalità: i soldi non sono altro che punti che le persone accumulano vendendo prodotto o servizi e che poi utilizzano per acquistare altri prodotti e servizi. I punteggi introdotti dai moderni algoritmi, tuttavia, avranno un impatto ancora maggiore sulla società perché possono essere attribuiti anche a cose che normalmente il denaro non consente di comprare, come l’onore e la reputazione. Verso quale obiettivi potrà essere orientato un sistema di punteggio così potente sostenuto da un’intelligenza artificiale generale?

Quest’ultimo problema è tutt’altro che banale. Poiché il funzionamento degli algoritmi di AI è molto diverso da quello degli esseri umani, è probabile che, anche a fronte di obiettivi socialmente buoni, gli algoritmi utilizzino metodi che i loro programmatori non avevano previsto. E’ il cosiddetto problema dell’allineamento, teorizzato dal filosofo Nick Bostrom nel 2014 con un paradossale esperimento mentale: se un manager dà ad un computer superintelligente (e superpotente) il compito di produrre il maggior numero di graffette, chi può assicurare che il computer non s’impadronisca dell’intero pianeta ed elimini tutti gli umani per riempire la Terra di graffette?

E’ quindi indifferibile prestare attenzione alla rivoluzione dell’AI nei nostri dibattiti politici. Come ben illustrato da Harari, l’invenzione dell’AI è potenzialmente più importante dell’invenzione del telegrafo, della stampa e della scrittura, perché l’AI è la prima tecnologia in grado di prendere decisioni e generare idee da sola. In questi anni in cui una “cortina di silicio” sembra destinata a separare due parti di mondo, con algoritmi diversi che condizioneranno sempre di più la vita delle persone, torna quindi attuale la ballata dell’apprendista stregone creata da Goethe nel 1797 e resa celebre da un film d’animazione di Walt Disney con protagonista Topolino: un vecchio stregone affida a un giovane apprendista il suo laboratorio chiedendogli di andare a prendere acqua dal fiume; l’apprendista si agevola con un incantesimo e ordina a una scopa di andare a prendere l’acqua al suo posto con una soddisfazione iniziale seguita dal terrore poi di non riuscire a fermarla quando il laboratorio è ormai inondato. La lezione è presto tratta: mai evocare poteri che non si possono controllare.