AI e biologia sintetica: le tecnologie general purpose trasformano la società

Che l’ondata tecnologica in corso stia rimodellando la società è cosa ormai ampiamente nota e condivisa. Mustafa Suleyman, CEO e vicepresidente esecutivo di Microsoft AI, però, si spinge oltre: l’intelligenza artificiale e le altre tecnologie abilitanti ad essa correlate, se non opportunamente contenute, ci condurranno ad una catastrofe senza precedenti.

Il messaggio, solidamente argomentato e supportato da esempi concreti, è affidato dal tecnologo al recente volume scritto con Michael Bhaskar, edito in Italia da Garzanti, dal titolo “L’onda che verrà. Intelligenza Artificiale e potere nel XXI secolo”.

La storia del progresso e dell’intera umanità è costellata da ondate di innovazioni dalle quali, secondo la celebre teoria di Joseph Shumpeter, nascono nuove attività produttive mediante un processo di “distruzione creativa”. Ciascuna ondata prende avvio dall’introduzione di una o più nuove tecnologie general purpose, ovvero innovazioni che producono profonde implicazioni sociali. Ne sono esempi il motore a scoppio, prodotto per la prima volta dall’ingegnere tedesco Nikolaus August Otto nel 1876, la pressa da stampa inventata da Gutenberg intorno al 1440 e il transistor costruito nei Laboratori Bell nel 1947.  Tutte queste tecnologie e molte altre hanno subito un processo di proliferazione che ha innescato l’introduzione di altre tecnologie diffusesi a loro volta nella società fino a permearla integralmente in modo originariamente imprevedibile.

La proliferazione di tecnologie general purpose, infatti, induce ripercussioni positive ma anche esternalità negative, talvolta veri e propri “effetti boomerang” che contraddicono il loro scopo originario: i farmaci oppiacei creano dipendenza, l’uso eccessivo di antibiotici li rende inefficaci, i satelliti creano detriti spaziali che mettono in pericolo i viaggi nel cosmo.

Tutto ciò è vero anche per l’ultima ondata che stiamo vivendo negli ultimissimi anni che si fonda su due pilastri principali: da una parte, l’accelerazione dell’intelligenza artificiale di cui un esempio sono i Large Language Model (LLM) che sfruttano la sequenzialità dei dati linguistici e autocompletano gli input fornitigli con i token più probabili mediante i cosiddetti transformer (GPT, generative pre-trained transformer); dall’altra parte, l’evoluzione della biologia sintetica che oggi consente al costo di poche decine di migliaia di dollari di fabbricare filamenti di DNA. I costi per il sequenziamento del DNA, d’altra parte, hanno già subito un crollo secondo la cosiddetta curva di Carlson, corrispondente a quella che per l’elettronica è la legge di Moore: grazie al miglioramento delle tecniche, il costo del sequenziamento del genoma umano è sceso da un miliardo di dollari nel 2003 a molto meno di 1.000 dollari nel 2022. Bisogna poi considerare che queste due potenti tecnologie, l’intelligenza artificiale e la biologia sintetica, stanno convergendo: i transformer stanno imparando il linguaggio della biologia e della chimica e LLM calibrati sui dati biochimici possono generare candidati plausibili per nuove molecole e proteine sotto forma di sequenze di DNA e RNA.

Informatica e biologica, dunque. Intelligenza e vita. Se la somma di queste due variabili viene moltiplicata per l’energia che può alimentarle, secondo Suleyman, avremo ottenuto l’equazione che regola la civiltà moderna. E anche sul fronte dell’energia, naturalmente, l’innovazione tecnologica promette trasformazioni dirompenti: nel 2022 per la prima volta in laboratorio è stata ottenuta una reazione di fusione nucleare con un bilancio energetico positivo, producendo più energia di quanta ne sia stata fornita dai laser per innescarla.

Intelligenza, vita e energia. Questi ambiti basilari delle nostre società saranno quindi travolti da un’ondata tecnologica senza precedenti. La “legge dei ritorni accelerati” teorizzata dal futurologo Ray Kurzweil consente di prevedere che, come effettivamente si sta verificando, la velocità della nuova ondata non avrà paragoni con il passato, considerati i cicli di retroazione con cui i progressi tecnologici imprimono ulteriore accelerazione allo sviluppo. Gli attuali algoritmi di intelligenza artificiale, cosiddetti ristretti o deboli, sono tutt’oggi limitati e specifici (GPT-4 non può guidare un’auto) ma tendono rapidamente verso un’IA cosiddetta generale o forte in grado di raggiungere (e superare) il livello di performance umano in un’ampia gamma di compiti complessi.

Secondo alcuni l’avvento dell’artificial general intelligence sarà nientemeno che l’apocalisse ma, secondo Suleyman, molto più concretamente, sarà senz'altro un amplificatore di potenza della storia, ovvero un acceleratore dei processi di redistribuzione del potere già in corso: gli stati-nazione, le autorità che negli ultimi cinque secoli hanno centralizzato il potere con la promessa di garantire protezione, pace e prosperità, sono minacciati dai player tecnologici che ne erodono i confini e ne rendono difficile il compito di preservare la safety e la security dei cittadini. I deepfake prodotti dall’intelligenza artificiale rischiano di generare campagne di disinformazione incontrollabili, così come le fughe dai laboratori di biologia sintetica rischiano di produrre nuove pandemie. Per di più, le nuove tecnologie produrranno quella che l’economista John Maynard Keynes definiva “disoccupazione tecnologica” che, nelle nostre instabili società, sarà un ulteriore fattore di instabilità. Gli squilibri indotti dalla nuova ondata tecnologica rischiano di spingere gli stati-nazioni verso due direzioni estreme: da una parte, lo svuotamento dall’interno di qualsiasi funzione e potere effettivo sulla società; dall’altro, la tendenza a sfruttare la tecnologia per diventare tecno-dittature autoritarie.

Di fronte a rischi di questa portata, Suleyman propone l’immediata adozione di strategie di contenimento che includano regole, maggiore sicurezza tecnica, nuovi modelli di governance e proprietà, nuove modalità di responsabilità e trasparenza. Gli accordi multilaterali per evitare finora la proliferazione delle armi nucleari sono un valido esempio da seguire. Certamente la comunità scientifica, tecnologica, imprenditoriale e l’intera società non potranno continuare ad abbandonarsi alla reazione emotiva costituita dalla “trappola dell’avversione al pessimismo” (mettere la testa sotto la sabbia) perché gli impatti delle nuove tecnologie, molto più di quelle atomiche, saranno enormi.

Nell’Alto Medioevo, l’introduzione della staffa, dando stabilità ai cavalieri e consentendogli di combattere agilmente con lance e scudi, non solo diede a Carlo Martello, re dei Franchi, la possibilità di sfruttare il potenziale della cavalleria per respingere i Saraceni dalla Francia, ma portò alla formazione di un’élite di guerrieri addestrati che potevano mantenere cavalli robusti quanto costosi. Questo nucleo di cavalieri, fondamentale per consentire al sovrano di mantenere il potere, sarebbe stato il fulcro su cui sarebbe stato costruito un nuovo ordine per la società europea, il feudalesimo. Se la staffa, un semplice triangolo di metallo fissato alla sella, ebbe il potere di trasformare la società in modo così radicale, quali effetti potranno avere sulla nostra civiltà globale l’intelligenza artificiale e la biologia sintetica?