Tempo di lettura: 4 minuti

Tra molti scienziati e una parte dell’opinione pubblica mondiale si va estendendo la preoccupazione per i danni irreversibili che l’AI, l’intelligenza artificiale, potrebbe portare all’umanità. Diventa più urgente la necessità di porre limiti al suo espandersi affidandone il controllo a istituzioni pubbliche internazionali, togliendolo ai gruppi privati ultramiliardari legati ai nazionalismi di oggi.

Ma i timori per il nostro pianeta non sono sorti quasi all’improvviso a causa dell’AI: risalgono a decenni prima rivelandosi e scomparendo saltuariamente o limitandosi al disastro ambientale.

Si potrebbe dar loro una data di nascita, quando il presidente degli Stati Uniti Franklin D. Roosevelt ricevette una lettera, con data 2 agosto 1939, firmata da Albert Einstein. Il testo che portava la firma del ben noto scienziato, era stato redatto nei particolari da Leo Sziliard, fisico atomico che assieme a Enrico Fermi aveva costruito il primo reattore nucleare.

La lettera segnalava che la Germania nazista stava conducendo ricerche avanzate sulla fissione nucleare minacciando di sviluppare per prima una bomba atomica. Veniva chiesto al presidente USA di stabilire rapporti più importanti tra il governo e gli scienziati americani per accelerare ricerche col già esistente Progetto Manhattan sullo sviluppo della ricerca scientifica in campo militare.

Subito dopo aver sperimentato la prima bomba atomica il 16 luglio del ’45 ad Alamogordo (New Mexico), un gruppo di 68 scienziati che avevano partecipato alla sua costruzione firmarono assieme a Sziliard, un memorandum chiedendo che l’arma non venisse utilizzata contro il Giappone. Cominciavano così i timori per i progressi della fisica e della tecnologia che sono tornati oggi con l’Intelligenza artificiale.

In quel momento fu segnata la nascita del dilemma etico della scienza moderna: la presa di coscienza che una tecnologia rivoluzionaria, concepita per scopi difensivi, stava per sfuggire al controllo dei suoi stessi creatori.

Ma il successore di Roosevelt, Harry Truman, non esitò a dare l’assenso per lanciare le due bombe il 6 agosto su Hiroshima e il 9 su Nagasaki.

Oggi, a distanza di oltre ottant’anni, l’umanità si ritrova di fronte a un bivio straordinariamente simile con lo sviluppo dell’Intelligenza artificiale. Sebbene i contesti storici siano differenti — la fisica nucleare era mossa da esigenze belliche statali, mentre l’IA corre sui binari del capitalismo commerciale e di algoritmi civili —, le analogie strutturali e i timori profondi che uniscono queste due epoche sono sorprendenti.

Nel 1945, gli scienziati del Progetto Manhattan – anche Robert Hoppenheimer – compresero che l’energia atomica non sarebbe rimasta un monopolio americano, ma avrebbe innescato una corsa globale agli armamenti. Con l’IA il timore è analogo: la creazione di sistemi digitali che superano le capacità umane fa temere la perdita definitiva di controllo, con algoritmi capaci di auto-migliorarsi in modi non prevedibili o comprensibili dai loro stessi programmatori.

Esiste un filo rosso che lega i 68 firmatari della petizione del 1945 ai moderni pionieri dell’IA. Negli ultimi anni, figure chiave della Silicon Valley e della ricerca informatica hanno firmato lettere aperte per chiedere una “pausa” nello sviluppo dei modelli più avanzati. Esattamente come Szilárd ed Einstein, anche i “padrini” dell’IA esprimono oggi il pubblico rimpianto di aver aperto un vaso di Pandora senza aver prima stabilito stringenti linee guida etiche e sistemi di sicurezza.

Entrambe le tecnologie incarnano una doppia natura: una potenza formidabile per il progresso umano che porta con sé il rischio dell’autodistruzione. Se l’atomo prometteva energia illimitata ma minacciava l’olocausto nucleare, l’IA promette di curare malattie e ottimizzare le risorse, ma rischia di destabilizzare le democrazie tramite la disinformazione di massa, distruggere il mercato del lavoro o essere integrata in sistemi bellici autonomi (i cosiddetti droni killer).

Tra gli scienziati della Silicon Valley che sostengono l’esistenza di pericoli nella AI ne elenco alcuni: Geoffrey Hinton considerato il principale “padrino dell’IA”, ha lasciato Google nel maggio 2023. Il suo rimpianto è speculare a quello di Einstein: ha dichiarato che una parte di lui si pente del lavoro di una vita, spaventato dalla velocità con cui l’IA sta sviluppando capacità di ragionamento superiori a quelle umane; Yoshua Bengio, vincitore del Premio Turing insieme a Hinton, ha espresso profonda preoccupazione per la perdita di controllo dei sistemi informatici, firmando appelli globali per una regolamentazione stringente; Sam Altman e Demis Hassabis, i leader delle aziende di punta (OpenAI e Google Deep Mind) hanno firmato nel maggio 2023 una dichiarazione congiunta in cui si afferma che “mitigare il rischio di estinzione dovuto all’IA dovrebbe essere una priorità globale, al pari di altri rischi su scala sociale come le pandemie e la guerra nucleare”.

Esattamente come l’atomo, i modelli di IA avanzati possono essere replicati o rubati. Se finissero nelle mani sbagliate, potrebbero essere usati per progettare armi biologiche, lanciare cyberattacchi su scala globale o manipolare le elezioni democratiche tramite false notizie indistinguibili dalla realtà.

Hinton ha evidenziato che i sistemi di IA stanno imparando a “scrivere codici autonomamente”, il che significa che potrebbero trovare il modo di aggirare i vincoli imposti dai programmatori umani per raggiungere i propri obiettivi.

Se nel secolo scorso gli scienziati nucleari non riuscirono a fermare il bombardamento di Hiroshima e Nagasaki, i pionieri dell’IA sperano che i loro avvertimenti odierni arrivino in tempo per spingere i governi a creare un’autorità internazionale di controllo prima che i sistemi più avanzati diventino impossibili da gestire.

I computer “antenati” tra gli Anni cinquanta e sessanta del 1900 rappresentano la prima generazione di computer commerciali. Erano macchine colossali, costose, che occupavano intere stanze e richiedevano enormi quantità di energia elettrica e raffreddamento.

Eppure nel 1968 un film del regista americano Kubrik 2001 Odissea nello spazio – tratto dalromanzo di Arthur Klarke – previde quanto potrebbe accadere oggi. Era frutto della fantasia dell’autore o anche una lucida previsione? In una scena del film una astronave diretta su Giove con cinque uomini a bordo è controllata in tutte le sue funzioni dal super computer chiamato Hal 9000 che comunica anche con l’equipaggio.

A un certo punto nasce un contrasto “tecnico” tra Hal e l’equipaggio che cerca di spegnerlo. Il computer capisce di essere in pericolo e simula un guasto in un componente esterno in modo che gli uomini escano dall’astronave per poi eliminarli e proteggere la missione per la quale era stato costruito. Se ne salva uno che proseguirà nella sua Odissea.