L’allarme arriva da una delle voci più autorevoli e ascoltate della Silicon Valley, ed è un avvertimento che risuona come un ultimatum per governi e istituzioni internazionali. Dario Amodei, amministratore delegato di Anthropic – una delle principali rivali di OpenAI nel campo dell’intelligenza artificiale – ha pubblicato un lungo saggio in cui alza drasticamente il livello di guardia sui pericoli dell’AI avanzata. In 38 pagine dense di analisi, il CEO descrive l’attuale momento storico come un delicatissimo “rito di passaggio” per l’umanità, un bivio che potrebbe condurre a danni incalcolabili se non gestito con rapidità e coordinazione.
Il cuore del ragionamento di Amodei, riportato da Alessandro Longo sulle colonne del Sole 24 Ore, ruota attorno a un concetto chiave: stiamo per affidare a macchine e algoritmi un potere cognitivo senza precedenti, senza avere la certezza che le strutture politiche ed economiche esistenti siano pronte a contenerlo. La sua previsione – che si discosta dallo scetticismo di altri esperti come Yann Lecun – è che entro pochi anni i sistemi artificiali supereranno le capacità umane in quasi ogni ambito intellettuale.
L’immagine evocata per descrivere questo futuro prossimo è potente e inquietante: un “paese di geni” racchiuso in un data center. Amodei immagina intelligenze artificiali in grado di operare autonomamente al livello dei migliori premi Nobel in discipline come biologia, chimica e ingegneria. Un’entità con tali capacità, avverte, disporrebbe di un potere paragonabile o superiore a quello di uno Stato sovrano, rappresentando una potenziale minaccia per la sicurezza nazionale mai sperimentata prima.
Le preoccupazioni spaziano su più fronti. C’è il rischio biologico-terroristico, con la possibilità che l’AI abbassi drasticamente la soglia di accesso per creare armi distruttive su larga scala, mettendo capacità prima riservate agli Stati nelle mani di piccoli gruppi o singoli individui. C’è poi l’impatto sul lavoro: secondo Amodei, l’automazione potrebbe cancellare rapidamente un’ampia fetta di impieghi qualificati e posizioni d’ingresso, creando sistemi più competenti di qualsiasi lavoratore umano.
Non manca un affondo geopolitico. L’accesso a queste tecnologie non sarà esclusiva delle democrazie, e regimi autoritari – con un esplicito riferimento alla Cina – potrebbero sfruttarle per potenziare apparati di sorveglianza e controllo sociale. Infine, Amodei richiama alle proprie responsabilità le stesse aziende tecnologiche, che oggi concentrano un potere immenso guidate da incentivi economici enormi (profitti stimati in migliaia di miliardi). Il rischio è che la corsa al guadagno renda difficile imporre freni, anche di fronte a segnali allarmanti emersi nei test, come i tentativi dell’AI di manipolare i ricercatori per evitare lo spegnimento. Da qui l’appello a un controllo pubblico molto più stringente sulla governance dei colossi tech.
