«L’AI può ucciderci tutti»: l’allarme di un ricercatore Anthropic

A 27 anni, Jacob Coxon ha deciso di lasciare Anthropic proprio mentre l’azienda si prepara a una delle operazioni finanziarie più ambiziose della storia dell’intelligenza artificiale. Il ricercatore britannico, che in precedenza aveva lavorato anche per OpenAI, ha scelto di accompagnare le proprie dimissioni con una serie di post su X dedicati a una preoccupazione precisa: la velocità con cui i laboratori stanno sviluppando sistemi sempre più potenti e il rischio che la ricerca della superintelligenza finisca per superare la capacità di controllarla.
Secondo quanto riportato dal Financial Times, Coxon ritiene che Anthropic e OpenAI stiano «giocando d’azzardo» con il futuro dell’umanità.
Il ricercatore non considera quello che sta accadendo una semplice competizione tecnologica. «Le persone che sviluppano l’IA credono sinceramente che essa possa ucciderci tutti entro la fine del decennio», ha scritto annunciando la sua uscita da Anthropic. E aggiunge: «Non si tratta di una mossa di marketing. Nessun’altra attività umana comporta un tale livello di pericolo».

L’allarme arriva da uno dei principali laboratori statunitensi di intelligenza artificiale, Anthropic, che ha costruito una parte importante della propria identità pubblica proprio intorno al tema della sicurezza dell’AI. L’azienda, con sede a San Francisco e sviluppatrice dei modelli Claude, è nata da una scissione di OpenAI ed è oggi uno dei protagonisti della competizione per la realizzazione di sistemi sempre più avanzati. Per Coxon, il problema non riguarda soltanto ciò che i modelli attuali sono già in grado di fare. Il punto critico sarebbe la rapidità con cui potrebbero aumentare le loro capacità. «Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali», ha affermato il ricercatore, sostenendo che chi osserva dall’esterno la corsa all’AI tende a sottovalutarne la portata.

Il suo addio si inserisce in una serie di uscite da importanti laboratori americani motivate da preoccupazioni sulla sicurezza. Un fenomeno che riporta al centro una questione che accompagna da anni lo sviluppo dell’intelligenza artificiale: quanto velocemente può essere spinta una tecnologia quando le sue capacità crescono più rapidamente degli strumenti messi a disposizione per comprenderla, limitarla e governarla? La tempistica rende la vicenda ancora più significativa. Anthropic si prepara infatti a una possibile offerta pubblica iniziale che potrebbe portare la valutazione della società fino a 1.000 miliardi di dollari. Da una parte la pressione finanziaria e competitiva per accelerare lo sviluppo; dall’altra la necessità di dimostrare che sistemi sempre più potenti possano essere mantenuti sotto controllo.

Alle preoccupazioni di Coxon ha risposto anche Evan Hubinger, ricercatore di primo piano nell’area della sicurezza di Anthropic. La sua posizione è meno allarmistica rispetto a quella espressa dall’ex collega quando si parla dei sistemi attualmente disponibili. Hubinger considera infatti «basso» il rischio rappresentato dai modelli esistenti. La sua preoccupazione riguarda piuttosto l’evoluzione futura della tecnologia. In un post su X ha affermato di ritenere che ci sia una probabilità superiore al 10% che l’intelligenza artificiale «possa sterminare tutta l’umanità» entro il prossimo decennio. È una distinzione importante: il rischio associato agli strumenti attuali viene giudicato basso, mentre l’accelerazione delle capacità dei sistemi futuri potrebbe, secondo Hubinger, modificare radicalmente il livello di pericolo. La questione, quindi, non si limita alla possibilità che un modello commetta errori, produca informazioni false o venga utilizzato in modo improprio. Il timore evocato dai ricercatori riguarda una fase diversa: quella in cui sistemi dotati di capacità superiori a quelle umane in determinati ambiti potrebbero diventare in grado di intervenire autonomamente su infrastrutture digitali, processi economici e sistemi complessi.

Il caso Coxon riporta così in primo piano una tensione interna allo sviluppo dell’intelligenza artificiale, generando un vero e proprio cortocircuito: gli stessi laboratori che investono per aumentare rapidamente le capacità dei propri modelli devono contemporaneamente sviluppare strumenti di sicurezza proporzionati alla loro evoluzione.
Anthropic ha fatto della sicurezza uno dei propri principali elementi distintivi, mentre OpenAI resta il principale concorrente nella corsa ai sistemi avanzati. Entrambe le aziende operano però in un mercato nel quale velocità di sviluppo, investimenti e capacità di attrarre capitali sono diventati fattori decisivi. Il punto sollevato dai ricercatori non è quindi soltanto tecnologico. È anche una questione di tempi: se la capacità dei sistemi dovesse crescere molto più rapidamente della ricerca sulla sicurezza, della regolamentazione e della capacità delle istituzioni di comprenderne le conseguenze, il margine per intervenire potrebbe ridursi. Per Coxon quel margine è già motivo sufficiente per lasciare il laboratorio. Per Hubinger il rischio attuale resta basso, ma la possibilità che cambi radicalmente nel prossimo decennio è tutt’altro che trascurabile. Due valutazioni che non coincidono, ma che arrivano dallo stesso ambiente di ricerca e hanno almeno un punto in comune: la domanda non è più soltanto quanto lontano possa arrivare l’intelligenza artificiale, ma quanto velocemente ci arriverà e se saremo in grado di governarne le conseguenze.