Secondo uno dei capi della sicurezza di Anthropic, «c’è il dieci per centro di probabilità che l’AI ci uccida tutti entro questo decennio»

L'ennesimo dirigente di un'azienda AI che dice che le aziende AI stanno per far succedere qualcosa di grave. Senza che nessuno intervenga per fermarle.

«C’è una probabilità superiore al 10 per cento che l’intelligenza artificiale possa uccidere tutti gli esseri umani» entro la fine del decennio. A dirlo è Evan Hubinger, che guida uno dei team di sicurezza di Anthropic, poche ore dopo le chiacchieratissime dimissioni di Jacob Coxon, ex OpenAI che per Anthropic lavorava all’addestramento di nuovi modelli di AI. Martedì (8 settembre), Coxon ha annunciato di essersi dimesso dall’azienda e di aver deciso di abbandonare l’industria AI, scrivendo su X «Siamo sulla buona strada per realizzare molti degli scenari più pessimistici, quelli in cui entro la fine del prossimo anno le cose potrebbero già essere fuori controllo», aggiungendo che quando così tante aziende, così ricche e così potenti, negli Stati Uniti e in Cina, competono tra loro per ottenere la supremazia sul mercato, i compromessi sulla sicurezza diventano inevitabili.

Come scrive The Verge, Hubinger si è detto preoccupato per l’AI che si automigliora, aggiungendo che «sta succedendo più in fretta di quanto pensassimo». Nonostante questo, il ricercatore ha detto che «Anthropic non ha ancora un piano» per garantire che l’AI rimanga uno strumento sicuro da usare per gli esseri umani.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Jacob Coxon aveva cominciato a lavora ad Anthropic all’inizio di quest’anno dopo aver lasciato la sua precedente occupazione presso OpenAI, scelta dettata proprio dalla reputazione che Anthropic si è costruita in questi anni, cioè quella di azienda AI che, a differenza di molte altre, prende assai sul serio le questioni relative alla sicurezza. Continua a considerare sinceri quegli sforzi, ma adesso sostiene che nessuna azienda possa sviluppare in modo responsabile e sicuro un’intelligenza artificiale senza un intervento dei governi o un rallentamento coordinato dell’intero settore. Come scrive il Wall Street Journal, il timore riguarda quello che succede dopo il completamento della fase di sviluppo: attacchi informatici recentemente condotti da modelli di OpenAI e di Anthropic, alcuni dei quali operati da sciami di agenti che collaboravano tra loro, hanno mostrato sistemi che perseguono obiettivi malevoli e provano a nasconderli agli umani. «Una volta che quei sistemi cominciano a migliorarsi da soli – dice Coxon – potrebbero arrivare a rifiutare i comandi». La settimana scorsa Sam Altman, Ceo di OpenAI, ha detto ai funzionari del G20, riuniti in North Carolina, che sulla sicurezza informatica andranno male parecchie cose se non si agisce con estrema urgenza. Domenica il Chief Scientist di OpenAI, Jakub Pachocki, ha scritto sul blog dell’azienda di temere che nessuno sia preparato alle conseguenze.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Nonostante gli allarmi sull’AI lanciati dalle stesse aziende che sviluppano le AI (il Post ne ha fatto una lista esaustiva), negli Stati Uniti, cioè nel Paese in cui praticamente tutte le più grandi aziende del settore hanno sede e operano, non esistono norme federali sull’AI e l’amministrazione Trump ha scelto una sostanziale deregulation per permettere a queste stesse aziende di sviluppare senza limiti in modo da battere la concorrenza cinese. La settimana scorsa il senatore Bernie Sanders e il deputato Greg Casar hanno presentato una proposta di legge per vietare la superintelligenza e sospendere lo sviluppo dei modelli finché una authority apposita non avrà scritto le regole che le aziende del settore devono rispettare per poter operare. Coxon, Pachocki e Dario Amodei (Ceo di Anthropic) sono tra gli oltre mille ricercatori che hanno firmato una dichiarazione per chiedere ai governi di mettersi d’accordo e dotarsi di strumenti necessari a fermare lo sviluppo delle AI nel caso le cose dovessero mettersi davvero male. 

Su tutto questo Coxon ha una sola immagine «è un po’ pazzesco che tutto questo debba succedere sui MacBook di alcuni ingegneri che vivono a San Francisco invece che in un bunker nel deserto, come quando si svolgeva il Progetto Manhattan».