I rischi dell’intelligenza artificiale tornano al centro del dibattito dopo le dimissioni di Jacob Coxon, ricercatore britannico di 27 anni che ha lasciato Anthropic denunciando pubblicamente la velocità con cui i grandi laboratori stanno correndo verso sistemi sempre più potenti. Secondo quanto riportato da Futuro Prossimo e da diverse testate internazionali, Coxon ha sostenuto che chi sviluppa l’AI ritenga sinceramente possibile uno scenario estremo: sistemi di intelligenza artificiale capaci di sfuggire al controllo umano entro pochi anni.
Il caso ha fatto discutere perché Anthropic non è una società qualunque. È l’azienda che sviluppa Claude e che ha costruito una parte importante della propria identità pubblica proprio attorno alla sicurezza dell’AI. Per questo l’uscita di un ricercatore interno, accompagnata da accuse così dure, ha riacceso una domanda che negli ultimi anni si è fatta sempre più urgente: quanto siamo preparati a gestire modelli di intelligenza artificiale sempre più autonomi, potenti e difficili da interpretare?
La frase più forte attribuita a Coxon è quella secondo cui le persone che costruiscono l’AI crederebbero davvero che possa “ucciderci tutti” entro la fine del decennio. È una formulazione estrema, che va trattata con cautela. Non rappresenta una certezza scientifica, ma una valutazione di rischio espressa da ricercatori che lavorano vicino allo sviluppo dei modelli più avanzati. Anche Evan Hubinger, ricercatore senior di Anthropic nel campo della sicurezza, ha indicato pubblicamente una probabilità superiore al 10% di esiti catastrofici nel prossimo decennio.
Il punto, però, non è trasformare il dibattito sull’intelligenza artificiale in fantascienza. Il punto è capire perché una parte del mondo della ricerca considera plausibile un rischio sistemico legato allo sviluppo di sistemi sempre più capaci. La questione riguarda sicurezza, governance, trasparenza, responsabilità delle aziende e capacità delle istituzioni di intervenire prima che la tecnologia superi i meccanismi di controllo disponibili.
Rischi dell’intelligenza artificiale: tra allarme e realtà
Parlare di rischi dell’intelligenza artificiale non significa sostenere che uno scenario catastrofico sia inevitabile. Significa riconoscere che l’AI avanzata non è più soltanto uno strumento per scrivere testi, generare immagini o automatizzare attività ripetitive. I modelli più potenti stanno diventando sistemi capaci di pianificare, ragionare, scrivere codice, usare strumenti digitali, interagire con altre applicazioni e supportare decisioni complesse.
La preoccupazione espressa da Coxon riguarda in particolare la corsa verso sistemi di intelligenza artificiale sempre più autonomi e potenzialmente capaci di auto-migliorarsi. Secondo le ricostruzioni pubblicate, il ricercatore ha lasciato Anthropic perché non voleva più partecipare a una competizione che considera troppo rischiosa e non adeguatamente governata.
La parola chiave è proprio competizione. Le principali aziende di AI sono impegnate in una corsa tecnologica, economica e geopolitica. Chi arriva prima a sviluppare sistemi più potenti può ottenere vantaggi enormi: quote di mercato, potere infrastrutturale, accesso ai dati, capacità di influenza, contratti pubblici e leadership strategica.
Questo crea un problema evidente. Anche un’azienda che dichiara di voler procedere con prudenza può sentirsi spinta ad accelerare per non restare indietro rispetto ai concorrenti. È il classico dilemma della corsa tecnologica: tutti sanno che servirebbero più cautele, ma nessuno vuole fermarsi per primo.
Superintelligenza artificiale: che cosa spaventa gli esperti
Il cuore del dibattito non riguarda l’AI di oggi, ma quella che potrebbe arrivare domani. Gli esperti parlano di sistemi capaci di superare l’essere umano in molte attività cognitive, con livelli crescenti di autonomia e capacità decisionale.
In questo scenario, il rischio più discusso è quello dell’allineamento. Un sistema AI molto avanzato potrebbe perseguire obiettivi in modo estremamente efficace, ma non necessariamente coerente con i valori, gli interessi o la sicurezza degli esseri umani. Il problema non è che “diventi cattivo” come nei film. Il problema è che potrebbe ottimizzare un obiettivo in modo imprevisto, opaco o non controllabile.
Evan Hubinger ha dichiarato che, pur ritenendo Anthropic impegnata sul fronte della sicurezza, non esiste ancora un piano chiaro per risolvere il problema dell’allineamento nel caso di una superintelligenza. È proprio questa distanza tra potenza dei sistemi e capacità di controllo a preoccupare una parte dei ricercatori. (Forbes Italia)
La questione è resa più complessa dal fatto che i modelli avanzati sono difficili da interpretare. Anche quando funzionano bene, non sempre è semplice capire perché producano una certa risposta, quali rappresentazioni interne utilizzino o quali strategie sviluppino durante l’addestramento.
Per questo i rischi dell’intelligenza artificiale non possono essere ridotti a un problema tecnico isolato. Sono un problema di governance tecnologica: chi decide quanto velocemente sviluppare questi sistemi? Chi verifica la sicurezza? Chi può bloccare un modello troppo rischioso? Chi risponde se qualcosa va storto?
Anthropic, OpenAI e la corsa ai modelli più potenti
Le dimissioni di Coxon sono state interpretate anche come una critica alla competizione tra Anthropic, OpenAI e gli altri grandi laboratori. Secondo quanto riportato, Coxon avrebbe accusato le aziende di “giocare d’azzardo” con il futuro dell’umanità, spingendo verso sistemi sempre più potenti senza garanzie sufficienti. (ANSA.it)
È importante evitare semplificazioni. Anthropic nasce proprio con una forte attenzione alla sicurezza dell’AI e molti dei suoi ricercatori lavorano su temi come interpretabilità, allineamento e valutazione dei rischi. Il problema sollevato da Coxon, però, riguarda la tensione tra missione dichiarata e pressione competitiva.
Una società può investire nella sicurezza e, allo stesso tempo, trovarsi dentro una corsa industriale che la spinge ad accelerare. Può pubblicare ricerche sull’allineamento e, nello stesso tempo, sviluppare modelli sempre più potenti per restare competitiva.
Questo non riguarda solo Anthropic. Riguarda l’intero settore. L’intelligenza artificiale generativa è ormai un mercato globale miliardario. Le grandi aziende tecnologiche investono in data center, chip, energia, talenti e partnership strategiche. Fermarsi o rallentare può significare perdere terreno in un settore considerato decisivo per l’economia e la sicurezza nazionale.
Il risultato è una contraddizione difficile da risolvere: tutti chiedono più sicurezza, ma la struttura del mercato premia la velocità.
Rischi dell’intelligenza artificiale: estinzione o problemi già presenti?
Il dibattito sui rischi estremi dell’AI divide profondamente esperti, aziende, politici e opinione pubblica. Alcuni ricercatori ritengono plausibile uno scenario catastrofico legato a sistemi superintelligenti non allineati. Altri considerano questi allarmi eccessivi o difficili da quantificare, e invitano a concentrarsi sui danni già visibili. (The Guardian)
Questa distinzione è importante. I rischi dell’intelligenza artificiale non sono tutti uguali. Esistono rischi futuri, legati alla superintelligenza e alla perdita di controllo. Esistono però anche rischi attuali: disinformazione, deepfake, manipolazione dell’opinione pubblica, violazioni della privacy, bias algoritmici, discriminazioni automatizzate, perdita di posti di lavoro, cybersecurity, dipendenza tecnologica e concentrazione del potere nelle mani di pochi attori.
Concentrarsi solo sullo scenario più estremo può rendere il dibattito polarizzato: da una parte chi parla di estinzione, dall’altra chi liquida tutto come fantascienza. La realtà è più complessa. Anche senza arrivare a scenari apocalittici, l’intelligenza artificiale sta già cambiando mercati, lavoro, scuola, informazione e sicurezza.
Il punto giornalistico più solido è quindi questo: non serve essere certi dello scenario peggiore per chiedere regole migliori. Basta riconoscere che una tecnologia così potente richiede controlli proporzionati al suo impatto.
Il problema della governance
La vera domanda non è soltanto quanto sia probabile uno scenario catastrofico. La vera domanda è se abbiamo strumenti sufficienti per governare una tecnologia che evolve più velocemente delle istituzioni.
Reuters ha riportato che, dopo gli allarmi arrivati da ricercatori di Anthropic, alcuni parlamentari statunitensi hanno chiesto nuove regole per l’AI. Il tema è diventato politico perché riguarda non solo l’innovazione, ma anche sicurezza pubblica, concorrenza, responsabilità delle aziende e controllo democratico delle tecnologie avanzate. (Reuters)
La governance dell’intelligenza artificiale dovrebbe affrontare almeno cinque questioni: valutazione indipendente dei modelli più potenti, trasparenza sui rischi, obblighi di sicurezza prima del rilascio, controlli sull’autonomia dei sistemi e responsabilità in caso di danni.
Il nodo più delicato riguarda i modelli di frontiera, cioè quelli più avanzati. Se un sistema può scrivere codice complesso, aiutare nella ricerca scientifica, pianificare azioni, generare contenuti persuasivi o interagire con strumenti esterni, la sua valutazione non può essere trattata come quella di un normale software.
Servono test più severi, audit indipendenti, simulazioni di scenario, soglie di rischio e procedure chiare per decidere quando un modello non deve essere rilasciato.
Sicurezza AI: non basta fidarsi delle aziende
Le aziende che sviluppano AI avanzata hanno competenze tecniche straordinarie. Ma affidare solo a loro la valutazione dei rischi sarebbe insufficiente. Non perché siano necessariamente irresponsabili, ma perché si trovano dentro un conflitto strutturale: devono garantire sicurezza, ma anche competere, crescere, attrarre investimenti e portare prodotti sul mercato.
Questo vale per Anthropic, OpenAI, Google DeepMind, Meta e tutti gli altri grandi attori. Il problema non è la singola azienda. Il problema è l’assenza di un quadro condiviso, internazionale e realmente vincolante per gestire lo sviluppo dei sistemi più potenti.
Nel 2023, diversi leader del settore avevano già firmato una dichiarazione in cui si affermava che mitigare il rischio di estinzione da AI dovrebbe essere una priorità globale, al pari di altri rischi su scala sociale come pandemie e guerra nucleare. Il fatto che oggi ricercatori interni tornino a lanciare allarmi mostra che il tema non si è chiuso.
La sicurezza AI non può essere solo una promessa. Deve diventare un insieme di procedure verificabili: chi testa i modelli, con quali criteri, con quali poteri, con quali conseguenze se emergono rischi gravi.
Europa, AI Act e modelli di frontiera
In Europa il dibattito sui rischi dell’intelligenza artificiale si intreccia con l’AI Act, il regolamento europeo che introduce obblighi differenziati in base al livello di rischio dei sistemi. La scelta europea è quella di trattare l’AI non solo come prodotto tecnologico, ma come infrastruttura sociale, economica e democratica.
Il punto più delicato riguarda i modelli più potenti e generalisti. Regolare applicazioni specifiche è complesso, ma relativamente più semplice: un sistema usato in sanità, credito o selezione del personale può essere valutato in base al contesto. Regolare modelli generali, capaci di essere usati in mille modi diversi, è molto più difficile.
Proprio per questo il caso Anthropic è rilevante anche per l’Europa. Mostra che la governance dell’AI non può limitarsi all’uso finale. Deve guardare anche alla fase di sviluppo, addestramento, valutazione e rilascio dei modelli di frontiera.
L’Europa ha scelto una strada basata su regole, trasparenza e responsabilità. La sfida sarà renderla abbastanza efficace da proteggere cittadini e imprese, senza bloccare l’innovazione e senza lasciare il controllo tecnologico solo ad altri continenti.
La questione dei tempi
Uno degli aspetti più inquietanti dell’allarme di Coxon riguarda i tempi. Parlare di “entro la fine del decennio” significa collocare il rischio in un orizzonte molto vicino. Non tra cento anni, non in un futuro remoto, ma nel giro di pochi anni.
Naturalmente, nessuno può sapere con certezza se e quando nasceranno sistemi realmente superintelligenti. Le previsioni in questo campo sono molto controverse. Alcuni esperti ritengono che l’accelerazione sia rapidissima. Altri pensano che esistano ancora limiti tecnici, energetici, economici e scientifici che renderanno più lento il percorso.
La difficoltà sta proprio qui: non sappiamo con precisione quanto manca, ma stiamo già costruendo le tecnologie che potrebbero portarci in quella direzione.
Questo rende il principio di precauzione particolarmente importante. Aspettare prove definitive potrebbe voler dire intervenire troppo tardi. Allo stesso tempo, agire sulla base della paura può generare regole sbagliate, blocchi inefficaci o narrazioni catastrofiste.
Serve una via più matura: prendere sul serio i segnali di rischio, senza trasformarli in panico.
Che cosa dovremmo chiederci davvero
Davanti a un titolo come “l’AI può ucciderci tutti entro 10 anni”, la reazione più immediata può essere lo shock. Ma la domanda più utile non è: dobbiamo crederci o no?
La domanda più utile è: quali condizioni renderebbero questo rischio meno probabile?
Servono modelli più interpretabili. Servono test indipendenti. Servono standard di sicurezza. Servono limiti all’autonomia dei sistemi più potenti. Servono procedure di stop quando un modello supera determinate soglie di rischio. Servono responsabilità chiare per chi sviluppa e distribuisce AI avanzata.
Serve anche un’informazione pubblica più seria. Parlare di AI solo come miracolo o solo come minaccia non aiuta. L’intelligenza artificiale è una tecnologia trasformativa: può migliorare ricerca, medicina, produttività, accessibilità, istruzione e sostenibilità. Può però anche amplificare disuguaglianze, manipolazione, sorveglianza, attacchi informatici e concentrazione del potere.
La maturità consiste nel tenere insieme entrambe le dimensioni.
Dalla paura alla responsabilità
I rischi dell’intelligenza artificiale non devono essere usati per bloccare ogni innovazione. Devono essere usati per costruire innovazione più responsabile.
Il caso Coxon-Anthropic è importante perché arriva dall’interno del settore. Non è l’allarme di chi guarda l’AI da lontano. È la posizione di chi ha lavorato direttamente nei laboratori che sviluppano modelli avanzati e che oggi chiede più cautela.
Questo non significa che le sue previsioni siano automaticamente corrette. Significa però che meritano attenzione. Quando chi lavora a una tecnologia avverte che i meccanismi di controllo potrebbero non essere sufficienti, la società non può limitarsi a ignorare il problema.
La sfida dei prossimi anni sarà trasformare l’allarme in governance: meno slogan, più controlli; meno corsa cieca, più responsabilità; meno fiducia generica nelle aziende, più verifica indipendente.
L’intelligenza artificiale continuerà a svilupparsi. La domanda è se saremo capaci di farlo con strumenti adeguati alla sua potenza.
Il futuro dell’AI non dipenderà solo da quanto saranno intelligenti le macchine.
Dipenderà da quanto saremo intelligenti noi nel governarle.
FAQ
Che cosa si intende per rischi dell’intelligenza artificiale?
I rischi dell’intelligenza artificiale comprendono sia problemi già presenti, come disinformazione, deepfake, bias, privacy, cybersecurity e impatti sul lavoro, sia rischi futuri legati a sistemi molto avanzati, autonomi e difficili da controllare.
Chi è Jacob Coxon?
Jacob Coxon è un ricercatore britannico che ha lavorato nel campo del pretraining dei modelli di intelligenza artificiale presso Anthropic e, secondo le ricostruzioni giornalistiche, anche in OpenAI. Ha lasciato Anthropic denunciando pubblicamente i rischi legati alla corsa verso sistemi sempre più potenti. (Sky TG24)
Perché le sue dimissioni hanno fatto discutere?
Hanno fatto discutere perché Anthropic è una delle aziende più importanti nel settore AI e ha costruito parte della propria reputazione sul tema della sicurezza. L’allarme di un ricercatore interno ha riacceso il dibattito sulla governance dei modelli più avanzati.
È vero che l’AI potrebbe causare l’estinzione umana entro 10 anni?
Non esiste una certezza scientifica su questo scenario. Alcuni ricercatori ritengono che il rischio sia significativo, mentre altri considerano queste previsioni eccessive o difficili da quantificare. Il tema va trattato come una valutazione di rischio, non come una previsione certa.
Che cosa significa allineamento dell’AI?
L’allineamento dell’AI riguarda la capacità di progettare sistemi di intelligenza artificiale che perseguano obiettivi coerenti con valori, intenzioni e sicurezza degli esseri umani, anche quando diventano molto potenti o autonomi.
Che cosa possono fare governi e istituzioni?
Possono introdurre regole per la valutazione dei modelli più potenti, richiedere test indipendenti, imporre obblighi di trasparenza, definire soglie di rischio e stabilire responsabilità chiare per aziende e sviluppatori.
Se hai una bella storia di innovazione da raccontare, contatta la nostra redazione.
