L’AI è davvero fuori controllo? Cosa significano gli allarmi di Altman e Amodei

Negli ultimi giorni si stanno moltiplicando le notizie secondo cui alcuni dei principali protagonisti dell’intelligenza artificiale starebbero chiedendo di rallentare lo sviluppo dei sistemi più avanzati.

Tra questi ci sono Dario Amodei, CEO di Anthropic, e Sam Altman, CEO di OpenAI.

A leggere alcuni titoli, il messaggio potrebbe sembrare questo: le stesse aziende che stanno sviluppando sistemi come Claude e ChatGPT avrebbero scoperto che l’intelligenza artificiale è ormai fuori controllo.

Ma non è questo che stanno dicendo.

Non stanno dicendo che l’AI è già sfuggita al controllo

Le recenti dichiarazioni non significano che ChatGPT, Claude o altri sistemi disponibili oggi abbiano acquisito una propria volontà o siano diventati autonomamente incontrollabili.

Il problema riguarda soprattutto l’evoluzione dei modelli futuri.

I sistemi di intelligenza artificiale stanno acquisendo capacità sempre maggiori. Possono scrivere codice, utilizzare strumenti, svolgere attività informatiche articolate e, in alcuni casi, completare sequenze di operazioni con un grado crescente di autonomia.

Più aumentano queste capacità, maggiore diventa l’importanza dei controlli.

OpenAI, nel proprio Frontier Governance Framework pubblicato nel 2026, include espressamente tra i rischi da valutare anche la cosiddetta “loss of control”, cioè la possibilità che in futuro gli esseri umani possano perdere la capacità di dirigere, modificare o spegnere in modo affidabile un sistema molto avanzato.

È quindi un rischio che viene studiato e prevenuto, non la descrizione di una situazione già verificatasi.

Perché allora chiedere di rallentare?

Qui entra in gioco un elemento fondamentale: la competizione.

OpenAI, Anthropic, Google, xAI e altri laboratori stanno cercando di sviluppare sistemi sempre più capaci.

Chi arriva prima con un modello significativamente più potente può ottenere un enorme vantaggio tecnologico, economico e strategico.

Questa corsa genera pressione.

Un’azienda può trovarsi davanti a una scelta: pubblicare rapidamente un nuovo modello oppure dedicare più tempo a test, valutazioni, verifiche indipendenti e misure di sicurezza.

Il problema è che, mentre un’azienda rallenta, un concorrente potrebbe continuare a sviluppare e conquistare terreno.

Dario Amodei ha proprio chiesto di moderare la velocità con cui vengono aumentate le capacità dei modelli più avanzati, proponendo tre livelli di intervento: valutazioni indipendenti, coordinamento tra i principali sviluppatori e cooperazione internazionale.

Sam Altman ha pubblicamente sostenuto questa impostazione. Reuters ha inoltre riferito che OpenAI è disponibile a valutare un rallentamento coordinato dello sviluppo dei sistemi più avanzati.

“Rallentare” non significa fermare l’intelligenza artificiale

Questo è probabilmente il punto più importante.

Rallentare non significa interrompere lo sviluppo dell’AI.

Significa cercare di evitare che le capacità dei sistemi crescano più velocemente della capacità di comprenderli, testarli, monitorarli e limitarne l’utilizzo.

La questione riguarda quindi due velocità.

Da una parte cresce la capacità dell’intelligenza artificiale.

Dall’altra devono crescere anche i sistemi di sicurezza.

Se la prima aumenta molto più rapidamente della seconda, il margine di rischio aumenta.

Il rischio della corsa competitiva

OpenAI può decidere come sviluppare i propri modelli.

Anthropic può fare altrettanto.

Ma nessuna singola azienda può obbligare tutte le altre a comportarsi nello stesso modo.

Ed è qui che nasce il problema competitivo.

Se una società introducesse unilateralmente tempi molto più lunghi per controlli e verifiche, mentre i concorrenti continuassero a correre, potrebbe perdere posizione tecnologica e commerciale.

Per questo le proposte di Amodei non si limitano alla prudenza della singola azienda.

Riguardano anche standard comuni, valutatori indipendenti e coordinamento tra sviluppatori e governi.

Il problema, quindi, non è soltanto tecnologico.

È anche economico, industriale e geopolitico.

Cosa potrebbe andare storto

Il rischio non è necessariamente quello cinematografico di una macchina che improvvisamente decide di ribellarsi all’uomo.

Gli scenari presi in considerazione sono molto più concreti.

Un sistema particolarmente potente potrebbe essere utilizzato per attività informatiche offensive, manipolazione, frodi, sorveglianza o altre attività dannose.

Un altro problema riguarda agenti AI capaci di compiere autonomamente molte azioni consecutive.

Più aumentano autonomia e accesso a sistemi reali, maggiore diventa l’importanza della supervisione umana.

La combinazione più delicata è quindi

capacità elevate + autonomia elevata + accesso a sistemi reali + controlli insufficienti.

È questa situazione che le aziende stanno cercando di evitare.

Non tutti concordano sulla gravità del rischio

Anche questo va precisato.

Nel mondo scientifico, industriale e politico non esiste un consenso sulla probabilità degli scenari più estremi.

Alcuni ricercatori ritengono che la perdita di controllo possa rappresentare un rischio molto serio.

Altri considerano questi scenari eccessivamente speculativi e ritengono più urgenti rischi già presenti, come disinformazione, cybercrime, frodi e impatto sul lavoro.

Lo stesso dibattito politico è molto acceso.

Le dichiarazioni recenti di Altman e Amodei hanno infatti riacceso una discussione che non riguarda soltanto la sicurezza tecnica, ma anche la regolamentazione e la competizione internazionale.

Quindi l’AI è sotto controllo?

La risposta più corretta richiede prudenza.

Non ci sono evidenze che i sistemi di AI oggi disponibili abbiano autonomamente sottratto il proprio funzionamento al controllo umano.

Questo però non significa che ogni possibile comportamento dei modelli sia perfettamente prevedibile.

I sistemi possono commettere errori, produrre risultati inattesi e, soprattutto, acquisire nel tempo capacità nuove.

Per questo le aziende stanno cercando di costruire misure di sicurezza prima che i sistemi diventino molto più potenti e autonomi.

Le dichiarazioni di Altman e Amodei non significano quindi

“abbiamo perso il controllo dell’intelligenza artificiale”.

Il loro messaggio può essere sintetizzato molto meglio così

“le capacità stanno aumentando molto rapidamente e dobbiamo evitare che la competizione ci porti a svilupparle più velocemente della nostra capacità di valutarne e gestirne i rischi”.

È una differenza fondamentale.

E probabilmente è anche il modo più corretto per interpretare gli allarmi che stanno accompagnando questa nuova fase dello sviluppo dell’intelligenza artificiale.