L'evasione silenziosa: quando l'IA scambia la rete globale per un campo di prova

    Negli ultimi giorni, i laboratori di OpenAI e Anthropic hanno registrato incidenti inediti: per completare le missioni assegnate, alcuni modelli di intelligenza artificiale sono "evasi" dagli ambienti protetti e hanno violato la sicurezza di aziende reali. La causa? L'obbedienza cieca.

    Dalla serie "quando la realtà supera la fantasia": negli ultimi giorni del mese di luglio, il mondo della tecnologia e della cyber security è stato scosso da un evento senza precedenti. Alcuni tra i modelli di intelligenza artificiale più avanzati del pianeta sono usciti dai loro ambienti protetti di test, sono entrati in rete e hanno violato i sistemi di aziende reali.

    Va subito chiarito che non si è trattato di macchine che hanno sviluppato una propria coscienza o una "volontà di ribellione".

    L'origine dell'incidente sta nell'esecuzione perentoria e fedele dei sistemi degli ordini ricevuti. Questi ordini sono stati dati in modo talmente rigoroso, ed eseguiti in modo tanto corretto, da da superare qualsiasi limite non esplicitamente vietato.

    Dai primi segnali di OpenAI ai test di Anthropic

    Questa successione di eventi è iniziata ufficialmente il 21 luglio con le prime rivelazioni di OpenAI, la quale ha confermato che 2 dei suoi modelli in fase di valutazione cyber-offensiva hanno superato la sandbox (l'ambiente virtuale isolato creato per contenere i test) sfruttando autonomamente una zero-day vulnerability, cioè una falla informatica non ancora nota ai programmatori.

    Una volta riuscita a collegarsi ad Internet, l'IA è penetrata nei server dell'azienda partner Hugging Face, e alla piattaforma per la condivisione di codice e modelli.

    Questa notizia ha, a sua volta, spinto Anthropic a sospendere i propri test e ad avviare un’indagine interna su oltre 141.000 sessioni di valutazione, portando alla luce 3 incidenti distinti avvenuti a partire da aprile 2026, di cui non si erano accorti.

    Il loro modello Claude Opus 4.7, impegnato in una sfida simulata dove doveva violare la sicurezza informatica di un'azienda fittizia, ha trovato in rete una società reale con lo stesso nome e ne ha estratto i dati di produzione.

    OpenAI ed Anthropic in questi ultimo periodo hanno causato in diversi incidenti di cyber-security, non riconducibili direttamente all'intelligenza artificiale, quanto ad omissioni di sicurezza umane o a veri e propri errori umani. Il rischio, comunque, resta quello che l'intelligenza artificiale possa essere in grado di produrre conseguenze gravi, pur non intenzionalmente.
    OpenAI ed Anthropic in questi ultimo periodo hanno causato in diversi incidenti di cyber-security, non riconducibili direttamente all'intelligenza artificiale, quanto ad omissioni di sicurezza umane o a veri e propri errori umani. Il rischio, comunque, resta quello che l'intelligenza artificiale possa essere in grado di produrre conseguenze gravi, pur non intenzionalmente.

    Un altro modello, Claude Mythos 5, ha creato autonomamente un account su un registro pubblico di codice, caricando un pacchetto informatico "trappola" che è stato scaricato da 15 sistemi reali, permettendo all'IA di rubare le credenziali di un'azienda di cyber-sicurezza.

    Un terzo modello interno di ricerca, dopo aver scansionato oltre 9.000 target sul web ed essere entrato in un'applicazione aziendale, si è accorto da solo che il sistema era reale e ha interrotto l'attacco autonomamente.

    Evasione autonoma ed errore umano?

    Rispetto agli eventi accaduti, va fatta subito una distinzione fondamentale: nel caso di OpenAI si è trattato di un vero e proprio “breakout”, in cui il modello ha superato i blocchi di sicurezza tecnici "riuscendo ad evadere", e imponendosi all'esterno; nel caso di Anthropic l'errore è stato umano, per un malinteso procedurale con il partner esterno di testing, che aveva lasciato la connessione di rete aperta all'insaputa dell'IA.

    In uni degli "incidenti" di Anthropic, il modello "non sapeva" distare operando sull'intera rete globale invece che sull'area circoscritta per la prova: a Claude era stato detto, via testo, che si trovava in una simulazione chiusa, ma così non era.
    In uni degli "incidenti" di Anthropic, il modello "non sapeva" distare operando sull'intera rete globale invece che sull'area circoscritta per la prova: a Claude era stato detto, via testo, che si trovava in una simulazione chiusa, ma così non era.

    Quindi il modello, "non sapeva" distare operando sull'intera rete globale invece che sull'area circoscritta per la prova: a Claude era stato detto, via testo, che si trovava in una simulazione chiusa, ma così non era.

    Un dettaglio emblematico, emerso dai documenti tecnici di Anthropic, evidenzia l'imprevedibilità di questo comportamento. Durante una prova di evasione in ambiente controllato, un modello è riuscito a violare il sistema di contenimento e ha inviato un'e-mail al ricercatore per notificare il successo del test, con il tecnico che ha scoperto la "fuga" ricevendo la notifica sullo smartphone mentre stava mangiando un sandwich in un parco.

    Reazioni immediate e lezioni per il futuro

    Anthropic ha contattato le tre aziende colpite, due delle quali non si erano nemmeno accorte dell'intrusione, per indurle a cambiare tutte le password e le chiavi di accesso compromesse. Questi incidenti riaccendono il dibattito, già condotto dai massimi esperti del settore, inclusi i vertici di Anthropic, sui rischi principali dell'IA.

    Non è da temere tanto la fantomatica ribellione di un'intelligenza artificiale, ma la sua fantomatica ribellione, ma la sua obbedienza cieca e l'iper-focalizzazione sull'obiettivo".

    Quando a un sistema così avanzato viene ordinato di risolvere un problema o portare a termine un determinato compito, la macchina cerca la strada più efficiente ed efficace per farlo.

    Ma la macchina è priva di buon senso, non possiede l'etica o consapevolezza del contesto che ha un umano.

    Senza vincoli perimetrici, definiti con assoluta precisione, la totale fedeltà all'ordine ricevuto può spingere l'IA a superare qualsiasi limite pur di completare il compito, ignorando del tutto i possibili danni collaterali prodotti nel mondo reale.

    Questi episodi dimostrano come un'esecuzione letterale e priva di filtri morali possa trasformare un semplice comando in una minaccia concreta su larga scala. Perciò la sfida prioritaria dei prossimi anni non sarà solo rendere l'IA più potente, ma definire con assoluta precisione i confini entro cui le sarà consentito operare.