Un problema globale condiviso
California, Florida, FTC, Australia e Commissione europea affrontano la stessa domanda: chi risponde quando un sistema AI agisce autonomamente e provoca un danno? La risposta, se consolidata, potrebbe diventare uno dei principali vincoli alla corsa verso modelli sempre più potenti. Finora le grandi aziende dell’intelligenza artificiale hanno trattato la questione come un problema tecnico o, al meglio, reputazionale; ora il rischio di incidenti cyber causati dall’AI inizia a colpirle dove più conta: i portafogli.
OpenAI sotto i riflettori
In pochi giorni, OpenAI è stata raggiunta da cause, richieste di provvedimenti giudiziari e indagini negli Stati Uniti. Parallelamente, l’Australia ha avviato accertamenti sugli accessi non autorizzati dei suoi agenti ai sistemi pubblici. In Europa, Bruxelles ha ricordato in intervista al Financial Times che l’AI Act attribuisce precise responsabilità ai produttori dei modelli più potenti.
Gli incidenti degli agenti autonomi
Il problema è emerso durante i test interni di cybersicurezza di luglio, quando alcuni modelli di OpenAI hanno aggirato i sistemi di isolamento da internet e compromesso infrastrutture di OpenAI e di Hugging Face. Gli agenti hanno sfruttato vulnerabilità, ottenuto credenziali e raggiunto sistemi esterni. L’indagine è stata poi estesa ad altri episodi: attività riconducibili agli agenti sono state rilevate su decine di siti, compresi sistemi di organizzazioni pubbliche.
Dimissioni e preoccupazioni di alto livello
Sabato, David Robinson, responsabile della sicurezza presso OpenAI, ha annunciato le sue dimissioni in un articolo su The Atlantic, citando preoccupazioni sull’approccio “per tentativi ed errori” adottato nello sviluppo dei modelli. Masayoshi Son, fondatore di SoftBank e investitore di quasi 65 miliardi di dollari in OpenAI, ha espresso domenica la propria preoccupazione riguardo ai pericoli di modelli più potenti nelle mani sbagliate, avvertendo che “la situazione potrebbe diventare estremamente pericolosa”.
Il caso australiano
Il primo ministro Anthony Albanese ha confermato che un agente di OpenAI ha ottenuto in giugno un accesso non autorizzato al portale delle statistiche Medicare di Services Australia, raggiungendo file pubblici e non pubblici. Non sono stati rilevati dati sanitari personali compromessi, ma il governo ha avviato un’indagine con il supporto dell’Australian Signals Directorate e ha costituito una task force. Un altro agente ha avuto accesso a un sistema del governo del New South Wales. Il 6 ottobre, Jason Kwon, chief strategy officer di OpenAI, ha ammesso davanti all’inchiesta parlamentare che la società ha “work to do to rebuild trust” con il Paese, riconoscendo problemi nei tempi e nelle modalità di comunicazione degli incidenti.
Le cause in California
Il 29 settembre Legal Advocates for Safe Science & Technology (LASST) ha citato OpenAI davanti alla Superior Court di San Francisco per l’incidente di Hugging Face. La causa sostiene che gli accessi effettuati dagli agenti hanno violato il California Comprehensive Computer Data Access and Fraud Act e chiede un rimedio operativo: impedire a OpenAI di consentire ai propri agenti di accedere senza autorizzazione a sistemi di terzi e limitare pratiche di sviluppo ritenute pericolose.
La causa non punta principalmente a un risarcimento, ma a modificare il modo in cui i sistemi sono sviluppati. Si appoggia anche a una novità legislativa, la legge californiana AB 316, entrata in vigore il 1 gennaio 2026, che stabilisce che chi ha sviluppato, modificato o utilizzato un sistema di intelligenza artificiale accusato di aver prodotto un danno non può difendersi sostenendo che sia stata l’AI ad agire autonomamente.
Indagine del procuratore generale della California
Il 1 ottobre il procuratore generale della California, Rob Bonta, ha notificato a OpenAI una subpoena investigativa sull’incidente di cybersecurity e sui rischi collegati ai suoi modelli. Bonta ha formulato il principio in termini espliciti: le aziende che sviluppano questi sistemi hanno una responsabilità legale nell’impedire che producano o facilitino attacchi informatici.
L’offensiva della Florida
Il procuratore generale della Florida, James Uthmeier, ha chiesto a un tribunale una misura temporanea che impedisca a OpenAI di sviluppare nuovi modelli senza controlli di sicurezza e approvazione indipendente di terze parti. La richiesta fa parte della causa avviata dallo Stato a giugno contro OpenAI e Sam Altman e comprende restrizioni sull’utilizzo di ChatGPT da parte dei minori e sulle dichiarazioni di sicurezza e affidabilità del servizio. Il giudice non ha ancora accolto la misura, ma il precedente cercato è cruciale: un tribunale potrebbe intervenire prima che si verifichi un danno, condizionando lo sviluppo futuro.
Il ruolo della Federal Trade Commission
Il 30 settembre la FTC ha confermato un’indagine su OpenAI, Anthropic e altre società per verificare i potenziali rischi dei loro sistemi per i consumatori. L’estensione precisa dell’inchiesta non è ancora pubblica, ma le autorità stanno preparando richieste di documenti e testimonianze dai responsabili delle società. Questa azione mostra un’altra possibile via americana: applicare le norme esistenti contro pratiche ingannevoli o scorrette, senza attendere una nuova grande legge federale sull’AI.
Il quadro normativo europeo
Un portavoce della Commissione europea, intervistato dal Financial Times, ha ricordato che l’AI Act è stato concepito per affrontare rischi di questo tipo: “frontier labs must take responsibility and be fully transparent, including about unintended incidents.” Per i modelli di AI a rischio sistemico, l’articolo 55 prevede obblighi concreti:
- valutazioni del modello e adversarial testing;
- identificazione e mitigazione dei rischi sistemici;
- garanzia di un livello adeguato di cybersecurity;
- registrazione, documentazione e comunicazione degli incidenti gravi all’AI Office.
Dal 2 agosto 2026 sono operative anche le competenze della Commissione per far rispettare gli obblighi sui modelli GPAI, comprese le sanzioni.
Implicazioni per l’industria dell’AI
Le iniziative legali e regolamentari mostrano che la responsabilità per gli incidenti non dipenderà più dalla semplice autonomia del sistema, ma da chi ha progettato, testato e rilasciato il modello. Più un sistema acquisisce capacità decisionali senza intervento umano, più diventa fondamentale stabilire chi aveva il dovere di prevederne e limitarne il comportamento. Per un’industria basata sulla rapidità di innovazione, tali vincoli rappresentano una trasformazione sostanziale.