Il model collapse costituisce un rischio sistemico per l’infrastruttura conoscitiva che supporta la digitalizzazione globale. Si tratta di un fenomeno scientifico e sociale emergente: il ricaricamento continuo di modelli artificiali su dati generati da modelli stessi genera una riduzione progressiva di diversità e di contesti informativi, indebolendo l’accesso alla conoscenza specialistica, alle varietà minoritarie e ai contenuti estremi di valore.
Il meccanismo statistico del model collapse
Il model collapse non emerge da un malfunzionamento occasionale, ma da un processo strutturalmente necessitato. Quando un modello genera dati sintetici e questi vengono reinseriti come addestramento per altri modelli, si perde progressivamente la rappresentazione degli eventi rari, delle varianti linguistiche marginali e delle informazioni marginali ma critiche. La conseguenza è un’attenuazione dell’entropia informativa complessiva, fino a raggiungere una situazione paradossale in cui i dati rappresentano soltanto la tendenza centrale, con l’esclusione di ogni variazione.
Nel 2024, Shumailov e colleghi hanno formalizzato la questione sperimentando con grandi modelli linguistici e strumenti Variational AutoEncoder. Il lavoro ha rivelato che ogni iterazione successiva aumenta il rischio di perdere i dati periferici, con l'effetto cumulativo di restringere la rappresentazione del mondo da parte del modello. In particolare, il problema non si ferma al linguaggio naturale, ma si applica anche a modelli tecnici come i mixtures of Gaussian, architetture statistiche diffuse tra i provider di AI.
Precursori e studi successivi
Già nel 2023, il gruppo aveva anticipato i risultati con una pre-print intitolata The curse of recursion, dove si introduceva il concetto di self-consuming loop, espressione adatta a descrivere l'assunzione di dati artificiali come input. Studi successivi hanno confermato la tendenzialità del model collapse: Borji ha spiegato che, data la natura delle distribuzioni di addestramento, il fenomeno è inevitabile; Dohmatob e collaboratori hanno chiarito che perfino mescolando i dati reali e sintetici, con percentuali contenute, il rischio di collasso rimane; Gerstgrasser ha evidenziato che per evitare il collasso è necessario accumulare e mantenere dati autentici, senza sostituirli troppo velocemente con versioni sintetiche.
L’accesso ai corpus originali è cruciale, ma spesso compromesso. I dataset più utilizzati oggi, come il LAION-5B, mostrano già una composizione modificata da contenuti generati artificialmente. Questo implica che la rappresentazione del mondo adottata dai modelli futuri non corrisponderà più fedelmente alla realtà originale.
Ricostruire il contesto sociale
Fino a qui, il model collapse emerge come un problema tecnico; ma il suo impatto ha una dimensione sociale e epistemologica profonda. Si tratta, in realtà, di una forma di degenerazione conoscitiva: la capacità di rappresentare e comunicare una varietà di prospettive sta scomparendo, compromettendo la struttura epistemica dell’infrastruttura digitale.
Dalle scienze umane al diritto
In questo senso, il model collapse non è semplicemente un problema tecnico, ma politico. Il contesto in cui si sviluppano i modelli di addestramento dipende da chi controlla i dati originali, ma, soprattutto, da chi decide di rilasciare contenuti automatizzati senza etichettatura adeguata. Questo è dove entra in gioco il diritto: non basta regolare la qualità di ogni singolo modello; bisogna proteggere l’ecosistema del corpo informativo dal degrado strutturale.
La dimensione collettiva del problema
Gli strumenti legali attuali sono insufficienti, perché il danno provocato dal model collapse non rientra in una lesione di diritti individuabili. Non si tratta né di una violazione di proprietà intellettuale né di una manipolazione deliberata. Si tratta, invece, di un danno collettivo che si verifica a livello istituzionale e sociale. Tutti coloro che rilasciano in modo non marcato contenuti sintetici contribuiscono al processo di degradazione del corpus informativo collettivo.
Tra tragedia dei beni comuni e responsabilità collettiva
Nel linguaggio teorico, il concetto più appropriato per spiegare il model collapse è la tragedia dei beni comuni, formulata da Garrett Hardin. Ogni produttore rilascia contenuti sintetici in quanto non vede alcun costo personale nella contaminazione generale; la conseguenza però è un degrado accumulativo per tutti. L’unico modo per arrestare il trend è rendere visibile e responsabilizzante questa dinamica.
- Principali effetti del model collapse:
- - Riduzione della diversità linguistica e culturale
- - Assorbimento delle prospettive minoritarie
- - Perdita di conoscenze a bassa ridondanza e alta densità
- - Degenerazione epistemica del corpus digitale
Il quadro normativo europeo
L’UE, con il Regolamento 2024/1689, ha cercato di istituire una governance per i dati di addestramento nel contesto dei sistemi ad alto rischio. L’articolo 10 richiama chiaramente le esigenze di rappresentatività e completezza nei dataset, tuttavia il testo non affronta il rischio strutturale che il model collapse introduce. Le regole sull’etichettatura, la tracciabilità degli input e l’esigibilità delle fonti sono insufficienti ad arginare una perdita qualitativa che riguarda la struttura epistemica dell'informazione.
Quali strumenti per il futuro?
Affrontare il model collapse richiede di estendere le categorie normative: non basta regolare i singoli modelli; si deve intervenire sull’ambiente che li produce. Cosa significa questo in pratica?
- Un controllo pubblico della tracciabilità dei contenuti generati per garantire la visibilità del loro status sintetico
- Un’etica dell’open access che non permetta l’erosione progressiva dei corpus originari
- Un sistema di incentivi che penalizzi l’estrazione non trasparente di dati per addestramento automatico
- Una governance dei beni comuni digitali come base strutturale per il corpus informativo
Verso una nuova etica della conservazione digitale
Non possiamo permetterci un model collapse epistemologico: dobbiamo costruire il concetto di conservazione digitale non come un tema tecnico, ma come una responsabilità collettiva. Se il web rappresenta un bene comune, deve essere tutelato in termini ecologici e di sostenibilità. Ogni utente, ogni attore tecnologico, ogni fornitore di dati contribuisce a costruire la rappresentazione digitale che i modelli impareranno. Quindi, ogni decisione