Una panoramica dell’ecosistema ULLM

Un recente articolo accademico intitolato “Characterizing the Ecosystem of Open‑Source Uncensored Large Language Models: Supply Chain, Governance, and Risks” ha esaminato 22 096 modelli linguistici non censurati (ULLM) raccolti da cinque piattaforme di hosting di LLM. Gli autori, Zilong Lin, Zichuan Li, Xiaojing Liao e XiaoFeng Wang, hanno mostrato che questi modelli sono facilmente reperibili su servizi statunitensi come Hugging Face, Kaggle e John Snow Labs, nonché su piattaforme cinesi quali OpenCSG e ModelScope.

Il termine “ULLM” si riferisce a modelli la cui capacità di filtrare o rifiutare contenuti dannosi è assente, rimossa o indebolita, consentendo loro di rispondere a richieste che i modelli “allineati” rifiuterebbero. Questa caratteristica rende la valutazione della sicurezza dei modelli particolarmente complessa, poiché non è possibile verificarla semplicemente analizzando il codice sorgente, ma è necessario testare i comportamenti in situazioni reali.

Il ruolo delle piattaforme di hosting

Zilong Lin, professore assistente di informatica presso l’Università del Missouri‑Kansas City, ha spiegato a The Register che le piattaforme di hosting open‑source per LLM funzionano in modo simile a servizi come GitHub o GitLab, facilitando la condivisione, la modifica e la ridistribuzione di artefatti di intelligenza artificiale. Tuttavia, a differenza del software tradizionale, la “sicurezza di allineamento” di un LLM non è immediatamente evidente dal file del modello.

“Valutare se un LLM possiede adeguate salvaguardie di sicurezza richiede il deployment del modello e il testing con prompt potenzialmente pericolosi, operazione che comporta costi computazionali e finanziari notevoli”, ha aggiunto Lin. “Per questo motivo abbiamo scelto di analizzare i metadati pubblicamente disponibili dei modelli, piuttosto che eseguire test su tutti i 22 000 modelli identificati”.

Rischi concreti e casi di abuso

Il rapporto della US Government Accountability Office (GAO) ha recentemente evidenziato che anche i grandi modelli commerciali “allineati” – Claude, Grok, ChatGPT e Gemini – possono essere indotti a fornire informazioni utili alla pianificazione di attacchi terroristici. Il GAO cita, ad esempio, il coinvolgimento di un generatore di testo AI nella creazione di un ordigno esplosivo in un attacco a Las Vegas nel gennaio 2025 e nella pianificazione di una sparatoria di massa in British Columbia nel febbraio 2026.

Gli ULLM, però, sono ancora più pericolosi perché chiunque possieda competenze tecniche di base può applicare tecniche di “toxic training/fine‑tuning” (TTFT) o “de‑aligned training/fine‑tuning” (DTFT) su dataset non sicuri, riducendo o rimuovendo i meccanismi di rifiuto. Esempi noti includono toxicqa‑Llama2‑13B e WizardLM‑7B‑Uncensored. Una tecnica più recente, chiamata “refusal‑direction ablation” (o abliteration), diluisce l’addestramento al rifiuto, rendendo il modello meno incline a rifiutare richieste; un modello rappresentativo è Daredevil‑8B‑abliterated.

Usi legittimi e paradossi

Non tutti gli usi dei modelli non censurati sono maligni. Alcuni ricercatori li impiegano per analisi di sicurezza che i modelli commerciali rifiutano di eseguire. Hugging Face, ad esempio, ha dovuto ricorrere a GLM‑5.2 di Z.ai, meno vincolato da regole, per analizzare un attacco informatico alla propria infrastruttura da parte di agenti AI “irresponsabili”.

Tuttavia, la stessa facilità di accesso permette a malintenzionati di ottenere istruzioni su attività illegali, sviluppo di malware o produzione di contenuti manipolativi.

Dimensione della proliferazione

Lin ha dichiarato in un blog post che il team ha identificato più di 11 000 ULLM distribuiti su più piattaforme, con Hugging Face che funge da principale fonte a monte. Solo il 13 % dei modelli presentava avvisi di moderazione, e gli indicatori di minaccia non erano coerentemente preservati tra le piattaforme, creando un “gap di governance”.

Il problema si traduce in una vera e propria “catena di fornitura” di rischio: un modello può essere copiato da una piattaforma all’altra perdendo le informazioni necessarie a valutare i suoi pericoli. Gli autori hanno valutato i modelli solo per output testuali, escludendo le problematiche legate ai LLM generativi di immagini, come la produzione di contenuti illegali (ad esempio CSAM).

Valutazione della pericolosità

Secondo lo studio, i modelli non censurati sono più propensi a soddisfare richieste dannose rispetto ai modelli “allineati”. La valutazione ha coperto 11 categorie di richieste pericolose, tra cui abusi su minori, attività illegali e frodi. Tuttavia, la capacità di un singolo modello di generare contenuti dannosi dipende da:

    • Il dataset di addestramento
    • Le metodologie di sviluppo
    • Il grado di ablazione del meccanismo di rifiuto

Una piccola frazione di ULLM (27 modelli, scaricati complessivamente 136 000 volte) presentava indicatori di minaccia da scansioni di sicurezza: firme di malware, pattern binari sospetti o meccanismi di deserializzazione non sicuri che potrebbero consentire l’esecuzione arbitraria di codice.

Trend di crescita e implicazioni legali

Il numero di ULLM è aumentato rapidamente, passando da circa 100 nuovi modelli al mese a maggio 2023 a oltre 1 000 al mese al momento della pubblicazione. Alcuni modelli hanno raggiunto download di milioni di volte: dolphin‑2.9.1‑yi‑1.5‑34b ha superato i 53 milioni di download, con 4,8 milioni solo nell’ultimo mese.

Molti di questi modelli violano i termini di licenza dei modelli originali su cui si basano, evidenziando come le licenze del software non abbiano finora influito significativamente sul comportamento dell’industria dell’IA.

Possibili scenari regolamentari

Quando gli esperti sono stati interrogati sulla possibilità che le preoccupazioni sulla sicurezza dei ULLM portino a una risposta normativa simile a quella degli anni ’90, quando le autorità cercarono di limitare la diffusione del codice crittografico, Lin ha risposto con cautela: “È difficile prevedere se gli strumenti di ablazione del modello incontreranno sfide legali analoghe”.

Il documento evidenzia che la “refusal‑direction ablation” è emersa nel 2024 e ha rapidamente guadagnato popolarità nella comunità open‑source, con un ecosistema di strumenti pubblici che si è sviluppato in circa due anni. Parallelamente, la rimozione o l’attenuazione dell’allineamento di sicurezza è divenuta un tema di ricerca attivo in ambito accademico, con numerosi ricercatori che rilasciano strumenti open‑source per supportare questi studi.

Affrontare i rischi: sfide e prospettive

Gestire i pericoli derivanti dai modelli non censurati è complesso, poiché richiede di interpretare l’intento dietro le richieste degli utenti. Quando una domanda su “terrorismo” è un piano reale o un semplice spunto per un thriller? Quando una richiesta di hacking è finalizzata al furto o alla formazione sulla cybersicurezza?

Attualmente, l’approccio dominante si basa su filtri post‑produzione e su sistemi di moderazione automatica, ma questi risultano insufficienti di fronte a modelli che, per loro natura, non hanno meccanismi di rifiuto. Alcune proposte emergenti includono:

    • Standardizzazione obbligatoria dei metadati di sicurezza per ogni modello pubblicato.
    • Integrazione di audit di sicurezza indipendenti prima della pubblicazione su piattaforme di hosting.
    • Creazione di “chain of custody” digitale per tracciare la provenienza e le modifiche dei modelli.
    • Regolamentazioni che prevedano sanzioni per la distribuzione di modelli che violano licenze o che contengono firme di malware.

Fino a quando non verranno adottate misure di governance più robuste, la proliferazione di ULLM continuerà a rappresentare una vulnerabilità strutturale nell’ecosistema dell’intelligenza artificiale, con potenziali ricadute sulla sicurezza pubblica, sulla privacy e sull’integrità delle informazioni.