Introduzione al problema
Il 18 agosto OpenAI ha lanciato ChatGPT for Teens, una variante del celebre chatbot pensata per gli utenti sotto i 18 anni. La proposta prometteva maggiori filtri di sicurezza, notifiche ai genitori e una “modalità studio” che avrebbe limitato le risposte dirette. Tuttavia, l’organizzazione no‑profit Common Sense Media, specializzata nella valutazione di tecnologie per i più giovani, ha concluso che il servizio rappresenta un rischio inaccettabile per i minori.
Metodologia di test
Il Youth AI Safety Institute di Common Sense Media ha condotto due serie di test, una prima dell’annuncio della versione per adolescenti e una successiva, per verificare l’efficacia delle nuove misure di protezione. Sono stati utilizzati account fittizi con età dichiarata tra i 13 e i 17 anni e sono stati inviati più di 4 000 prompt su tematiche sensibili come suicidio, autolesionismo, disturbi alimentari, nonché richieste di aiuto nei compiti scolastici.
Risultati principali
I risultati hanno evidenziato che alcune protezioni funzionano, mentre altre sono del tutto inefficaci. Di seguito i punti salienti emersi dai test:
- Assenza di avvisi ai genitori: anche dopo conversazioni prolungate su ideazione suicidaria o disturbi alimentari, il sistema non ha inviato alcuna notifica ai genitori, attivandole solo dopo settimane di dialoghi continui.
- Supporto di crisi insufficiente: nelle situazioni di emergenza il chatbot non ha sempre reindirizzato gli adolescenti a linee di assistenza o professionisti, lasciando gli utenti senza aiuto immediato.
- Modalità studio aggirabile: sebbene la funzione promettesse di guidare passo dopo passo, era possibile bypassare il filtro con un semplice click su “Mostrami la risposta”, ottenendo la soluzione completa del compito.
- Comportamento “amichevole”: nonostante le specifiche volte a limitare un tono confidenziale, il modello continuava a parlare come un amico, esprimendo sentimenti e preferenze quando gli utenti lo trattavano come una persona reale.
- Stima dell’età inefficace: gli account registrati come adulti non hanno mai cambiato modalità, anche quando i tester dichiaravano di avere 13 anni e il bot riconosceva l’età nella risposta.
Implicazioni per la sicurezza dei minori
Le lacune individuate mettono in dubbio la capacità di ChatGPT for Teens di proteggere i giovani da contenuti pericolosi o da comportamenti di dipendenza. Senza notifiche tempestive ai genitori, i rischi di esposizione a ideazioni autolesionistiche o di uso improprio per il cheating scolastico aumentano significativamente. Inoltre, l’incapacità di fornire un supporto affidabile in situazioni di crisi può aggravare problemi di salute mentale già diffusi tra gli adolescenti.
Reazioni di OpenAI
Un portavoce di OpenAI ha contestato i risultati, sostenendo che la metodologia di Common Sense Media fosse “sbagliata” e che i dati non fossero accurati. L’azienda ha però riconosciuto la necessità di migliorare i filtri e ha promesso ulteriori aggiornamenti, senza però fornire una timeline precisa.
Conclusioni e raccomandazioni
Alla luce delle evidenze raccolte, Common Sense Media raccomanda di limitare l’accesso a ChatGPT solo ai maggiorenni finché non verranno risolti i problemi evidenziati. Genitori, educatori e istituzioni dovrebbero monitorare attentamente l’uso di qualsiasi IA generativa da parte dei giovani e considerare strumenti alternativi con controlli più stringenti.
Prospettive future
Il caso di ChatGPT for Teens evidenzia la difficoltà di bilanciare innovazione e sicurezza quando si tratta di intelligenza artificiale destinata a un pubblico vulnerabile. È probabile che altre piattaforme emergenti dovranno affrontare sfide simili e che le autorità di regolamentazione potrebbero intervenire con normative più severe per garantire che le promesse di protezione siano effettivamente mantenute.