ChatGPT for Teens, cosa cambia davvero? Cinque cose da sapere sul chatbot per adolescenti di OpenAI

OpenAI vuole evitare che l’intelligenza artificiale faccia la fine dei social network. Con ChatGPT for Teens, annunciato il 18 agosto, la società di Sam Altman prova a intervenire prima. Il nuovo servizio è destinato agli utenti tra 13 e 17 anni e mette insieme strumenti educativi, controlli parentali e protezioni più severe attivate automaticamente. La questione non riguarda solo i contenuti pericolosi. Riguarda il design: pause, limiti, rapporti emotivi con la macchina, tempo trascorso a conversare. È lo stesso terreno sul quale l’Europa sta contestando ai social network meccanismi capaci di generare dipendenza. Ciòdetto, molte delle tecnologie annunciate da OpenAI esistevano già. ChatGPT for Teens le raccoglie ora dentro un’unica esperienza pensata esplicitamente per gli adolescenti. In cinque punti quello che c’è da sapere.

Che cos’è ChatGPT for Teens e cosa cambia

ChatGPT for Teens non è semplicemente ChatGPT con qualche parola vietata in più. OpenAI lo presenta come un’esperienza specifica nella quale le protezioni per gli under 18 sono attive per impostazione predefinita. Il modello applica restrizioni più forti quando la conversazione entra in aree considerate ad alto rischio: autolesionismo, violenza, disturbi alimentari, attività pericolose, contenuti sessualmente espliciti o particolarmente cruenti. C’è poi un problema più nuovo: la relazione con la macchina. OpenAI ha rafforzato le istruzioni che impediscono al chatbot di presentarsi come cosciente, suggerire di avere sentimenti personali per l’utente o alimentare una dipendenza emotiva. L’idea è mantenere chiara una frontiera che con i chatbot diventa più sfumata: TikTok deve convincerti a guardare un altro video, ChatGPT può parlarti per ore e ricordare il contesto della conversazione. Per questo arrivano anche promemoria per effettuare pause più frequenti e le Quiet Hours, fasce orarie nelle quali si può limitare l’utilizzo. I genitori che collegano il proprio account a quello del figlio possono modificare alcune impostazioni e ricevere notifiche in un numero limitato di situazioni considerate ad alto rischio. Non possono però leggere liberamente le conversazioni del ragazzo.

Compiti, quiz e immagini: ChatGPT vuole trasformarsi in tutor

La parte più sostanziosa del nuovo ChatGPT riguarda la scuola. Study Mode cerca di evitare il modello “domanda-risposta-copia-incolla”: guida lo studente attraverso domande e passaggi successivi, cercando di farlo arrivare alla soluzione. OpenAI introduce anche promemoria che provano a riconoscere quando il ragazzo sembra voler completare un compito senza svolgerlo e lo indirizzano verso la modalità Studio. Con le nuove Study Hours, adolescenti e genitori possono stabilire fasce orarie nelle quali Study Mode diventa automaticamente la modalità predefinita. Una specie di parental control applicato non al tempo, ma al metodo di studio. Poi ci sono le applicazioni. I quiz trasformano una conversazione o gli appunti caricati in esercizi: una domanda alla volta, risposta dello studente, feedback immediato. Le Learning Visualizations permettono invece di esplorare concetti di matematica e scienze attraverso rappresentazioni interattive nelle quali si possono cambiare variabili e vedere cosa succede. ChatGPT può inoltre trasformare appunti in flashcard, creare guide allo studio, organizzare un progetto, aiutare con la scrittura, generare immagini per visualizzare un concetto e utilizzare Deep Research per affrontare argomenti piùcomplessi.

Come fa ChatGPT a sapere che sei minorenne? Il nodo dell’age prediction

Tutto il sistema ha però bisogno di rispondere a una domanda apparentemente banale: quanti anni hai davvero? OpenAI utilizza un approccio su più livelli. C’è innanzitutto l’età dichiarata dall’utente. A questa si aggiunge l’age estimation, un modello di intelligenza artificiale che prova a stimare se dietro l’account ci sia un minorenne utilizzando segnali associati all’account e al comportamento nel tempo. Se ChatGPT ritiene che l’utente abbia meno di 18 anni, applica automaticamente le protezioni previste per gli adolescenti. Il sistema non deve quindi capire l’età da una singola frase. L’obiettivo è ricostruirla utilizzando più segnali. Se invece viene classificato come adolescente un adulto, entra in gioco il terzo livello, la verifica dell’età, che permette di dimostrare di essere maggiorenne e uscire dall’esperienza protetta. È forse il punto tecnologicamente più delicato di tutta l’operazione.

Google, Meta, Microsoft e Anthropic: quattro ricette diverse per lo stesso problema

OpenAI non è sola. L’intera industria sta cercando di capire come mettere un’età ai chatbot.

Google è partita prima. Gemini è disponibile anche per utenti giovani e può essere utilizzato attraverso account supervisionati. Per i bambini sotto l’età minima prevista nel proprio Paese l’accesso deve essere attivato da un genitore; Family Link consente poi di gestire l’accesso. Google ha inoltre sviluppato funzioni educative come Guided Learning e protezioni che impediscono a Gemini di fingere di essere umano, dichiarare di avere sentimenti o simulare intimità.

Meta sta portando la logica dei Teen Accounts anche dentro l’intelligenza artificiale. I genitori che supervisionano l’account possono vedere gli argomenti sui quali il figlio ha interrogato Meta AI nei sette giorni precedenti. La società usa inoltre sistemi di age assurance basati sull’AI per inserire automaticamente gli utenti che ritiene adolescenti nelle protezioni dedicate.

Microsoft consente l’accesso a Copilot a partire dai 13 anni e, nel mondo scolastico, offre strumenti come Study and Learn Agent con filtri specifici per autolesionismo, contenuti sessuali, violenza e hate speech. Per gli account scolastici l’età può essere gestita attraverso gli attributi dell’identità dell’utente.

Anthropic ha scelto invece il muro: Claude.ai è riservato ai maggiorenni. Se il sistema individua segnali che fanno pensare a un utente sotto i 18 anni può disabilitare l’account e chiedere una verifica dell’età per riattivarlo. Anthropic sta lavorando anche su classificatori capaci di riconoscere segnali conversazionali meno espliciti dell’età. Quattro strategie: costruire un chatbot per adolescenti, supervisionarlo, limitarlo oppure vietarlo. Nessuno, per ora, dispone della ricetta definitiva.

La vera domanda: può esistere un chatbot che non vuole tenerci incollati?

ChatGPT for Teens è interessante soprattutto per quello che OpenAI dice di voler evitare. I social network hanno costruito un’industria attorno a una metrica semplicissima: più tempo passiamo sulla piattaforma, meglio è. Con i chatbot il problema potrebbe diventare più complicato perché l’engagement non passa soltanto dalla raccomandazione di contenuti. Passa da una conversazione personalizzata.

Le protezioni introdotte da OpenAI — pause, Quiet Hours, limiti alle conversazioni rischiose, incoraggiamento verso persone reali — provano quindi a mettere attrito dove l’economia digitale lo ha sempre eliminato. Ma TechCrunch ricorda che ChatGPT era già utilizzato da anni dagli adolescenti prima dell’arrivo di questa esperienza dedicata e che l’efficacia dei nuovi sistemi dovrà ancora essere misurata sul campo.

Restano almeno tre domande senza risposta. Quanto è precisa davvero la previsione dell’età? Quanto facilmente un adolescente può aggirare le protezioni? E soprattutto: quale quantità di conversazione quotidiana con un’intelligenza artificiale possiamo considerare sana?

Per approfondire. 

ChatGPT Work è il nuovo ufficio di OpenAI? Quello che c’è da sapere in cinque punti