Foto di Johnny Cohen.

OpenAI ha annunciato il lancio di nuovi controlli parentali per ChatGPT per rispondere alle crescenti preoccupazioni sulla sicurezza degli utenti adolescenti. Ora i genitori possono collegare il proprio account a quello dei figli tra i 13 e i 17 anni; hanno così a disposizioni degli strumenti per personalizzare l'esperienza d'uso e ricevere avvisi in caso di potenziali rischi. Il sistema si integra le misure automatiche già attive per i minori, come i filtri contro certi contenuti.

Il funzionamento dei controlli è relativamente semplice e si basa su un invito via email inviato dal genitore al figlio. Una volta accettato, gli account si collegano e i genitori accedono a un pannello di controllo dedicato. Qui è possibile impostare gli orari durante le quali l'accesso a ChatGPT è bloccato, disattivare la modalità vocale per evitare interazioni audio, impedire la generazione di immagini o spegnere la funzione di memoria che salva le conversazioni passate. I genitori possono scegliere di escludere i dati del figlio dal training dei modelli AI di OpenAI, preservando la privacy. Gli adolescenti non possono disattivare queste misure, anche se possono scollegare il proprio account da quello del genitore; quando ciò accade, al genitore viene automaticamente inviata una email.

OpenAI mette le mani avanti ricordando che nessun filtro è infallibile e che i minori potrebbero tentare di aggirarli: per questo motivo sottolinea l'importanza di un dialogo familiare continuo. Il sistema è progettato per rilevare anche segnali di potenziale autolesionismo o pensieri suicidari nelle conversazioni, passando automaticamente a modelli di reasoning più avanzati come GPT-5 per gestire situazioni delicate, se necessario.

In caso vengano rilevati segni di situazioni seriamente problematiche, un team di "revisori" umani - addestrati specificamente - viene contattato affinché esamini il contenuto. Se il rischio viene confermato, i genitori ricevono avvisi multipli: email, SMS o notifiche sull'app, con i dettagli minimi necessari per intervenire. OpenAI sta inoltre lavorando per ridurre i tempi di risposta, che attualmente sono nell'ordine di ore; in situazioni estreme in cui i genitori non sono raggiungibili, potrebbe arrivare a coinvolgere le forze dell'ordine.

Proposte di lettura:

ChatGPT for Teens protegge i minori e li guida nello studio

ChatGPT, verifica dell'età per tutelare i minori: predizione automatica...

Le scarpe per bambini con lo scomparto nascosto per tracciarle con l'AirTag

IA e teenager: ai chatbot non si applica libertà d'espressione

Spunti di approfondimento:

Azienda IA in tribunale per il suicidio di un adolescente

Australia, social media vietati per legge ai minori di 16 anni

La punteggiatura è morta: l'ha uccisa l'iPhone

L'obbligo dei 14 anni per gli smartphone