Foto di Levart_Photographer.

Non è soltanto Sora a cadere sotto la scure di OpenAI: anche la versione erotica di ChatGPT, nota con nome in codice Citron, è stata cancellata, interrompendo un progetto che era stato annunciato come imminente e che avrebbe introdotto conversazioni testuali per adulti all'interno del chatbot. La decisione è stata presa dopo valutazioni interne, pressioni degli investitori e difficoltà tecniche legate all'addestramento del modello su contenuti espliciti.

Il progetto prevedeva esclusivamente chat testuali, senza immagini, audio o video, e sarebbe stato accessibile solo agli utenti maggiorenni tramite un sistema di verifica dell'età. Tuttavia, i test interni hanno evidenziato limiti significativi nell'affidabilità del sistema, con un tasso di errore considerato troppo elevato per garantire la sicurezza dei minori. A ciò occorre aggiungere le perplessità degli investitori, i quali non avrebbero ravvisato un potenziale commerciale sufficiente a giustificare i rischi legali e reputazionali. Le preoccupazioni riguardavano soprattutto la possibilità che i contenuti erotici generati dall'IA potessero favorire dipendenze emotive o comportamenti compulsivi, un tema già al centro di cause legali contro diverse piattaforme digitali.

Inoltre, durante la fase di training, OpenAI ha incontrato difficoltà nell'addestrare un modello alla generazione di contenuti espliciti dopo anni di sviluppo orientato a filtrarli. Le protezioni integrate nei modelli precedenti hanno reso complesso ottenere risultati coerenti senza violare i sistemi di sicurezza già implementati.

Il progetto Citron aveva generato tensioni interne. Il gruppo consultivo dedicato a proteggere il benessere degli utenti aveva espresso all'unanimità parere contrario, sostenendo che i contenuti erotici generati dall'IA potessero favorire dipendenze e risultare accessibili ai minori nonostante le protezioni. Alcuni membri avevano citato casi documentati di utenti che avevano sviluppato legami intensi con dei chatbot, sollevando timori su possibili effetti psicologici. L'annuncio ufficiale dell'abbandono del progetto - che, al momento in cui scriviamo, non è ancora stato pubblicato - arriverà con un post sui canali social di OpenAI. La decisione segna la fine di un'iniziativa che aveva attirato grande attenzione mediatica, ma che non ha superato le valutazioni interne su sicurezza, sostenibilità e impatto sulla reputazione.

Articoli raccomandati:

ChatGPT, arriva Lockdown Mode

OpenAI spegne Sora. Troppi costi, pochi utenti

Dalla "moglie IA" al suicidio: Gemini avrebbe alimentato un delirio mortale

ChatGPT includerà contenuti erotici, ma solo per gli adulti verificati