L'IA di supporto di Cursor, fork di Visual Studio Code con intelligenza artificiale integrata, è riuscita a mettere in serio imbarazzo l'azienda per cui "lavora" e a far scappare un buon numero di utenti prima che l'emergenza rientrasse.

Il caso è nato quando uno sviluppatore, passando da un computer all'altro, ha notato che il login su una macchina invalidava istantaneamente la sessione su altre, interrompendo un flusso di lavoro comune tra i programmatori. Contattando via email il supporto di Cursor, l'utente ha ricevuto una risposta da "Sam", un agente IA, che ha giustificato il comportamento come parte di una nuova politica aziendale.

Lo sviluppatore ha raccontato la vicenda su Reddit sotto il nome utente BrokenToasterOven, spiegando che Sam gli aveva risposto che la nuova policy consentiva l'uso di Cursor su «un solo dispositivo per abbonamento». Poiché la risposta pareva ufficiale, BrokenToasterOven l'ha presa per vera, innescando un'interessante reazione a catena.

Non appena la vicenda si è risaputa, infatti, molti utenti di Cursor si sono ribellati a questo cambiamento improvviso, imprevisto e che hanno ritenuto ingiusto. Lo hanno fatto nel modo più semplice: cancellando la sottoscrizione a Cursor.

Sullo stesso tema:

OpenAI pensa a un social network per sfidare X

ChatGPT-4o genera immagini realistiche

ChatGPT ''impazzisce'' e accusa di omicidio un innocente

La logica degli imperi

L'utente BrokenToasterOven è stato il primo: ha subito annullato l'abbonamento, e ha affermato che nella sua azienda tutti stavano facendo lo stesso. Altri utenti di Reddit si sono accodati immediatamente.

Dopo tre ore dall'inizio della vicenda, un rappresentante (umano) di Cursor è intervenuto su Reddit, chiarendo: «Non abbiamo nessuna politica del genere». Allo stesso tempo, i moderatori del subreddit r/Cursor bloccavano il thread e rimuovevano il post originale.

Il guaio è nato dal fatto che il bot Sam non si è identificato come AI nella risposta iniziale: se l'avesse fatto, l'utente BrokenToasterOven avrebbe potuto avere il dubbio che qualcosa non andasse. Poi Sam ha esibito il comportamento volenteroso e catastrofico tipico delle IA: come capita spesso, queste trovano un gran piacere nel fornire una risposta, anche quando non ne hanno una, semplicemente inventando.

Consigliamo la lettura di:

Le parole sono importanti

IA, oltre metà dei contenuti è inaccurata o del tutto errata

Le false IA sono generatori... ma di cosa?

Edge traduce e doppia i video in tempo reale

Sam insomma ha avuto quella che comunemente viene indicata come una «allucinazione»: ha generato una risposta plausibile ma falsa, creata per colmare un'incertezza.

Fortunatamente, Cursor ha riconosciuto l'errore. Il co-fondatore Michael Truell si è scusato, ha rimborsato l'utente BrokenToasterOven e ha annunciato che le risposte dell'IA saranno d'ora in poi chiaramente etichettate come tali.

L'incidente è certo piuttosto ironico: un'azienda che ha la propria attività principale nell'offerta di servizi di IA è stata messa in imbarazzo proprio dall'attività di una IA, rischiando di alienare il suo pubblico di riferimento.

Sullo stesso tema:

Distinguere l'essere dal sembrare

Il collasso delle IA

Allucinazioni IA: essere o sembrare

Avvocati si sono affidati a ChatGPT, che ha "inventato" i precedenti legali