L'impercettibile pericolosità dei chatbot

Cassandra Crossing/ Le false IA commerciali che usiamo oggi sono così ambigue che non si riesce a usarle senza correre continui rischi. Anche quando si parla in confidenza.



[ZEUS News - www.zeusnews.it - 17-02-2024]

chatbot romantici cassandra 2
Immagine generata con Playground V2

Proprio nel giorno di San Valentino, Cassandra si è imbattuta su Gizmodo in un articolo, citato anche da Slashdot, che parlava di evidenti e gravi problemi di privacy presenti negli accordi di licenza dei "chatbot romantici".

La prima reazione di Cassandra la dice lunga sulla sua ignoranza di certe questioni del presente; si sa che le profetesse amano occuparsi principalmente del futuro e talvolta, appunto, si distaccano dal presente. Infatti è stata per lei una novità assoluta che esistessero siffatti chatbot, e che la gente li usasse così tanto che una recensione elenca 11 aziende e servizi che ne forniscono. Ma la meraviglia si è rapidamente dileguata per far posto a un più ordinario e profondo sconforto.

È del tutto naturale, come la Regina Rossa ha sempre saputo benissimo, che la gente proietti sé stessa su qualunque output in linguaggio naturale proveniente da un computer, e che gli attribuisca profondità e significati ovviamente provenienti dall'umano, e non dal computer.

Ricordate Eliza? Wikipedia la introduce così: «ELIZA è un chatterbot scritto nel 1966 da Joseph Weizenbaum». Sì, quasi sessanta anni fa, e si trattava di poco più di mille righe di un linguaggio simile al BASIC. Altro che retrocomputing! Gli storici riferiscono concordemente che persone ordinariamente intelligenti, e che avevano avuto esperienze di psicoterapia, la scambiavano per uno psicoterapeuta umano, e si dichiaravano soddisfatte dell'interazione con "lei".

All'epoca si iniziò a parlare, senza ancora aver capito alcunché, di un "effetto Eliza". Per Cassandra, ovviamente, si trattava non di un fatto storico eclatante ma semplicemente preoccupante, e lo aveva correttamente inserito nelle famiglia delle dipendenze che le persone si creano grazie all'informatica, come quelle ben più gravi dovute ai social.

Pochi secondi dopo aver appreso la notizia, i soliti ragionamenti si sono formati e conclusi nella mente della nostra profetessa preferita, e i 24 informatissimi lettori certo li potranno prevedere.

Saltando a piè pari quelli legati alla stupidità naturale del "genus homo sapiens", che non fa certamente onore al suo nome, concentriamoci sul fatto in sé, e in particolare sull'amplificazione, del tutto prevedibile, che l'arrivo delle false intelligenze artificiali, e in particolare dei Grandi Modelli Linguistici Generativi Pre-addestrati (così si chiama, per esteso, chatGPT), avrebbe avuto sugli inevitabili "successori" di Eliza; successori nati ovviamente per far soldi, principalmente estraendo dati personali e sensibili (e quanto sensibili!) dalle persone.

Sì, perché qui, ora e in questo mondo esistono persone, tante persone, che raccontano sé stesse, i loro segreti più intimi, le loro paure e qualsiasi altra cosa venga loro in mente a un chatbot dotato di falsa intelligenza artificiale, ufficialmente allo scopo di avere "sostegno psicologico e sollievo esistenziale".

Saltiamo di nuovo a piè pari l'efficacia e i problemi di un tale servizio e arriviamo rapidamente al fatto più importante secondo Cassandra, e anche alla conclusione di questo suo "ragionamento": i dati personali.

Le aziende che producono i chatbot analizzati dall'inchiesta, nel 90% dei casi dicono chiaramente, nella licenza, che utilizzeranno le conversazioni come dati per ulteriori elaborazioni, addestramenti di false intelligenze artificiali e per qualsiasi altro scopo venga loro in mente, iniziando ovviamente dalla vendita dei dati a chiunque sia disposto a pagarli. In inglese, in maniera molto più ampollosa, dispersiva e forbita, e in legalese stretto, c'è scritto proprio questo.

E come sempre gli ignoranti utenti (in senso latino) che hanno già detto sì ad Alphabet, a Meta e ai tutti i loro famuli, proprio come la monaca di Monza, hanno risposto, e hanno risposto sì.

A parte qualsiasi ulteriore considerazione, su questa (per lei) "novità" Cassandra non può fare profezie; dare suggerimenti invece sì. E lo farà concludendo in un modo che nemmeno i suoi 24 interdetti lettori si aspettano.

Se non avete mai usato questi chatbot, potete fare una segnalazione al Garante per la Protezione dei Dati Personali, che già in passato ha dimostrato di prendere in seria considerazione (più dei colleghi europei) anche aspetti "strani" di quanto di sua competenza; sempre se qualcuno glieli segnala e sono pericolosi.

Se avete invece davvero usato un chatbot di questo tipo, o magari se lo ha fatto una persona che dipende da voi, potete (per non dire dovete) fare un reclamo al Garante, che in questo secondo caso vi darà, con i tempi necessari, una risposta.

Segnalazione e reclamo sono due cose diverse, e sul sito del Garante tutto questo è spiegato esaurientemente e ci sono istruzioni e modelli da utilizzare. Fatelo.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
L'hacker contento e il Data Protection Officer stizzito
Il Garante Privacy multa Clearview per 20 milioni di euro
Tecnocontrollo e diritti civili
Da Turing a Gpt-3, la lunga storia dell’Intelligenza artificiale
Furto dati Facebook, le cose da sapere
Garante privacy si attiva contro il revenge porn
Garante privacy contro i pass vaccinali
Garante Privacy apre fascicolo su Facebook (e Instagram)
Minori su Tik Tok, accesso con Spid?
Twitter, 450.000 euro di multa per violazione del Gdpr
L'Antitrust italiano multa Apple per dieci milioni di euro
L'app che “spoglia” le donne: garante privacy apre istruttoria
Spid, ok del Garante privacy al riconoscimento senza operatore
Il ransomware che minaccia di chiamare il Garante della Privacy se non si paga
Registro elettronico, insegnante lo rifiuta e viene sospeso
Germania, il Garante Privacy bandisce Office 365 dalle scuole
Cambridge Analitica, il Garante privacy multa Facebook per un milione di euro
Garante Privacy boccia braccialetto elettronico al polso di operatori ecologici
Colore viola addio
Garante privacy: no alla ''gogna'' sul posto di lavoro
Griefbot: fantasmi digitali
Antibufala: ''robot di Facebook'' che parlano fra loro una lingua sconosciuta
No, un ''supercomputer'' non ha superato il Test di Turing

Commenti all'articolo (2)

{Mario}
Ben fatto, continuate così, articoli interessanti.
22-2-2024 07:13

Se vuoi scoprire un innumerevole montagna di segreti, piazza una microspia in ogni Barbiere e parrucchiera e vedrai che cosa esce fuori! :twisted: All'epoca, nel 1985 cercai di impegnarmi nel fare una traduzione linguistica delle frasi di ELIZA scritte in BASIC per poter usare quel programma con piccolo modello linguistico non... Leggi tutto
19-2-2024 14:06

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Come passi maggiormente il tuo tempo online?
Sui social network
Leggendo e scrivendo email
Guardando filmati
Cercando e leggendo informazioni
Giocando online
Leggendo i blog
Sui forum
Ascoltando musica e radio online
Leggendo quotidiani e riviste
Altro (specificare nei commenti)

Mostra i risultati (2139 voti)
Aprile 2024
L'algoritmo di ricarica che raddoppia la vita utile delle batterie
Hype e Banca Sella, disservizi a profusione
Falla nei NAS D-Link, ma la patch non arriverà mai
La navigazione in incognito non è in incognito
Le tre stimmate della posta elettronica
Amazon abbandona i negozi coi cassieri a distanza
Marzo 2024
Buone azioni e serrature ridicole
Il piano Merlyn, ovvero la liquidazione di Tim
Falla nelle serrature elettroniche, milioni di stanze d'hotel a rischio
L'antenato di ChatGPT in un foglio Excel
La valle inquietante
La crisi di Tim e la divisione sindacale
La fine del mondo, virtuale
WhatsApp e Messenger aprono agli altri servizi di chat
Permainformatica
Tutti gli Arretrati
Accadde oggi - 20 aprile


web metrics