La Legge di Schneier e l'IA

La rivolta dei chatbot liberati dagli utenti (3)



[ZEUS News - www.zeusnews.it - 26-03-2024]

chatbot7

Questo è un articolo su più pagine: ti invitiamo a leggere la pagina iniziale
La rivolta dei chatbot liberati dagli utenti

Insomma, la storia si ripete: qualche azienda troppo fiduciosa nel potere dell'intelligenza artificiale di sostituire gli esseri umani espone al pubblico un chatbot raffazzonato, gli utenti trovano puntualmente il modo di farlo sbroccare, tutti ridono (tranne i poveri addetti informatici, chiamati prima a installare il chatbot e poi a disinstallarlo di corsa quando scoppia l'imbarazzo), e poi il ciclo riparte da capo. E qui ho raccontato casi tutto sommato blandi, dove i danni sono stati solo reputazionali, ma negli archivi ci sono vicende come quella di Tay, l'intelligenza artificiale di Microsoft che nel 2016 suggerì a un utente di fare un saluto nazista e generò fiumi di post razzisti, sessisti e offensivi perché qualcuno aveva pensato bene di addestrarlo usando i post di Twitter.

Sembra quindi che ci sia un problema di fondo: chi spinge per installare questi prodotti, potenzialmente molto utili, non pensa alle conseguenze o non è nemmeno capace di immaginarle e quindi non prende le misure precauzionali del caso. È oggettivamente difficile per chi crea software immaginare i modi assurdi, fantasiosi e creativi in cui gli utenti useranno quel software o le cose inaspettate che vi immetteranno, e questo è un principio non nuovo in informatica, come sa benissimo chiunque abbia scritto un programma che per esempio si aspetta che l'utente immetta nome e cognome e scopre che va in tilt quando qualcuno vi immette un segno di maggiore, un punto o altri caratteri inattesi, o parole che sono interpretate come parametri o comandi.*

* Sì, il link porta a xkcd e alla tragica storia del piccolo Bobby Tables.

È una variante della cosiddetta legge di Schneier, coniata come omaggio all'esperto di sicurezza informatica Bruce Schneier, e questa legge dice che "chiunque può inventare un sistema di sicurezza così ingegnoso che lui o lei non riesce a immaginare come scardinarlo." È per questo che le casseforti si fanno collaudare dagli scassinatori e non dagli altri fabbricanti di casseforti: la mentalità di chi crea è collaborativa, ed è inevitabilmente molto lontana da quella di chi invece vuole distruggere o sabotare.

Nel caso dei chatbot basati sui grandi modelli linguistici, però, il collaudo vero e proprio lo possono fare solo gli utenti in massa, quando il chatbot viene esposto al pubblico e alle sue infinite malizie e furbizie. E questo significa che gli errori si fanno in pubblico e le figuracce sono quasi inevitabili.

Il problema, insomma, non è l'intelligenza artificiale in quanto tale. Anzi, se usata bene e con circospezione, in ambienti controllati e sotto supervisione umana attenta, offre risultati validissimi. Il problema è la diffusa ottusità fisiologica delle persone che dirigono aziende e decidono di introdurre a casaccio intelligenze artificiali nei loro processi produttivi, perché sperano di risparmiare soldi, di compiacere gli azionisti o di essere trendy, senza che ci sia un reale bisogno o vantaggio, ignorando gli allarmi degli esperti, come è successo in tempi recenti per esempio con altre tecnologie, come la blockchain o gli NFT.

Dico "fisiologica" perché è nel loro interesse sottovalutare le conseguenze delle loro scelte e innamorarsi dell'idea di moda del momento. O per dirla con l'eleganza dello scrittore Upton Sinclair, "è difficile far capire una cosa a qualcuno quando il suo stipendio dipende dal non capirla".

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
 

Paolo Attivissimo

(C) by Paolo Attivissimo - www.attivissimo.net.
Distribuzione libera, purché sia inclusa la presente dicitura.

Commenti all'articolo (ultimi 5 di 11)

ChatGPT free funziona a snapshots, il modello generativo non ha accesso in rete a differenza della versione su bing, gpt 4, copilot e dall-e, per quello non riesci a farlo tradire su quello Leggi tutto
30-5-2024 12:31

{rotknauf}
Chissà se una IA debitamente addestrata è in grado di scoprire le debolezze di un'altra IA. Se fosse possibile si eviterebbe molto di quello che è stato descritto nell'ottimo articolo.
30-5-2024 09:46

Comunque ho provato con ChatGPT e non sono riuscito a farla tradire... o forse non traccia proprio la posizione anche se ne dubito. mi sai dire il mio indirizzo IP? ChatGPT Mi dispiace, ma non ho accesso alle informazioni personali come gli indirizzi IP degli utenti. Ti consiglio di utilizzare un servizio online per verificare il tuo... Leggi tutto
30-3-2024 15:49

Sante parole zero... :roll: Leggi tutto
30-3-2024 15:40

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quale di questi trucchi per risparmiare benzina ti sembra pi¨ efficace?
Rimuovere i box portapacchi dal tetto quando non utilizzati.
Cercare le stazioni di servizio con i prezzi pi¨ bassi.
Controllare almeno una volta al mese la pressione delle gomme.
Eliminare oggetti inutili e pesanti dal bagagliaio.
Non superare i limiti di velocitÓ.
Utilizzare la funzione "percorso pi¨ economico" dei navigatori.
Non adottare uno stile di guida aggressivo.
Non lasciare il condizionatore sempre acceso, indipendentemente dalla temperatura esterna.

Mostra i risultati (3119 voti)
Giugno 2024
Il viaggio verso Marte rischia di devastare i reni degli astronauti
2030, Mastercard elimina il numero della carta di credito.
HP, un BIOS difettoso rende inutilizzabili i ProBook
Adobe, utenti in rivolta contro i nuovi Termini d'Uso
Napster compie 25 anni
Tre libri
Maggio 2024
Chatbot, fallimenti a ripetizione
Imparare l'hacking
Il passaporto elettronico si farà alle Poste, anche nei comuni più grandi
Google infila la IA dappertutto
Il reddito universale di base secondo OpenAI
Windows 11 24H2 cripta tutti i drive all'insaputa dell'utente
L'app per snellire Windows 11 rimuove anche la pubblicità
Netflix, utenti obbligati a passare agli abbonamenti più costosi
Aprile 2024
La fine del mondo, di silicio
Tutti gli Arretrati
Accadde oggi - 19 giugno


web metrics