Bambini che giocano nel Paese dei Balocchi (immagine tratta da Le Avventure di Pinocchio - Pubblico Dominio)

I più intriganti tra i 24 lettori avranno pensato che l'articolo di oggi possa riferirsi all'annuncio, fatto qualche giorno fa da un noto produttore di sistemi operativi a finestre, riguardo a un nuovo servizio pensato per "aiutare" i propri clienti a vivere una vita più sfavillante, più semplice e meno faticosa.

Il servizio descritto nell'annuncio memorizza molto frequentemente lo schermo del computer sull'hard disk, e processa quanto ottenuto con tecniche di falsa Intelligenza Artificiale per consentire al fortunato utente di ripercorrere a ritroso quanto fatto sul computer, al fine di ricordare cose dimenticate, ritrovare dati cancellati e ottenere anche risposte "migliori" alle ricerche effettuate sul proprio computer.

Bello! Ovviamente tutto questo con le più ampie assicurazioni che le informazioni vengono esclusivamente memorizzate e analizzate in locale, e che nessuna informazione lascerà mai il privatissimo e tutelatissimo computer del fortunatissimo futuro utente del nuovo e magnifico servizio del noto produttore di sistemi operativi a finestre.

Certo, certo... (© DataKnightmare). E la luna è fatta di formaggio verde! (© Cassandra).

Per approfondire:

Buoni 4, Cattivi 0?

Microsoft inaugura l'era dei Copilot+ PC

Un intero sistema operativo nascosto nelle CPU

La fine del mondo, di silicio

Il fatto che il sistema operativo del noto produttore, non da oggi ma da molto tempo, invii "a casa" un flusso continuo di "dati di telemetria" il cui contenuto non è verificabile dall'utente, certamente non scalfisce la fiducia di nessuno sui nuovi servizi che vengono proposti dal noto produttore.

Anzi, alcuni tra i più ingenui caleranno il "carico da 11" facendo notare che in ogni caso, il "telefonare a casa" lo fanno tutti i sistemi operativi e tutte le applicazioni ...commerciali - aggiunge severamente Cassandra - visto che i sistemi operativi e le applicazioni liberi e a sorgente aperto in generale non lo fanno, e quando mandano informazioni "a casa", quali siano e per quale motivo venga fatto è totalmente verificabile.

Torniamo al criptico titolo di questa esternazione della vostra profetessa preferita. Sì, in effetti il titolo è maliziosamente ispirato al film Total recall — Atto di forza e al relativo racconto di Philiph K. Dick We Can Remember It For You Wholesale  (Possiamo ricordarlo per te all'ingrosso).

Proposte di lettura:

Il decennale di una piccola censura

La fine del mondo, virtuale

IA: il collasso, reloaded

L'impercettibile pericolosità dei chatbot

Nell'immaginazione di Dick opera un'azienda, la Rekall, che maneggia ricordi all'ingrosso, estraendoli dalle menti, o producendoli in proprio, mischiandoli e reimpiantandoli nelle menti dei loro clienti. In questo modo chi volesse rinunciare a una parte dei ricordi, magari brutti, della propria vita può sostituirli con altri a sua scelta, più belli, interessanti e felici. Questo al prezzo che nessuno, NESSUNO, possa più essere sicuro che i suoi ricordi siano autentici, perché ovviamente anche il ricordo di essere stati clienti di Rekall viene rimosso.

Certo, un attento esame delle spese sul conto corrente bancario rivelerebbe che c'è qualcosa che non va, come uno strano e rilevante pagamento a un'azienda mai sentita prima; comunque, nel romanzo, anche la Rekall incontra dei problemi tecnici che producono effetti tanto vistosi quanto imprevisti, e che i 24 informatissimi lettori ricordano certamente bene.

Proposte di lettura:

Elon Musk come Prometeo

Distinguere l'essere dal sembrare

Il collasso delle IA

Allucinazioni IA: essere o sembrare

Il parallelo, in effetti un po' sghembo, finisce qui. Dove sta la parabola, dove il fatto che Cassandra vuole evidenziare? Tutto sommato nel caso in esame si tratta di conservare una parte della propria vita sul computer, aiutando i propri ricordi e non cancellandoli o sostituendoli. Ma il nocciolo della questione è proprio il mettere in mano i propri "ricordi" ad altri, qualunque ne sia la giustificazione e per quanto i motivi sembrino legittimi e rassicuranti. Anche se non si parla di cancellazioni o trapianti, la messa a disposizione di una parte della propria vita e della propria mente a entità "terze" è solo un primo passo lungo la strada della totale perdizione.

Il problema è quindi che sia preferibile rifuggire le novità troppo belle per essere vere? O la necessità di non fidarsi di quello che dicono le aziende riguardo alle loro intenzioni e alle loro preoccupazioni di soddisfare nostri bisogni, bisogni che non sappiamo nemmeno di avere?

No, assolutamente. Il vero problema è l'accettazione di una nuova tecnologia solo per avere un servizio di cui si sente improvvisamente bisogno, perché siamo ormai condizionati a desiderare le novità solo per il fatto che sono novità.

Consigliamo la lettura di:

IA: ChatGPT, i plugin e la responsabilità

L'Internet delle brutte Cose

La cultura, l'Infosfera e il cibo per le IA

IA o neuroni?

Il vero problema è prendere per buone le dichiarazioni di intenti di una multinazionale globale, umanizzandola e riponendovi una fiducia che può essere data soltanto a un'altra persona, non a un'entità non umana, votata per regola e per legge solo al profitto dei propri azionisti. 

È irragionevole e innaturale aspettarsi che una tale entità agisca in maniera etica, rinunciando a una parte dei profitti che potrebbe ottenere. L'etica è, solo talvolta, una categoria che interessa le persone, non le entità legali non umane.

Il vero problema è il vivere, anche dal punto di vista delle tecnologie, in un eterno presente, un paese dei balocchi sempre aperto in cui si viene nutriti e vezzeggiati da continue novità, e in cui nessuno si cura o si preoccupa di cosa queste novità implichino per il futuro delle persone, della società, della democrazia, del pianeta.

Ti raccomandiamo anche:

La legge europea sull'IA è una scatola vuota?

Giove, la “precrimine” in salsa italiana

AI: L'ultimo Primo Maggio

Robot, IA e Paura

Il vero problema, alla fine, è come sempre individuale; il non tracciare mai una linea rossa, un limite personale che non siamo disposti ad attraversare. Un limite deciso da noi in tanti campi della vita, come nel caso di adozione d'impulso di nuove tecnologie e nuovi servizi. 

Per questo ci stanno spuntando le orecchie; come nella favola di Collodi qualcuno dice di volerci portare nel Paese dei Balocchi, quando in realtà vuol fare di noi pelle di tamburi. E al contrario di Pinocchio, per noi non ci sarà nessuna fata turchina che rimedi ai nostri errori.

Sullo stesso tema:

Vivere con l'IA: la lettura

Vivere con l’IA: la scrittura

L'IA come proprietà emergente?

Intelligenza artificiale: il programmatore pericoloso