C'è una puntata della celebre serie distopica Black Mirror, intitolata Be Right Back (Torna da me nella versione italiana), nella quale una donna subisce la perdita drammatica del proprio partner in un incidente.

Al funerale, un'amica le parla di un servizio online che raccoglie tutte le informazioni pubblicate sui social network dal defunto e tutti i suoi messaggi vocali e video e da lì crea un avatar che sullo schermo dello smartphone parla esattamente come lui e ha il suo stesso aspetto.

Inizialmente inorridita, la donna rifiuta, ma poi... succedono cose che non racconto per non guastare la storia a chi non ha ancora visto questa puntata.

Dovrebbe essere chiaro a tutti che le storie di Black Mirror sono esempi di cosa non fare con la tecnologia, ma a quanto pare qualcuno ad Amazon ha scambiato questa serie per un manuale di istruzioni.

Articoli raccomandati:

Fantasmi digitali: le copie dei defunti

Gli orrori annunciati dell'IA diventano realtà

iPhone 14 scambia le montagne russe per disastri

DALL-E diventa libero e gratuito: immagini sintetiche per tutti

Pochi giorni fa, infatti, Rohit Prasad, capo ricercatore dell'intelligenza artificiale di Alexa, il celebre assistente vocale di Amazon, ha presentato in una conferenza pubblica una versione di Alexa che è in grado di imitare le voci delle persone, e l'esempio che fa sembra proprio preso di peso da Black Mirror.

"In questi tempi di pandemia perdurante" dice "così tanti di noi hanno perduto qualcuno che amiamo. Anche se l'intelligenza artificiale non può eliminare quel dolore della perdita, può certamente far durare i loro ricordi."

Per approfondire:

IA generano illustrazioni partendo da una descrizione testuale

Genitori indagati dopo aver mandato foto dei figli ai medici

“Alexa, proponimi una sfida” “Metti le dita nella presa”

Perché i computer sono stupidi?

A questo punto Prasad mostra un video nel quale un giovane ragazzo chiede ad Alexa di fare in modo che la nonna, che non c'è più, gli finisca di leggere Il Mago di Oz.

Alexa risponde "OK" con la sua solita voce, ma poi cambia tono e recita con la voce della nonna del ragazzo.

Proposte di lettura:

Animismo digitale

Alexa adesso serve anche a far benzina

Il telefonino che ti ascolta e ti manda pubblicità delle cose di cui parli

Mille parole che attivano per errore gli assistenti vocali

Già così la cosa può evocare sentimenti contrastanti, ma quello che dice poi Prasad è ancora più inquietante: la voce della nonna è stata ricreata partendo da meno di un minuto di una sua conversazione. Non servono più ampi e lunghi campioni di voce registrati accuratamente in uno studio.

Si potrebbe discutere sull'impatto emotivo di questa nuova tecnologia e chiedersi se sentire per casa la voce di una persona amata che non c'è più, ricreata artificialmente da un programma, sia davvero una consolazione o una forma di prolugamento del dolore. Ma c'è una questione molto più concreta, che va affrontata subito, mentre questa capacità di imitazione non è ancora disponibile al pubblico: se è possibile imitare facilmente la voce di una persona in questo modo per ricrearne la presenza, allora è possibile farlo, per esempio, anche per sbloccare il suo smartphone bloccato dal riconoscimento vocale o per scavalcare le cosiddette password vocali usate da alcune banche e persino dal Fisco britannico, che fino a pochi anni fa chiedeva ai contribuenti di identificarsi al telefono dicendo la frase "my voice is my password", ossia "la mia voce è la mia password".

Proposte di lettura:

Il dispositivo che assorda gli Amazon Echo

Samsung pensiona l'assistente vocale

Lavori da casa? Sarà meglio spegnere Alexa

Cancellare la cronologia di un assistente vocale

No, non funziona così. Se la tua voce la possono imitare tutti, la tua password è di tutti.

Il problema è che Amazon non è l'unica azienda in grado di replicare realisticamente la voce di una persona specifica, la potenza di calcolo e il campione audio necessari diventano sempre più piccoli, e non sembra esserci alcun modo di impedire a malintenzionati di registrare la nostra voce. 

Ti raccomandiamo anche:

Il portinaio virtuale di Amazon

I dispositivi Alexa? Li fabbricano ragazzini cinesi di notte

Amazon, ecco come impedire l'ascolto delle conversazioni captate da Alexa

Google ammette: ascoltiamo le conversazioni captate da Google Assistant

Forse è il caso di cominciare a smettere di usare sistemi di sicurezza basati sul riconoscimento vocale. E magari di passare del tempo a chiacchierare con la nonna, finché si può.

Fonti aggiuntive: Graham Cluley, Ars Technica, The Register.

Proposte di lettura:

L'assistente Amazon registrerà ogni conversazione, anche senza pronunci...

Quanta gente può consultare quello che si dice ad Alexa?

Amazon, migliaia di dipendenti ascoltano le registrazioni di Alexa

Alexa, voci captate in casa e inviate a uno sconosciuto