C'è una puntata della celebre serie distopica Black Mirror, intitolata Be Right Back (Torna da me nella versione italiana), nella quale una donna subisce la perdita drammatica del proprio partner in un incidente.

Al funerale, un'amica le parla di un servizio online che raccoglie tutte le informazioni pubblicate sui social network dal defunto e tutti i suoi messaggi vocali e video e da lì crea un avatar che sullo schermo dello smartphone parla esattamente come lui e ha il suo stesso aspetto.

Inizialmente inorridita, la donna rifiuta, ma poi... succedono cose che non racconto per non guastare la storia a chi non ha ancora visto questa puntata.

Dovrebbe essere chiaro a tutti che le storie di Black Mirror sono esempi di cosa non fare con la tecnologia, ma a quanto pare qualcuno ad Amazon ha scambiato questa serie per un manuale di istruzioni.

Sullo stesso tema:

Niente video fatti con l'AI in campagna elettorale

Fantasmi digitali: le copie dei defunti

Gli orrori annunciati dell'IA diventano realtà

iPhone 14 scambia le montagne russe per disastri

Pochi giorni fa, infatti, Rohit Prasad, capo ricercatore dell'intelligenza artificiale di Alexa, il celebre assistente vocale di Amazon, ha presentato in una conferenza pubblica una versione di Alexa che è in grado di imitare le voci delle persone, e l'esempio che fa sembra proprio preso di peso da Black Mirror.

"In questi tempi di pandemia perdurante" dice "così tanti di noi hanno perduto qualcuno che amiamo. Anche se l'intelligenza artificiale non può eliminare quel dolore della perdita, può certamente far durare i loro ricordi."

Proposte di lettura:

DALL-E diventa libero e gratuito: immagini sintetiche per tutti

IA generano illustrazioni partendo da una descrizione testuale

Genitori indagati dopo aver mandato foto dei figli ai medici

“Alexa, proponimi una sfida” “Metti le dita nella presa”

A questo punto Prasad mostra un video nel quale un giovane ragazzo chiede ad Alexa di fare in modo che la nonna, che non c'è più, gli finisca di leggere Il Mago di Oz.

Alexa risponde "OK" con la sua solita voce, ma poi cambia tono e recita con la voce della nonna del ragazzo.

Non perderti anche:

Perché i computer sono stupidi?

Animismo digitale

Alexa adesso serve anche a far benzina

Il telefonino che ti ascolta e ti manda pubblicità delle cose di cui parli

Già così la cosa può evocare sentimenti contrastanti, ma quello che dice poi Prasad è ancora più inquietante: la voce della nonna è stata ricreata partendo da meno di un minuto di una sua conversazione. Non servono più ampi e lunghi campioni di voce registrati accuratamente in uno studio.

Si potrebbe discutere sull'impatto emotivo di questa nuova tecnologia e chiedersi se sentire per casa la voce di una persona amata che non c'è più, ricreata artificialmente da un programma, sia davvero una consolazione o una forma di prolugamento del dolore. Ma c'è una questione molto più concreta, che va affrontata subito, mentre questa capacità di imitazione non è ancora disponibile al pubblico: se è possibile imitare facilmente la voce di una persona in questo modo per ricrearne la presenza, allora è possibile farlo, per esempio, anche per sbloccare il suo smartphone bloccato dal riconoscimento vocale o per scavalcare le cosiddette password vocali usate da alcune banche e persino dal Fisco britannico, che fino a pochi anni fa chiedeva ai contribuenti di identificarsi al telefono dicendo la frase "my voice is my password", ossia "la mia voce è la mia password".

Articoli raccomandati:

Mille parole che attivano per errore gli assistenti vocali

Il dispositivo che assorda gli Amazon Echo

Samsung pensiona l'assistente vocale

Lavori da casa? Sarà meglio spegnere Alexa

No, non funziona così. Se la tua voce la possono imitare tutti, la tua password è di tutti.

Il problema è che Amazon non è l'unica azienda in grado di replicare realisticamente la voce di una persona specifica, la potenza di calcolo e il campione audio necessari diventano sempre più piccoli, e non sembra esserci alcun modo di impedire a malintenzionati di registrare la nostra voce. 

Articoli suggeriti:

Cancellare la cronologia di un assistente vocale

Il portinaio virtuale di Amazon

I dispositivi Alexa? Li fabbricano ragazzini cinesi di notte

Amazon, ecco come impedire l'ascolto delle conversazioni captate da Alexa

Forse è il caso di cominciare a smettere di usare sistemi di sicurezza basati sul riconoscimento vocale. E magari di passare del tempo a chiacchierare con la nonna, finché si può.

Fonti aggiuntive: Graham Cluley, Ars Technica, The Register.

Per approfondire:

Google ammette: ascoltiamo le conversazioni captate da Google Assistant

L'assistente Amazon registrerà ogni conversazione, anche senza pronunci...

Quanta gente può consultare quello che si dice ad Alexa?

Amazon, migliaia di dipendenti ascoltano le registrazioni di Alexa