«Ridurre il rischio di estinzione a causa della IA dovrebbe essere una priorità mondiale, al pari di altri rischi che minacciano l'intera società, come le pandemie e la guerra nucleare».

A lanciare questo grido d'allarme non è qualche profeta apocalittico né si tratta esattamente delle stesse persone che già alla fine di marzo parlavano dei rischi derivanti dall'Intelligenza Artificiale.

Scienziati e «altre figure importanti» hanno infatti firmato una nuova petizione affinché si apra un confronto franco sui pericoli - ritenuti molto reali e concreti dello sviluppo della IA e crei «una conoscenza comune derivata dal crescente numero di esperti e personaggi pubblici che prendono sul serio alcuni dei rischi più gravi dell'IA avanzata».

Una scorsa all'elenco dei firmatari porta a scoperte interessanti: si notano infatti i nomi di persone come Sam Altman, CEO di OpenAI (l'azienda che ha creato ChatGPT) e Demis Hassabis, CEO di DeepMind, azienda del gruppo Alphabet (lo stesso di Google).

Leggi anche:

Estinzione

AI: L'ultimo Primo Maggio

Robot, IA e Paura

Hanno arruolato Metalhead!

Ancora, vi si trovano Yoshua Bengio (che aveva già firmato) e Geoffrey Hinton la petizione di marzo, vincitori del Premio Turing e da molti considerati i "padrini" della moderna Intelligenza Artificiale.

Che lo sviluppo incontrollato della IA ponga dei seri quesiti a cui è necessario rispondere non dovrebbe essere un mistero per nessuno: anche senza aspettarsi che una IA sviluppi autocoscienza, già il semplice fatto che essa possa essere usata per creare falsi estremamente convincenti, per esempio dando vita a duplicati virtuali di politici o personaggi noti quasi indistinguibili dall'originale, dovrebbe spingere a riflettere.

Sullo stesso tema:

Vivere con l'IA: la lettura

Vivere con l’IA: la scrittura

L'IA come proprietà emergente?

Intelligenze Artificiali, fabbriche di informazioni false

Sono peraltro otto i rischi maggiori individuati dal Center for AI Safety, che ospita la petizione.

Si va dalla possibilità di usare le IA come "armi" - ai fini di destabilizzazione politica, per esempio - alla diffusione di disinformazione, ma ci sono anche rischi più sottili come «l'indebolimento»: la possibilità che un affidamento sempre più completo alle macchine finisca per creare una dipendenza dalla quale sarebbe molto difficile riuscire a evadere a causa della perdita di competenze chiave, un po' come nel film Wall-E.

Spunti di approfondimento:

"IA un rischio", 6 mesi di stop per Elon Musk

Intelligenza Artificiale: GPT-4, orgasmi e Pappagalli Stocastici

Intelligenza artificiale: il programmatore pericoloso

I social ai tempi di GPT-3

Proposte di lettura:

Intelligenza Artificiale: il potere

Intelligenza Artificiale: il sortilegio

L'intelligenza artificiale oltre i suoi limiti

Neo Luddismo