Una sospensione nello sviluppo di intelligenzi artificiali più potenti dell'attuale GPT-4 che duri «almeno sei mesi», o meglio ancora fino a quando tutti i possibili rischi loro connessi non siano stati ben compresi e si sia trovato il modo di evitarli.

A chiederlo sono gli oltre 1.400 (per ora) firmatari di una lettera aperta pubblicata sul sito del Future of Life Institute e che si apre affermando: «I sistemi di IA con intelligenza capace di sfidare gli esseri umani possono generare seri rischi per la società e l'umanità, come mostrato da vaste ricerche e ammesso dai principali laboratori di IA».

«Dovremmo lasciare che le macchine inondino i nostri canali di informazione con propaganda e falsità? Dovremmo automatizzare tutti i lavori, compresi quelli più soddisfacenti? Dovremmo sviluppare menti non umane che alla fine potrebbero superarci in numero e in intelligenza, e che potrebbero renderci obsoleti e sostituirci? Dobbiamo rischiare di perdere il controllo della nostra civiltà?» si chiedono i firmatari, arrivando già a rispondersi: «Queste decisioni non devono essere delegate a leader tecnologici non eletti. Potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando saremo sicuri che i loro effetti saranno positivi e i loro rischi gestibili».

A condividere queste opinioni non sono pochi personaggi fantasiosi, magari troppo influenzati dalla fantascienza, ma esperti di tecnologia come Steve Wozaniak (co-fondatore di Apple), Elon Musk, Evan Sharp (co-fondatore di Pinterest), Chris Larsen (co-fondatore di Ripple), Jann Tallinn (co-fondatore di Skype), e anche i tre cosiddetti «padrini dell'intelligenza artificiale», ossia Emad Mostaque (CEO di Stability AI), Stuart Russell e Yoshua Bengio.

Per approfondire:

Twitterremoto, nona puntata / Arriva Threads

L'IA che ''uccide'' l'operatore

Twitter eliminerà gli account inattivi

Il Garante Privacy limita ChatGPT

A tutti costoro si aggiunge poi la voce di Eliezer Yudkowsky, ricercatore capo del Machine Intelligence Research Institute, il quale mira anch'egli a mettere in guardia dallo sviluppo incontrollato dell'intelligenza artificiale, ma da una prospettiva particolare.

«Il problema principale non sta nell'intelligenza "capace di sfidare gli esseri umani"; è ciò che succede dopo che una IA ottiene un'intelligenza superiore a quella umana» afferma l'esperto.

Ti raccomandiamo anche:

Come "hackerare" un universo

Intelligenza Artificiale: GPT-4, orgasmi e Pappagalli Stocastici

Il demone nel pentacolo

Intelligenza artificiale: il programmatore pericoloso

«I momenti chiavi potrebbero non essere ovvi, e certamente non siamo in grado di calcolare in anticipo che cosa succederà quando, e al momento sembra plausibile, un laboratorio supererà un confine critico senza nemmeno accorgersi».

«Ci sono voluti più di 60 anni, da quando la nozione di Intelligenza Artificiale è stata proposta e studiata per la prima volta, per arrivare alle capacità di oggi. Risolvere i problemi di sicurezza di un'intelligenza sovrumana - non una sicurezza perfetta, ma una sicurezza che consenta di "non uccidere letteralmente tutti" - potrebbe ragionevolmente richiedere almeno la metà del tempo. E il problema di provare a ottenere questo risultato con un'intelligenza sovrumana è che, se sbagliamo al primo tentativo, non possiamo imparare dai nostri errori, perché saremo morti»

Yudkowsky chiede quindi non tanto una pausa di sei mesi, come i firmatari della lettera aperta: preferirebbe invece che l'intera questione venga fermata e affrontata con un metodo diverso, dotato di garanzie analoghe a quelle che deve fornire un ingegnere che progetta una struttura; ciò, al momento, è estremamente lontano dall'essere anche soltanto preso in considerazione.

Sullo stesso tema:

Intelligenza Artificiale: esorcismi

I social ai tempi di GPT-3

Intelligenza Artificiale: il potere

Microsoft, pioggia di miliardi su OpenAI

«Se nel campo nascente dell'Intelligenza Artificiale Generale applicassimo gli stessi standard di rigore ingegneristico che si applicano a un ponte destinato a trasportare un paio di migliaia di automobili, l'intero settore verrebbe chiuso domani».

«Non siamo preparati. Non siamo sulla buona strada per esserlo in un arco di tempo ragionevole. Non c'è un piano. I progresso che fanno le capacità dell'intelligenza artificiale è molto, molto superiore ai progressi che facciamo nel capire che cosa diavolo sta succedendo all'interno di quei sistemi. Se davvero continueremo così, moriremo tutti».

Comunque la si veda - che si desideri una pausa momentanea, o che si preferisca fermare tutto finché non si capirà quale sia il modo più sicuro per procedere - pare che tutti ravvisino problemi certamente non secondari - si parla addirittura di arrivare alla cancellazione dell'umanità - nell'attuale ritmo forsennato di sviluppo della IA, e dell'entusiasmo che lo accompagna.

Non perderti anche:

Intelligenza Artificiale: il sortilegio

Adobe attiva di nascosto l'analisi automatica delle opere degli utenti

IA: ragionare usando i dati

Il futuro della conoscenza e gli attivisti della conservazione

In realtà, per, non si tratta davvero di "tutti": alle preoccupazioni espresse non si sono ancora associate figure attualmente molto importanti in questo panorama, come per esempio i dirigenti di Microsoft né - naturalmente, verrebbe da dire - si sono espressi in proposito i dirigenti di OpenAI, l'azienda dietro a ChatGPT.

Consigliamo la lettura di:

Photoshop e Intelligenza Artificiale riportano in vita gli imperatori romani

Lo smartphone che si rifiuta di scattare foto a luci rosse

Auto senza conducente uccide passante, Uber riconosciuta colpevole

L'emulatore che traduce i vecchi giochi grazie all'intelligenza artifici...