"IA un rischio", 6 mesi di stop per Elon Musk

Insieme a oltre 1.400 esperti di tecnologia il CEO di Twitter vuole fermare lo sviluppo delle intelligenze artificiali prima che sia troppo tardi.



[ZEUS News - www.zeusnews.it - 31-03-2023]

musk pausa sviluppo ia

Una sospensione nello sviluppo di intelligenzi artificiali più potenti dell'attuale GPT-4 che duri «almeno sei mesi», o meglio ancora fino a quando tutti i possibili rischi loro connessi non siano stati ben compresi e si sia trovato il modo di evitarli.

A chiederlo sono gli oltre 1.400 (per ora) firmatari di una lettera aperta pubblicata sul sito del Future of Life Institute e che si apre affermando: «I sistemi di IA con intelligenza capace di sfidare gli esseri umani possono generare seri rischi per la società e l'umanità, come mostrato da vaste ricerche e ammesso dai principali laboratori di IA».

«Dovremmo lasciare che le macchine inondino i nostri canali di informazione con propaganda e falsità? Dovremmo automatizzare tutti i lavori, compresi quelli più soddisfacenti? Dovremmo sviluppare menti non umane che alla fine potrebbero superarci in numero e in intelligenza, e che potrebbero renderci obsoleti e sostituirci? Dobbiamo rischiare di perdere il controllo della nostra civiltà?» si chiedono i firmatari, arrivando già a rispondersi: «Queste decisioni non devono essere delegate a leader tecnologici non eletti. Potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando saremo sicuri che i loro effetti saranno positivi e i loro rischi gestibili».

A condividere queste opinioni non sono pochi personaggi fantasiosi, magari troppo influenzati dalla fantascienza, ma esperti di tecnologia come Steve Wozaniak (co-fondatore di Apple), Elon Musk, Evan Sharp (co-fondatore di Pinterest), Chris Larsen (co-fondatore di Ripple), Jann Tallinn (co-fondatore di Skype), e anche i tre cosiddetti «padrini dell'intelligenza artificiale», ossia Emad Mostaque (CEO di Stability AI), Stuart Russell e Yoshua Bengio.

A tutti costoro si aggiunge poi la voce di Eliezer Yudkowsky, ricercatore capo del Machine Intelligence Research Institute, il quale mira anch'egli a mettere in guardia dallo sviluppo incontrollato dell'intelligenza artificiale, ma da una prospettiva particolare.

«Il problema principale non sta nell'intelligenza "capace di sfidare gli esseri umani"; è ciò che succede dopo che una IA ottiene un'intelligenza superiore a quella umana» afferma l'esperto.

«I momenti chiavi potrebbero non essere ovvi, e certamente non siamo in grado di calcolare in anticipo che cosa succederà quando, e al momento sembra plausibile, un laboratorio supererà un confine critico senza nemmeno accorgersi».

«Ci sono voluti più di 60 anni, da quando la nozione di Intelligenza Artificiale è stata proposta e studiata per la prima volta, per arrivare alle capacità di oggi. Risolvere i problemi di sicurezza di un'intelligenza sovrumana - non una sicurezza perfetta, ma una sicurezza che consenta di "non uccidere letteralmente tutti" - potrebbe ragionevolmente richiedere almeno la metà del tempo. E il problema di provare a ottenere questo risultato con un'intelligenza sovrumana è che, se sbagliamo al primo tentativo, non possiamo imparare dai nostri errori, perché saremo morti»

Yudkowsky chiede quindi non tanto una pausa di sei mesi, come i firmatari della lettera aperta: preferirebbe invece che l'intera questione venga fermata e affrontata con un metodo diverso, dotato di garanzie analoghe a quelle che deve fornire un ingegnere che progetta una struttura; ciò, al momento, è estremamente lontano dall'essere anche soltanto preso in considerazione.

«Se nel campo nascente dell'Intelligenza Artificiale Generale applicassimo gli stessi standard di rigore ingegneristico che si applicano a un ponte destinato a trasportare un paio di migliaia di automobili, l'intero settore verrebbe chiuso domani».

«Non siamo preparati. Non siamo sulla buona strada per esserlo in un arco di tempo ragionevole. Non c'è un piano. I progresso che fanno le capacità dell'intelligenza artificiale è molto, molto superiore ai progressi che facciamo nel capire che cosa diavolo sta succedendo all'interno di quei sistemi. Se davvero continueremo così, moriremo tutti».

Comunque la si veda - che si desideri una pausa momentanea, o che si preferisca fermare tutto finché non si capirà quale sia il modo più sicuro per procedere - pare che tutti ravvisino problemi certamente non secondari - si parla addirittura di arrivare alla cancellazione dell'umanità - nell'attuale ritmo forsennato di sviluppo della IA, e dell'entusiasmo che lo accompagna.

In realtà, per, non si tratta davvero di "tutti": alle preoccupazioni espresse non si sono ancora associate figure attualmente molto importanti in questo panorama, come per esempio i dirigenti di Microsoft né - naturalmente, verrebbe da dire - si sono espressi in proposito i dirigenti di OpenAI, l'azienda dietro a ChatGPT.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Musica personalizzata infinita con l'intelligenza artificiale
Ex ingegnere Uber avrebbe rubato i segreti dei veicoli autonomi di Google
L'intelligenza artificiale che capisce se il compito è stato copiato

Commenti all'articolo (ultimi 5 di 7)

L'approccio oltre che proattivo e responsabile deve essere adeguatamente critico e bidirezionale per portare a risultati utili e, soprattutto, adeguati a tutti gli attori. Ad oggi, personalmente, vedo solo sperticati elogi e acritiche magnificazioni del grande futuro delle IA e di quanto di buono possono dare all'umanitÓ senza per˛... Leggi tutto
1-5-2023 14:17

Ovviamente l'interesse personale di Elon Musk, non Ŕ detto che debba coincidere con l'interesse collettivo di tutti gli altri firmatari del testo. Essere poi firmatari dell'appello non vuol dire che ognuno di loro sia intimamente convinto, fatto di cui un osservatore esterno non pu˛ avere cognizione, ma abbiamo una manifestazione di... Leggi tutto
1-5-2023 00:03

@ {alai} Gladiator, il tuo fatalismo riguardo alla "situazione troppo avanzata" non tiene conto dell'importanza di un approccio proattivo e responsabile nel trattare le sfide poste dalle intelligenze artificiali. Affermare che non si possa "rallentare il treno" sminuisce gli sforzi degli esperti e dei ricercatori... Leggi tutto
30-4-2023 21:30

Certamente il tema va affrontato con pi¨ urgenza e serietÓ di quanto no si sia fatto - molto poco - fino ad ora e questo per proteggere non tanto i potenziali disoccupati quanto le masse decerebrate e obnubilate dai media che osannano la AI come risoluzione di tutti i problemi dell'umanitÓ. In ogni caso, a parte la presa di posizione di... Leggi tutto
9-4-2023 17:38

Le intelligenze artificiali vengono esplorate in maniera filosofica da almeno un secolo, quindi non Ŕ un discorso nato ieri, ed Elon MUsk, dopo il casino di twitter deve alzare un casino maggiore per far dimenticare i suoi. Il problema risiede nel fatto che una soluzione l'aveva giÓ proposta Isaac Asimov con le tre leggi della robotica,... Leggi tutto
1-4-2023 22:36

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quanto sei disposto a pagare per l'acquisto di prodotti per la ''casa intelligente'' nei prossimi 12 mesi?
Fino a 150 euro
Fino a 250 euro
Fino a 500 euro
Fino a 1000 euro
Oltre 1000 euro
Non sono sicuro

Mostra i risultati (990 voti)
Settembre 2023
NFT senza valore, la bolla è scoppiata
X (ex Twitter), tutti gli utenti dovranno pagare
iPhone 15, il connettore USB-C è zoppo
Il bug di Windows che rende velocissimo Esplora File
Lidl, merendine ritirate: invitavano a visitare sito porno
Meta pensa a Instagram e Facebook a pagamento nella UE
Agosto 2023
Chrome, nuova interfaccia: ecco come abilitarla
L'Internet delle brutte Cose
LibreOffice balza dalla versione 7.6 alla 24.2
La scorciatoia che “congela” Gestione Attività
Ford agli utenti: spegnete il Wi-Fi dell'auto
Sony e Universal contro i 78 giri dell'Internet Archive
Meloni decide la nazionalizzazione di TIM
Da Z-Library un'estensione per aggirare i blocchi
Da Microsoft uno strumento che attiva le funzioni nascoste di Windows 11
Tutti gli Arretrati
Accadde oggi - 26 settembre


web metrics