"IA un rischio", 6 mesi di stop per Elon Musk

Insieme a oltre 1.400 esperti di tecnologia il CEO di Twitter vuole fermare lo sviluppo delle intelligenze artificiali prima che sia troppo tardi.



[ZEUS News - www.zeusnews.it - 31-03-2023]

musk pausa sviluppo ia

Una sospensione nello sviluppo di intelligenzi artificiali più potenti dell'attuale GPT-4 che duri «almeno sei mesi», o meglio ancora fino a quando tutti i possibili rischi loro connessi non siano stati ben compresi e si sia trovato il modo di evitarli.

A chiederlo sono gli oltre 1.400 (per ora) firmatari di una lettera aperta pubblicata sul sito del Future of Life Institute e che si apre affermando: «I sistemi di IA con intelligenza capace di sfidare gli esseri umani possono generare seri rischi per la società e l'umanità, come mostrato da vaste ricerche e ammesso dai principali laboratori di IA».

«Dovremmo lasciare che le macchine inondino i nostri canali di informazione con propaganda e falsità? Dovremmo automatizzare tutti i lavori, compresi quelli più soddisfacenti? Dovremmo sviluppare menti non umane che alla fine potrebbero superarci in numero e in intelligenza, e che potrebbero renderci obsoleti e sostituirci? Dobbiamo rischiare di perdere il controllo della nostra civiltà?» si chiedono i firmatari, arrivando già a rispondersi: «Queste decisioni non devono essere delegate a leader tecnologici non eletti. Potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando saremo sicuri che i loro effetti saranno positivi e i loro rischi gestibili».

A condividere queste opinioni non sono pochi personaggi fantasiosi, magari troppo influenzati dalla fantascienza, ma esperti di tecnologia come Steve Wozaniak (co-fondatore di Apple), Elon Musk, Evan Sharp (co-fondatore di Pinterest), Chris Larsen (co-fondatore di Ripple), Jann Tallinn (co-fondatore di Skype), e anche i tre cosiddetti «padrini dell'intelligenza artificiale», ossia Emad Mostaque (CEO di Stability AI), Stuart Russell e Yoshua Bengio.

A tutti costoro si aggiunge poi la voce di Eliezer Yudkowsky, ricercatore capo del Machine Intelligence Research Institute, il quale mira anch'egli a mettere in guardia dallo sviluppo incontrollato dell'intelligenza artificiale, ma da una prospettiva particolare.

«Il problema principale non sta nell'intelligenza "capace di sfidare gli esseri umani"; è ciò che succede dopo che una IA ottiene un'intelligenza superiore a quella umana» afferma l'esperto.

«I momenti chiavi potrebbero non essere ovvi, e certamente non siamo in grado di calcolare in anticipo che cosa succederà quando, e al momento sembra plausibile, un laboratorio supererà un confine critico senza nemmeno accorgersi».

«Ci sono voluti più di 60 anni, da quando la nozione di Intelligenza Artificiale è stata proposta e studiata per la prima volta, per arrivare alle capacità di oggi. Risolvere i problemi di sicurezza di un'intelligenza sovrumana - non una sicurezza perfetta, ma una sicurezza che consenta di "non uccidere letteralmente tutti" - potrebbe ragionevolmente richiedere almeno la metà del tempo. E il problema di provare a ottenere questo risultato con un'intelligenza sovrumana è che, se sbagliamo al primo tentativo, non possiamo imparare dai nostri errori, perché saremo morti»

Yudkowsky chiede quindi non tanto una pausa di sei mesi, come i firmatari della lettera aperta: preferirebbe invece che l'intera questione venga fermata e affrontata con un metodo diverso, dotato di garanzie analoghe a quelle che deve fornire un ingegnere che progetta una struttura; ciò, al momento, è estremamente lontano dall'essere anche soltanto preso in considerazione.

«Se nel campo nascente dell'Intelligenza Artificiale Generale applicassimo gli stessi standard di rigore ingegneristico che si applicano a un ponte destinato a trasportare un paio di migliaia di automobili, l'intero settore verrebbe chiuso domani».

«Non siamo preparati. Non siamo sulla buona strada per esserlo in un arco di tempo ragionevole. Non c'è un piano. I progresso che fanno le capacità dell'intelligenza artificiale è molto, molto superiore ai progressi che facciamo nel capire che cosa diavolo sta succedendo all'interno di quei sistemi. Se davvero continueremo così, moriremo tutti».

Comunque la si veda - che si desideri una pausa momentanea, o che si preferisca fermare tutto finché non si capirà quale sia il modo più sicuro per procedere - pare che tutti ravvisino problemi certamente non secondari - si parla addirittura di arrivare alla cancellazione dell'umanità - nell'attuale ritmo forsennato di sviluppo della IA, e dell'entusiasmo che lo accompagna.

In realtà, per, non si tratta davvero di "tutti": alle preoccupazioni espresse non si sono ancora associate figure attualmente molto importanti in questo panorama, come per esempio i dirigenti di Microsoft né - naturalmente, verrebbe da dire - si sono espressi in proposito i dirigenti di OpenAI, l'azienda dietro a ChatGPT.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.

Approfondimenti
Musica personalizzata infinita con l'intelligenza artificiale
Ex ingegnere Uber avrebbe rubato i segreti dei veicoli autonomi di Google
L'intelligenza artificiale che capisce se il compito è stato copiato

Commenti all'articolo (ultimi 5 di 7)

[quote="Spyryto"]@ Gladiator[quote]la situazione è oramai troppo avanzata e indirizzata oltre che su binari di comodo perché si riesca a rallentare il treno...[/quote]Gladiator, il tuo fatalismo riguardo alla "situazione troppo avanzata" non tiene conto dell'importanza di un approccio proattivo e responsabile nel trattare le sfide... Leggi tutto
1-5-2023 14:17

[quote="Spyryto, animato da un sincero spirito critico"]@ zeross Citazione:Le intelligenze artificiali vengono esplorate in maniera filosofica da almeno un secolo, quindi non è un discorso nato ieri, ed Elon MUsk, dopo il casino di twitter deve alzare un casino maggiore per far dimenticare i suoi.Zeross, il tuo commento sembra... Leggi tutto
1-5-2023 00:03

@ {alai}[quote]A mio parere il problema non sono solo le IA, che attualmente sono solo algoritmi relativamente sofisticati, che hanno a disposizione sterminate quantità di dati, e sono lontanisisme da una intelligenza generalista a specialmente da una autocoscienza.[/quote]Caro {alai}, mi sembra che tu sottovaluti l'impatto delle... Leggi tutto
30-4-2023 21:30

Certamente il tema va affrontato con più urgenza e serietà di quanto no si sia fatto - molto poco - fino ad ora e questo per proteggere non tanto i potenziali disoccupati quanto le masse decerebrate e obnubilate dai media che osannano la AI come risoluzione di tutti i problemi dell'umanità.In ogni caso, a parte la presa di posizione... Leggi tutto
9-4-2023 17:38

Le intelligenze artificiali vengono esplorate in maniera filosofica da almeno un secolo, quindi non è un discorso nato ieri, ed Elon MUsk, dopo il casino di twitter deve alzare un casino maggiore per far dimenticare i suoi.Il problema risiede nel fatto che una soluzione l'aveva già proposta Isaac Asimov con le tre leggi della robotica,... Leggi tutto
1-4-2023 22:36

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Che cosa ti trattiene dall'installare Linux?
Tutti quelli che conosco hanno Windows: con chi potrei scambiare dati e software?
Non ho voglia di imparare un nuovo sistema operativo e dei nuovi programmi.
Alcuni miei componenti hardware non vengono riconosciuti.
Ci sono alcuni software che utilizzo sotto Windows che mi sono indispensabili.
Semplicemente non sento l'esigenza di passare a Linux.
Ho intenzione di farlo nel prossimo futuro.
Nessun motivo mi impedisce di passare a Linux, infatti già lo utilizzo con soddisfazione.

Mostra i risultati (12388 voti)
Leggi i commenti (122)
Novembre 2026
Revolut sotto amministrazione giudiziaria: i soldi sono al sicuro?
L'alternativa a Gestione Attività che registra ogni dettaglio del PC
Microsoft in tilt, servizi cloud bloccati in tutto il mondo
Il bug delle schede Radeon che consuma gli SSD
Windows 11 27H2 sarà un Windows 12 in tutto, tranne che nel nome
L'utility che svela chi occupa davvero la GPU del PC
Windows 11, anche Defrag si merita una mano di vernice
Mercedes trasforma il parabrezza in uno schermo olografico
L'app per Windows che installa, aggiorna e migra oltre 800 applicazioni
Android, un SMS invisibile blocca le chiamate e manda in crisi lo smartphone
Sam Altman: Troppa RAM nei PC dei privati, dovrebbe finire nei data center dell'IA
Ottobre 2026
L'ex CEO di Intel ha la soluzione per la crisi delle memorie
L'app gratuita per Windows che converte quasi qualsiasi file
L'IA resuscita i nastri magnetici: Fujifilm investirà milioni per quintuplicare la produzione
Phishing PagoPA, la truffa arriva via PEC
Tutti gli Arretrati
Accadde oggi - 18 novembre


web metrics