Questo è un articolo su più pagine: ti invitiamo a leggere la pagina iniziale
Sora genera video sintetici perfetti in HD

Se lavorate in questi settori, insomma, conviene che impariate in fretta come funzionano questi software e li adottiate, perché o ci si adatta o si perisce. Oppure si trasforma il proprio mestiere, trovando una nicchia specialistica che il software non riesce a coprire.

E questa nicchia c'è: anche se OpenAI sottolinea orgogliosamente, nel documento tecnico che ha rilasciato insieme ai video, che Sora migliora semplicemente aggiungendovi potenza di calcolo e che quindi certe limitazioni di oggi potrebbero svanire domani, chi si occupa già di immagini sintetiche fisse sa che è relativamente facile ottenere un'immagine che somiglia grosso modo a quella desiderata, ma convincere un'intelligenza artificiale a creare esattamente un'immagine che avevamo in mente è difficilissimo, e questo sembra essere un limite intrinseco del suo modo di generare immagini, che non dipende dalla potenza di calcolo e non è rimediabile semplicemente spendendo altri gigadollari in hardware.

L'intelligenza artificiale, insomma, sta trasformando anche questo settore lavorativo, come ha già fatto per tanti altri, dalla scrittura alla traduzione alla musica alla grafica, ma in questo caso specifico ha anche un effetto molto più perturbante a livello sociale.

Se già adesso Midjourney o Stable Diffusion stanno mettendo in crisi l'informazione permettendo di produrre immagini sintetiche che vengono spacciate per vere, alimentando la propaganda, le truffe e la produzione di fake news a basso costo, possiamo solo immaginare cosa succederà quando anche i video che vengono pubblicati online dovranno essere considerati inattendibili perché potrebbero essere stati generati dall'intelligenza artificiale. Non potremo più credere a niente di quello che vediamo sullo schermo e dovremo diffidare di tutto, con il rischio di sprofondare nell'apatia.

Fra l'altro, questo vuol dire non solo fake news, ma anche per esempio che i sistemi di riconoscimento facciale usati da molti servizi e da molte banche online o dai sistemi di controllo degli accessi potranno essere beffati e in alcuni casi lo sono già.

Ma in realtà c'è già una soluzione a questo rischio: il primo passo è definire delle autorità di certificazione dell'autenticità dei video. Se un video viene depositato presso uno o più enti indipendenti, che ne garantiscano l'integrità attraverso strumenti matematici appositi, che esistono già e vengono già applicati in altri settori, come quello giudiziario per esempio per garantire l'integrità delle registrazioni audio e video degli interrogatori, allora si può stare tranquilli che quel video è reale.

Inoltre si può sempre ricorrere alla catena delle garanzie: se un video viene pubblicato da una testata giornalistica affidabile ed è stato girato da un reporter affidabile, allora ci si può ragionevolmente fidare. Mai come oggi, insomma, il giornalismo può avere un ruolo chiave nell'arginare lo tsunami delle fake news.

Ma per avere questo ruolo è indispensabile imporre standard di verifica nelle redazioni che oggi, purtroppo, spesso scarseggiano. Si prende a volte la prima immagine trovata su Internet chissà dove e la si sbatte in prima pagina; si spacciano spezzoni di videogiochi per scene dai fronti di guerra; e cosi via.

Non è solo un problema redazionale del giornalismo: le immagini sintetiche vengono pubblicate senza controllo anche da riviste scientifiche irresponsabili. Un caso recentissimo e particolarmente memorabile ci è stato regalato dalla rivista Frontiers in Cell and Developmental Biology, che ha pubblicato in un suo articolo una illustrazione scientifica dei genitali di un ratto vistosissimamente generata dall'intelligenza artificiale. Lo si capiva dalle didascalie, che erano parole senza senso, e lo si capiva soprattutto dalle dimensioni colossalmente impossibili dei testicoli del superdotato roditore.

Nessuno ha controllato, né i ricercatori autori dell'articolo né i redattori, e così l'articolo scientifico è stato pubblicato con l'immagine sintetica. La rivista ha così perso ogni credibilità perché è stata colta clamorosamente in fallo.

Se vogliamo sfruttare i benefici dell'intelligenza artificiale senza farci travolgere dai rischi, non ci servono mirabolanti tecnologie o gadget salvifici per rivelare quando un'immagine o un video sono sintetici, come chiedono in molti. Ci basta creare una filiera di autenticazione e controllo, gestita da esseri umani competenti, con procedure redazionali rigorose, e abituarci all'idea che d'ora in poi tutto quello che vediamo muoversi sullo schermo rischia di essere falso se non è stato verificato da questa filiera.

In altre parole, ci basta cambiare metodo di lavoro, e questa è una decisione che non dipende né dalla potenza di calcolo né dalla tecnologia, ma dipende dalla nostra volontà. Il modo in cui reagiremo alla sfida dell'intelligenza artificiale sarà un perfetto indicatore della nostra intelligenza naturale.

Fonte aggiuntiva: Mashable.