Les Perelman è un ex professore del MIT, struttura presso la quale si è occupato di scrittura.

Insieme a un gruppo di studenti del MIT e di Harvard ha creato un software che, in meno di un secondo e a partire da tre sole parole chiave, è in grado di redigere una tesina capace di ottenere un punteggio alto ai test attitudinali utilizzati negli USA, come il test SAT.

Gli elaborati prodotti dal software, battezzato Babel Generator, sono scritti con una grammatica perfetta, fanno ampio uso di subordinate e parole ricercate, e adoperano molti termini inerenti il tema; però non hanno alcun senso.

Non perderti anche:

Vivere con l’IA: la scrittura

Typo Keyboard, la tastiera fisica per l'iPhone

Riciclare i fogli di carta in matite

La corretta scrittura e la comprensione dei dialoghi

Com'è possibile che un testo con queste caratteristiche ottenga punteggi alti, tanto da totalizzare 5,4 punti (su un massimo di 6) quando analizzato?

Il motivo è semplice: negli Stati Uniti va sempre più diffondendosi la pratica di sottoporre gli elaborati degli studenti a dei computer per la valutazione.

C'è di più: secondo uno studio del 2012 condotto dall'Università di Akron in Ohio, quando ci sono grandi quantità di elaborati da valutare, uomini e macchine procedono all'incirca allo stesso modo.

Ciò sembrerebbe essere una prova del fatto che le macchine possono sostituire o quantomeno aiutare i professori in un compito che può risultare faticoso, quando non proprio tedioso.

Les Perelman, però, ha trovato un punto debole nel sistema, e l'ha reso pubblico.

Ha infatti scoperto che i "paroloni", le frasi subordinate, la presenza di certe parole sono tutti elementi che inducono il computer a valutare molto positivamente un elaborato, anche se le frasi e i paragrafi in cui questi elementi si trovano non hanno alcun senso.

Ciò è dovuto al fatto che una macchina non può capire il senso di un'affermazione, non può valutare se sia vera o falsa, non può stabilirne l'attendibilità o la pertinenza; può soltanto basarsi su valutazioni statistiche, che possono essere ingannate.

Babel Generator fa proprio questo: in un solo secondo produce in testo che è l'inganno perfetto.

È sottoponendo una delle creazioni di Babel Generator a MY Access!, un software online che adopera il medesimo sistema di valutazione utilizzato nel GMAT che è stato ottenuto il già citato punteggio di 5,4, con apprezzamenti per «l'uso del linguaggio e lo stile».

Les Perelman, a sinistra, e gli studenti con cui ha creato Babel Generator

Per capire di che cosa stiamo parlando, riportiamo, tradotto, un estratto del testo sottoposto a MY Access!: «La riservatezza non è mai stata ed indubitabilmente mai sarà elogiata, aleatoria, e decorosa. Il genere umano sempre assoggetterà la riservatezza».

Les Perelman vuole che le sue intenzioni siano chiare: non intende squalificare l'uso dei computer, ma semplicemente far presente che ci sono ancora molti problemi da risolvere prima di potersi affidare ciecamente a essi in questo campo.

«Sono il ragazzino che grida "L'imperatore non ha vestiti"» spiega Perelman. «Ok, magari tra 200 anni l'imperatore avrà i vestiti. Quando l'imperatore avrà i vestiti la faccenda sarà chiusa. Ma, in questo momento, l'imperatore non li ha».