Foto di Vitaly Gariev.

Gli scammer hanno trovato il modo per portare avanti le proprie truffe tramite sistemi come ChatGPT, riuscendo a far comparire i loro siti di e‑commerce falsi all'interno dei risultati generati da strumenti basati su modelli linguistici, sfruttando la capacità delle piattaforme di sintetizzare informazioni e proporre link diretti agli utenti. L'inserimento di domini fraudolenti nelle risposte consente ai truffatori di intercettare ricerche legate a prodotti popolari e di indirizzare gli utenti verso pagine che imitano in modo accurato negozi reali.

L'allarme viene da Ask Silver: le analisi mostrano che alcuni risultati generati da ChatGPT includono collegamenti a copie quasi identiche dei siti di marchi noti attivi in vari settori, dai rivenditori di borse alle catene di arredamento. I domini utilizzati riproducono nomi e strutture grafiche dei siti originali, con differenze minime e difficili da individuare a un primo sguardo. Le pagine proponevano sconti fino all'80%, una strategia tipica delle campagne fraudolente che puntano a massimizzare il numero di acquisti prima che il dominio venga segnalato o rimosso. I siti clonati accettano ordini e pagamenti senza tuttavia spedire alcun prodotto, trattenendo i dati delle carte di credito degli acquirenti. La combinazione tra layout credibile, prezzi molto bassi e apparente legittimità dei link generati dall'IA aumenta significativamente la probabilità che gli utenti completino l'acquisto senza ulteriori verifiche.

Anna Jones, rappresentante di Ask Silver, ha dichiarato che «il modello linguistico potrebbe essere stato avvelenato», riferendosi alla possibilità che contenuti manipolati siano stati introdotti nei dati utilizzati dal sistema. La tecnica, nota come data poisoning, include la creazione di pagine web appositamente progettate per essere indicizzate e riproposte dagli strumenti di generazione automatica. La presenza di link fraudolenti nelle risposte dell'IA evidenzia un problema più ampio legato al modo in cui gli utenti stanno cambiando le proprie abitudini di ricerca. Gli strumenti basati su modelli linguistici tendono a ridurre la complessità del processo informativo, fornendo risposte dirette e link immediatamente cliccabili. Questo comportamento, se sfruttato da attori malevoli, può trasformarsi in un vettore di rischio significativo.

Le analisi mostrano che i siti fraudolenti non si limitano a imitare l'aspetto dei negozi reali, ma integrano anche sistemi di pagamento apparentemente legittimi. L'obiettivo è rendere l'esperienza d'acquisto indistinguibile da quella autentica fino al momento in cui l'utente si accorge della mancata consegna o di addebiti non autorizzati. Il fenomeno si inserisce in un contesto più ampio di proliferazione di siti di e‑commerce falsi, già diffusi sul web tradizionale e ora capaci di sfruttare anche i canali generativi dell'IA. La velocità con cui questi domini vengono creati e rimossi rende difficile un intervento tempestivo da parte dei servizi di sicurezza e delle piattaforme di hosting.

Consigliamo la lettura di:

Microsoft, account ufficiale usato per inviare spam credibile

L'IA può estrarre le impronte digitali da foto ad alta definizione

Crisi della RAM, in vendita DDR 5 false con i chip in fibra di vetro

Phishing, svolta UE: le banche dovranno rimborsare subito le vittime

Diventa quindi chiaro come sia necessario rafforzare i controlli sui contenuti utilizzati per addestrare i modelli linguistici e sulla possibilità di introdurre sistemi di verifica più rigorosi per i link proposti nelle risposte generate. L'evoluzione delle tecniche di manipolazione suggerisce che i truffatori continueranno a sfruttare ogni vulnerabilità disponibile per raggiungere un numero crescente di potenziali vittime.

Leggi anche:

Chiamate mute in aumento: così i truffatori filtrano i numeri e preparano a...

PayPal, email autentiche usate dagli scammer per ingannare gli utenti con falsi ...

La vecchietta digitale che fa perdere tempo ai truffatori telefonici

IA, clonare le voci per truffare il prossimo è un gioco da ragazzi