Foto modificate dall’IA di finti prodotti difettosi alimentano una massiccia frode sui rimborsi

Quando l’intelligenza artificiale rende anche una mela ammuffita troppo perfetta per essere vera

In Cina è possibile ottenere un rimborso senza restituire il prodotto mostrando solo una foto che ne dimostri il difetto
Le immagini generate o modificate con l’AI permettono ai truffatori di creare prodotti apparentemente danneggiati ma in realtà mai toccati
Molte piattaforme elaborano i rimborsi in modo automatico se la foto sembra credibile, rendendo il sistema facile da aggirare
I commercianti, come il fruttivendolo Chen di Jiaxing, subiscono perdite continue senza riuscire a dimostrare che le immagini sono false
Le nuove regole cinesi impongono etichette sulle immagini AI, ma rimuoverle è facile e i controlli restano limitati

Le truffe sui resi stanno diventando una delle conseguenze più concrete dell’uso distorto dell’intelligenza artificiale in Cina. Il meccanismo è semplice: molte piattaforme di e-commerce consentono al cliente di ottenere un rimborso senza rispedire il prodotto, a patto di caricare una foto che mostri un presunto difetto. In passato era già un sistema fragile, ma oggi, con l’AI capace di ritoccare immagini in modo impeccabile, la situazione è sfuggita di mano.

Basta caricare una foto di una mela con muffa perfetta, di una tazza con una crepa credibile o di una maglietta con cuciture sfilacciate, e il gioco è fatto. Gli algoritmi delle piattaforme, programmati per valutare rapidamente la verosimiglianza dell’immagine, spesso approvano il rimborso in modo automatico. Il prodotto però resta nelle mani del cliente, che può tranquillamente continuare a usarlo o rivenderlo.

I commercianti contro le immagini che mentono troppo bene

A pagare il conto sono soprattutto i venditori online, che vedono aumentare i resi senza riuscire a dimostrare che le foto siano false. Un esempio è quello di Chen, che gestisce un negozio di frutta e verdura a Jiaxing. In soli tre mesi ha ricevuto nove richieste di rimborso basate su immagini che mostravano prodotti apparentemente rovinati. Quando ha iniziato a sospettare che fossero state modificate digitalmente, la piattaforma gli ha risposto che le prove non erano sufficienti per dimostrarlo.

Nel frattempo, alcune piattaforme stanno introducendo strumenti di rilevamento delle immagini AI, che segnalano i contenuti sospetti con avvisi visivi. Il problema è che nemmeno questi sistemi sono infallibili e le stesse aziende ammettono di non poter garantire l’accuratezza delle verifiche.

Le nuove regole e il limite della tecnologia

Per provare a mettere ordine, a settembre le autorità cinesi hanno introdotto le Interim Measures for the Management of AI-Generated and Synthetic Content. Le nuove norme impongono che le immagini e i video generati dall’AI siano contrassegnati con etichette visibili, come filigrane, e con dati incorporati nel file. Rimuovere questi segnali è illegale, ma nella pratica è difficile da individuare.

Il risultato è che, nonostante le regole, le truffe basate su foto AI continuano a prosperare. In un sistema che si basa sull’automazione e sulla fiducia nelle immagini, basta un buon algoritmo creativo per trasformare un prodotto perfetto in uno “difettoso” e far partire un rimborso senza che nessuno tocchi davvero la merce.