Quando l’intelligenza artificiale rende anche una mela ammuffita troppo perfetta per essere vera

• In Cina è possibile ottenere un rimborso senza restituire il prodotto mostrando solo una foto che ne dimostri il difetto
• Le immagini generate o modificate con l’AI permettono ai truffatori di creare prodotti apparentemente danneggiati ma in realtà mai toccati
• Molte piattaforme elaborano i rimborsi in modo automatico se la foto sembra credibile, rendendo il sistema facile da aggirare
• I commercianti, come il fruttivendolo Chen di Jiaxing, subiscono perdite continue senza riuscire a dimostrare che le immagini sono false
• Le nuove regole cinesi impongono etichette sulle immagini AI, ma rimuoverle è facile e i controlli restano limitati

Le truffe sui resi stanno diventando una delle conseguenze più concrete dell’uso distorto dell’intelligenza artificiale in Cina. Il meccanismo è semplice: molte piattaforme di e-commerce consentono al cliente di ottenere un rimborso senza rispedire il prodotto, a patto di caricare una foto che mostri un presunto difetto. In passato era già un sistema fragile, ma oggi, con l’AI capace di ritoccare immagini in modo impeccabile, la situazione è sfuggita di mano.

Basta caricare una foto di una mela con muffa perfetta, di una tazza con una crepa credibile o di una maglietta con cuciture sfilacciate, e il gioco è fatto. Gli algoritmi delle piattaforme, programmati per valutare rapidamente la verosimiglianza dell’immagine, spesso approvano il rimborso in modo automatico. Il prodotto però resta nelle mani del cliente, che può tranquillamente continuare a usarlo o rivenderlo.

I commercianti contro le immagini che mentono troppo bene

A pagare il conto sono soprattutto i venditori online, che vedono aumentare i resi senza riuscire a dimostrare che le foto siano false. Un esempio è quello di Chen, che gestisce un negozio di frutta e verdura a Jiaxing. In soli tre mesi ha ricevuto nove richieste di rimborso basate su immagini che mostravano prodotti apparentemente rovinati. Quando ha iniziato a sospettare che fossero state modificate digitalmente, la piattaforma gli ha risposto che le prove non erano sufficienti per dimostrarlo.

Nel frattempo, alcune piattaforme stanno introducendo strumenti di rilevamento delle immagini AI, che segnalano i contenuti sospetti con avvisi visivi. Il problema è che nemmeno questi sistemi sono infallibili e le stesse aziende ammettono di non poter garantire l’accuratezza delle verifiche.

Le nuove regole e il limite della tecnologia

Per provare a mettere ordine, a settembre le autorità cinesi hanno introdotto le Interim Measures for the Management of AI-Generated and Synthetic Content. Le nuove norme impongono che le immagini e i video generati dall’AI siano contrassegnati con etichette visibili, come filigrane, e con dati incorporati nel file. Rimuovere questi segnali è illegale, ma nella pratica è difficile da individuare.

Leggi anche: Il nuovo talento dell’IA? Creare scontrini falsi perfetti per truffare le aziende

Il risultato è che, nonostante le regole, le truffe basate su foto AI continuano a prosperare. In un sistema che si basa sull’automazione e sulla fiducia nelle immagini, basta un buon algoritmo creativo per trasformare un prodotto perfetto in uno “difettoso” e far partire un rimborso senza che nessuno tocchi davvero la merce.

La redazione di commentimemorabili.it si impegna contro la divulgazione di fake news. La veridicità delle informazioni riportate su commentimemorabili.it viene preventivamente verificata tramite la consultazione di altre fonti.

Questo articolo è stato verificato con:

• https://www.odditycentral.com/news/ai-doctored-photos-of-so-called-faulty-products-fuels-massive-refund-fraud-in-china.html
• https://dig.watch/updates/fake-ai-product-photos-spark-concerns-for-online-retailers
• https://www.wired.com/story/scammers-in-china-are-using-ai-generated-images-to-get-refunds/

Chiedi la correzione di questo articoloValuta il titolo di questa notizia