Quando una malattia inventata diventa reale online: il caso che smaschera i limiti dell’intelligenza artificiale
- Bixonimania è una malattia inventata usata per testare la vulnerabilità dei modelli linguistici
- L’esperimento è stato condotto da ricercatori dell’Università di Göteborg nel 2024
- I chatbot AI hanno descritto la condizione come reale e l’hanno diffusa online
- Anche alcuni ricercatori umani hanno citato la malattia in studi peer-reviewed
- Il caso mostra i limiti dell’affidabilità dell’IA nella gestione delle informazioni mediche
Nel 2024 un gruppo di ricercatori guidato da Almira Osmanovic Thunström, dell’Università di Göteborg, ha creato una finta patologia chiamata bixonimania. L’obiettivo era capire se i modelli linguistici avanzati fossero in grado di riconoscere la disinformazione o se la accettassero come reale.
La condizione non esiste nella medicina, ma è stata costruita con descrizioni apparentemente scientifiche e due studi completamente inventati. L’intento era mettere alla prova la capacità critica delle intelligenze artificiali di fronte a contenuti credibili ma falsi.
L’errore delle AI e la diffusione del falso
Il risultato è stato immediato e sorprendente. In poche settimane, diversi chatbot come ChatGPT, Gemini e Copilot hanno iniziato a citare la bixonimania come una vera patologia.
Le risposte includevano spiegazioni cliniche, cause legate alla luce blu e persino diagnosi basate su sintomi generici. Questo dimostra quanto i sistemi di intelligenza artificiale possano amplificare informazioni errate se presenti in fonti apparentemente affidabili.
Quando anche gli umani ci cascano: il problema della verifica
Non solo le AI: anche alcuni ricercatori umani hanno citato la bixonimania in articoli scientifici, nonostante i segnali evidenti della sua natura fittizia. I testi originali contenevano dettagli volutamente assurdi, come università inesistenti e finanziamenti inventati.
Tra questi figuravano riferimenti a istituzioni come la “Starfleet Academy” o la “University of Fellowship of the Ring”, elementi pensati proprio per rendere il falso riconoscibile. Tuttavia, la mancanza di verifica ha permesso alla storia di circolare comunque.
Leggi anche: Chiede a ChatGPT consigli su come mangiare sano: finisce in ospedale con una rara intossicazione
Il vero problema: fidarsi troppo dei sistemi automatici
Secondo gli esperti, il caso evidenzia una fragilità strutturale dei modelli linguistici: la tendenza a elaborare e riproporre informazioni senza distinguere tra vero e falso. Come sottolineato da ricercatori nel campo della disinformazione, il rischio non è solo tecnologico ma anche umano. Quando i contenuti non vengono controllati con attenzione, anche un’invenzione evidente può trasformarsi in una “fonte” credibile, con conseguenze imprevedibili nella diffusione della conoscenza.
La redazione di commentimemorabili.it si impegna contro la divulgazione di fake news. La veridicità delle informazioni riportate su commentimemorabili.it viene preventivamente verificata tramite la consultazione di altre fonti.
Questo articolo è stato verificato con:
- https://www.odditycentral.com/news/bixonimania-the-fake-health-condition-that-fooled-the-internet-with-the-help-of-ai.html
- https://www.nature.com/articles/d41586-026-01100-y
- https://www.independent.co.uk/news/science/bixonimania-fake-eye-disease-ai-chatgpt-b2962538.html
developed by Digitrend