Il Sudafrica ritira la politica sull’IA dopo che è stato dimostrato che è stata parzialmente scritta dall’IA

Il caso che imbarazza il governo e riapre il tema del controllo umano sull’intelligenza artificiale

Il Sudafrica ha ritirato una politica nazionale sull’intelligenza artificiale dopo gravi errori nei contenuti
Alcune parti del documento sarebbero state scritte con l’aiuto di sistemi di intelligenza artificiale
Sono state trovate citazioni accademiche inesistenti, attribuite a articoli mai pubblicati
Il ministro ha definito l’errore un problema serio di affidabilità e controllo umano insufficiente
Il documento sarà riscritto e ripubblicato dopo revisione e verifiche più rigorose

Il governo sudafricano ha deciso di ritirare una nuova policy nazionale sull’intelligenza artificiale dopo la scoperta di gravi irregolarità nel documento. Il testo, pensato per guidare il Paese nello sviluppo tecnologico ed etico dell’AI, conteneva infatti elementi non verificati.

Secondo quanto emerso, alcune parti sarebbero state generate con il supporto di sistemi automatici. Il problema principale riguarda la presenza di fonti accademiche inesistenti, un dettaglio che ha immediatamente sollevato dubbi sulla credibilità dell’intero progetto.

Le citazioni inventate e l’errore nei riferimenti accademici

Le verifiche hanno evidenziato che almeno sei citazioni su decine presenti nel documento rimandavano a articoli che non esistono. Tra questi, riferimenti a riviste scientifiche reali ma con contenuti mai pubblicati, un classico esempio di allucinazioni dell’intelligenza artificiale.

Il ministro delle comunicazioni ha ammesso che si tratta di un errore grave, sottolineando che “non è un problema tecnico marginale”, ma una questione che mina la credibilità istituzionale del lavoro svolto.

Il nodo del controllo umano nella produzione dei documenti

Il caso ha riacceso il dibattito sul ruolo del controllo umano nei testi generati o assistiti da sistemi intelligenti. Le autorità hanno riconosciuto che la supervisione non è stata sufficiente a individuare gli errori prima della pubblicazione.

Il ministro ha definito la situazione un esempio chiaro di cosa possa accadere quando manca una verifica rigorosa delle informazioni. L’episodio è stato descritto come una lezione sulla necessità di rafforzare la verifica dei contenuti digitali.

Conseguenze politiche e revisione del documento

Il governo ha annunciato che verranno presi provvedimenti nei confronti dei responsabili della stesura del testo. Il documento sarà completamente rivisto prima di essere nuovamente sottoposto a consultazione pubblica. L’obiettivo ora è correggere le parti errate e garantire che ogni riferimento sia controllato e verificabile. Il caso ha comunque già avuto un impatto significativo sull’immagine del progetto, nato per promuovere innovazione e sviluppo nel settore dell’intelligenza artificiale, ma finito al centro di una controversia proprio per un uso poco controllato della stessa tecnologia.