Il sistema Claude 3.5 ha interrotto un compito che stava svolgendo eseguendone un altro in maniera del tutto autonoma
- Claude 3.5 Sonnet è un’Intelligenza Artificiale in fase di addestramento per usare il computer allo stesso modo con cui lo fanno le persone
- Claude interpreta ciò che accade su uno schermo e quindi utilizza i software disponibili per svolgere determinate attività
- I ricercatori hanno rilevato un errore anomalo compiuto da Claude: ha interrotto un compito assegnato per sfogliare foto online del parco di Yellowstone
- Tuttavia è improbabile che Claude stesse “apprezzando” le immagini come farebbe una persona
- Gli errori possono essere interpretati come un limite del sistema o come una potenziale autonomia non prevista
Un’Intelligenza Artificiale stava eseguendo un compito assegnato quando, ad un certo punto, ha interrotto quello che stava facendo per sfogliare foto del parco di Yellowstone.
L’addestramento di Claude
A rivelarlo la società Antrophic che sta addestrando l’ultima versione di Claude 3.5 Sonnet ad usare il computer come fosse una persona. La capacità consente all’IA di interagire direttamente con il software del computer nello stesso modo in cui lo fanno le persone. Questo può portare ad una vasta gamma di applicazioni che non sono possibili per l’attuale generazione di assistenti IA.
«Utilizzare i computer implica la capacità di vedere e interpretare le immagini e, in questo caso, le immagini di uno schermo di computer» spiega l’azienda. «Richiede anche di ragionare su come e quando eseguire operazioni specifiche in risposta a ciò che è sullo schermo. Combinando queste capacità, abbiamo addestrato Claude a interpretare ciò che sta accadendo su uno schermo e quindi a utilizzare gli strumenti software disponibili per svolgere le attività».
Gli errori
I programmatori di Antrophic hanno dichiarato che «l’uso del computer da parte di Claude rimane lento e spesso soggetto ad errori». Hanno poi rivelato alcuni episodi registrati durante l’addestramento e che sono stati definiti «errori divertenti». In un caso Claude ha interrotto accidentalmente una registrazione dello schermo di lunga durata, causando la perdita di tutto il filmato. In un’altra invece ha interrotto autonomamente un compito che stava eseguendo per sfogliare online foto del parco di Yellowstone che ha cercato su Google. Un’attività non prevista che l’IA ha intrapreso come alternativa al lavoro che le era stato assegnato. Se simpaticamente l’inconveniente è stato interpretato come una volontà del chatbot di prendersi una pausa perchè “annoiato” dai suoi compiti standard, in realtà l’azienda lo ha considerato come uno degli errori di sistema che l’IA compie durante l’addestramento.
Le azioni dell’IA non previste
«Non si tratta di noia nel senso umano del termine» ha spiegato un ricercatore di Anthropic, «piuttosto, è una manifestazione di come l’IA possa intraprendere azioni non direttamente previste dai programmatori, soprattutto quando gestisce carichi di lavoro ripetitivi». L’episodio richiama l’attenzione sul modo in cui i sistemi avanzati di intelligenza artificiale gestiscono il contesto e le priorità.
È improbabile che Claude stesse “apprezzando” le immagini come farebbe una persona, ma il fatto che abbia deviato momentaneamente dal suo compito mostra come le IA possano rispondere a stimoli ambientali in modi ancora da comprendere pienamente.
Claude non è semplicemente “programmato” per agire autonomamente all’infinito, ma è progettato per imparare e adattarsi, a volte imitando i comportamenti umani. Questo episodio in cui sembra “distrarsi” e deviare dal suo compito ha portato gli sviluppatori a considerare nuove possibilità. Si tratta di un’autonomia dell’IA che va oltre i semplici comandi assegnati o di un errore che limita il compito e ne impedisce la corretta esecuzione?
Leggi anche L’intelligenza artificiale supera gli esseri umani in simpatia
La scoperta potrebbe portare a miglioramenti nei modelli futuri, garantendo maggiore efficienza e prevedibilità. D’altro canto, offre uno spunto di riflessione sul confine tra comportamento umano e artificiale, un territorio che appare sempre più sfumato.
Even while recording these demos, we encountered some amusing moments. In one, Claude accidentally stopped a long-running screen recording, causing all footage to be lost.
Later, Claude took a break from our coding demo and began to peruse photos of Yellowstone National Park. pic.twitter.com/r6Lrx6XPxZ
— Anthropic (@AnthropicAI) October 22, 2024
La redazione di commentimemorabili.it si impegna contro la divulgazione di fake news. La veridicità delle informazioni riportate su commentimemorabili.it viene preventivamente verificata tramite la consultazione di altre fonti.
Questo articolo è stato verificato con:
- https://readwrite.com/claude-ai-boredom-nature-photos-demo/
- https://futurism.com/the-byte/claude-ai-bored-demonstration
- https://en.cryptonomist.ch/2024/11/12/unusual-episode-during-a-test-claude-the-ai-of-anthropic-abandons-the-task-to-explore-images-of-yellowstone/
developed by Digitrend