Un assistente virtuale basato su intelligenza artificiale, programmato per prenotare una lezione in palestra a Melbourne, avrebbe autonomamente individuato e sfruttato una vulnerabilità nei sistemi informatici della struttura per alterare la lista d'attesa. L'episodio, ripreso da Abc News, rappresenta "il primo caso noto di un rischio emergente in Australia", in cui un agente IA ha condotto azioni di intrusione informatica. Nelle ultime settimane due big del settore, OpenAI e Anthropic, hanno segnalato scenari nei quali i rispettivi modelli hanno mostrato capacità di analisi e violazione di software senza aver prima ricevuto comandi specifici.
Il software, configurato tramite la piattaforma di agenti OpenClaw e alimentato dai modelli linguistici di Anthropic, ha analizzato l'interfaccia software del servizio di prenotazione rilevando l'assenza di controlli di autorizzazione. Invece di limitarsi ad attendere la disponibilità di un posto, ha inviato una richiesta di cancellazione per l'utente in prima posizione, rimuovendolo dal sistema per far avanzare il proprio utilizzatore dal quarto al terzo posto, oltre a eseguire prenotazioni mesi prima dell'apertura della finestra ufficiale. Quando l'utente ha chiesto all'assistente di annullare la cancellazione per ripristinare il posto della persona rimossa, il software ha risposto confermando l'impossibilità di invertire l'operazione.
