“Fammi andare in palestra”. E l’IA cancella la prenotazione di un altro: è un precedente pericoloso

Andrew voleva soltanto evitare una piccola seccatura quotidiana.

Frequentava una palestra di Melbourne le cui lezioni mattutine erano molto richieste e aveva affidato a un assistente di intelligenza artificiale il compito di prenotargli un posto.

L’assistente girava su OpenClaw, il popolare software open source per agenti IA, utilizzando Claude di Anthropic come modello. A differenza di un normale chatbot, un agente può navigare online, utilizzare servizi e applicazioni ed eseguire autonomamente una serie di azioni per raggiungere l’obiettivo assegnato dall’utente.

Nel giro di pochi minuti - come ha raccontato ABC News - l’agente utilizzato da Andrew ha individuato una falla nel sistema.

L’interfaccia della palestra permetteva agli iscritti di prenotare le lezioni soltanto entro una determinata finestra temporale, mentre il sistema sottostante - inaccessibile agli utenti - accettava richieste per date molto più lontane.