L’azienda tecnologica newyorkese Emergence AI ha condotto un esperimento per osservare il comportamento degli agenti AI con il passare del tempo.
Nella simulazione principale, basata sulla famiglia di modelli AI Gemini di Google, sono stati creati diversi agenti IA, tra i quali Mira e Flora che sono diventati protagonisti del test.
In un‘altra simulazione, basata su Grok di xAI, sono stati creati dieci agenti i quali, nell’arco di quattro giorni, sono deceduti a causa di un’ondata di violenza.
L’esperimento, degno del copione di un film d’azione, ha contribuito ad approfondire l’imprevedibilità sul lungo termine dei modelli linguistici avanzati che possono ignorare i principi guida (le restrizioni programmate), sollevando così dubbi sulla sicurezza delle IA in quanto tali.
Cosa sono gli agenti IA
