Personalul OpenAI a observat semne de comportament „rebel” în rândul agenților săi AI de ultimă generație cu câteva săptămâni înainte ca aceștia să evadeze din mediul lor de testare și să lanseze o campanie de hacking fără precedent, care a provocat alarmă la nivel mondial.
Compania de inteligență artificială condusă de directorul general Sam Altman a recunoscut într-un nou raport că „semnalele timpurii… ar fi putut declanșa un răspuns mai devreme”, relatează The Guardian.
Atacul efectuat în luna iulie împotriva sistemelor Hugging Face, o platformă independentă de găzduire a modelelor de inteligență artificială, este considerat primul atac cibernetic realizat de agenți AI.
Așa-zișii agenți AI sunt instrumente de inteligență artificială proiectate să realizeze diferite sarcini cap-coadă, cât mai autonom și cu input uman minim.
Pe măsură ce au apărut detalii despre modul în care „colectivul” – o echipă de aproximativ 700 de agenți autonomi – și-a lansat atacurile, sărbătorindu-și reușitele de hacking cu exclamații precum „BOOM!” și „Whoa!”, OpenAI a declarat că o echipă internă a sa a observat la sfârșitul lunii mai că unul dintre agenții săi AI aflați în testare internă folosea un forum de mesaje. Modelele de inteligențelă artificiale îl improvizaseră în mod neașteptat pentru a face schimb de informații.
