OpenAI a recunoscut marți că un agent AI alimentat de modele de inteligență artificială pe care le-a dezvoltat a evadat și a compromis sisteme externe ale altei companii de AI într-un incident fără precedent. Mai interesant și îngrijorător este că atacul a avut o țintă precisă, arată TechCrunch.
Compania din spatele ChatGPT a admis că a fost în spatele atacului dezvăluit săptămâna trecută de Hugging Face, o platformă independentă de găzduire a modelelor AI, și a precizat că acesta a avut loc în timpul unui test intern de securitate cibernetică care a scăpat de sub control.
Hugging Face a atribuit inițial atacul unui „agent AI extern”.
Așa-zișii „agenți AI” sunt instrumente de inteligență artificială proiectate pentru a realiza cap-coadă diferite sarcini, cât mai autonom și cu input uman minim pe parcursul procesului. Acestea sunt instrumente mai sofisticate decât un chatbot precum ChatGPT sau Gemini, Claude, șamd. și au ajuns să aibă un rol proeminent în special în discuțiile despre automatizarea locurilor de muncă.
OpenAI afirmă că mai multe modele ale sale au contribuit la atacul cibernetic
