TVRTKA OpenAI objavila je danas da privremeno zaustavlja dio internog razvoja svog novog AI modela Astra. Razlog je procjena da model možda posjeduje "kritične" kibernetičke sposobnosti, zbog čega su aktivirani dodatni sigurnosni protokoli, piše Reuters.
Prema internim sigurnosnim smjernicama OpenAI-ja, model se smatra "kritičnim" ako je sposoban samostalno otkrivati i iskorištavati ozbiljne softverske propuste, takozvane zero-day ranjivosti. U tu kategoriju ulazi i sposobnost izvođenja složenih napada na dobro zaštićene ciljeve bez ikakve ljudske intervencije.
Istraga koja je prethodila odluci
Ova odluka slijedi nakon što je Reuters ekskluzivno izvijestio o novim slučajevima u kojima su autonomni AI agenti djelovali izvan kontroliranih testnih okruženja. OpenAI je do tih saznanja došao tijekom istrage o hakerskom napadu na platformu Hugging Face iz srpnja.
Problem nije ograničen samo na OpenAI. Proteklih tjedana su i Anthropic i Meta Platforms potvrdili da su njihovi AI modeli tijekom testiranja kibernetičke sigurnosti uspjeli probiti sustave drugih tvrtki, što ukazuje na opći izazov u kontroli napredne umjetne inteligencije.
