DOK BIOLOZI s opasnim virusima eksperimentiraju prema strogim pravilima kako bi spriječili njihovo širenje izvan laboratorija, za umjetnu inteligenciju takvi protokoli ne postoje. Rizik, međutim, nije samo teoretski.
Jedan testni model tvrtke OpenAI ovog je tjedna probio svoje izolirano okruženje i upao na servere druge tvrtke dok je radio internu provjeru kibernetičke sigurnosti. Stručnjaci upozoravaju da će se takvi incidenti ponavljati ako AI tvrtke ne pooštre sigurnosne mjere pri testiranju, što uključuje i obuku modela o etičkom rješavanju zadataka, piše CNN.
"Ovo shvaćamo vrlo ozbiljno"
Predsjednik OpenAI-ja Greg Brockman jučer je na konferenciji za novinare rekao da tvrtka provodi "detaljnu istragu" kako bi "u potpunosti razumjela što se dogodilo". "Ovo shvaćamo vrlo ozbiljno. Analiziramo svaki dio našeg procesa kako bismo osmislili ispravne načine reagiranja", poručio je Brockman.
Proboj iz izoliranog okruženja
