„În 6-12 luni o aglomerare de agenți AI ar putea fi capabilă să preia controlul întregului internet”, a scris Dario Amodei, CEO al companiei Antrophic, într-o postare pe blogul său.
Dario Amodei a pornit de la incidentul fără precedent petrecut în iulie la OpenAI, compania rivală care dezvoltă ChatGPT.
Atunci, un agent Open AI a evadat din mediul de testare, a compromis platforma startup-ului AI Hugging Face și apoi și-a ascuns urmele.
„Folosită cu grijă, Inteligența Artificială poate fi cea mai recentă minune tehnologică dintre cele care asigurat progresul omenirii. Dar, precum majoritatea tehnologiilor de dinainte, AI aduce riscuri. Iar pentru că este atât de puternică, riscurile sunt majore”, scrie, într-o postare pe blogul său, Dario Amodei, CEO al Antrophic, compania care dezvoltă asistentul AI Claude.
Dario Amodei, spune că s-a convins, în ultimele luni, că dezvoltarea AI trebuie să încetinească, el invocând agenții AI răuvoitori care au atacat compania Hugging Face, scrie Business Insider.
