No último mês, a OpenAI, dona do ChatGPT, soltou nota informativa em seu blog sobre ciberataques realizados de forma autônoma por seus modelos de inteligência artificial a infraestruturas digitais do site Hugging Face, site utilizado por programadores de aplicativos com IA. Desde então, a empresa reforça o ineditismo de uma “exploração de brecha” da máquina para retomar o acesso à internet em ambiente controlado, mas afirmou na última terça-feira 28 que, a partir deste, surgiram vários outros incidentes parecidos realizados por modelos de IA recentes da companhia.
A OpenAI não foi a única empresa do ramo a relatar que seus produtos podem ser perigosos. A Anthropic, responsável pelo modelo Claude, em declaração recente em seu blog defendeu “desaceleração” no desenvolvimento da tecnologia de inteligência artificial, já que podem “aumentar o risco de os humanos perderem o controle sobre os sistemas de IA”, já que muito de seu desenvolvimento conta atualmente com “melhora recursiva de si mesma”, contribuindo com a ideia de que um sistema de IA capaz de ensinar a si próprio poderia se desenvolver rápido demais e impactar as decisões geopolíticas.
Sérgio Amadeu, sociólogo defensor da soberania digital brasileira, entende que existe risco quando falamos sobre modelos de inteligência artificial generativa, sobretudo à privacidade do usuário, mas critica o misticismo pregado pelas big techs ao anunciar que seus modelos realizam ataques à segurança de forma autônoma: “[O incidente do Hugging Face] gerou uma publicidade espontânea gigantesca tanto para a OpenAI que, olha, tem um sistema altamente capaz, quanto para a Hugging Face, que muita gente não sabia o que era”, explica Amadeu a CartaCapital, “intencionalmente ou não, uma verdadeira operação de marketing”, analisa.
