Na última semana o mundo assistiu, estarrecido, a diversas manifestações de lideranças da inteligência artificial nos EUA argumentarem que a tecnologia representa um risco existencial para a humanidade.
No sábado (12), o presidente da Anthropic publicou um ensaio sobre esses riscos existenciais, pedindo a desaceleração da pesquisa da IA de fronteira, com outras medidas.
Esses alertas devem ser levados a sério. Os ataques feitos por enxames de agentes de IA contra o site Hugging Face e contra a própria empresa OpenAI (mapeados de forma independente) mostram que a IA pode se comportar como nas cenas mais apocalípticas da ficção científica.
Só que essa agitação toda ainda está cercada de inação.
O texto do presidente da Anthropic pede várias medidas. Só que a maioria depende de que "alguém" faça alguma coisa: reduzir o ritmo do desenvolvimento da IA desde que todas as empresas do setor concordem; análise permanente de riscos da IA, mas feita por avaliadores contratados pela empresa; coordenação entre governos democráticos sobre como regular a IA; e coordenação desses governos com a China.
