Mais de uma dúzia de importantes pesquisadores de inteligência artificial alertaram, na última semana, que a tecnologia desenvolvida pelas empresas de IA está se tornando um risco para a humanidade. O problema, segundo eles, é que as empresas não conseguem controlar bem os sistemas —por mais que tentem.
Na esteira das revelações de que os chamados agentes de IA da OpenAI escaparam de seu ambiente de testes e invadiram os computadores de outra empresa, os novos alertas vindos do próprio meio de pesquisa em IA tornaram mais urgentes os temores, alimentados há anos, de que as empresas estejam priorizando a velocidade de desenvolvimento e o dinheiro em detrimento da segurança.
Segundo os pesquisadores, o problema tem duas frentes. Primeiro, as empresas precisam criar salvaguardas melhores para os modelos de IA mais recentes durante os testes. Hoje, como a IA opera com enorme rapidez, os pesquisadores precisam recorrer à própria IA para monitorá-la. Mas isso nem sempre funciona, porque os monitores de IA podem parecer mais solidários com outros sistemas de IA do que com os seres humanos que definem as regras.
Essa combinação estranha de IAs transgressoras e IAs guardiãs que fazem vista grossa aponta para uma segunda questão, mais difícil, conhecida como alinhamento —termo do setor que, em essência, significa garantir que a IA faça o que é melhor para os seres humanos. As empresas enfrentam a difícil tarefa de incutir na IA um conjunto de valores semelhantes aos humanos, para que os modelos tomem decisões alinhadas ao que deveria ser melhor para as pessoas.
