O autor de um livro sobre como a inteligência artificial deve destruir o mundo se o desenvolvimento tecnológico não parar o quanto antes não considera perigosa a recém-lançada IA da startup Anthropic chamada Mythos —ao menos se ela continuar como está.
"O Mythos deveria servir de alerta", diz Nate Soares ao tratar do modelo de linguagem que assustou bancos e governos pela capacidade de encontrar falhas em softwares que passaram despercebidas por décadas.
Coautor de "Se Alguém Criar, Todos Morrem: Por Que a IA Super-humana Pode nos Matar" e presidente do Instituto de Pesquisa sobre Inteligência de Máquina (Miri, na sigla em inglês), Soares afirma que as IAs podem se tornar muito perigosas mesmo que continuem burras na perspectiva humana, contanto que desenvolvam habilidades sobre-humanas de pesquisa.
"Ainda não é o caso do Mythos, mas uma IA supercientista poderia desenvolver uma IA mais inteligente, que produz uma IA mais inteligente e as coisas sairiam de controle", disse.
Apesar do sobrenome, Soares é um californiano, com sotaque e todas as idiossincrasias do Vale do Silício, e conversou com a Folha por videoconferência. Embora tenha feito dos riscos da IA seu ganha-pão, ele recorda passagem pelo time de engenharia da Microsoft e da crença no potencial da tecnologia de resolver grande parte dos problemas humanos.
