Em maio, conheci um ex-engenheiro de software do Google chamado Nate Soares. Ele estava ministrando uma palestra sobre um livro que escreveu em coautoria, chamado "If Anyone Builds It, Everyone Dies" (Se alguém construir isso, todos morrerão, em tradução livre). O "isso" é a superinteligência artificial: uma IA que supera o ser humano em todos os aspectos.
Como você deve ter adivinhado, Soares está preocupado com que a corrida pela IA representa uma ameaça à sobrevivência da humanidade. E comentou comigo que está perplexo por ver poucos jornalistas abordando esse tema.
Nossa conversa ficou na minha cabeça, mas também não escrevi sobre o assunto depois. Outras questões pareciam mais urgentes: o risco de que a IA possa causar desemprego em massa ou as mudanças políticas em torno dos centros de dados. Na melhor das hipóteses, escrever sobre a IA como uma ameaça existencial parecia prematuro e, na pior, soava como alarmismo.
Mas, nas últimas semanas, houve uma série de incidentes em que modelos de IA saíram do controle de maneiras que não teriam sido possíveis há apenas seis meses. Acabei pensando com mais frequência no argumento de Soares. Por isso, hoje finalmente estou escrevendo sobre como devemos nos preocupar com os perigos da IA.
