Analistas compartilham suas opiniões sobre as declarações da Anthropic e apontam os verdadeiros desafios que a IA enfrenta atualmente 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Executivos começam a se preocupar com o impacto que a tecnologia está tendo sobre os trabalhadores — Foto: Qilai Shen/Bloomberg A última quarta-feira não passou despercebida para muita gente e será lembrada como um dos dias em que foi feita uma das declarações mais polêmicas da história da IA. Evan Hubinger, pesquisador especializado em alinhamento na Anthropic — empresa responsável pelo Claude, um dos modelos de IA mais potentes —, afirmou em sua conta no X: "Nós realmente acreditamos, sinceramente, que a IA poderia matar todos os seres humanos. Pessoalmente, acho que há mais de 10% de chance de isso acontecer na próxima década". Embora as redes sociais tenham repercutido intensamente as declarações e os alertas sobre os riscos existenciais da IA tenham voltado a ganhar força, nem todos os especialistas concordam que esse seja o desafio mais urgente. Para muitos, os problemas mais relevantes já estão presentes e afetam a maneira como as pessoas trabalham, se informam e tomam decisões. Não é a primeira vez que uma referência do mundo da IA fala publicamente sobre o futuro da tecnologia em tom apocalíptico. Em maio de 2023, Geoffrey Hinton, pioneiro da inteligência artificial e ex-funcionário do Google, escreveu no X: "Saí para poder falar sobre os perigos da IA sem considerar como isso afeta o Google". Já o ex-presidente da Microsoft Bill Gates afirmou recentemente, em entrevista ao The New York Times: "Em particular, as pessoas que entendem o quanto essa tecnologia é boa e o quanto ela está melhorando estão muito preocupadas". Especialistas consultados pelo La Nación explicam que é impossível comprovar empiricamente se as afirmações de funcionários da Anthropic estão corretas, já que se trata de projeções sobre sistemas que ainda não existem. Ao mesmo tempo, não há regulamentações ou padrões globais que obriguem essas empresas a tornar suas informações transparentes. Com isso, é difícil saber como essas companhias desenvolvem, testam, avaliam e implementam seus sistemas, quais riscos detectam, quais incidentes registram e que decisões tomam antes de colocá-los no mercado. Ainda assim, os especialistas consideram possível exigir mais transparência, regulamentação e limites para a atuação dessas empresas. — A inovação em IA exige uma lógica de responsabilidade ativa: testes rigorosos, validação, monitoramento permanente, transparência, mecanismos de correção e prestação de contas, além de nós, humanos, assumirmos a responsabilidade pelo que fazemos com ela — explicou Juan Pablo Cosentino, professor associado e diretor acadêmico da área de Operações e Tecnologia da IAE Business School. Cosentino expressou preocupação com as declarações feitas pela Anthropic, originadas dentro da própria empresa. Nesse sentido, ele explicou que há uma competição acirrada por modelos mais poderosos, dados, poder computacional, talentos e participação de mercado. — Essa dinâmica pode incentivar lançamentos prematuros, antes da conclusão de processos suficientes de validação e avaliação de riscos — detalhou Cosentino. Joan Cwaik, autor e divulgador e professor da escola de negócios da Universidade de San Andrés, mostrou-se mais cético em relação às declarações da Anthropic. Segundo ele, para que o cenário apresentado pelo pesquisador se concretize, seria necessário encadear várias hipóteses: — Precisamos construir um sistema muito superior a nós, que esse sistema acelere o desenvolvimento do seguinte, que a aceleração seja muito rápida, que ele ganhe autonomia e que não possamos desligá-lo. Os 10% são o resultado da multiplicação de suposições. É como calcular a taxa de acidentes de uma estrada que ainda não foi construída. Na mesma linha, Cwaik lembrou que a previsão foi feita pelo chefe de alinhamento de uma empresa que apresentou seu pedido de abertura de capital em junho e pretende estrear na Bolsa em outubro, com uma avaliação próxima de US$ 1 trilhão. — O fim do mundo é o pitch de investimento mais eficiente que existe. Se você estiver certo, é o único que pode nos salvar — acrescentou Cwaik. Apesar das diferenças em relação à probabilidade de um cenário extremo, os especialistas consultados concordaram em um ponto: a necessidade de mecanismos de supervisão e prestação de contas. Fernando Troilo, diretor da pós-graduação em Recursos Humanos da UCEMA e membro da Associação de Recursos Humanos da Argentina (ADRHA), afirmou que, independentemente da precisão das previsões: — Considero que elas têm um valor muito positivo, porque nos lembram da importância crucial de cuidar da humanidade e de implementar mecanismos de governança da IA que tornem possível praticar a ética em sua adoção e uso. Segundo ele, isso significa, sobretudo, manter sempre uma supervisão humana efetiva. Para isso, seriam necessárias regulamentações, auditorias independentes e alinhamento internacional, com regras acordadas entre países e empresas. — Uma tecnologia com potencial de impacto global não pode depender exclusivamente da boa vontade das empresas que a desenvolvem. Precisamos de pesquisa em segurança, auditorias independentes, padrões, educação, cooperação internacional e mecanismos de governança capazes de evoluir em uma velocidade muito mais próxima à da própria tecnologia — concordou Belén Ortega, empresária e especialista em inteligência artificial. Ela acrescentou: — Não acredito que a resposta seja interromper o desenvolvimento da inteligência artificial, mas também não podemos acelerar sem limites sob a premissa de que a inovação sempre encontrará uma solução. (...) Enquanto discutimos se uma IA poderia representar um risco existencial daqui a dez anos, temos desafios muito mais próximos diante de nós — afirmou, preocupada, Ortega. 'O problema não são os 10%', diz autora A empreendedora, autora do livro "HumanIA: La IA tiene alma y es el ser humano", explicou que: — O problema não são os 10%. Primeiro, porque, segundo ela, esse percentual não resulta de um estudo científico que tenha calculado matematicamente a probabilidade de extinção. Além disso, a declaração coloca em pauta um debate que não se concentra nas ferramentas usadas atualmente por milhões de pessoas e nos problemas que elas já provocam, mas na possibilidade de que, no futuro, existam sistemas muito mais capazes e autônomos. De fato, a especialista destacou que hoje já convivemos com desinformação sintética, fraudes cada vez mais sofisticadas, novas ameaças à cibersegurança, transformação acelerada do mercado de trabalho e crescente concentração de poder tecnológico. — E existe ainda outro risco muito menos espetacular, mas profundamente humano: a delegação do pensamento — acrescentou Ortega. Cwaik concordou com a especialista e explicou que o risco já em curso tem outra forma, que ele chama de “sedentarismo cognitivo”. — Milhões de pessoas delegam todos os dias mais uma decisão: o texto, o resumo, a busca, a dúvida. E o músculo que você deixa de usar atrofia — refletiu Cwaik. — Minha preocupação está muito mais perto do que 2036. Fico menos preocupado com a possibilidade de a IA nos matar em dez anos do que com o fato de que, em dez meses, talvez já não saibamos pensar sem ela. Nenhuma superinteligência precisa assumir o controle se nós mesmos o entregarmos por comodidade.