Um aspecto que orbitou o campo da inteligência artificial(IA) desde o boom do ChatGPT é a aura de "tecnologia mágica", algo que surgiu quase espontaneamente e que carrega promessas e preocupações tão grandiosas e inevitáveis quanto a ficção científica pode imaginar. Não é como a jornalista americana Karen Hao enxerga o campo. Para ela, trata-se de um projeto com traços de um império, que consome recursos globais de maneira avassaladora para favorecer uma minúscula elite do Vale do Silício, nos EUA. Em suas pesquisas, ela concluiu que a IA não é compatível com a democracia. E defendeu isso em um livro que chamou a atenção no ano passado. Ela é autora de "O Império da IA" (Editora Rocco, R$ 99,90) que conta em detalhes a história da companhia cofundada por seu atual CEO, Sam Altman. A obra ganhou recentemente uma versão em português. A visão dela vem de uma posição única: ex-editora de IA do MIT Technology Review e repórter do Wall Street Journal, Hao acompanhou de perto o surgimento e a ascensão da OpenAI, que, em poucos anos, deixou de ser um laboratório sem fins lucrativos para se tornar uma companhia que atualmente persegue um IPO de US$ 1 trilhão. Karen Hao explica como nada no mundo da IA é 'inevitável', e como, filosoficamente, a indústria dessa tecnologia está em campo oposto ao da participação democrática A obra mapeia todos os nomes, empresas, tecnologias, dilemas e problemas mais importantes da área, e serve como um guia para entender como uma tecnologia que parecia papo de filme se tornou um dos principais catalisadores de influência política, econômica, cultural e comportamental das últimas décadas. Hao está no Brasil, onde participa nesta terça (30), do evento que antecede o 21º Congresso Internacional de Jornalismo Investigativo da Associação Brasileira de Jornalismo Investigativo. A palestra acontece a partir das 16h no Centro Cultural Camargo Guarnieri, na Cidade Universitária da Universidade de São Paulo (USP), e é promovido pela Abraji, pela Editora Rocco e o pelo GEIA (Grupo de Pesquisa em IA e Culturas Digitais), da Escola de Comunicação e Artes, da USP. Jimmy Wales: 'As pessoas não são tão horríveis quanto parecem' nas redes, diz fundador da Wikipédia, que conta sua saga em livro Ontem, ela recebeu o GLOBO em um hotel na Zona Oeste de São Paulo e, além de falar do livro, discutiu alguns dos temas mais recentes do universo da IA. Entre eles está a legislação de data centers, a posição da OpenAI no mercado, o fortalecimento da Anthropic, a proibição do governo americano a modelos avançados, a encíclica papal, a ausência de diversidade nas pesquisas de IA e o papel de influência global de empresas do Vale do Silício. Leia a seguir os melhores momentos da conversa. Ao longo do livro, Sam Altman, e as pessoas ao redor dele, falam como se tudo sobre a IA fosse inevitável e a senhora rebate isso. Existe algo sobre a IA que seja realmente inevitável? Não acho que nada seja inevitável em geral, mas quando se trata de IA, uma das coisas que eu realmente tentei destacar no livro é o quanto cada decisão envolvida sobre ChatGPT foi baseada em escolhas completamente subjetivas. E é interessante quando você olha para o início da OpenAI. A abordagem que eles adotaram de escalar seus LLMs era algo visto como cientificamente anômalo na época. Eles adotaram uma abordagem de força bruta, intelectualmente barata, que não era o caminho predominante de outros pesquisadores na área. E foi em parte porque eles tinham uma quantidade extraordinária de dinheiro que conseguiram tornar a abordagem deles a abordagem dominante. Então, como se pode dizer que uma tecnologia que surgiu desse tipo de história seja de alguma forma inevitável? De que maneiras a IA prejudica a democracia? Eu chamo essas empresas, como a OpenAI, de impérios da IA por causa dos paralelos marcantes que elas têm com os impérios do passado e como acumulam uma quantidade extraordinária de poder econômico e político. Isso acontece por meio da desapropriação da maioria. Elas desapropriam as pessoas de seus dados, de suas terras — para hospedar esses data centers —, de recursos hídricos — para alimentar e resfriar esses data centers —, do trabalho das pessoas, de oportunidades econômicas futuras, de oportunidades educacionais. E é por isso que o império consegue obter uma quantidade extraordinária de valor tão rapidamente: ele o extrai e não o distribui proporcionalmente de volta. E a razão pela qual acho que isso ameaça a democracia é porque impérios e democracia são incompatíveis. O império se baseia na ideia de que existe uma hierarquia natural no mundo, de que existem grupos superiores e grupos inferiores, e as pessoas no topo do império merecem estar lá e merecem se apoderar de todos esses recursos por causa de algum direito divino ou ordem natural. Enquanto a democracia se baseia na premissa exatamente oposta. É a ideia de que somos todos iguais e todos merecemos participar coletivamente da autodeterminação do nosso futuro. E assim, apenas filosoficamente, há oposição completa entre a ideologia que guia o desenvolvimento da indústria de IA e a maneira como as sociedades democráticas se organizaram. Livro de Karen Hao conta os bastidores da fundação e ascensão da OpenAI — Foto: Editora Rocco/Divulgação O Brasil está trabalhando em uma legislação para atrair data centers. Portanto, ao oferecer energia renovável barata e incentivos fiscais, o país está se colocando como uma “colônia digital”, como você descreve no livro. O que o Brasil pode aprender com países como o Chile, que receberam e rejeitaram data centers? Uma coisa notável que vimos acontecer no último ano é o surgimento da resistência contra data centers em todo o mundo. Começou na América Latina, em lugares como o Chile, e se espalhou por EUA, Europa e Brasil. Esse tipo de organização de base está realmente começando a pressionar a indústria da IA a mudar sua abordagem. Por exemplo, a OpenAI cancelou o (gerador de vídeos de IA) Sora. Quando anunciaram esse produto, eles a enquadraram como o segundo lançamento mais importante desde o ChatGPT e, em poucos meses, tiveram que cancelar. E o motivo é a organização de base. Quando você olha para as três razões que foram relatadas para a OpenAI tomar essa decisão, a primeira foi que eles tinham um enorme gargalo no poder computacional. A segunda razão foi a estagnação da demanda dos consumidores. Portanto, trata-se de uma ação coletiva dos consumidores. E a terceira é que a OpenAI está tentando se preparar para o IPO e está enfrentando um cenário financeiro muito mais incerto. Cada vez mais, Wall Street tem dúvidas sobre se a indústria de IA pode, de fato, cumprir as promessas que fez, dado o enorme retrocesso político e social que está acontecendo. É disso que o Brasil pode tirar proveito: reconhecer que, quando há esse tipo de organização de base, esse tipo de resistência, seja contra a infraestrutura, seja contra a forma como eles pegam seus dados ou sua propriedade intelectual, ou sejam os danos psicológicos que causam nas crianças, isso tem um efeito na trajetória do desenvolvimento da IA. Hao acredita que organização de base é fundamental para combater a expansão de grandes empresas de IA — Foto: Maria Isabel Oliveira/ O Globo O governo dos EUA está deixando muito claro que determina quem tem acesso à tecnologia mais moderna, como no caso do Claude Fable. O que os países deveriam fazer para preservar a soberania e ainda acompanhar os avanços mais recentes? Há uma grande questão aqui sobre por que realmente queremos acompanhar as tecnologias mais recentes. Se essas tecnologias mais recentes são as mesmas que estão explorando e extraindo recursos de comunidades em todo o mundo, é algo bom acompanhar? Ou deveríamos, na verdade, reformular o problema sobre quais são as regras do jogo? Se fôssemos redefinir os objetivos, não apenas para buscar o que há de mais recente, mas para buscar os objetivos de cada comunidade — seja melhorando o custo de vida, melhorando a qualidade da educação e da saúde, melhorando suas oportunidades econômicas —, você rapidamente perceberá que não precisamos de nenhuma das tecnologias de IA que o Vale do Silício está tentando empurrar goela abaixo das pessoas. Há um conjunto completamente diferente de tecnologias de IA que deveríamos, de fato, estar desenvolvendo. E, nesse caso, há muitas maneiras diferentes de desenvolver essas tecnologias sem se envolver nas práticas exploratórias do Vale do Silício. E isso ajudaria a comunidade a continuar progredindo no verdadeiro sentido da palavra, não apenas o progresso tecnológico pelo progresso tecnológico, mas o progresso humano, social e econômico. Atualmente, a OpenAI está espremida entre a Anthropic, que tem a plataforma mais popular no momento, e a SpaceX, que potencialmente tem a capacidade de construir sua própria infraestrutura. Essas são duas coisas que não vejo acontecendo com a OpenAI. O império vai cair? Se definirmos o império da IA apenas como a OpenAI, então sim. Há muita pressão agora sobre a OpenAI, e não parece que ela esteja em uma posição muito forte. Mas acho que a pergunta mais importante é: os impérios, no plural, da IA vão cair? E também estou muito esperançosa nesse sentido, porque defino OpenAI, Anthropic, SpaceX, Amazon, Microsoft, Google e Meta como impérios da IA. Fazer com que a OpenAI deixe de ser um império, mas que a Anthropic ocupe seu lugar, não resolveria de fato o problema central do que vejo na natureza destrutiva e exploratória do desenvolvimento da IA. O que espero que aconteça não é que continuemos apenas trocando quem é o império dominante, mas sim que, por meio de toda essa organização de base, por meio dessa resistência, consigamos uma responsabilidade real de todos os impérios — que todas essas empresas acabem deixando de ser impérios e se tornem apenas empresas que oferecem um valor equivalente pelo que recebem em troca. Meu objetivo não é fazer com que todas essas empresas deixem de existir. É apenas trazê-las de volta ao papel de empresas que não sejam extremamente exploratórias e que não degradem o nosso meio ambiente. Podemos ter empresas que apenas forneçam produtos e serviços de boa qualidade sem também causar uma quantidade extraordinária de danos. Qual é a sua opinião sobre a postura de Dario Amodei de persistentemente alertar para os problemas da IA ao mesmo tempo em que a Anthropic continua lançando novos produtos? Eu não acho que o Dario tenha dito alguma vez que deveríamos pausar a IA. Ele é de um grupo específico que acredita que existem riscos catastróficos potenciais, até mesmo existenciais, que podem surgir com o avanço das tecnologias de IA, se esse avanço for feito pelas pessoas erradas. E ele define “pessoas erradas” como qualquer um que não seja ele. Então, ele vem dessa ideologia de que se ele, Dario Amodei, e a sua empresa avançarem mais rápido do que qualquer outra pessoa, então os padrões que utilizam para avançar estes sistemas terão uma espécie de atração gravitacional sobre todo o desenvolvimento da IA, estabelecerão os padrões e, em seguida, serão capazes de elevar a qualidade e a responsabilidade do desenvolvimento da IA em todo o mundo. Essa abordagem é incrivelmente circular e desconcertante, porque quando você olha para o que a Anthropic está fazendo, é praticamente a mesma coisa que a OpenAI. Dario Amodei e os executivos da Anthropic deixaram a OpenAI, copiaram e colaram, e apenas se repaginaram como os "mocinhos", sem realmente atingir a verdadeira raiz dos problemas. Tanto a OpenAI quanto a Anthropic abordam a IA por meio da escala, e assim você ainda se depara com os mesmos problemas de danos à privacidade de dados, degradação da propriedade intelectual, danos ambientais e danos à saúde pública. Portanto, eles estão apenas fazendo pequenos ajustes e dizendo "é por isso que somos moralmente superiores", quando, na verdade, são apenas outro império. O que a senhora acha do fato de o Papa se apoiar em alguém da Anthropic para ajudar a apresentar sua encíclica, Magnifica Humanitas? Leão XIV alertou sobre a ameaça que a IA representa para a dignidade humana, para a justiça e para o trabalho, mas tinha alguém de uma empresa com ele. Esse foi um momento muito confuso para mim, porque achei a encíclica um documento incrivelmente profundo e muito bem escrito. Ela fala sobre como a IA é uma nova fase do colonialismo e como está perpetuando a exploração do trabalho a ponto de potencialmente dar origem a novas formas de escravidão, e fala sobre as formas como a indústria da IA está avançando com base em uma ideologia que supõe que as máquinas serão sempre melhores do que os humanos e que, de alguma forma, aperfeiçoarão as falhas da espécie humana. E uma das minhas falas favoritas diz: "nós florescemos dentro de nossas limitações, não apesar de nossas limitações". Mas aí, você tem esse esse executivo da Anthropic, Chris Olah, que está lado a lado com o Papa. Inicialmente, fiquei bastante desapontada e pensei: “ok, até o Vaticano, a Igreja Católica, de certa forma se rendeu a essas empresas”. Mas quando o Olah falou, ele enquadrou o documento como uma crítica. Ele não disse "apoiamos totalmente este documento". Ele, na verdade, disse: "Precisamos de críticos como o Papa para responsabilizar empresas como a Anthropic". Então, ele tratou como uma dinâmica de oposição. Por um lado, a Anthropic está tentando trazer o Vaticano para mais perto de sua esfera de poder e influência, mas, ao mesmo tempo, o Vaticano está tentando fazer o mesmo, colocando a indústria da IA na linha. Não está muito claro quem realmente ganhou mais com esse arranjo. Foi a indústria da IA ou foi o Papa? No final, talvez o Papa tenha conseguido dar a última palavra. A inteligência artificial geral (AGI) é uma mentira? Por que não se fala mais disso com a mesma intensidade? É um mito, no sentido de que é uma história incrivelmente convincente na qual muitas pessoas acreditam, e que também serve a uma enorme utilidade política para essas empresas justificarem toda a destruição que promovem. Se elas conseguirem fazer com que todos acreditem que existe, de alguma forma, uma AGI, então elas podem simplesmente continuar fazendo o que quiserem. Mas a realidade bateu à porta e os mitos só funcionam em vácuos de informação. Quanto mais a IA é implantada na sociedade, mais as comunidades sofrem com o impacto do desenvolvimento dessa tecnologia, mais esse vácuo de informação é preenchido com fatos reais sobre o que essa tecnologia realmente representa, e mais esse mito começa a desmoronar. A senhora argumenta que o campo científico da IA perdeu transparência e diversidade de pesquisa com a ascensão da IA generativa. Como é possível recuperar isso? A razão pela qual tanta diversidade entrou em colapso é que a indústria de IA se tornou a financiadora dominante, mesmo fora das empresas. Eles são os financiadores dominantes dos laboratórios acadêmicos, enquanto o financiamento estatal representa uma fração menor do financiamento. É preciso algumas coisas para mudar isso. Uma delas são pessoas que têm visões alternativas sobre desenvolvimento de IA, que não aceitem financiamento dessas empresas. E também serão necessárias novas fontes de recursos, que podem unir financiamento estatal, financiamento de fundações e, talvez, até financiamento coletivo. Será preciso também uma constelação mais rica de startups. Isso vai levar tempo. Replantar a diversidade que foi destruída vai exigir muito esforço cuidadoso e também muito sacrifício, porque há pesquisadores de IA e outros talentos que terão que escolher ativamente, nos primeiros anos de carreira, abrir mão do pacote de remuneração de US$ 1 milhão para investir em uma abordagem diferente de desenvolvimento de IA. Há alguma área específica da IA na qual a senhora gostaria de ver mais pesquisas que vão além do 'eep learning/machine learning e da IA generativa? Antes de o deep learning se tornar o foco principal de praticamente todo o desenvolvimento de IA, havia um campo chamado IA neurossimbólica. Esse grupo codificava conhecimento e bancos de dados em sistemas de computador para que se pudesse ter um sistema mais determinístico, que recuperasse esse conhecimento e raciocinasse por meio do banco de dados para chegar a certos tipos de respostas. Essa abordagem tinha seus pontos fracos e acabou ficando de lado porque era muito lenta e cara. Mas a corrente neurossimbólica funde os pontos fortes do deep learning com os pontos fortes da abordagem simbólica. Ela permite que um sistema aprenda rapidamente a partir de dados, como se faz com o deep learning, mas também defina certas regras básicas que não precisam ser aprendidas. Nós já sabemos que 1 mais 1 é igual a 2, então não precisamos alimentar o sistema com uma quantidade enorme de dados mostrando isso. Essa é parte da razão pela qual esses sistemas de deep learning são tão ineficientes. Eles meio que reinventam a roda toda a vez. Então, me interessa ver mais sobre IA neurossimbólica. Mas, dentro do deep learning, havia outras vertentes interessantes para tornar os sistemas mais eficientes, consumindo menos dados e poder computacional. Então, acho que há bastante pesquisa que pode ser feita tanto dentro quanto fora do paradigma atual para apenas explorar que tipos de novas técnicas, novas metodologias podemos usar para obter as capacidades que desejaríamos desses sistemas sem uma cadeia extrativista. E a última coisa que eu acrescentaria é que não se trata apenas de como conseguimos sistemas melhores, mas também do que estamos definindo como o objetivo final. A indústria já há algum tempo define isso como replicar a inteligência humana. Eu não acho que esse seja o objetivo certo. O objetivo do desenvolvimento tecnológico é complementar o que não podemos fazer, não substituir o que podemos fazer. Quando tivemos os primeiros computadores e calculadoras, parte da razão pela qual isso foi ótimo é porque os humanos não conseguem calcular números tão rápido quanto os computadores. Então, transferimos esse trabalho para o computador, mas há tantas outras coisas que os humanos podem fazer que jamais seríamos capazes de transferir para uma máquina. Por que não focar apenas no desenvolvimento de sistemas de IA voltados para as coisas que nunca conseguiríamos fazer, em vez de tentar nos superar em todas as formas? A senhora usa ferramentas de IA? Quais e para quê? Eu não uso ferramentas comerciais de IA generativa. Não uso o ChatGPT, o Claude, o Gemini, nenhum deles, e há três razões. Primeiro, porque eu investigo essas empresas e, portanto, de uma perspectiva ética, não quero participar da perpetuação das cadeias prejudiciais em que elas se envolvem. Segundo, por motivos de privacidade. Eu investigo essas empresas, então não quero dar todos os meus dados para elas. E terceiro, porque acho que, em última análise, os pontos fortes do meu trabalho são simplesmente incompatíveis com o que eu obteria de uma ferramenta de IA generativa. Mas eu uso ferramentas de IA especializadas. Por exemplo, uma das coisas que eu queria fazer com o meu livro era detalhar como a OpenAI passou a estar mais capitalizada depois que passou de uma organização sem fins lucrativos para um empreendimento financiado pela Microsoft, e notei que eles tiveram uma enorme melhoria em seu mobiliário. As cadeiras do escritório que visitei em comparação com as cadeiras que tinham no escritório seguinte eram simplesmente muito diferentes. Então, tirei fotos de cada uma das cadeiras e passei por uma pesquisa de imagem do Google, que é uma ferramenta de IA especializada que não está tentando gerar nada, não está consumindo todos esses recursos para realizar essa tarefa. E descobri que, na verdade, as cadeiras do escritório antigo custavam US$ 2 mil cada, e as cadeiras do escritório mais novo eram, na verdade, de um designer brasileiro famoso, custando US$ 10 mil a cadeira. Então adicionei isso ao livro e senti que isso ajuda a ilustrar esse ponto.