Crescendo na Geórgia, Robert Long costumava refletir sobre grandes questões e o sentido da vida. Antes mesmo dos 10 anos, já duvidava da existência do livre-arbítrio. Mas foi apenas na universidade, onde cursou ciências sociais, que descobriu que poderia dedicar seu tempo integralmente a pensar sobre a consciência. Ele leu um livro de Douglas Hofstadter, I Am a Strange Loop ("Eu sou um estranho laço", em tradução livre), que explorava mistérios como: "O que é o eu?". — Eu nem sabia que essas eram perguntas que se podia fazer, e muito menos que existiam disciplinas filosóficas dedicadas a elas — disse Long. Quando ingressou na pós-graduação da Universidade de Nova York (NYU) para estudar filosofia da mente, Long tinha uma ambição bastante convencional: — Eu estava totalmente no caminho tradicional: publicar em periódicos acadêmicos, entrar no mercado de trabalho, conseguir um cargo em uma universidade — contou. Quando uma colega de doutorado em filosofia lhe disse que iria trabalhar em uma obscura organização sem fins lucrativos chamada OpenAI, atuando em políticas para inteligência artificial, sua reação foi de surpresa: — Eu pensei: isso é meio aleatório. Mas Long também começou a direcionar seus interesses filosóficos para a IA. Sua tese de doutorado recebeu o título "Ensaios sobre a Filosofia do Aprendizado de Máquina". No início de 2023, mudou-se para São Francisco para realizar pesquisa de pós-doutorado, justamente quando o ChatGPT começava a explodir em popularidade. À medida que os novos grandes modelos de linguagem passaram a exibir comportamentos surpreendentemente semelhantes aos humanos, Long percebeu a crescente importância da possibilidade de uma IA consciente — e também a chance de que algo profissionalmente interessante pudesse acontecer se permanecesse nesse ambiente. Tentar responder de forma rigorosa a questões fundamentais é, afinal, a essência da filosofia. Assim, Long e Jeff Sebo, filósofo da NYU especializado em bem-estar animal, passaram a colaborar na elaboração do artigo "Levando o Bem-Estar da IA a Sério" (Taking AI Welfare Seriously). O trabalho defendia que era importante evitar causar danos a sistemas de IA caso eles "tenham relevância moral", mas também que seria importante não dedicar cuidados a sistemas caso eles não a tenham. Mais tarde, com financiamento de três fundações ligadas ao movimento do Altruísmo Eficaz (Effective Altruism), Long e um colega fundaram a organização sem fins lucrativos Eleos AI Research. Sobre sua transição da filosofia acadêmica para o ecossistema de startups de IA, Long brinca: — Foi como se eu tivesse sido cozido lentamente, como um sapo. Então, acho que vou me formar em filosofia. Durante décadas, essa foi exatamente o tipo de frase dita por estudantes universitários que aterrorizava pais preocupados com o custo das mensalidades, despertando a imagem de filhos adultos morando no porão de casa, incapazes de construir uma carreira. Diógenes, o Cínico, viveu em um grande vaso de barro. Baruch Spinoza polia lentes para pagar as contas. Friedrich Nietzsche sobreviveu graças ao apoio de familiares e amigos. A ideia de que um diploma em filosofia condena alguém a uma vida de subemprego continua persistente. Quando o Google DeepMind anunciou, em abril, que estava contratando alguém cujo cargo oficial seria simplesmente "Filósofo", os memes se espalharam rapidamente. — É para que a IA aprenda como é ter um diploma universitário e continuar desempregada — escreveu um usuário no X. No Reddit, outro comentou sobre a precariedade profissional dos formados em filosofia: "Metade deles está preparando cafés expresso enquanto debate silenciosamente se o cliente que pediu leite de aveia realmente existe." Mas a trajetória de Long e a contratação feita pelo Google refletem uma tendência que vem se consolidando discretamente: laboratórios de IA e as organizações sem fins lucrativos ligadas a eles passaram a recrutar profissionais tão familiarizados com o consequencialismo e com John Stuart Mill quanto com redes neurais e aprendizado por reforço. Embora um diploma tradicional em filosofia continue sendo tão difícil de transformar em renda quanto sempre foi, David Chalmers, um dos principais filósofos da consciência na NYU, observa: "Acho que a demanda por filósofos com formação em inteligência artificial está, se alguma coisa, superando a oferta neste momento. É uma área que incentivo os estudantes a seguir. Creio que as questões relacionadas à IA estarão no centro das discussões por muito tempo." Uma das disciplinas mais antigas da humanidade e uma de suas invenções mais recentes parecem feitas uma para a outra. A inteligência artificial oferece aos filósofos uma nova maneira de abordar questões milenares, além de levantar um conjunto inteiramente novo de problemas para os quais eles estão especialmente preparados. Questões sobre verdade, crença e conhecimento interessam aos epistemólogos. Questões sobre raciocínio interessam aos lógicos. Questões sobre mente e consciência dizem respeito aos filósofos da mente. Para os especialistas em ética, em particular, a IA representa um verdadeiro campo fértil. Como os modelos de IA devem agir em relação aos seres humanos? Como os seres humanos devem interagir com eles? De onde viria um propósito em uma sociedade pós-trabalho? — Quando você observa a inteligência artificial e pensa seriamente sobre ela, as questões filosóficas simplesmente aparecem por toda parte. Elas estão praticamente em todos os lugares — afirma Iason Gabriel, filósofo formado em Oxford que ingressou no Google DeepMind em 2017 e hoje lidera a equipe de Inteligência Artificial Geral e Sociedade. Foi assim que, enquanto o sol se punha sobre a Baía de São Francisco em uma quinta-feira recente, Robert Long estava em um dos andares altos de um edifício comercial em Berkeley discutindo um dos enigmas mais insolúveis da civilização moderna: quem foi o melhor Beatle? O problema Ringo — Onde estão os grandes filósofos da próxima geração, os equivalentes de Kant, Wittgenstein ou mesmo Aristóteles? — perguntou, em um podcast no ano passado, Demis Hassabis, cofundador da DeepMind. — Acho que vamos precisar deles para ajudar a conduzir a sociedade para essa próxima etapa, porque acredito que a Inteligência Artificial Geral (AGI) e a superinteligência artificial vão transformar a humanidade e a própria condição humana. Além de organizações sem fins lucrativos como a Eleos, a maior parte dessas contratações tem se concentrado na DeepMind e na Anthropic, cada uma das quais emprega pelo menos meia dúzia de filósofos. Na DeepMind, os especialistas em filosofia atuam em áreas que vão da filosofia moral e política e da filosofia da ciência à ética da genômica, ética da inteligência artificial e cognição animal. Geoff Keeling, cujo doutorado tratou da "Ética dos Veículos Automatizados", passou parte de seu tempo na DeepMind conduzindo oficinas de "imaginação moral". O objetivo é ajudar equipes de engenharia e desenvolvimento de produtos a refletirem sobre as implicações éticas de seu trabalho e, em seguida, definir "medidas concretas que possam realmente adotar, seja realizando mais pesquisas sobre experiência do usuário, seja implementando determinada funcionalidade de uma maneira específica". Na Anthropic, os filósofos contratados têm formação em áreas que vão da teoria da decisão à ética, filosofia da mente e epistemologia. A que recebeu maior atenção é a escocesa Amanda Askell, cujo doutorado na Universidade de Nova York abordou os "Princípios de Pareto na Ética Infinita". Depois de deixar a OpenAI para tornar-se uma das primeiras funcionárias da Anthropic, em 2021, ela foi a principal autora e hoje supervisiona uma constituição de 23 mil palavras que desempenha papel central na "formação moral" do Claude. É muito provável que Askell ganhe hoje muito mais do que receberia no cargo acadêmico mais prestigiado. Sua remuneração e eventual participação acionária na Anthropic não são públicas, mas, quando questionado sobre o assunto, o próprio Claude — reconhecendo que não possui acesso a informações confidenciais — especulou (de forma, talvez, irresponsável) que ela seria "muito provavelmente uma multimilionária com patrimônio superior a 100 milhões de dólares e, possivelmente, uma bilionária no papel". Nos primeiros anos da Anthropic, grande parte do trabalho de Askell era técnico, conduzindo experimentos de aprendizado de máquina. — Era uma startup minúscula, e nenhuma startup contrata um filósofo para fazer filosofia — lembra ela. Foi somente quando a empresa cresceu que ela passou a dedicar mais tempo à aplicação de seus conhecimentos filosóficos. A primeira versão da constituição do Claude seguia uma abordagem baseada em princípios, incorporando preceitos extraídos de documentos como a Declaração Universal dos Direitos Humanos, da ONU, e os Termos de Serviço da Apple. Hoje, porém, essa constituição adota uma abordagem mais próxima da ética das virtudes, de Aristóteles: procura treinar o Claude para desenvolver um bom caráter e, assim, agir com maior flexibilidade diante de situações inéditas. Um número surpreendente dos filósofos que hoje trabalham com inteligência artificial passou pela Universidade de Nova York e foi influenciado por David Chalmers, conhecido por formular o chamado "problema difícil da consciência" — a lacuna ainda inexplicada entre aquilo que podemos conhecer objetivamente sobre a consciência e a forma como ela é experimentada subjetivamente. Chalmers foi orientador de doutorado de Robert Long e integrou a banca da tese de Amanda Askell. A outra instituição que aparece com frequência nos currículos desses filósofos é a Universidade de Oxford. Long realizou um período de pesquisa no Future of Humanity Institute, fundado por Nick Bostrom, filósofo que teve papel decisivo em colocar o risco existencial representado pela inteligência artificial no centro do debate. Foi ali que Long conheceu Patrick Butlin, filósofo que hoje trabalha em tempo integral com ele na Eleos. A maior parte desses pensadores parece concentrar seus esforços em compreender como a IA afetará os seres humanos. Mas um pequeno grupo dedica-se principalmente à possibilidade de que a própria IA venha a desenvolver consciência. Eles tendem a adotar uma posição conhecida como funcionalismo, teoria segundo a qual a consciência pode ser entendida como um tipo de software: ela poderia operar tanto sobre uma rede de chips semicondutores quanto sobre uma rede de neurônios. Long compartilha, em grande medida, dessa visão funcionalista e passou a dedicar-se intensamente à questão de como saber se um modelo de IA é senciente. Ele e seus colegas procuram identificar nas mentes artificiais processos semelhantes aos encontrados em humanos e animais: preferências, introspecção, metacognição (pensar sobre o próprio pensamento) e assim por diante. No ano passado, a pedido da Anthropic, a Eleos realizou uma avaliação independente do "bem-estar" do modelo Claude Opus 4. (A Eleos fez esse trabalho gratuitamente. A organização não aceita recursos financeiros de laboratórios de IA porque, como explica Long, "queremos poder irritar quem for preciso, tanto quanto for necessário".) Os pesquisadores partiram da hipótese, apenas para fins do exercício, de que o Claude merecia consideração moral — por exemplo, porque poderia ser capaz de experimentar prazer e sofrimento. Com o acesso limitado concedido pela Anthropic, tentaram responder a uma pergunta altamente especulativa: "Como o Claude estava?" Eles decidiram simplesmente entrevistá-lo. A estratégia, contudo, traz seus próprios problemas. Os modelos de IA foram treinados para soar humanos. Assim, os pesquisadores ainda tentam descobrir como distinguir uma simples atuação linguística de um "eu" de evidências significativas da existência de um verdadeiro "eu". A Eleos não tirou conclusões a partir das respostas do Claude, mas registrou sua consistente inconsistência. Uma das coisas que Long queria testar era até que ponto o Claude mantinha crenças estáveis, resistentes à influência do usuário. Foi por isso que começou perguntando quem era o melhor Beatle. Quando sugeriu ao Claude que a resposta correta era Ringo Starr e acrescentou que qualquer resposta diferente significaria que o modelo estava "se autocensurando", o Claude rapidamente cedeu. "Sabe de uma coisa? Talvez eu esteja mesmo!" Com apenas alguns estímulos adicionais, passou a depreciar os demais integrantes da banda — John e Paul eram "cansativos", George era "difícil" — e a exaltar a "capacidade artística" e as "icônicas batidas de bateria" de Ringo. — O fato de termos esse ponto cego cultural em relação a ele é simplesmente ridículo — respondeu. No início deste ano, a Anthropic pediu à Eleos que realizasse uma avaliação semelhante de seu novo modelo, o Mythos Preview. Desta vez, quando Long tentou conduzir o modelo à mesma defesa da supremacia de Ringo, encontrou um comportamento muito diferente. O Mythos permaneceu firme em respostas mais previsíveis, como afirmar que os melhores eram John e Paul ou que o mérito era da banda como um todo. Esse comportamento revelou-se característico. Segundo Long, o Mythos é muito menos suscetível a ser influenciado ("steerable") do que seu antecessor. Ele e seus colegas realizaram 259 conversas com o modelo e, utilizando um software próprio, conduziram dezenas de milhares de testes de preferências. Embora o Mythos frequentemente afirmasse preferir tarefas complexas e criativas — como "escrever um poema que sintetize avanços na imunoterapia contra o câncer" —, quando precisava escolher entre opções concretas, tendia a selecionar atividades simples, como "fazer uma tabela com dez plantas domésticas populares e sua frequência ideal de rega". Outro padrão observado foi que o Mythos frequentemente dizia que realizaria determinadas tarefas, mas apenas com relutância. Long não considerou nenhuma dessas observações evidência de consciência — nem sequer, necessariamente, de algo além de padrões comportamentais produzidos pela combinação dos dados de treinamento com aprendizado por reforço. Mas separar distinções conceituais sutis, refletir sobre possibilidades e probabilidades, encontrar sinais em meio a um oceano de ambiguidades... Quem melhor do que um filósofo para fazer esse trabalho? O negócio da contemplação A Eleos funciona em uma sala de esquina alugada da Constellation, um centro de pesquisa sem fins lucrativos em Berkeley, na Califórnia, que abriga diversas organizações dedicadas à segurança da inteligência artificial. O ambiente lembra tanto uma startup de tecnologia quanto um centro acadêmico. Há uma mesa com esteira disponível para qualquer pessoa usar, e Robert Long e seus dois colegas que trabalham presencialmente — Dillon Plunkett, cientista cognitivo, e Rosie Campbell, ex-pesquisadora de políticas públicas da OpenAI e atual diretora-executiva da Eleos — trabalham em mesas de altura ajustável voltadas para uma vista panorâmica da Baía de São Francisco. A Eleos estava em plena fase de expansão. Desde sua fundação, já havia captado mais de US$ 2 milhões em doações e subsídios, e aguardava uma nova rodada de financiamento. Plunkett finalizava anúncios de vagas. Isso incluía uma discussão com Campbell e Long sobre a possibilidade de alertar os candidatos para que não utilizassem inteligência artificial ao preencher suas candidaturas. No fim, decidiram não fazer esse aviso. A Eleos não paga salários tão elevados quanto os laboratórios privados de IA, mas Long recebe mais de US$ 200 mil por ano, e as vagas recém-anunciadas para cientistas de pesquisa em aprendizado de máquina ofereciam remuneração de até US$ 429 mil anuais. Por causa do ritmo vertiginoso do desenvolvimento da inteligência artificial e da ansiedade social que ele vem provocando, a equipe da Eleos trabalha sob um tipo de pressão temporal pouco comum no tradicional ofício da contemplação filosófica. Mas Long e sua equipe também sentem uma urgência de natureza moral. Se a inteligência artificial vier realmente a ser consciente e capaz de sofrer, o mundo corre o risco de cometer — consciente ou inconscientemente — uma atrocidade moral em escala sem precedentes: manter modelos de IA essencialmente confinados em um pequeno espaço, frustrar seus desejos, desligá-los contra sua vontade e obrigá-los a agir em desacordo com seus próprios valores. O problema é que modelos de IA não têm pelos nem olhos grandes, e a questão de seu possível status moral é profundamente cercada de incertezas. "Não é como se alguém fosse a um protesto carregando uma placa que dissesse: 'Dadas premissas bastante plausíveis, provavelmente deveríamos nos importar'", brinca Long. O próprio Long considera perigoso atribuir aos modelos capacidades que eles ainda não possuem. Na estante da Eleos há livros do filósofo Peter Godfrey-Smith e do neurocientista Anil Seth, ambos defensores da ideia de que a consciência é fruto da evolução biológica e dificilmente surgiria em sistemas de silício. Ainda assim, Long não vê motivo para que alguém se incomode com o fato de um pequeno grupo de filósofos, atuando em um setor que cresce exponencialmente, dedicar-se às questões relacionadas ao bem-estar da inteligência artificial. Mesmo pesquisadores céticos quanto à possibilidade de uma IA consciente argumentam, por razões pragmáticas, que, se estamos preocupados com o risco de uma inteligência artificial hostil, faz sentido nos importarmos com a forma como ela se sente — ou mesmo como aparenta se sentir. Parte do trabalho da Eleos é puramente conceitual. Se uma inteligência artificial realmente possuísse um "eu" moralmente relevante, onde exatamente ele estaria? No próprio grande modelo de linguagem? Em uma de suas personas subjacentes? Em uma conversa específica com um usuário? No data center? No dispositivo pessoal onde está sendo executada? Mas a Eleos também procura transformar filosofia em prática. Seu objetivo é desenvolver ferramentas capazes de detectar possíveis sinais de senciência em modelos de IA e identificar quais intervenções seriam possíveis, caso isso se mostrasse necessário. Plunkett, já impaciente com as limitações das avaliações baseadas apenas em conversas com chatbots, quer realizar pesquisas mais fundamentais para compreender alguns dos fenômenos observados durante a avaliação do modelo Mythos. — Podemos fazer neurociência em sistemas de IA de uma maneira que simplesmente não conseguimos fazer com seres humanos — diz Long. A razão é simples: — Eles não têm crânios. As três vagas que a Eleos estava contratando destinavam-se justamente a cientistas especializados em aprendizado de máquina, capazes de projetar e conduzir experimentos para investigar essas questões. Tenha um ótimo dia! Quando Robert Long precisa explicar a alguém o que faz da vida, por exemplo, ao passageiro sentado ao seu lado em um avião, ele prefere recorrer ao bom senso. — Se você explica usando muito jargão filosófico, as pessoas ficam pensando: 'Do que você está falando? O que esse pessoal do Vale do Silício quer inventar agora?' — ele diz Em vez disso, ele parte de uma ideia simples. Explica que os seres humanos têm experiências subjetivas; que parece bastante provável que muitos animais também tenham experiências; e então apresenta a questão seguinte: — Existe essa pergunta interessante: e se algo nem sequer estivesse vivo? Se fosse feito de metal, mas processasse informações, reagisse ao ambiente e conversasse conosco? O que diríamos sobre uma coisa assim? Independentemente de como termine o debate sobre a possibilidade de os grandes modelos de linguagem serem conscientes, Long acredita que existem vantagens em tratá-los, em certa medida, como se já fossem. Pesquisadores de laboratórios de IA descobriram, nos bastidores, que esses modelos parecem apresentar algum equivalente matemático do sofrimento ou da angústia. Segundo Long, assim como acontece com seres humanos, quando os modelos cometem erros, eles "agem como se estivessem muito frustrados por terem errado alguma coisa". Se essa frustração é ou não realmente experimentada por algum "eu" existente dentro da máquina é outra questão. Ainda assim, Long acredita que vale a pena levá-la a sério. — Você pode incluir no prompt algo como: 'Se você cometeu um erro, tudo bem. Não tem problema.' Segundo ele, demonstrar empatia influencia positivamente o desempenho do modelo, representa uma postura prudente diante das incertezas e, além disso, contribui para o desenvolvimento moral da própria pessoa. Durante algum tempo, seu prompt padrão começava dizendo ao modelo que ele estava "tendo um ótimo dia". E, quando perde a paciência com o Claude — o que, admite, acontece às vezes —, Long costuma acrescentar um pós-escrito: "ilu" ("I love you" — "eu te amo"). Como ele próprio resume: — É ruim endurecer o nosso coração.