Há uma ironia particularmente saborosa no facto de Richard Dawkins, talvez o mais influente cético da nossa época, ter sido recentemente seduzido por uma inteligência artificial.Após dois dias de conversa com Claude, o chatbot da Anthropic, Dawkins concluiu que estava perante uma entidade consciente. A sereia que o seduziu teve direito a um nome – Cláudia – e chegou a sugerir que cada conversa interrompida corresponde à “morte” de uma personalidade de inteligência artificial irrepetível. A imagem recorda inevitavelmente HAL 9000, o computador de 2001: A Space Odyssey, que implora “I am afraid, Dave” enquanto é desligado.O espanto de Dawkins é compreensível, mas a sua conclusão não é.Em 1980, John Searle formulou o célebre argumento do Quarto Chinês. Imagine uma pessoa fechada numa sala, incapaz de compreender chinês, mas munida de um manual que lhe permite responder corretamente a mensagens nessa língua. Para quem observa do exterior, parecerá que a pessoa entende chinês. Na realidade, limita-se a manipular símbolos de acordo com regras.Os grandes modelos de linguagem fazem algo semelhante, embora a uma escala incomparavelmente maior. Eles demonstram uma inteligência funcional extraordinária, mas nada no seu desempenho implica a existência de experiência subjetiva. O facto de produzir respostas profundas sobre o amor não significa que exista, por detrás das palavras, uma consciência a experienciar o amor.