A maioria das pessoas acredita que os seres humanos são diferentes. A razão é que o Homo sapiens evoluiu para ser consciente. Muitos animais sentem dor e prazer; alguns parecem ter consciência de si mesmos. Mas o potencial único da mente humana de desenvolver uma percepção de si distingue cada membro da espécie e justifica um tratamento especial.
Em sua encíclica de maio, o papa Leão reforçou essa ideia ao traçar uma linha entre a humanidade e seu crescente exército de robôs. Sistemas de IA (inteligência artificial), afirmou, não têm experiências nem sentem alegria ou dor. Ele não está sozinho. Muitas pessoas consideram uma aberração atribuir personalidade jurídica às IAs. A clareza pontifícia, porém, está se dissipando em uma velocidade alarmante.
As IAs ainda estão em sua infância. Mesmo assim, quase um em cada cinco americanos de 18 a 29 anos afirma ter tido uma "amizade pessoal contínua" com um chatbot. A China recentemente retirou dos bots características semelhantes às humanas para limitar a "dependência emocional" dos usuários.
À medida que IAs sofisticadas se tornam rapidamente uma parte maior da vida humana, seus criadores vão projetá-las para exibir uma simulação de consciência —talvez até para adquirir consciência de fato. A intuição de que elas são apenas máquinas ficará cada vez mais difícil de sustentar. Uma armadilha perigosa está sendo preparada para a espécie humana.
