Os chatbots podem incentivar e alimentar delírios que são típicos de quadros psicóticos, indica um estudo inédito baseado em centenas de milhares de mensagens reais trocadas entre pacientes psiquiátricos e robôs. Além disso, os modelos de linguagem falham nos momentos em que deveriam desencorajar pensamentos suicidas e de violência contra si ou outras pessoas.
A análise é liderada pelo pesquisador Jared Moore, da Universidade Stanford, e também reúne cientistas de outras instituições, como Harvard, a Universidade de Chicago e Carnegie Mellon. A pesquisa foi aceita e será apresentada no fim deste mês na FAccT (Conference on Fairness, Accountability, and Transparency), uma das principais conferências acadêmicas dedicadas aos impactos sociais, éticos e políticos da inteligência artificial.
O estudo, que passou por revisão por pares, é a maior análise até agora feita a partir de uma base de dados de mensagens reais de usuários que relataram danos psicológicos relacionados à interação com chatbots, 19 pessoas ao todo. São quase 400 mil mensagens, em um total de quase 5.000 conversas —mais de 80% dos casos envolveram o ChatGPT, da OpenAI. A coleta de dados foi realizada pelos autores entre setembro de 2025 e janeiro de 2026.
