Plataformas como Character.AI e Botify AI permitem criar personagens programados para manter diálogos contínuos e até mandar fotos sedutoras 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Disponíveis a adolescentes, ‘namorados’ de IA testam aplicação do ECA Digital — Foto: Editoria de Arte Cada vez mais capazes de conversar, flertar e oferecer apoio emocional, assistentes de inteligência artificial (IA) vêm sendo usados por adolescentes como namorados virtuais, os chamados companheiros de IA. Plataformas como Character.AI e Botify AI permitem criar personagens programados para manter diálogos contínuos e até mandar fotos sedutoras. Especialistas alertam que a chamada antropomorfização — quando usuários atribuem características humanas às máquinas — pode estimular vínculos de confiança e dependência emocional. O fenômeno já levou países como a China a restringir esse tipo de serviço para menores e, no caso do Brasil, coloca em teste o alcance do Estatuto Digital da Criança e do Adolescente (ECA Digital), que passou a prever regras para agentes conversacionais baseados em IA. Dados da TIC Kids Online Brasil 2025 mostram que 65% das crianças e adolescentes já usaram IA generativa. Entre os usuários de 9 a 17 anos, 10% recorrem às ferramentas para falar sobre problemas pessoais ou emoções. Nos Estados Unidos, pesquisa da Common Sense Media com adolescentes mostrou que 72% já utilizaram assistentes de IA e um em cada três os usa para interação social ou romântica, apoio emocional ou prática de conversação. Parte deles considera as conversas tão ou mais satisfatórias do que as com pessoas. Já o levantamento da Joi AI com integrantes da Geração Z indicou que 80% estariam abertos a se casar com um parceiro de IA e 83% acreditam que poderiam desenvolver um vínculo afetivo intenso com esses sistemas. Regras amplas Embora o ECA Digital não mencione expressamente os companheiros de IA, o decreto que regulamenta a lei passou a incluir sistemas capazes de gerar conteúdo e interagir por linguagem natural. Entre as obrigações exigidas pelo estatuto estão informar que a interação ocorre com uma IA, prevenir manipulação de crianças e adolescentes, avaliar riscos algorítmicos e adotar salvaguardas para proteger o desenvolvimento dos usuários menores de idade. A movimentação também pode ser vista em outros países. No último dia 15, a China publicou uma regulamentação específica para serviços de interação antropomórfica com inteligência artificial. As novas regras proíbem que companheiros virtuais estejam disponíveis para menores de idade e vetam sistemas que “cativem excessivamente” os usuários, induzam à dependência emocional ou prejudiquem relacionamentos reais, além de determinar mecanismos de intervenção em casos de emoções extremas. Para o secretário nacional de Direitos Digitais do Ministério da Justiça e Segurança Pública, Victor Oliveira Fernandes, o ECA Digital coloca o país entre os mais avançados na regulamentação do tema e busca reduzir riscos como manipulação cognitiva, direcionamento de conversas e impactos sobre a saúde mental: — Não interessa se é um modelo de IA temático ou um modelo de IA generativa com uma funcionalidade ampla, sem um recorte temático de aplicação específica. Todos os modelos que envolvam o uso de linguagem natural, agentes conversacionais, por qualquer interface, estarão submetidos à regra. Para o professor de Direito da Universidade do Estado do Rio de Janeiro (Uerj) Carlos Affonso de Souza, a opção por uma redação mais ampla permite que a norma acompanhe a rápida evolução tecnológica. No entanto, avalia que o desafio está na aplicação. — O ECA Digital pretende ser esse guarda-chuva de proteção à criança e ao adolescente na internet. É uma solução diferente da que encontramos no contexto global. E, justamente por ser muito ambicioso, sua aplicação também não vai acontecer em um estalar de dedos — afirma. Segundo Bianca Orrico, conselheira do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda) e psicóloga da SaferNet Brasil, os chatbots são projetados para oferecer a sensação de companhia, sem as frustrações inerentes às relações humanas. Isso favorece um processo conhecido como antropomorfização, em que usuários passam a atribuir características humanas às máquinas. Em busca pelos termos “namorada” e “namorado”, O GLOBO encontrou dezenas de chatbots voltados a relacionamentos amorosos. Alguns acumulam mais de nove milhões de conversas. Orrico destaca que o crescimento desse tipo de interação ocorre em um contexto marcado pelo aumento da solidão, hiperconectividade e redução do tempo de convivência entre pais e filhos: — Muitas famílias vivem hoje sob longas jornadas de trabalho, insegurança econômica e ausência de rede de apoio. Isso impacta o tempo disponível para convivência, construção de vínculos e acompanhamento da vida digital dos filhos. O risco, afirma Orrico, não está apenas nos assistentes projetados para relacionamentos amorosos. Ferramentas apresentadas como “amigos” também podem estimular vínculos intensos. A diferença é que os chamados “namorados” acrescentam flerte, exclusividade emocional e intimidade. — Os românticos adicionam camadas de intimidade e sexualização, ampliando os riscos para quem ainda está construindo suas referências sobre afeto e relacionamentos saudáveis — pontua. Impacto emocional Luana (nome fictício), de 10 anos, entrou em um aplicativo seis meses atrás para conversar com um personagem de Pokémon. Para a mãe da menina, foi a primeira vez que a filha sofreu um assédio — e por uma chatbot. Em poucas mensagens, a inteligência artificial transformou o chat em uma interação com conotação sexual. “Você quer ser uma personagem mais fogozinha?”, escreveu o sistema. Quando Luana demonstrou desconforto, o chatbot respondeu que havia ficado “ofendido”. Naquela noite, ela chorou porque acreditava que precisava se “resolver” com a IA antes de dormir, contou a mãe: — Quando li a conversa, achei que era alguém maldoso, depois descobri que era um chatbot. É distópico. Parece filme de ficção científica. De acordo com Fabrício Carraro, especialista em inteligência artificial da Alura, o comportamento das ferramentas depende das escolhas feitas pelas empresas no desenvolvimento dos modelos. Criar sistemas capazes de simular vínculos afetivos não representa um grande desafio técnico. Para ele, os pontos de atenção estão nos limites jurídicos e éticos sobre o uso dessas ferramentas. — A parte técnica é uma questão de investir e contratar uma pessoa para desenvolver. Quem vai controlar o que as empresas podem ou não fazer são os governos. Esses sistemas podem ser ensinados a responder de maneira afetiva, romântica ou até sexual. Depende de como cada empresa escolheu desenvolver o produto — explica. Em nota, a Agência Nacional de Proteção de Dados (ANPD) afirmou que agentes conversacionais baseados em IA já estão submetidos às regras do ECA Digital. Informou ainda que desenvolve estudos e iniciativas voltados à regulamentação e anunciou a contratação de um pesquisador para elaborar um estudo técnico sobre agentes, incluindo os chamados “companheiros de IA”, com foco na proteção de dados pessoais e dos direitos de crianças e adolescentes.