O escândalo recente da adolescente de 13 anos de Naviraí (MS) que foi induzida ao suicídio durante uma live escancarou o horror da escravização virtual que acontece “a céu aberto” na Internet. A plataforma em evidência foi o Discord, mas o Telegram também foi citado pela polícia ao descrever como funciona a dinâmica dos aliciadores e criminosos nesse tipo de prática, que culmina em crimes hediondos que extrapolam o ambiente virtual. Um estudo da SaferNet, associação brasileira de defesa dos Direitos Humanos na Internet, indica que, no aplicativo de mensagens, os números podem ser ainda maiores ao revelar que existem 1.093 endereços ativos de violência sexual contra menores. As vítimas são arrastadas para uma verdadeira “feira livre de crimes”, denuncia Thiago Tavares, presidente da ONG. Em uma pesquisa simples, a reportagem de CartaCapital encontrou milhares de vídeos e fotos de estupros e outras violações contra crianças e adolescentes em canais abertos, sem qualquer filtro, bastando uma hashtag.
O termo “feira livre” não é por acaso, já que há muito lucro envolvido a partir de um catálogo infinito de material de violação infantil. Na própria plataforma há ferramentas para a produção de deepfakes de nudez através de bots – o deepfake é uma manipulação digital que usa IA para trocar rostos e vozes criando vídeos hiper-realistas. Além disso, o Telegram tem uma plataforma de compra e venda de ativos do app, como nomes de usuários, que utiliza um sistema de pagamento próprio de difícil rastreio, o Telegram Stars, que, no fim do ciclo de vendas, gera comissões à companhia. “Tem gente gerando deepfakes, desenvolvendo ferramentas, vendendo, e as plataformas lucrando com isso”, afirma Tavares. Ao ser questionada por CartaCapital, a empresa alega ser “absurdo afirmar que o Telegram lucra com conteúdo explicitamente proibido em sua plataforma, que é sistematicamente removido”. O porta-voz, Jonathan Rose, diz que a rede não processa pagamentos e que seus recursos pagos não oferecem benefício para uso criminoso. O relatório da SaferNet evidencia, entretanto, que o Telegram retém até 30% de comissão em cada saque de Stars de bots de nudificação por IA.
