Os crimes contra crianças e adolescentes, que são viabilizados pelas redes sociais, não são novidade. Em 2023, o The Wall Street Journal revelou como o algoritmo do Instagram conectava conteúdos de crianças a pedófilos. Falsos rumores veiculados no Facebook fomentaram linchamentos mundo afora, desde a Índia até o México, inclusive no Brasil. O caso de automutilação e suicídio de uma adolescente, transmitido ao vivo pelo Discord, é a tragédia mais recente.
Sobre este suicídio, a rede social emitiu nota explicativa para afirmar que não tem controle sobre os conteúdos que provê a seus usuários: "(...) investigou um servidor privado no qual acredita-se que indivíduos envolvidos em atividades criminosas tenham incentivado a automutilação e o desativou antes da morte da adolescente". Ora, se, eliminado o jogo de palavras, o provedor de aplicações confessa que demorou a identificar o risco a que estavam expostos os usuários, a conclusão é clara: O Discord foi inepto. Não é possível que a rede social proveja conexões para ligar criminosos com adolescentes e, depois da tragédia ocorrida, alegue que sua lentidão sistêmica fique impune, apesar de resultar na morte de uma jovem de 13 anos.O Marco Civil da Internet (MCI) estabelece responsabilidades para os provedores de aplicações, como Discord, Instagram ou YouTube. Essas obrigações foram esclarecidas e robustecidas pelo Supremo Tribunal Federal (no julgamento do art. 19 do MCI), de modo que tais provedores têm de atuar proativamente contra conteúdos e práticas que coloquem em risco, entre outros, a vida e a integridade das crianças e adolescentes.
