O Discord admitiu em documento enviado ao governo federal que havia indícios de risco na transmissão ao vivo que teria culminado na morte de uma menina, mas que isso não foi suficiente para disparar um alerta confiável no sistema interno da plataforma.
Saiba o que é e como funciona o Discord
O texto, datado de 10 de agosto, é uma resposta a perguntas da Secretaria Nacional de Direitos Digitais, vinculada ao Ministério da Justiça. O órgão questionou a empresa sobre transmissão ao vivo realizada na plataforma em que uma menina de 13 anos teria sido induzida por outros adolescentes à automutilação e ao suicídio.
"Durante o período relevante, o servidor continha nomes, rótulos de papéis e comunicações em texto que, após a revisão posterior ao incidente, foram identificados como indicadores associados a um ecossistema mais amplo de alto dano. No momento do incidente, esses sinais não acionaram, de forma isolada ou combinada, aplicação automatizada ou revisão humana imediata", afirmou a empresa no documento, obtido pela Folha.
"Os sistemas de aprendizado de máquina processaram os sinais disponíveis, mas não geraram alerta com nível de confiança suficiente para aplicação automatizada", declarou o Discord. Em uma manifestação divulgada à imprensa, a companhia afirmou ter derrubado o servidor antes da morte da adolescente.
