Agência Nacional de Proteção de Dados (ANPD) determinoususpensão de lives no Discord no país após episódio 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Discord, cuja plataforma é popular entre gamers e programadores, tem mais de 200 milhões de usuários mensais, — Foto: Bloomberg O sistema de alerta automático do Discord que aciona revisão humana para acompanhar conteúdos sensíveis durante transmissões ao vivo falhou no caso que levou ao suicídio de uma adolescente de 13 anos. A constatação foi feita pela própria empresa em resposta enviada ao Ministério da Justiça e Segurança Pública, que questionou as medidas adotadas na ocasião. O episódio motivou uma ofensiva do governo Luiz Inácio Lula da Silva (PT) contra a plataforma. No documento, a empresa diz que dispõe de monitoramento para identificar a reutilização de padrões associados a servidores ou contas anteriormente removidas que geram alertas para a revisão humana e eventual retirada do ar do conteúdo. No momento da transmissão em que a adolescente foi induzida à automutilação, no entanto, esse sistema não funcionou. De acordo com a empresa, a atividade no canal teve início por volta das 2h20, madrugada do dia 22 de julho. O Discord afirma ter removido o servidor às 4h15, após ser alertado pela polícia, segundo informa o ofício enviado ao governo. A informação foi antecipada pelo jornal O Estado de S. Paulo e obtido também pelo GLOBO, que também teve acesso ao documento. “Durante o período relevante, o servidor continha nomes, rótulos de papéis e comunicações em texto que, após a revisão posterior ao incidente, foram identificados como indicadores associados a um ecossistema mais amplo de alto dano. No momento do incidente, esses sinais não acionaram, de forma isolada ou combinada, aplicação automatizada ou revisão humana imediata”, diz trecho do documento. “Os registros internos da Discord mostram que o servidor recebeu uma pontuação de risco de 0,12, ao passo que o limiar aplicável para identificação automatizada era de 0,95”, segue o documento. A plataforma diz ainda que esse episódio está sendo usado para eventuais aperfeiçoamentos ao sistema e que não transmitiu o suicídio, porque já tinha derrubado o servidor: “Até o momento, a Discord não identificou, em seus próprios registros, elementos que demonstrem que o ato final tenha sido transmitido pelo servidor após sua remoção”, diz o documento. “Como parte de sua revisão em andamento e de seus esforços contínuos para fortalecer a segurança dos usuários, a Discord priorizou diversos aprimoramentos operacionais. Estes incluem: (i) treinamento especializado para investigadores e revisores, a fim de melhorar a identificação e o tratamento desse ecossistema específico de dano, incluindo a triagem de solicitações de emergência que possam conter informações contextuais limitadas; (ii) desenvolvimento e implementação contínuos de capacidades aprimoradas de interrupção de voz/vídeo e de palco, além de modelos de detecção concebidos para identificar padrões de alto risco com base nos sinais disponíveis na plataforma; e (iii) avaliação contínua dos processos operacionais e das capacidades técnicas para fortalecer ainda mais a capacidade da Discord de identificar, avaliar e responder a cenários semelhantes”, diz o documento. A empresa afirma também que a transmissão da automutilação da adolescente ocorreu em outras plataformas. O Discord afirma ainda que removeu o servidor em questão menos de 25 minutos após receber o primeiro alerta do núcleo de inteligência da polícia sobre o caso. O Discord foi procurado, mas não respondeu. No documento, a plataforma também aponta que as evidências disponíveis indicam que “a atividade prejudicial mais direta” ocorreu por meio de comunicações privadas e de uma sessão de voz e vídeo criptografada de ponta a ponta, o que faz com que não seja possível que “a Discord inspecione seu conteúdo durante a transmissão". "Essa limitação não impede, contudo, a sua atuação proativa baseada em sinais comportamentais, relações entre contas, padrões de rede, metadados disponíveis, denúncias e histórico de medidas de aplicação." A plataforma também diz no documento que o servidor no qual ocorreu o caso foi identificado e removido pela empresa, assim como o banimento de todas as contas de membros associados. Ofensiva do governo O caso levou à ofensiva do governo Lula contra a plataforma. Em reunião na semana passada no Palácio do Planalto, a primeira-dama Rosângela da Silva, a Janja cobrou de autoridades do governo o bloqueio da plataforma no Brasil ao comentar o caso de automutilação em tempo real envolvendo uma menina de 13 anos. Janja chamou o Discord de “rede horrorosa” e falou em “retirar imediatamente o Discord do ar” e “bloquear o Discord no Brasil de qualquer forma”. Nesta quarta-feira, a Agência Nacional de Proteção de Dados (ANPD) determinou a suspensão de lives no Discord. A suspensão começa a valer em três dias úteis. As lives e outros recursos de compartilhamento de vídeo ficarão suspensos até que a empresa comprove a adoção de medidas para proteger crianças e adolescentes nestes serviços. Se o Discord não cumprir a suspensão, o Conselho Diretor da ANPD poderá determinar imposição de multa diária à plataforma, com valor ainda a ser definido. A agência, responsável pela fiscalização do cumprimento do ECA Digital, abriu o processo de fiscalização na última sexta-feira. O órgão de fiscalização é vinculado ao Ministério da Justiça e Segurança Pública.