A adoção de criptografia de ponta a ponta pelo Discord, em março, ampliou a privacidade das transmissões de áudio e vídeo, mas também dificultou, segundo a Agência Nacional de Proteção de Dados (ANPD), a identificação de situações de violência e outros riscos envolvendo crianças e adolescentes. Foi nesse contexto que a agência determinou ontem a suspensão das transmissões ao vivo e de outros recursos de compartilhamento de vídeo pela plataforma no Brasil. O Discord terá três dias úteis para interromper as lives e comprovar a adoção de medidas de proteção a menores. A decisão não bloqueia a plataforma: mensagens de texto e chats de voz continuam funcionando. Mas as transmissões de vídeo só poderão ser retomadas após a empresa comprovar as medidas exigidas e receber autorização expressa da ANPD. A decisão levanta uma questão que vai além da plataforma: até que ponto é possível proteger crianças e adolescentes quando a própria arquitetura da rede limita a identificação de riscos? De acordo com a ANPD, o Discord apresenta falhas graves na proteção de menores e tem sido usado de forma recorrente em episódios de violência, assédio e indução à automutilação e ao suicídio. O problema ganhou contornos trágicos após a morte de uma adolescente de 13 anos em 22 de julho. As investigações apontam que integrantes de um servidor do Discord a teriam incentivado à automutilação e ao suicídio. Na semana passada, a primeira-dama Rosângela da Silva, a Janja, defendeu publicamente o bloqueio da plataforma. Revisão humana Após a morte da adolescente, em resposta enviada ao Ministério da Justiça e Segurança Pública, que questionou as medidas adotadas, o Discord admitiu que o sistema de alerta automático que aciona revisão humana para acompanhar conteúdos sensíveis em transmissões ao vivo falhou. Em ofício, a empresa diz que dispõe de monitoramento para identificar a reutilização de padrões associados a servidores ou contas anteriormente removidas que geram alertas para a revisão humana e eventual retirada do ar. No momento daquela transmissão, no entanto, esse sistema não funcionou. A atividade no canal teve início às 2h20 de 22 de julho e o servidor foi removido pelo Discord às 4h15, menos de 25 minutos após alertado pelo núcleo de inteligência da polícia, informou a empresa ao governo no documento, noticiado inicialmente pelo jornal O Estado de S. Paulo e também obtido pelo GLOBO. “Durante o período relevante, o servidor continha nomes, rótulos de papéis e comunicações em texto que, após a revisão posterior ao incidente, foram identificados como indicadores associados a um ecossistema mais amplo de alto dano. No momento do incidente, esses sinais não acionaram, de forma isolada ou combinada, aplicação automatizada ou revisão humana imediata”, diz trecho do ofício enviado ao governo. “Os registros internos do Discord mostram que o servidor recebeu uma pontuação de risco de 0,12, ao passo que o limiar aplicável para identificação automatizada era de 0,95”, segue o documento. A plataforma diz ainda que esse episódio está sendo usado para eventuais aperfeiçoamentos ao sistema e que não transmitiu o suicídio, porque já tinha derrubado o servidor: “Até o momento, a Discord não identificou, em seus próprios registros, elementos que demonstrem que o ato final tenha sido transmitido pelo servidor após sua remoção”, afirma o documento da empresa. O Discord foi procurado, mas não respondeu. No ofício, a plataforma também aponta que as evidências disponíveis indicam que “a atividade prejudicial mais direta” ocorreu por meio de comunicações privadas e de uma sessão de voz e vídeo criptografada de ponta a ponta, o que faz com que não seja possível que “a Discord inspecione seu conteúdo durante a transmissão”. “Essa limitação não impede, contudo, a sua atuação proativa baseada em sinais comportamentais, relações entre contas, padrões de rede, metadados disponíveis, denúncias e histórico de medidas de aplicação”, acrescenta. A plataforma também diz no documento que o servidor no qual ocorreu o caso foi identificado e removido, e que foram banidas todas as contas de membros associados. Criptografia Na nota técnica que baseou a decisão de ontem, a ANPD aponta que, desde 2 de março, o Discord passou a adotar criptografia de ponta a ponta, que impede o acesso direto às comunicações de áudio e vídeo em mensagens, canais de voz e transmissões ao vivo. A mudança, segundo a agência, aumentou a privacidade, mas tornou o produto “menos protetivo”. A tecnologia foi implementada depois da promulgação do ECA Digital e às vésperas de sua entrada em vigor. Na avaliação da agência, a criptografia impede que sistemas automatizados detectem, durante uma transmissão, “indícios de violência, assédio, intimidação, coação, automutilação ou suicídio”. Antes, a identificação dessas ameaças poderia permitir à plataforma reduzir o alcance de uma live, interrompê-la cautelarmente e encaminhar o caso a uma equipe especializada. Com a mudança, a proteção passou a depender, segundo a ANPD, de controles executados no dispositivo, sinais comportamentais e denúncias dos próprios usuários. Após a recente ofensiva do governo federal, o Discord informou à Secretaria de Direitos Digitais do Ministério da Justiça que atua de forma proativa a partir de sinais comportamentais, relações entre contas, padrões de rede, metadados disponíveis, denúncias e histórico de medidas de aplicação. Para a agência, porém, a empresa não apresentou evidências concretas da efetividade desses mecanismos. “Se uma escolha de segurança (criptografia de ponta a ponta) inviabiliza a implementação de determinado controle, cabe ao agente regulado implementar controles substitutivos e demonstrar efetividade equivalente ou superior, especialmente quando o produto é de acesso provável por adolescentes”, afirma a nota técnica da agência. Para o advogado especialista em privacidade Fernando Manfrin, a transmissão ao vivo é um dos pontos mais vulneráveis desse tipo de ambiente. Ele aponta que, em plataformas como o Discord, servidores fechados, mensagens privadas e transmissões que duram poucos minutos podem dificultar supervisão dos pais: — A transmissão ao vivo é o ponto cego mais grave, pois uma live nem sempre deixa rastro depois, o dano acontece enquanto está no ar e some. Decisão ‘prematura’ Em nota, o Discord afirmou ontem estar “desapontado” com a decisão da ANPD e a classificou como “prematura”. A empresa disse que recebeu o processo na última sexta-feira e ainda estava dentro do prazo para apresentar resposta. Caso descumpra a determinação da ANDP, o Conselho Diretor da agência poderá impor multa diária, em valor ainda não definido. O processo de fiscalização continua e pode resultar em medidas corretivas e, caso sejam confirmadas irregularidades, em sanções previstas no ECA Digital, incluindo multa de até R$ 50 milhões por infração. Ao mesmo tempo em que cumpre as medidas impostas pela agência, a plataforma, no entanto, tem dez dias úteis para apresentar recurso à Superintendência de Fiscalização (SFI) da ANPD. (*Estagiária sob supervisão de Alfredo Mergulhão)