Executivo da plataforma utilizada por menina de 13 anos que morreu em transmissão de vídeo ao vivo admite falha, mas diz que problema precisa ser enfrentado em conjunto com outras redes 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 A plataforma Discord — Foto: MAURO PIMENTEL / AFP Vinte e três dias após a morte de uma adolescente brasileira durante uma transmissão de vídeo na qual foi estimulada à automutilação e ao suicídio, e dois dias depois de a Agência Nacional de Proteção de Dados (ANPD) suspender as lives do Discord no Brasil, o vice-presidente de Segurança e Confiança da plataforma, Jud Hoffman, admitiu, em entrevista ao GLOBO, falhas no processo do serviço, mas afirmou que o combate a “atores mal-intencionados” deve ser feito de forma colaborativa entre as diferentes redes sociais. O executivo evitou criticar a agência brasileira, mas não respondeu se o Discord pretende remover a criptografia de ponta a ponta das comunicações envolvendo menores. A tecnologia teria dificultado a detecção de situações de risco. Como o Discord avalia a medida do governo brasileiro de suspender as lives? A ANPD fez o que acredita ser necessário. Nossa abordagem no momento é trabalhar na implementação dessa ordem. A suspensão será aplicada de forma consistente em todos os lugares onde existe vídeo no Discord no Brasil. Isso incluirá canais de voz com vídeo, mensagens diretas, grupos de mensagens diretas, palcos e também o recurso “Go Live”. Recebemos a solicitação da ANPD há uma semana, nos encontramos com eles na terça-feira e nos comprometemos a apresentar esclarecimentos completos até hoje. Temos sido abertos e colaborativos desde o dia desse terrível incidente. Jud Hoffman — Foto: Divulgação O Discord afirmou haver indícios de que os atos que culminaram na morte da menina foram articulados antes e de forma paralela em outras plataformas, Telegram e TikTok. O TikTok nega. Quais são esses indícios? As informações que compartilhamos com a ANPD e o Ministério da Justiça são confidenciais para não atrapalhar a investigação. Mas atores mal-intencionados, como a comunidade Lulz (grupo extremista), atuam em várias plataformas. E isso se aplica além desse terrível incidente. Adaptamos nossas investigações e funções para lidar com isso, já que eles vão de uma plataforma a outra. Não é problema único do Discord ou de qualquer outra. Eles vão explorar cada uma como podem. À medida que os descobrimos e os removemos do Discord, eles migram para outra. O verdadeiro sucesso é detê-los completamente, e não apenas expulsá-los do Discord. Queremos cooperar para tentar fazê-los parar. Quantos humanos estão envolvidos na moderação para o mercado brasileiro e qual é a proporção entre moderação automatizada e humana? Há planos de investir mais em moderação humana? Temos duas abordagens de moderação: uma proativa e outra reativa. Ambas combinam modelos de aprendizado de máquina com outras ferramentas de automação. A moderação proativa depende de modelos que desenvolvemos, que ajudam a aplicar nossas diretrizes e a identificar e investigar comunidades potencialmente extremistas. Esse trabalho é supervisionado por equipes especializadas, treinadas para investigar e prevenir condutas como extremismo violento, exploração e abuso sexual infantil e crimes cibernéticos. Cerca de 15% da empresa está dedicada à segurança, com centenas de pessoas atuando em funções de moderação. Algumas trabalham no treinamento dos modelos, aprimorando-os continuamente. Também temos profissionais na minha equipe que entendem português e conhecem o mercado brasileiro. E seguimos investindo nisso. Está claro que algo deu errado no caso da menina. É culpa da tecnologia ou humana? Como eu disse, esses modelos trabalham em conjunto com nossas equipes especializadas. Às vezes, o primeiro sinal vem de denúncias de usuários ou das próprias autoridades policiais. Os modelos pontuam os servidores com base nos sinais disponíveis e são calibrados para equilibrar precisão e abrangência. Um modelo com 100% de abrangência exigiria a revisão de tudo o que existe na plataforma, algo inviável na escala em que nós e muitas outras plataformas operamos. Ao ampliar a abrangência, aumentam os falsos positivos, que consomem os recursos disponíveis para investigação. No caso da menina, o servidor era novo e pequeno. Tinha sido criado há menos de duas horas. As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana. Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança. Vocês planejam ajustar esse equilíbrio para que a plataforma se torne mais sensível a sinais mais baixos? Esse é um ajuste constante. Temos uma equipe técnica dedicada a construir, manter e melhorar esses modelos. Circunstâncias como essa alimentam as decisões dessa equipe. O Discord vai remover a criptografia de transmissões com menores de idade? A criptografia se aplica apenas ao conteúdo de chamada de voz ou vídeo, mas ela não torna um servidor invisível para nós. O texto não é criptografado e permanece sujeito à moderação. Metadados do servidor, associações e convites, denúncias, uploads são visíveis para nossos sistemas de segurança. Por que o Discord decidiu ativar a criptografia às vésperas da vigência do ECA digital? A mudança foi a conclusão de um programa de engenharia de vários anos que anunciamos no segundo semestre de 2024, e não em resposta a essa lei. Estamos falando sobre recursos técnicos do Discord, mas não queremos perder de vista o fato de que uma menina morreu e que compartilhamos da dor da comunidade e expressamos nossas sinceras condolências à família.