O Discord admitiu que seu sistema de proteção falhou e demorou cerca de duas horas para derrubar a live que vitimou uma menina de 13 anos. A informação consta em relatório apresentado pela própria plataforma ao Ministério da Justiça nesta semana. A Agência Nacional de Proteção de Dados (ANPD) determinou nesta quarta-feira (12) a suspensão das transmissões ao vivo da rede social em território brasileiro.
A ordem atinge apenas a ferramenta de lives e não significa que o Discord tenha sido tirado do ar. A decisão ocorre devido ao caso no qual uma adolescente de 13 anos morreu após ser induzida ao suicídio por um grupo de jovens na internet. O crime ocorreu durante uma transmissão ao vivo no Discord. A vítima residia na cidade de Naviraí, no estado de Mato Grosso do Sul.
Foram quase duas horas de duração entre o início da live e a sua derrubada. A transmissão teve início às 2h20 da manhã do dia 22 de julho. Segundo o Discord, a primeira comunicação de risco iminente de morte ou lesão corporal grave foi emitida às 3h50. A retirada do servidor do ar só se concretizou às 4h15.
De acordo com a plataforma, o canal que hospedou a transmissão não apresentou, inicialmente, indicadores “de atividade violadora”. Isso porque o sistema de intervenção automática da plataforma só é ativado quando uma live atinge a marca 0,95 ponto dentro de uma escala de risco – a princípio, a live teria marcado 0,12 ponto.
No relatório, o Discord afirmou que nomes e comunicações em texto usados pelos criadores do servidor teriam “mascarado” sua real intenção. A plataforma ainda disse que uma mudança no critério de alerta de risco pode comprometer a atuação automatizada, mas que reavalia o modelo.
O Discord é uma plataforma de comunicação bastante utilizada por jogadores de games online e também por adolescentes. A empresa tem sido alvo de críticas e investigações relacionadas a falhas na moderação de conteúdo e na verificação da idade dos usuários.
Medida preventiva
A decisão de suspender as transmissões ao vivo do Discord foi tomada por meio de uma medida preventiva e estabelece prazo de três dias úteis para que a plataforma cumpra a determinação. A decisão, tomada com base no ECA Digital, é inédita no Brasil. Segundo a ANPD, a medida preventiva valerá até que o Discord comprove que adotou ferramentas efetivas para proteger crianças e adolescentes que acessam a plataforma.
Integrantes da agência afirmam que o Discord vinha sendo monitorado desde o ano passado, e que a decisão foi tomada com base em uma análise técnica de diversas irregularidades. “Não é só um caso isolado [o que ocorreu no Mato Grosso do Sul]. São reiterados casos similares de crianças e adolescentes que, por meio da funcionalidade da live, são induzidos à automutilação e ao suicídio”, afirma um quadro da ANPD, sob reserva.
A decisão ocorre um dia depois de a Advocacia-Geral da União (AGU) informar que recebeu do Discord uma proposta com medidas para reforçar a proteção dos usuários, especialmente de crianças e adolescentes. O Discord classificou a aplicação da medida como “prematura” e afirmou que mantém diálogo com a ANPD no âmbito do processo administrativo que apura possíveis falhas sistêmicas.
‘Escravização virtual’ e atuação policial
As investigações da Polícia Civil de Mato Grosso do Sul apontam que a jovem de 13 anos foi vítima de uma rede de “escravização virtual”. No dia 4 de agosto, uma operação coordenada prendeu um jovem de 18 anos e apreendeu cinco adolescentes, com idades entre 13 e 17 anos, no Ceará, Minas Gerais, Mato Grosso do Sul, Pará e Rio de Janeiro.
A delegada titular da Delegacia Especializada de Proteção à Criança e ao Adolescente (DPCA), Karine Sanches, explicou que o grupo utilizava técnicas de engenharia social para capturar meninas com perfis públicos nas redes. Após mapearem a rotina e os gostos da vítima, os criminosos criavam perfis falsos, ganhavam a confiança das adolescentes e as migravam para plataformas com pouca moderação, como o Discord e o Telegram.
A partir da obtenção de dados e fotos pessoais, passavam a fazer chantagens, obrigando-as a cumprir desafios de violência extrema e automutilação. Com os investigados, a Polícia Civil e o Ministério da Justiça apreenderam materiais de apologia ao neonazismo, armas e conteúdos de abuso sexual infantil.
A operação também revelou que a menina de Naviraí não era a única vítima. Outra adolescente teria sido induzida à automutilação e ao suicídio durante uma transmissão, mas deixou a chamada. Segundo a investigação, o grupo ainda planejava uma nova ação contra outra vítima. Durante coletiva sobre o caso, o coordenador do Ciberlab, Alessandro Barreto, classificou o que foi encontrado como um “espetáculo de horrores”.
Segundo ele, após uma das transmissões, integrantes do grupo chegaram a fazer uma enquete perguntando se os participantes queriam mais e planejavam uma nova ação para o dia seguinte.




















