- O Discord admitiu falha no sistema de proteção que permitiu transmissão ao vivo que vitimou adolescente de 13 anos.
- A live foi interrompida após 1h55, após alerta de risco emitido às 3h50, segundo relatório da plataforma.
- A ANPD suspendeu transmissões ao vivo do Discord no Brasil por não atender a normas de proteção de crianças e adolescentes.
- O Discord contesta a suspensão, afirmando que a atividade criminosa teria sido coordenada em outras plataformas.
- A empresa reavalia critérios de alerta após reconhecer que mudanças podem afetar eficácia do sistema automatizado.
O Discord admitiu que seu sistema de proteção falhou e demorou cerca de duas horas para interromper uma transmissão ao vivo que vitimou uma adolescente de 13 anos. A informação consta em um relatório apresentado pela própria plataforma ao Ministério da Justiça nesta semana.
A transmissão começou às 2h20 do dia 22 de julho e só foi retirada do ar às 4h15, segundo a empresa. A primeira comunicação sobre risco iminente de morte ou lesão corporal grave foi emitida às 3h50.
De acordo com o Discord, o canal que hospedava a live não apresentou inicialmente indicadores de “atividade violadora”. O sistema de intervenção automática da plataforma é acionado quando uma transmissão atinge 0,95 ponto em uma escala de risco. Inicialmente, a live teria registrado apenas 0,12 ponto.
No documento, a empresa afirmou que os nomes utilizados e as comunicações em texto pelos criadores do servidor teriam “mascarado” a real intenção da atividade.
O Discord também reconheceu que uma mudança no critério de alerta poderia afetar o funcionamento do sistema automatizado, mas afirmou que está reavaliando o modelo.
“Reduzir o limiar de detecção aplicável aumentaria materialmente os falsos positivos e poderia comprometer a eficácia da intervenção proativa automatizada. Esse resultado está sendo reexaminado, inclusive para avaliar possíveis aprimoramentos nos critérios de priorização”, afirmou a plataforma.
ANPD suspende transmissões ao vivo no Brasil
Nesta quarta-feira (12), a Agência Nacional de Proteção de Dados (ANPD) determinou a suspensão das transmissões ao vivo do Discord em território brasileiro.
A medida atinge exclusivamente a ferramenta de lives e não significa que a plataforma tenha sido retirada do ar no país.
A decisão foi tomada de forma preventiva, com base no Estatuto Digital da Criança e do Adolescente (ECA Digital), e estabelece prazo de três dias úteis para que o Discord cumpra a determinação.
Segundo a ANPD, a suspensão permanecerá em vigor até que a plataforma comprove a adoção de ferramentas consideradas efetivas para proteger crianças e adolescentes que utilizam o serviço.
A agência afirmou ainda que o Discord vinha sendo monitorado desde o ano passado e que a decisão foi baseada em uma análise técnica de diferentes irregularidades.
“Não é só um caso isolado [o que ocorreu no Mato Grosso do Sul]. São reiterados casos similares de crianças e adolescentes que, por meio da funcionalidade da live, são induzidos à automutilação e ao suicídio”, afirmou um integrante da ANPD, sob reserva.
investigação
O Discord é uma plataforma de comunicação bastante utilizada por jogadores de games online e também por adolescentes. A empresa vem sendo alvo de críticas e investigações relacionadas à moderação de conteúdo e à verificação da idade dos usuários.
A investigação da ANPD foi aberta após o caso envolvendo a morte da menina de 13 anos, ocorrida no Mato Grosso do Sul.
A decisão da agência ocorreu um dia depois de a Advocacia-Geral da União (AGU) informar que recebeu do Discord uma proposta com medidas para reforçar a proteção dos usuários, especialmente crianças e adolescentes.
O documento foi entregue na segunda-feira (10), após reuniões entre representantes da plataforma, do Ministério da Justiça e Segurança Pública (MJSP), da AGU e da ANPD.
Discord contesta decisão da ANPD
Em nota, o Discord classificou a suspensão das transmissões ao vivo como “prematura” e afirmou que mantém diálogo com a ANPD durante o processo administrativo que apura possíveis falhas sistêmicas.
“A caracterização do Discord feita pela ANPD não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários”, afirmou a empresa.
A plataforma também declarou que sua investigação encontrou indícios de que a atividade criminosa teria sido coordenada em outras plataformas antes da criação do servidor no Discord e continuado nesses ambientes após os envolvidos serem banidos.
A companhia afirmou ainda manter uma equipe especializada no combate a atividades violentas dentro da plataforma.
“Esperamos continuar nossas conversas com formuladores de políticas públicas no Brasil para promover uma experiência online mais segura para todos os usuários, tanto no Discord quanto em toda a internet”, disse a empresa.