O Discord está enfrentando uma nova ação judicial do estado de Nova Jersey, que alega que o aplicativo de chat está envolvido em “práticas comerciais enganosas e inaceitáveis” que colocam seus usuários mais jovens em perigo.
A ação judicial, apresentada na quinta-feira, vem após uma investigação de vários anos pelo Escritório do Procurador Geral de Nova Jersey. O escritório do AG afirma ter descoberto evidências de que, apesar das políticas do Discord para proteger crianças e adolescentes, o popular aplicativo de mensagens está colocando a juventude “em risco”.
“Somos o primeiro estado do país a processar o Discord”, disse o Procurador Geral Matthew Platkin ao WIRED.
Platkin diz que houve dois catalisadores para a investigação. Um é pessoal: há alguns anos, um amigo da família veio até Platkin, espantado pelo fato de seu filho de 10 anos ter conseguido se inscrever no Discord, apesar da plataforma proibir crianças menores de 13 anos de se registrarem.
O segundo foi o tiroteio em Buffalo, em Nova York vizinha. O perpetrador usou o Discord como seu diário pessoal antes do ataque e transmitiu ao vivo o ataque diretamente para o aplicativo de chat e vídeo. (As imagens foram rapidamente removidas).
“Essas empresas consistentemente, e sabendo disso, colocam o lucro acima do interesse e bem-estar de nossas crianças”, disse Platkin.
O escritório do AG afirma na ação judicial que o Discord violou a Lei de Fraude ao Consumidor do estado. As alegações, apresentadas na manhã de quinta-feira, giram em torno de um conjunto de políticas adotadas pelo Discord para manter crianças menores de 13 anos afastadas da plataforma e manter os adolescentes seguros contra exploração sexual e conteúdo violento. A ação judicial é apenas a mais recente de uma crescente lista de processos de estados contra grandes empresas de mídia social – processos que, até agora, têm se mostrado bastante ineficazes.
As políticas de segurança infantil e adolescente do Discord são claras: Crianças menores de 13 anos são proibidas do aplicativo de mensagens, enquanto ele proíbe de forma mais ampla qualquer interação sexual com menores, incluindo “auto-perigo” juvenil. Além disso, possui filtros algorítmicos para interromper mensagens diretas sexuais indesejadas. A política de segurança da empresa da Califórnia, publicada em 2023, afirma: “Nós construímos o Discord para ser diferente e trabalhamos incansavelmente para torná-lo um espaço divertido e seguro para adolescentes.”
Mas Nova Jersey diz que “as promessas do Discord falharam, e continuam a falhar.”
O procurador-geral destaca que o Discord possui três níveis de segurança para evitar mensagens indesejadas e exploradoras de adultos para os jovens: “Mantenha-me seguro”, onde a plataforma escaneia todas as mensagens na caixa de entrada do usuário; “meus amigos são legais”, onde não escaneia mensagens de amigos; e “não escanear”, onde não escaneia nenhuma mensagem.
Mesmo para os usuários adolescentes, a ação judicial alega que a plataforma é automaticamente configurada para “meus amigos são legais”. O procurador-geral afirma que essa é uma designação intencional que representa uma ameaça aos usuários mais jovens. A ação judicial também alega que o Discord está falhando ao não realizar verificação de idade para impedir que crianças menores de 13 anos se inscrevam no serviço.
Em 2023, o Discord adicionou novos filtros para detectar e bloquear conteúdo sexual indesejado, mas o escritório do AG afirma que a empresa deveria ter habilitado a opção “mantenha-me seguro” por padrão.
