No início de agosto passado, Point de Contact informou a WIRED que restavam apenas duas imagens em quatro servidores diferentes da Microsoft. “Lamentamos profundamente que esta questão tenha levado quase 10 meses de comunicação entre a vítima, a Microsoft e nós, como ONG, para ser resolvida”, disse a ONG em um e-mail na época.
O chefe de segurança digital da Microsoft, Gregoire, diz que a situação de Liu motivou sua equipe a tentar melhorar os processos de denúncia e os relacionamentos com grupos de ajuda às vítimas. Inicialmente, Point de Contact alertou sobre links sobre os quais a empresa não tinha controle, de acordo com Gregoire. Ela se recusou a dar detalhes sobre as circunstâncias. Dirani diz que essa explicação nunca foi comunicada a ele, e continua sendo incerto por que os links não eram “acionáveis”.
Somente depois que Powell confrontou Thomas sobre o caso de Liu é que a Microsoft obteve os URLs sobre os quais poderia agir. “Estamos agradecidos, para ser perfeitamente honestos, pela conexão espontânea na TrustCon”, diz Gregoire. Mas isso não deveria ser necessário novamente: Point de Contact agora tem uma maneira mais direta de se manter em contato, diz ela.
Outros grupos de ajuda às vítimas afirmam que seus relacionamentos com gigantes da tecnologia continuam sendo desafiadores. No ano passado, uma investigação da WIRED revelou que os executivos da Google rejeitaram inúmeras ideias levantadas por funcionários e defensores externos que visavam combater proativamente o acesso a imagens problemáticas nos resultados da busca. Alguns sobreviventes descobriram que a maneira mais rápida de remover o conteúdo é através de alegações de direitos autorais, tática considerada insuficiente por aqueles que trabalham na indústria de segurança online.
A falta de consistência nas políticas e nos processos entre as empresas de tecnologia contribui para atrasos na remoção, de acordo com Emma Pickering, chefe de abuso facilitado pela tecnologia no Refuge, a maior organização de combate à violência doméstica do Reino Unido. “Todos respondem da maneira que escolhem – e a resposta geralmente é incrivelmente ruim”, diz ela. (O Google introduziu novas políticas em julho de 2024 para acelerar as remoções.)
Pickering afirma que a Microsoft, em particular, tem sido difícil. “Recentemente, me disseram que, se quisermos interagir com eles, precisamos fornecer evidências de que usamos sua plataforma e os promovemos”, diz ela, acrescentando que o Refuge está tentando interagir com o maior número possível de plataformas de tecnologia.
Gregoire, da Microsoft, diz que vai investigar essas preocupações e está aberta ao diálogo. A empresa espera reduzir a necessidade de remoções, em parte, assustando os perpetradores. Em dezembro passado, a Microsoft processou um grupo de 10 indivíduos desconhecidos que supostamente contornaram as proteções no Azure e usaram uma ferramenta de IA para gerar imagens ofensivas, incluindo algumas descritas por Gregoire como sexualmente prejudiciais. “Não queremos que nossos serviços sejam usados para causar danos”, diz ela.
Para Liu, os desafios não terminaram. Vídeos e imagens que a mostram nua continuam disponíveis em pelo menos um site autodenominado “pornô gratuito”, de acordo com links revisados pela WIRED. Ela também teve que investir suas economias no desenvolvimento da Alecto AI porque o apoio dos investidores tem sido fraco. Alguns investidores supostamente disseram a ela para não usar sua própria experiência em sua apresentação. Liu diz que, ao apresentar para um par homem-mulher que estava considerando investir, eles riram da ideia de construir um negócio em torno do uso de IA para detectar abusos de imagem online. Mesmo ao dizer que ela quase se matou depois de ser vitimada, isso pouco os influenciou, diz Liu.
Em dezembro de 2024, mais de quatro anos e meio desde que seu pesadelo começou, Liu encontrou um vislumbre de esperança. Uma proposta pela qual ela tem advogado no Congresso dos EUA para exigir que sites removam imagens explícitas indesejadas dentro de 48 horas quase chegou à mesa do então presidente Joe Biden. Foi arquivada, mas o progresso real nunca havia parecido tão próximo. Liu e um grupo bipartidário de mais de 20 legisladores não desistiram; em janeiro, reintroduziram a proposta, que ameaça penalidades potenciais de até $50.000 por violação. Apesar de objeções de grupos de direitos preocupados com a supercensura, o projeto de lei foi aprovado pelo Senado na semana passada. Até a Microsoft se posicionou a favor.
Se você ou alguém que você conhece precisa de ajuda, ligue para 1-800-273-8255 para obter suporte gratuito 24 horas da National Suicide Prevention Lifeline. Você também pode enviar a mensagem HOME para 741-741 para a Crisis Text Line. Fora dos EUA, visite a International Association for Suicide Prevention para encontrar centros de crise em todo o mundo.
