No início de agosto passado, o Point de Contact disse à WIRED que apenas duas imagens em quatro servidores diferentes da Microsoft permaneciam. “Lamentamos profundamente que este problema tenha levado quase 10 meses de comunicação entre a vítima, a Microsoft e nós como ONG para ser resolvido”, disse a ONG em um e-mail na época.
O chefe de segurança digital da Microsoft, Gregoire, diz que a situação de Liu estimulou sua equipe a tentar melhorar os processos de denúncia e os relacionamentos com grupos de ajuda às vítimas. O Point de Contact inicialmente sinalizou links sobre os quais a empresa não tinha controle, de acordo com Gregoire. Ela se recusou a elaborar sobre as circunstâncias. Dirani diz que essa explicação nunca foi comunicada a ele e ainda não está claro por que os links não eram “acionáveis”.
Somente após Powell ter confrontado Thomas sobre o caso de Liu, a Microsoft obteve os URLs sobre os quais poderia agir. “Estamos gratos, para ser perfeitamente honestos, pela conexão espontânea na TrustCon”, diz Gregoire. Mas não deveria ser necessário novamente: o Point de Contact agora tem uma maneira mais direta de se manter em contato, diz ela.
Outros grupos de ajuda às vítimas dizem que seus relacionamentos com gigantes da tecnologia continuam sendo desafiadores. No ano passado, uma investigação da WIRED revelou que executivos do Google rejeitaram inúmeras ideias levantadas por funcionários e defensores externos que visavam contrariar proativamente o acesso a imagens problemáticas nos resultados de pesquisa. Alguns sobreviventes descobriram que a maneira mais rápida de remover o conteúdo é por meio de reivindicações de direitos autorais, uma tática considerada inadequada por aqueles que trabalham na indústria de segurança online.
A falta de consistência em políticas e processos entre as empresas de tecnologia contribui para atrasos na remoção, de acordo com Emma Pickering, chefe de abuso facilitado por tecnologia no Refuge, a maior organização de combate à violência doméstica do Reino Unido. “Todos eles simplesmente respondem como lhes convém — e a resposta costuma ser incrivelmente ruim”, diz ela. (O Google introduziu novas políticas em julho de 2024 para acelerar as remoções.)
Pickering afirma que a Microsoft, em particular, tem sido difícil. “Recentemente me disseram que, se quiser me envolver com eles, precisamos fornecer evidências de que usamos a plataforma deles e os promovemos”, diz ela, acrescentando que o Refuge está tentando se envolver com o maior número possível de plataformas de tecnologia.
Gregoire, da Microsoft, diz que vai investigar essas preocupações e está aberta ao diálogo. A empresa espera reduzir a necessidade de remoções, em parte, assustando os infratores. Em dezembro passado, a Microsoft processou um grupo de 10 indivíduos desconhecidos que alegadamente contornaram as proteções no Azure e usaram uma ferramenta de IA para gerar imagens ofensivas, incluindo algumas descritas por Gregoire como sexualmente prejudiciais. “Não queremos que nossos serviços sejam usados para causar danos”, diz ela.
Para Liu, os desafios ainda não terminaram. Vídeos e imagens a mostrando nua ainda estão disponíveis em pelo menos um site autodenominado de “pornografia gratuita”, de acordo com links revisados pela WIRED. Ela também teve que investir suas economias no desenvolvimento da Alecto AI porque o apoio dos investidores foi morno. Alguns investidores supostamente disseram a ela para não usar sua própria experiência em seu discurso. Liu diz que, ao apresentar para um par masculino-feminino que estava considerando investir, eles caíram na risada diante da ideia de construir um negócio em torno do uso de IA para detectar abuso de imagens online. Mesmo respondendo que quase se matou depois de ser vitimizada não fez com que mudassem de ideia, diz Liu.
Em dezembro de 2024, mais de quatro anos e meio desde que seu pesadelo começou, Liu encontrou um vislumbre de esperança. Uma proposta pela qual ela advogou no Congresso dos EUA para exigir que os sites removam imagens explícitas indesejadas em até 48 horas quase chegou à mesa do então presidente Joe Biden. Foi finalmente arquivado, mas o progresso real nunca havia parecido tão próximo. Liu e um grupo bipartidário de mais de 20 parlamentares não desistiram; em janeiro, reintroduziram a proposta, que ameaça penalidades potenciais de até $50.000 por violação. Apesar de objeções de grupos de direitos preocupados com a censura excessiva, o projeto de lei foi aprovado pelo Senado na semana passada. Até a Microsoft se posicionou a favor.
Se você ou alguém que você conhece precisar de ajuda, ligue para 1-800-273-8255 para obter suporte gratuito 24 horas por dia da National Suicide Prevention Lifeline. Você também pode enviar a mensagem HOME para 741-741 para a Crisis Text Line. Fora dos EUA, visite a Associação Internacional para a Prevenção do Suicídio para encontrar centros de crise ao redor do mundo.
