No início de agosto do ano passado, o Point de Contact informou à WIRED que apenas duas imagens em quatro servidores diferentes da Microsoft permaneciam. “Lamentamos profundamente que esta questão tenha levado quase 10 meses de comunicação entre a vítima, a Microsoft e nós, como ONG, para ser resolvida”, disse a ONG em um e-mail na época.
A chefe de segurança digital da Microsoft, Gregoire, diz que a situação de Liu estimulou sua equipe a tentar melhorar os processos de denúncia e os relacionamentos com grupos de assistência às vítimas. Inicialmente, o Point de Contact sinalizou links sobre os quais a empresa não tinha controle, de acordo com Gregoire. Ela se recusou a comentar sobre as circunstâncias. Dirani afirma que essa explicação nunca foi comunicada a ele e ainda não está claro por que os links não eram “acionáveis”.
Somente depois que Powell pressionou Thomas sobre o caso de Liu, a Microsoft obteve os URLs sobre os quais poderia agir. “Somos gratos, para ser perfeitamente honestos, pela conexão espontânea na TrustCon”, diz Gregoire. Mas não deveria ser necessário novamente: o Point de Contact agora tem uma forma mais direta de se manter em contato, diz ela.
Outros grupos de assistência às vítimas afirmam que seus relacionamentos com gigantes da tecnologia continuam desafiadores. No ano passado, uma investigação da WIRED revelou que executivos do Google rejeitaram inúmeras ideias levantadas por funcionários e defensores externos que visavam combater proativamente o acesso a imagens problemáticas nos resultados de pesquisa. Alguns sobreviventes descobriram que a maneira mais rápida de remover o conteúdo é através de reclamações de direitos autorais, uma tática considerada inadequada por aqueles que trabalham na indústria de segurança online.
A falta de consistência nas políticas e processos entre as empresas de tecnologia contribui para atrasos na remoção do conteúdo, de acordo com Emma Pickering, chefe de abuso facilitado pela tecnologia na Refuge, a maior organização de combate à violência doméstica do Reino Unido. “Todos eles simplesmente respondem como bem entendem—e a resposta geralmente é incrivelmente ruim”, diz ela. (O Google introduziu novas políticas em julho de 2024 para acelerar as remoções.)
Pickering afirma que a Microsoft, em particular, tem sido difícil. “Recentemente, fui informada de que, se quisesse me envolver com eles, precisaríamos fornecer evidências de que usamos sua plataforma e os promovemos”, diz ela, acrescentando que a Refuge está tentando se envolver com o maior número possível de plataformas de tecnologia.
Gregoire da Microsoft diz que investigará essas preocupações e está aberta ao diálogo. A empresa espera reduzir a necessidade de remoção de conteúdo, em parte, assustando os infratores. Em dezembro passado, a Microsoft processou um grupo de 10 indivíduos desconhecidos que supostamente contornaram as proteções no Azure e usaram uma ferramenta de IA para gerar imagens ofensivas, incluindo algumas descritas por Gregoire como sexualmente prejudiciais. “Não queremos que nossos serviços sejam abusados para causar danos”, diz ela.
Para Liu, os desafios não terminaram. Vídeos e imagens que a mostram nua continuam disponíveis em pelo menos um site autodenominado “pornô grátis”, de acordo com links analisados pela WIRED. Ela também teve que investir suas economias no desenvolvimento da Alecto AI porque o apoio dos investidores tem sido fraco. Alguns investidores supostamente lhe disseram para não usar sua própria experiência em sua apresentação. Liu diz que, quando apresentou para um casal homem-mulher que estava considerando investir, eles riram da ideia de construir um negócio em torno do uso de IA para detectar abuso de imagem online. Nem mesmo responder que ela quase se matou depois de ser vítima foi suficiente para convencê-los, diz Liu.
Em dezembro de 2024, mais de quatro anos e meio desde o início de seu pesadelo, Liu encontrou um vislumbre de esperança. Uma proposta pela qual ela defendeu no Congresso dos Estados Unidos para exigir que os sites removam imagens explícitas indesejadas dentro de 48 horas quase chegou à mesa do então presidente Joe Biden. Foi finalmente adiada, mas o progresso real nunca havia parecido tão próximo. Liu e um grupo bipartidário de mais de 20 legisladores não desistiram; em janeiro, reintroduziram a proposta, que ameaça multas de até US$ 50.000 por violação. Apesar das objeções de grupos de direitos preocupados com a sobrecensura, o projeto de lei foi aprovado no Senado na semana passada. Até a Microsoft se posicionou a favor.
Se você ou alguém que você conhece precisa de ajuda, ligue 1-800-273-8255 para receber apoio gratuito e 24 horas por dia da Linha Nacional de Prevenção ao Suicídio. Você também pode enviar a palavra HOME para 741-741 para a Linha de Texto de Crise. Fora dos EUA, visite a Associação Internacional para a Prevenção do Suicídio para encontrar centros de crise ao redor do mundo.
