Emails Internos Revelam Como um Sistema de IA Controverso de Detecção de Armas Encontrou seu Caminho para NYC

Houve muita sobreposição com ex-membros do NYPD. Adams e Banks trabalharam juntos como policiais, assim como um então executivo de contas da Evolv, também mencionado por Chitkara no e-mail para a equipe do prefeito. Dominick D’Orazio, que foi gerente de vendas da Evolv no nordeste dos EUA antes de ser promovido a gerente regional em abril, era comandante no Brooklyn South, cuja linha de reportagem incluía Banks, que na época era chefe adjunto de patrulha do bairro do sul do Brooklyn. (Banks negou ter conhecido D’Orazio em sua capacidade de funcionário da Evolv).

A conexão da Evolv com o NYPD é algo que George, CEO da Evolv, usou para comercializar a tecnologia da empresa. “Aproximadamente um terço de nossos vendedores eram ex-policias,” George disse em uma conferência em junho de 2022. “O daqui de Nova York era um policial do NYPD, e ele é um ótimo vendedor porque entende para quem estamos vendendo. Ele tem o aperto de mão secreto.”

David Cohen, ex-comissário adjunto de inteligência do NYPD, também está no Conselho Consultivo de Segurança da Evolv.

O Escritório do Prefeito tem se esforçado para destacar que não pretende que a Evolv seja uma instalação permanente. “Para ser claro, NÓS NÃO dissemos que estamos colocando tecnologia da Evolv nas estações de metrô”, disse Kayla Mamelak, vice-diretora de imprensa do Gabinete do Prefeito, à WIRED em um e-mail. “Dissemos que estamos abrindo um período de 90 dias para explorar o uso de tecnologia, como a Evolv, em nossas estações de metrô.”

Especialistas em direitos civis e tecnologia argumentaram que a utilização dos scanners da Evolv nas estações de metrô provavelmente será inútil. “Isto não é segurança pública séria,” diz Albert Fox Cahn, fundador do Projeto de Supervisão de Tecnologia de Vigilância, uma organização de defesa da privacidade. “Esta não é uma solução séria para o maior sistema de trânsito do país.”

Além disso, implantar a tecnologia da empresa pode não apenas ser ineficaz, mas também provavelmente acrescentará mais policiais à rotina diária dos nova-iorquinos, intensificando a agenda pró-policial de Adams. O metrô de Nova York possui 472 estações. “Isso corresponde a cerca de 1.000 entradas de estações de metrô,” explica Sarah Kaufman, diretora do Centro Rudin de Transporte da Universidade de Nova York. “Isso significa que a Evolv teria que estar em cada entrada para ser eficaz, e é claro que isso exigiria monitoramento.”

De acordo com o rascunho de política publicado pelo NYPD, o processo em torno da tecnologia de detecção de armas no metrô é extremamente vago e ainda depende muito dos policiais. “O supervisor do posto de controle determinará a frequência de passageiros sujeitos a inspeção (por exemplo, a cada quinto passageiro ou a cada décimo passageiro),” diz o documento. Também se baseará na “disponibilidade de pessoal policial para realizar inspeções.”

O metrô de Nova York possui cerca de 3,6 milhões de passageiros diários. Parar a cada décimo passageiro significaria 360.000 buscas por dia.

“Isto significa que as pessoas terão que passar rotineiramente por buscas invasivas e inconvenientes,” diz Cahn. “O que é realmente emblemático aqui é que a cidade continua tentando adotar medidas de segurança altamente visíveis, mesmo quando são altamente ineficazes.”

Materiais Escolares

Na troca de e-mails com os funcionários da cidade de Nova York que participaram da reunião, Chitkara destacou a implantação bem-sucedida da Evolv nas escolas. Mas, lá também, os scanners falharam em detectar armas e armas de fogo em várias ocasiões. Enquanto a administração de Adams estava sendo persuadida a testar a tecnologia, e-mails internos obtidos de um grande distrito escolar que usa a tecnologia da Evolv ilustram como objetos cotidianos estavam sendo confundidos pelos scanners.

“Eu sei que a solução simples é dizer às crianças para não usar fichários, mas sim cadernos comuns,” escreveu Jacqueline Barone, diretora da Escola Secundária Piedmont, parte das Escolas de Charlotte-Mecklenburg na Carolina do Norte, no final de 2022. “Mas dói na alma ter que dizer às crianças ou aos professores que certos materiais não podem ser usados porque os escâneres os confundem com armas.”