Polícia Está Agora Usando Inteligência Artificial para Gerar Relatórios Policiais

Axon, a empresa de segurança pública que popularizou o Taser, lançou um novo produto que é menos aterrorizante, mas ainda causa preocupação: um programa de software com inteligência artificial que permite aos policiais automatizarem seus relatórios policiais. O novo produto da Axon é chamado de Draft One. Segundo um comunicado de imprensa publicado na terça-feira, o Draft One é um “novo software revolucionário que elabora narrativas de relatórios policiais de alta qualidade em segundos”. O software é alimentado pelo poderoso modelo de linguagem GPT-4 e pode supostamente escrever relatórios transcrevendo automaticamente áudio das câmeras corporais policiais que a Axon vende. A Axon está vendendo seu novo software como uma maneira de reduzir o trabalho administrativo da polícia para que os policiais possam passar mais tempo em suas comunidades. No entanto, alguns críticos observaram rapidamente que esse produto, projetado para resolver problemas pela polícia, também pode causar uma série de problemas para todos os outros. O AI tem sido conhecido por “alucinar”, ou seja, inventar coisas sem sentido. Ao mesmo tempo, parece possível que a polícia possa, em certos casos, usar o software para se absolver da responsabilidade legal. Qualquer implantação dessa tecnologia precisaria de diretrizes regulatórias rigorosas para garantir que não seja mal utilizada pelos departamentos de polícia. Axon afirma em seu comunicado de imprensa que uma “série de salvaguardas críticas” foram implementadas no Draft One e que “cada relatório [gerado pelo software é obrigado] a ser revisado e aprovado por um oficial humano, garantindo a precisão e responsabilidade das informações antes que os relatórios sejam enviados”. No entanto, o nível de conforto nessas garantias provavelmente depende de quanta confiança se tem de que os policiais farão seu trabalho corretamente. Para alguns membros do público, essa confiança é provavelmente bastante baixa. O Draft One ainda não foi amplamente implantado, embora a empresa afirme que seus testes com agências de aplicação da lei ajudaram essas agências a economizar aproximadamente uma hora de trabalho por dia. O comunicado de imprensa ainda cita um sargento da Polícia de Fort Collins Colorado, que afirma que o software permitiu que sua agência visse uma “diminuição de 82% no tempo gasto escrevendo relatórios”. A Gizmodo entrou em contato com a Axon para mais contexto sobre seu novo produto e irá atualizar esta história se ela responder.