A Axon, a contratante de segurança pública que popularizou o Taser, lançou um novo produto que é menos ativamente aterrorizante, mas ainda vagamente preocupante: um programa de software alimentado por IA que permite aos policiais automatizar seus relatórios policiais.
A Axon chama seu novo produto de Rascunho Um. De acordo com um comunicado de imprensa publicado na terça-feira, o Rascunho Um é um “novo produto de software revolucionário que elabora narrativas de relatórios policiais de alta qualidade em segundos”. O software é alimentado pelo poderoso modelo de linguagem grande GPT-4 e pode supostamente escrever relatórios, autotranscrevendo áudio das câmeras corporais da polícia que a Axon vende. A Forbes foi a primeira a relatar sobre o lançamento do novo produto.
A Axon está apresentando seu novo software como uma maneira de reduzir o trabalho no escritório da polícia para que os policiais possam passar mais tempo em suas comunidades. Em seu comunicado de imprensa, a empresa molda os benefícios de sua tecnologia da seguinte forma:
Departamentos de polícia em todos os EUA estão com falta de pessoal. Embora as agências estejam enfatizando a contratação e retenção, a demanda para preencher cargos em aberto é baixa. A escassez resulta em tempos de resposta mais longos para chamadas de serviço e oficiais trabalhando horas extras, o que pode levar ao esgotamento e ser custoso para os contribuintes. Em última análise, o Rascunho Um tem o potencial de ampliar e amplificar os oficiais, dando-lhes tempo para servir melhor suas comunidades.
No entanto, alguns críticos têm sido rápidos em observar que este produto, que foi projetado para resolver problemas para a polícia, também pode causar uma série de problemas para todos os demais. Um artigo da Forbes cita Dave Maass, diretor de investigações de tecnologias de vigilância na Electronic Frontier Foundation, que chamou o novo produto de “um tipo de pesadelo”. Maass observou que a maioria dos policiais não é treinada no uso de IA e, portanto, pode não estar acostumada a reconhecer suas falhas. Daniel Linskey, ex-superintendente-chefe do Departamento de Polícia de Boston, que também foi entrevistado pelo veículo de notícias, também pediu cautela na implantação da tecnologia.
Problematicamente, a IA é conhecida por “alucinar” – ou seja, inventar palavras sem sentido. Ao mesmo tempo, parece possível que os policiais possam, em determinados casos, usar o software para se absolverem de responsabilidade legal. Ou seja, se algo questionável surgisse em um relatório policial, e o relatório fosse “escrito” com o novo software da Axon, parece plausível que os policiais pudessem culpar falsamente o software por erros ou imprecisões que na verdade foram inseridos por um humano, semear dúvidas no caminho. Como tal, qualquer implantação dessa tecnologia precisaria de diretrizes regulatórias fortes para garantir que não seja mal utilizada pelos departamentos de polícia.
A Axon afirma em seu comunicado de imprensa que uma “variedade de salvaguardas críticas” foram instituídas no Rascunho Um, e que “cada relatório [gerado pelo software é exigido] ser revisado e aprovado por um oficial humano, garantindo a precisão e a responsabilidade das informações antes que os relatórios sejam enviados.” Ainda assim, o conforto que você tem nessas garantias provavelmente depende de quanta confiança você tem de que os policiais farão seus trabalhos corretamente. Para alguns membros do público, essa confiança provavelmente é bem baixa.
O Rascunho Um ainda não foi amplamente implantado, embora a empresa afirme que seus testes com agências de segurança pública tenham ajudado essas agências a economizar aproximadamente uma hora de trabalho por dia. O comunicado de imprensa também cita um sargento de Serviços Policiais do Fort Collins Colorado, que afirma que o software permitiu que sua agência visse uma “diminuição de 82% no tempo gasto escrevendo relatórios.”
O Gizmodo entrou em contato com a Axon para mais contexto sobre seu novo produto e atualizará esta história se receber uma resposta.
