Axon, a empresa de segurança pública que popularizou o Taser, lançou um novo produto que é menos assustador, mas ainda vagamente preocupante: um programa de software baseado em inteligência artificial que permite aos policiais automatizar seus relatórios policiais.
A Axon chama seu novo produto de Draft One. De acordo com um comunicado de imprensa publicado na terça-feira, o Draft One é um “revolucionário novo produto de software que elabora narrativas de relatórios policiais de alta qualidade em segundos.” O software é alimentado pelo poderoso modelo de linguagem GPT-4 e supostamente pode escrever relatórios por meio da transcrição automática de áudio das câmeras corporais da polícia que a Axon vende. A Forbes foi a primeira a relatar o lançamento do novo produto.
A Axon está apresentando seu novo software como uma forma de reduzir o trabalho nos escritórios da polícia para que os policiais possam passar mais tempo em suas comunidades. Em seu comunicado de imprensa, a empresa descreve os benefícios de sua tecnologia da seguinte forma:
“Departamentos de polícia em todo os EUA estão com falta de pessoal. Embora as agências estejam enfatizando a contratação e retenção, a demanda para preencher funções abertas é baixa. A escassez resulta em tempos de resposta mais longos para chamadas de serviço e policiais trabalhando horas extras, o que pode levar ao esgotamento e ser custoso para os contribuintes. Em última análise, o Draft One tem o potencial de aumentar e ampliar os policiais, devolvendo-lhes tempo para servir melhor suas comunidades.”
No entanto, alguns críticos foram rápidos em observar que este produto, que foi projetado para resolver problemas para a polícia, também pode causar uma série de problemas para todos os outros. O artigo da Forbes cita Dave Maass, diretor de investigações de tecnologias de vigilância na Electronic Frontier Foundation, que chamou o novo produto de “um pesadelo”. Maass notou que a maioria dos policiais não é treinada no uso de IA e, portanto, pode não estar acostumada a reconhecer suas falhas. Daniel Linskey, ex-Superintendente-Chefe do Departamento de Polícia de Boston, que também foi entrevistado pelo veículo de notícias, também instou à cautela no uso da tecnologia.
Problematicamente, a inteligência artificial é conhecida por “alucinar” – ou seja, inventar coisas sem sentido. Ao mesmo tempo, parece possível que a polícia possa, em certos casos, usar o software para se isentar da responsabilidade legal. Ou seja, se algo questionável surgir em um relatório policial e o relatório for “escrito” com o novo software da Axon, parece plausível que os policiais possam culpar falsamente o software por erros ou imprecisões que na verdade foram inseridos por um humano – semear dúvidas no caminho. Como tal, qualquer implementação dessa tecnologia precisaria de diretrizes regulatórias fortes para garantir que não seja mal utilizada pelos departamentos de polícia.
A Axon afirma em seu comunicado de imprensa que uma “variedade de salvaguardas críticas” foram instituídas no Draft One, e que “cada relatório [gerado pelo software é exigido] a ser revisado e aprovado por um oficial humano, garantindo a precisão e responsabilidade das informações antes que os relatórios sejam submetidos.” Ainda assim, o conforto que você tem nessas garantias provavelmente depende de quanto confia que os policiais farão seus trabalhos corretamente. Para alguns membros do público, essa confiança provavelmente é bastante baixa.
O Draft One ainda não foi amplamente implementado, embora a empresa afirme que seus testes com agências de aplicação da lei tenham ajudado essas agências a economizar aproximadamente uma hora de trabalho por dia. O comunicado de imprensa também cita um sargento de serviços policiais de Fort Collins, Colorado, que afirma que o software permitiu que sua agência visse uma “redução de 82% no tempo gasto escrevendo relatórios.”
O Gizmodo entrou em contato com a Axon para obter mais informações sobre seu novo produto e irá atualizar esta história se houver resposta.
