A Axon, a empresa contratada para segurança pública que popularizou o Taser, lançou um novo produto que é menos aterrorizante, mas ainda vagamente preocupante: um programa de software com inteligência artificial que permite aos policiais automatizar seus relatórios policiais.
A Axon chama seu novo produto de Draft One. De acordo com um comunicado de imprensa publicado na terça-feira, o Draft One é um “revolucionário novo software que elabora narrativas de relatórios policiais de alta qualidade em questão de segundos”. O software é alimentado pelo poderoso modelo de grande linguagem GPT-4 e supostamente pode escrever relatórios transcrevendo áudio automaticamente das câmeras corporais policiais que a Axon vende. A Forbes foi a primeira a reportar sobre o lançamento do novo produto.
A Axon está promovendo seu novo software como uma forma de reduzir o trabalho nos escritórios policiais para que os policiais possam passar mais tempo em suas comunidades. Em seu comunicado de imprensa, a empresa destaca os benefícios de sua tecnologia nesse sentido. No entanto, alguns críticos já perceberam que este produto, que foi projetado para resolver problemas da polícia, também pode causar uma série de problemas para todos os outros. Um artigo da Forbes cita Dave Maass, diretor de investigações de tecnologias de vigilância da Electronic Frontier Foundation, que chamou o novo produto de “um pesadelo”. Maass observou que a maioria dos policiais não é treinada no uso de inteligência artificial e, portanto, pode não estar acostumada a reconhecer suas peculiaridades. Daniel Linskey, ex-superintendente-chefe do Departamento de Polícia de Boston, que também foi entrevistado pela agência de notícias, também alertou sobre a necessidade de cautela na implementação da tecnologia.
Problematicamente, a inteligência artificial já é conhecida por “alucinar” – ou seja, inventar coisas sem sentido. Ao mesmo tempo, parece possível que a polícia possa, em certos casos, usar o software para se isentar de responsabilidade legal. Assim, qualquer implementação dessa tecnologia precisaria de diretrizes regulatórias rigorosas para garantir que não seja mal utilizada pelos departamentos de polícia.
A Axon afirma em seu comunicado de imprensa que uma “variedade de salvaguardas críticas” foram instituídas no Draft One e que “todo relatório produzido pelo software requer revisão e aprovação de um policial humano, garantindo a precisão e responsabilidade das informações antes que os relatórios sejam enviados”. Ainda assim, o conforto que se tem nessas garantias provavelmente depende de quão confiante se está de que os policiais farão seus trabalhos corretamente. Para alguns membros do público, essa confiança é provavelmente bastante baixa.
O Draft One ainda não foi amplamente implementado, embora a empresa afirme que seus testes com agências de aplicação da lei ajudaram essas agências a economizarem aproximadamente uma hora de trabalho por dia. O comunicado de imprensa também cita um sargento de serviços policiais de Fort Collins, Colorado, que afirma que o software possibilitou à sua agência uma “redução de 82% no tempo gasto escrevendo relatórios”.
O Gizmodo entrou em contato com a Axon para obter mais informações sobre seu novo produto e atualizará esta história se houver resposta.
