A Axon, a empresa de segurança pública que popularizou o Taser, lançou um novo produto que é menos ativamente assustador, mas ainda vagamente preocupante: um programa de software alimentado por inteligência artificial que permite aos policiais automatizar seus relatórios policiais.
A Axon chama seu novo produto de Draft One. De acordo com um comunicado de imprensa publicado na terça-feira, o Draft One é um “novo e revolucionário produto de software que elabora narrativas de relatórios policiais de alta qualidade em segundos.” O software é alimentado pelo poderoso modelo de linguagem grande GPT-4 e pode supostamente escrever relatórios por auto-transcrição de áudio das câmeras corporais policiais que a Axon vende. A Forbes foi a primeira a relatar o lançamento do novo produto.
A Axon está apresentando seu novo software como uma forma de reduzir o trabalho no escritório da polícia para que os policiais possam passar mais tempo em suas comunidades. No entanto, alguns críticos têm observado rapidamente que este produto, projetado para resolver problemas para a polícia, também pode causar uma série de problemas para todos os outros. O artigo da Forbes cita Dave Maass, diretor de investigações de tecnologias de vigilância na Electronic Frontier Foundation, que chamou o novo produto de “um tipo de pesadelo”. Maass observou que a maioria dos policiais não é treinada no uso de IA e, portanto, pode não estar acostumada a reconhecer suas falhas. Daniel Linskey, ex-superintendente-chefe do Departamento de Polícia de Boston, que também foi entrevistado pelo veículo de notícias, também pediu cautela na implantação da tecnologia.
Problematicamente, a IA é conhecida por “alucinar” – ou seja, inventar bobagens. Ao mesmo tempo, parece possível que os policiais possam, em certos casos, usar o software para se eximirem de responsabilidade legal. Portanto, qualquer implantação dessa tecnologia precisaria de diretrizes regulatórias fortes para garantir que não seja mal utilizada pelos departamentos de polícia.
A Axon afirma em seu comunicado à imprensa que “uma variedade de salvaguardas críticas” foram instituídas no Draft One e que “todo relatório [gerado pelo software é exigido] ser revisado e aprovado por um policial humano, garantindo a precisão e responsabilidade das informações antes que os relatórios sejam enviados”. Ainda assim, o conforto que você tem nessas garantias provavelmente depende de quanto confia que os policiais farão seu trabalho corretamente. Para alguns membros do público, essa confiança provavelmente é bastante baixa.
O Draft One ainda não foi amplamente implantado, embora a empresa afirme que seus testes com agências de aplicação da lei tenham ajudado essas agências a economizar aproximadamente uma hora de trabalho por dia. O comunicado à imprensa cita ainda um sargento da Polícia de Fort Collins, Colorado, que afirma que o software permitiu que sua agência tivesse uma “diminuição de 82% no tempo gasto escrevendo relatórios”.
O Gizmodo entrou em contato com a Axon para mais contexto sobre seu novo produto e atualizará esta história se receber uma resposta.
