Axon, a contratada de segurança pública que popularizou o Taser, lançou um novo produto que é menos ativamente aterrorizante, mas ainda vagamente preocupante: um programa de software alimentado por IA que permite aos policiais automatizar seus relatórios policiais.
A Axon chama seu novo produto de Draft One. De acordo com um comunicado de imprensa publicado na terça-feira, o Draft One é um “novo e revolucionário produto de software que elabora narrativas de relatórios policiais de alta qualidade em segundos”. O software é alimentado pelo modelo de linguagem grande e poderoso GPT-4 e supostamente pode escrever relatórios por meio da auto-transcrição de áudio das câmeras de corpo da polícia que a Axon vende. A Forbes foi a primeira a reportar o lançamento do novo produto.
A Axon está apresentando seu novo software como uma forma de reduzir o trabalho do escritório da polícia para que os policiais possam passar mais tempo em suas comunidades. Em seu comunicado de imprensa, a empresa apresenta os benefícios de sua tecnologia da seguinte forma:
“Departamentos de polícia em todo os EUA estão com falta de pessoal. Embora as agências estejam enfatizando a contratação e a retenção, a demanda para preencher cargos vagos é baixa. A escassez resulta em tempos de resposta mais longos para chamadas de serviço e policiais trabalhando horas extras, o que pode levar ao esgotamento e ser custoso para os contribuintes. Em última análise, o Draft One tem o potencial de aumentar e ampliar os policiais, dando-lhes mais tempo para servir melhor suas comunidades.”
No entanto, alguns críticos foram rápidos em observar que este produto, projetado para resolver problemas para a polícia, também poderia causar uma série de problemas para todos os outros. O artigo da Forbes cita Dave Maass, diretor de investigações de tecnologias de vigilância na Electronic Frontier Foundation, que chamou o novo produto de “um pesadelo”. Maass observou que a maioria dos policiais não é treinada no uso de IA e, portanto, pode não estar acostumada a reconhecer suas falhas. Daniel Linskey, ex-superintendente-chefe do Departamento de Polícia de Boston, que também foi entrevistado pela empresa de notícias, também recomendou cautela na implantação da tecnologia.
Problematicamente, a IA é conhecida por “alucinar” – isto é, inventar coisas sem sentido. Ao mesmo tempo, parece possível que a polícia possa – em determinados casos – utilizar o software para se isentar de responsabilidade legal. Ou seja, se algo questionável surgir em um relatório policial e o relatório for “escrito” com o novo software da Axon, parece plausível que os policiais possam falsamente culpar o software por erros ou imprecisões que foram realmente inseridos por um humano – semear dúvidas no processo. Como tal, qualquer implantação dessa tecnologia precisaria de diretrizes regulatórias fortes para garantir que não seja mal utilizada pelos departamentos de polícia.
A Axon afirma em seu comunicado de imprensa que uma “variedade de salvaguardas críticas” foram instituídas no Draft One e que “cada relatório [gerado pelo software é necessário] ser revisado e aprovado por um policial humano, garantindo a precisão e responsabilidade das informações antes que os relatórios sejam enviados”. Ainda assim, o conforto que você tem nessas garantias provavelmente depende de quanto confia que os policiais farão seus trabalhos corretamente. Para alguns membros do público, essa confiança provavelmente é bastante baixa.
O Draft One ainda não foi amplamente implantado, embora a empresa afirme que seus testes com agências de aplicação da lei ajudaram essas agências a economizar aproximadamente uma hora de trabalho por dia. O comunicado de imprensa também cita um sargento de serviços policiais em Fort Collins, Colorado, que afirma que o software permitiu à sua agência ver uma “diminuição de 82% no tempo gasto escrevendo relatórios”.
O Gizmodo entrou em contato com a Axon para obter mais informações sobre seu novo produto e irá atualizar esta história se houver uma resposta.
