Axon, a empresa de segurança pública que popularizou o Taser, lançou um novo produto que é menos aterrorizante, mas ainda vagamente preocupante: um programa de software alimentado por IA que permite aos policiais automatizar seus relatórios policiais.
A Axon chama seu novo produto de Draft One. Segundo um comunicado de imprensa publicado na terça-feira, o Draft One é um “novo software revolucionário que elabora narrativas de relatórios policiais de alta qualidade em segundos”. O software é alimentado pelo poderoso modelo de linguagem grande GPT-4 e supostamente pode escrever relatórios auto-transcrevendo áudio das câmeras corporais policiais que a Axon vende. A Forbes foi a primeira a relatar o lançamento do novo produto.
A Axon está apresentando seu novo software como uma forma de reduzir o trabalho do escritório de polícia para que os policiais possam passar mais tempo em suas comunidades. Em seu comunicado de imprensa, a empresa enquadra os benefícios de sua tecnologia dessa maneira:
“Departamentos de polícia em todo os EUA têm falta de pessoal. Embora as agências enfatizem a contratação e a retenção, a demanda para preencher vagas em aberto é baixa. A escassez resulta em tempos de resposta mais longos para chamadas de serviço e policiais trabalhando horas extras, o que pode levar ao esgotamento e ser custoso para os contribuintes. Em última análise, o Draft One tem o potencial de aumentar e amplificar os oficiais, dando-lhes mais tempo para melhor servir suas comunidades.”
No entanto, alguns críticos foram rápidos em observar que este produto, que foi projetado para resolver problemas para a polícia, também pode causar uma série de problemas para todos os outros. Um deles é que a IA tem sido conhecida por “alucinar” – ou seja, inventar besteiras. Também parece possível que a polícia possa, em certos casos, usar o software para se absolver da responsabilidade legal. Qualquer implantação dessa tecnologia precisaria de diretrizes regulatórias fortes para garantir que não seja usada de forma inadequada pelos departamentos de polícia.
Axon afirma em seu comunicado de imprensa que uma “variedade de salvaguardas críticas” foram implementadas no Draft One, e que “cada relatório [gerado pelo software é necessário] ser revisado e aprovado por um oficial humano, garantindo a precisão e responsabilidade das informações antes que os relatórios sejam enviados.” Ainda assim, o conforto que você tira dessas garantias provavelmente depende de quanto confia que os policiais farão seus trabalhos corretamente. Para alguns membros do público, essa confiança provavelmente é bastante baixa.
O Draft One ainda não foi amplamente implementado, embora a empresa afirme que seus testes com agências de aplicação da lei ajudaram essas agências a economizar aproximadamente uma hora de trabalho por dia. O comunicado de imprensa também cita um sargento de serviços policiais de Fort Collins, Colorado, que afirma que o software permitiu à sua agência ver uma “diminuição de 82% no tempo gasto escrevendo relatórios.”
O Gizmodo entrou em contato com a Axon para obter mais contexto sobre seu novo produto e atualizará esta história se receber resposta.
