A Microsoft está proibindo o uso de seu serviço de inteligência artificial para reconhecimento facial “por ou para” departamentos de polícia nos Estados Unidos.
Em seu código de conduta atualizado para o Azure OpenAI Service, a empresa também disse que integrações com o serviço não devem ser usadas para tecnologia de reconhecimento facial em tempo real usada por “qualquer aplicação da lei globalmente”, incluindo em câmeras móveis e câmeras montadas em painéis de automóveis, “para tentar identificar indivíduos em ambientes não controlados, ‘selvagens'”, ou “para tentar identificar indivíduos presentes em um banco de dados de suspeitos ou ex-presidiários”.
O Azure OpenAI Service dá aos clientes corporativos acesso aos grandes modelos de linguagem (GPT) da OpenAI. O serviço é totalmente gerenciado pela Microsoft e é limitado aos clientes que já têm parceria com a empresa, estão usando para casos de menor risco e que estão focados em medidas de mitigação.
Na semana passada, a Axon, uma empresa que fabrica tecnologia e armas, inclusive para aplicação da lei, lançou um software alimentado por IA permitindo que a polícia automatize relatórios. O produto, chamado Draft One, é um “novo produto de software revolucionário que redige em segundos narrativas de relatórios policiais de alta qualidade”. A Axon disse que o Draft One é alimentado pelo GPT-4 da OpenAI e pode redigir relatórios a partir da transcrição automática de áudio de câmeras corporais vendidas pela empresa.
No entanto, críticos da ferramenta disseram que pode ser problemática considerando que a IA tem problemas com “alucinações” – ou inventar informações falsas ou sem sentido – e pode ser usada para isentar a polícia de responsabilidades legais se um relatório contiver informações imprecisas.
Dave Maass, diretor de investigações de tecnologias de vigilância na Electronic Frontier Foundation, disse ao Forbes que o Draft One é “um pesadelo”. Ele acrescentou que a polícia não é treinada para usar ferramentas alimentadas por IA e, portanto, pode não entender o alcance da tecnologia.
Não está claro se o código de conduta atualizado da Microsoft está relacionado ao lançamento do produto da Axon.
