A Microsoft está banindo o uso de seu serviço de inteligência artificial para reconhecimento facial “por ou para” departamentos de polícia nos Estados Unidos.
Em seu código de conduta atualizado para seu serviço Azure OpenAI, a empresa também disse que as integrações com o serviço não devem ser usadas para tecnologia de reconhecimento facial em tempo real usada por “qualquer aplicação da lei globalmente”, inclusive em câmeras móveis e câmeras instaladas em veículos, “para tentar identificar indivíduos em ambientes descontrolados, ‘no meio do nada'”, ou “para tentar identificar indivíduos presentes em um banco de dados de suspeitos ou ex-detentos.”
O Serviço Azure OpenAI dá aos clientes empresariais acesso aos grandes modelos de linguagem (LLMs) da OpenAI. O serviço é totalmente gerenciado pela Microsoft e limitado aos clientes que já têm uma parceria com a empresa, estão usando-o para casos de menor risco e estão focados em mitigação.
Na semana passada, a Axon, uma empresa que fabrica tecnologia e armas, incluindo para aplicação da lei, lançou um software alimentado por IA que permite à polícia automatizar relatórios. O produto, chamado Draft One, é um “novo software revolucionário que redige narrativas de relatórios policiais de alta qualidade em segundos.” A Axon disse que o Draft One é alimentado pelo modelo LLM mais poderoso da OpenAI, GPT-4, e pode escrever relatórios a partir da transcrição automática de áudio das câmeras corporais das polícias vendidas pela empresa.
No entanto, críticos da ferramenta afirmaram que ela poderia ser problemática considerando que a IA tem problemas em “alucinar” — ou fabricar informações falsas ou sem sentido — e pode ser usada para absolver a polícia de responsabilidades legais se um relatório incluir informações imprecisas.
Dave Maass, diretor de investigações de tecnologias de vigilância na Electronic Frontier Foundation, disse à Forbes que o Draft One é “um tipo de pesadelo.” Ele acrescentou que a polícia não é treinada para usar ferramentas alimentadas por AI e, portanto, pode não compreender o alcance da tecnologia.
Não está claro se o código de conduta atualizado da Microsoft está relacionado ao lançamento do produto da Axon.
