A OpenAI está sob escrutínio da União Europeia mais uma vez – desta vez por causa das alucinações do ChatGPT sobre pessoas.
Um grupo sem fins lucrativos de direitos de privacidade chamado noyb entrou com uma reclamação na segunda-feira junto à Autoridade de Proteção de Dados da Áustria (DPA) contra a empresa de inteligência artificial em nome de um indivíduo, devido à sua incapacidade de corrigir informações geradas pelo ChatGPT sobre pessoas.
Embora as alucinações, ou a tendência de grandes modelos de linguagem (LLMs) como o ChatGPT inventarem informações falsas ou sem sentido, sejam comuns, a reclamação da noyb se concentra no Regulamento Geral de Proteção de Dados (GDPR) da UE. O GDPR regulamenta como os dados pessoais das pessoas no bloco são coletados e armazenados.
De acordo com a noyb, a OpenAI admite abertamente que não consegue corrigir informações incorretas no ChatGPT, não consegue dizer de onde vêm os dados ou quais dados o ChatGPT armazena sobre indivíduos, e está ciente do problema, mas parece não se importar.
Sob o GDPR, os indivíduos na UE têm o direito de ter informações incorretas sobre eles corrigidas, tornando a OpenAI não conformidade com a regra devido à sua incapacidade de corrigir os dados.
Embora as alucinações “podem ser toleráveis” para trabalhos de casa, a noyb disse que são “inadmissíveis” quando se trata de gerar informações sobre pessoas. O reclamante no caso da noyb contra a OpenAI é um indivíduo público que perguntou ao ChatGPT sobre sua data de nascimento, mas recebeu repetidamente informações incorretas. A OpenAI então supostamente se recusou a atender sua solicitação de retificação ou exclusão dos dados, argumentando que não era possível corrigir os dados. Em vez disso, a OpenAI supostamente disse ao reclamante que poderia filtrar ou bloquear os dados em determinadas solicitações, como o nome do reclamante.
O grupo pede à DPA que investigue como a OpenAI processa dados e como a empresa garante dados pessoais precisos no treinamento de seus LLMs. A noyb também pede à DPA que ordene à OpenAI que cumpra a solicitação do reclamante de acesso aos dados – um direito sob o GDPR que exige que as empresas mostrem aos indivíduos quais dados têm sobre eles e quais são as fontes desses dados.
A OpenAI não respondeu imediatamente a um pedido de comentário.
“A obrigação de cumprir pedidos de acesso se aplica a todas as empresas”, disse Maartje de Graaf, advogada de proteção de dados da noyb, em um comunicado. “É claramente possível manter registros de dados de treinamento que foram usados para pelo menos ter uma ideia sobre as fontes de informação. Parece que com cada ‘inovação’, outro grupo de empresas pensa que seus produtos não precisam cumprir a lei.”
O não cumprimento das regras do GDPR pode levar a penalidades de até 20 milhões de euros ou 4% do faturamento anual global – o valor mais alto -, e até mais danos se os indivíduos optarem por procurá-los. A OpenAI já enfrenta casos semelhantes de proteção de dados nos Estados membros da UE Itália e Polônia.
