A OpenAI está sob escrutínio da União Europeia mais uma vez, desta vez por causa das alucinações do ChatGPT sobre as pessoas. Um grupo sem fins lucrativos de direitos de privacidade chamado noyb entrou com uma queixa na segunda-feira contra a empresa de inteligência artificial em nome de um indivíduo, devido à sua incapacidade de corrigir informações geradas pelo ChatGPT sobre as pessoas.
Embora as alucinações, ou a tendência de grandes modelos de linguagem (LLMs) como o ChatGPT inventarem informações falsas ou sem sentido, sejam comuns, a queixa da noyb se concentra no Regulamento Geral de Proteção de Dados (GDPR) da UE. O GDPR regula como os dados pessoais das pessoas no bloco são coletados e armazenados.
Apesar dos requisitos do GDPR, “a OpenAI admite abertamente que não consegue corrigir informações incorretas no ChatGPT,” disse a noyb em comunicado, acrescentando que a empresa também “não consegue dizer de onde vêm os dados ou que dados o ChatGPT armazena sobre indivíduos”, e que ela “está bem ciente desse problema, mas não parece se importar”.
Segundo o GDPR, os indivíduos na UE têm o direito de corrigir informações incorretas sobre eles, tornando assim a OpenAI não conforme com a regra devido à sua incapacidade de corrigir os dados, disse a noyb em sua queixa.
Enquanto as alucinações “podem ser toleráveis” para trabalhos de casa, a noyb disse que é “inaceitável” quando se trata de gerar informações sobre as pessoas. O queixoso no caso da noyb contra a OpenAI é um indivíduo público que perguntou ao ChatGPT sobre seu aniversário, mas foi “repetidamente fornecido com informações incorretas”, de acordo com a noyb. A OpenAI então teria “recusado seu pedido para retificar ou apagar os dados, argumentando que não era possível corrigir os dados”. Em vez disso, a OpenAI supostamente disse ao queixoso que poderia filtrar ou bloquear os dados em determinadas solicitações, como nome do queixoso.
O grupo está pedindo à DPA que investigue como a OpenAI processa os dados e como a empresa garante dados pessoais precisos no treinamento de seus LLMs. A noyb também está pedindo à DPA que ordene à OpenAI para cumprir o pedido do queixoso de acessar os dados — um direito sob o GDPR que exige que as empresas mostrem aos indivíduos quais dados têm sobre eles e quais são as fontes dos dados.
A OpenAI não respondeu imediatamente a um pedido de comentário.
“A obrigação de cumprir os pedidos de acesso se aplica a todas as empresas,” disse Maartje de Graaf, advogada de proteção de dados da noyb, em comunicado. “É claramente possível manter registros dos dados de treinamento que foram usados para pelo menos ter uma ideia sobre as fontes de informação. Parece que, com cada ‘inovação’, outro grupo de empresas pensa que seus produtos não têm que cumprir a lei.”
O não cumprimento das regras do GDPR pode levar a penalidades de até 20 milhões de euros ou 4% do faturamento anual global — o que for maior — e até mesmo a mais danos se os indivíduos optarem por buscá-los. A OpenAI já está enfrentando casos semelhantes de proteção de dados em estados membros da UE como Itália e Polônia.
