A OpenAI está sob escrutínio na União Europeia novamente – desta vez por causa das alucinações do ChatGPT sobre pessoas.
Um grupo sem fins lucrativos de direitos de privacidade chamado noyb apresentou uma queixa na segunda-feira à Autoridade de Proteção de Dados da Áustria (DPA) contra a empresa de inteligência artificial em nome de um indivíduo, devido à sua incapacidade de corrigir informações geradas pelo ChatGPT sobre pessoas.
Apesar de as alucinações, ou a tendência dos grandes modelos de linguagem (LLMs) como o ChatGPT de inventar informações falsas ou sem sentido, serem comuns, a reclamação do noyb se concentra no Regulamento Geral de Proteção de Dados (GDPR) da UE. O GDPR regula como os dados pessoais das pessoas no bloco são coletados e armazenados.
De acordo com o noyb, a OpenAI admite abertamente ser incapaz de corrigir informações incorretas no ChatGPT, e não consegue dizer de onde vêm os dados ou que dados o ChatGPT armazena sobre pessoas individuais. A empresa também parece estar ciente do problema, mas não parece se importar.
Sob o GDPR, os indivíduos na UE têm o direito de ter informações incorretas sobre eles corrigidas, tornando assim a OpenAI não conformante com a regra devido à sua incapacidade de corrigir os dados.
Enquanto as alucinações “podem ser toleráveis” para trabalhos de casa, o noyb afirma que é “inaceitável” quando se trata de gerar informações sobre pessoas. O reclamante no caso do noyb contra a OpenAI é um indivíduo público que perguntou ao ChatGPT sobre o seu aniversário, mas recebeu repetidamente informações incorretas. A OpenAI então teria se recusado a corrigir ou apagar os dados, alegando que não era possível corrigir os dados. Em vez disso, a OpenAI teria dito ao reclamante que poderia filtrar ou bloquear os dados em certos prompts, como o nome do reclamante.
O grupo está pedindo à DPA que investigue como a OpenAI processa os dados e como a empresa garante dados pessoais precisos no treinamento de seus LLMs. O noyb também está pedindo à DPA que ordene à OpenAI que cumpra o pedido do reclamante de acessar os dados – um direito sob o GDPR que exige que as empresas mostrem aos indivíduos quais dados têm sobre eles e quais são as fontes dos dados.
A OpenAI não respondeu imediatamente a um pedido de comentário.
“O dever de cumprir com solicitações de acesso se aplica a todas as empresas”, disse Maartje de Graaf, advogada de proteção de dados do noyb, em comunicado. “Claramente é possível manter registros dos dados de treinamento que foram usados para pelo menos ter uma ideia sobre as fontes de informação. Parece que com cada ‘inovação’, outro grupo de empresas pensa que seus produtos não precisam cumprir a lei.”
O não cumprimento das regras do GDPR pode levar a multas de até 20 milhões de euros ou 4% do faturamento anual global – o valor mais alto – e ainda mais danos se os indivíduos escolherem buscá-los. A OpenAI já está enfrentando casos semelhantes de proteção de dados em estados membros da UE, como Itália e Polônia.
