A OpenAI está sendo investigada novamente pela União Europeia, desta vez por conta dos alucinações do ChatGPT sobre as pessoas. Um grupo sem fins lucrativos de direitos de privacidade chamado noyb entrou com uma reclamação na segunda-feira junto à Autoridade de Proteção de Dados da Áustria (DPA) contra a empresa de inteligência artificial em nome de um indivíduo por sua incapacidade de corrigir informações geradas pelo ChatGPT sobre as pessoas.
Apesar de serem comuns, as alucinações, ou a tendência dos grandes modelos de linguagem (LLMs) como ChatGPT de inventar informações falsas ou sem sentido, a reclamação da noyb se concentra no Regulamento Geral de Proteção de Dados (GDPR) da União Europeia. O GDPR regula como os dados pessoais das pessoas no bloco são coletados e armazenados.
De acordo com a noyb, a OpenAI admite abertamente que não consegue corrigir informações incorretas no ChatGPT, e também não consegue dizer de onde vêm os dados ou que dados o ChatGPT armazena sobre pessoas individuais. A empresa está ciente do problema, mas aparentemente não se importa.
Segundo o GDPR, os indivíduos na União Europeia têm o direito de corrigir informações incorretas sobre eles, tornando a OpenAI não conformidade com a regra devido à sua incapacidade de corrigir os dados. A noyb está pedindo à DPA que investigue como a OpenAI processa os dados e como a empresa garante dados pessoais precisos ao treinar seus LLMs. A noyb também está pedindo à DPA que ordene a OpenAI a cumprir a solicitação do reclamante de acessar os dados – um direito do GDPR que exige que as empresas mostrem aos indivíduos quais dados possuem sobre eles e quais são as fontes desses dados.
A OpenAI ainda não respondeu imediatamente a um pedido de comentário.
“A obrigação de cumprir com solicitações de acesso se aplica a todas as empresas”, disse Maartje de Graaf, advogada de proteção de dados da noyb, em comunicado. “É claramente possível manter registros dos dados de treinamento que foram usados para ter uma ideia sobre as fontes de informação. Parece que com cada ‘inovação’, outro grupo de empresas pensa que seus produtos não precisam cumprir a lei.”
O não cumprimento das regras do GDPR pode resultar em multas de até 20 milhões de euros ou 4% do faturamento anual global – o que for mais alto – e até mais danos se os indivíduos optarem por buscá-los. A OpenAI já está enfrentando casos semelhantes de proteção de dados nos Estados membros da UE, na Itália e na Polônia.
