Todo mundo sabe que a desinformação online é um enorme problema – um que, provavelmente, separou comunidades, manipulou eleições e levou certos segmentos da população global a perderem a cabeça. Claro, ninguém parece estar particularmente preocupado em resolver esse problema. De fato, as instituições mais responsáveis pela desinformação online (e, portanto, as mais bem posicionadas para fazer algo a respeito) – ou seja, empresas de tecnologia – parecem determinadas a fazer tudo o que podem para tornar o problema exponencialmente pior.
Um exemplo: a OpenAI lançou o Sora, seu novo gerador de texto para vídeo, na quinta-feira. O modelo foi projetado para permitir que usuários da web gerem vídeos de IA de alta qualidade com apenas uma solicitação de texto. A aplicação está impressionando a internet no momento com sua bizarra variedade de imagens visuais – seja um desfile do Ano Novo Chinês, um cara correndo para trás em uma esteira no escuro, um gato numa cama, ou dois navios piratas rodando ao redor de uma xícara de café.
Neste ponto, apesar de sua missão “mundo em mudança”, poderia ser argumentado que a maior contribuição da OpenAI para a internet foi a geração instantânea de inúmeros terabytes de lixo digital. Todas as ferramentas da empresa são geradores de conteúdo, sobre os quais, especialistas têm alertado, estão prontos para serem utilizados em campanhas fraudulentas e de desinformação.
No seu post sobre o Sora, a equipe da OpenAI reconhece abertamente que há alguns possíveis aspectos negativos nesse novo aplicativo. Para abordar essas desvantagens, a empresa diz que está trabalhando em tecnologias de marca d’água que sinalizariam conteúdo criado por seu gerador. Além disso, está se comunicando com pessoas qualificadas para descobrir como tornar o dilúvio inevitável de lixo gerado pela IA menos tóxico.
Essa abordagem do problema – como se a OpenAI não tivesse certeza de como seu aplicativo poderia ser mal utilizado – é meio hilária, pois já é totalmente óbvio como isso acontecerá. Assim que for ao ar, o Sora vai gerar conteúdo falso em uma escala gigantesca – parte do qual provavelmente será usado para desinformação, parte – parece inegável – será usado para ajudar em vários tipos de fraudes e golpes, e parte será usada para gerar conteúdo tóxico de alguma forma. Todo esse conteúdo inundará os canais de mídia social, tornando mais difícil para as pessoas comuns distinguir entre o que é real e o que é falso, tornando a internet, em geral, muito mais irritante.
A OpenAI afirmou que deseja impor limites significativos ao conteúdo violento e sexual produzido por Sora, mas os usuários da web têm mostrado quão espertos conseguem ser ao “jailbreak” (desbloquear) sistemas de IA para gerar conteúdo que desobedeça as políticas de uso das empresas. Não parece fora do reino da possibilidade que o mesmo seja verdade aqui.
Há uma série de desvantagens óbvias para esse aplicativo. Por um lado, Sora – e outros semelhantes – provavelmente não terão o maior impacto ambiental. Pesquisas têm mostrado que geradores de texto para imagem são significativamente piores, do ponto de vista ambiental, do que geradores de texto, e criar uma imagem de IA consome a mesma quantidade de energia que é necessária para carregar completamente seu smartphone. Além disso, novas tecnologias de geração de texto para vídeo provavelmente prejudicarão a economia dos criadores de vídeo, pois por que as empresas deveriam pagar pessoas para criar conteúdo visual quando tudo o que é necessário para criar um vídeo é clicar em um botão?
Como tal, o Sora parece ser um grande “foda-se” à realidade, mas também um foda-se a muitas outras coisas também. No que diz respeito à classe corporativa neste país, nada realmente importa exceto o dinheiro. Foda-se o meio ambiente, foda-se os artistas, foda-se uma internet livre de desinformação, foda-se a saúde do discurso político, foda-se qualquer coisa que atrapalhe o objetivo de lucro. Qualquer coisa que possa ser explorada para ganhar dinheiro deve ser explorada, mesmo que seja um programa de software cuja única utilidade real é que pode gerar um vídeo de um hamster-cowboy cavalgando um dragão. Como um usuário colocou: “É por isso que os imbecis sacrificam o meio ambiente. Estúpido. Merda. Como. Esta”.
