Os americanos estão preocupados com a possibilidade de deepfakes de IA desencadearem um incêndio de desinformação antes das eleições presidenciais nos EUA neste outono – e alguns estão até reduzindo seu uso de mídia social por causa dessa preocupação.
Vários estudos mostraram que a maioria dos americanos está desconfortável com a maneira como a inteligência artificial generativa pode ser usada para espalhar desinformação, e muitos confirmaram que muitos (se não a maioria) dos residentes dos EUA estão particularmente preocupados com desinformação feita por IA em relação à eleição presidencial de 2024. Por exemplo, uma pesquisa da Axios descobriu que 53% dos americanos acreditam que a desinformação espalhada por IA afetará qual candidato vence.
A Adobe acrescentou a essa pilha de pesquisas, encomendando uma pesquisa voluntária com mais de 2.000 residentes dos EUA com 18 anos ou mais e descobrindo que um número ainda mais alarmante de americanos está preocupado com deepfakes influenciando os resultados das eleições: 80%. O estudo compartilhado com o Quartz também descobriu que 40% dos entrevistados reduziram ou interromperam o uso de uma plataforma de mídia social específica devido à quantidade de desinformação nela.
Suas preocupações são bem fundamentadas: o conteúdo gerado por IA já está sendo usado por políticos e hackers. Em uma campanha presidencial agora extinta do governador da Flórida, Ron DeSantis, foram postados deepfakes de Donald Trump beijando o ex-diretor do Instituto Nacional de Alergia e Doenças Infecciosas, Anthony Fauci, no verão passado. Também no verão de 2023, o partido político do primeiro-ministro da Polônia, Donald Tusk, postou um vídeo parcialmente gerado por IA de seu oponente durante uma campanha eleitoral. Enquanto isso, um grupo online apoiado pela China, “Spamoflauge”, espalhou vídeos de âncoras de notícias geradas por IA relatando notícias falsas antes da eleição presidencial de Taiwan. E um grupo de pesquisadores da Microsoft afirmou que a China provavelmente usará IA para interferir nas eleições presidenciais dos EUA.
“Na Adobe, vemos o potencial transformador da IA generativa na promoção da criatividade e produtividade. No entanto, em uma era de deepfakes, a desinformação acionada por IA representa um risco significativo para a integridade das eleições”, disse Andy Parsons, Diretor Sênior da Adobe do Content Authenticity Initiative. “Nossa opinião na equipe é que haverá algum impacto da IA nesta eleição. Não será o fim da civilização e da democracia, mas ao longo do tempo, sem os devidos controles em vigor, isso piorará.”
“Uma vez enganado por um deepfake, você pode não acreditar mais no que vê online. E quando as pessoas começam a duvidar de tudo, quando não conseguem mais distinguir ficção de fato, a própria democracia é ameaçada”, disse ele.
A resposta da Adobe: credenciais de conteúdo
A Adobe liderou iniciativas do setor para combater a desinformação gerada por IA nos últimos anos.
A Adobe lançou o Content Authenticity Initiative (CAI) em parceria com The New York Times e Twitter em 2019. O CAI desenvolveu um código aberto chamado Content Credentials que as empresas podem integrar gratuitamente em seus produtos. A tecnologia anexa metadados ao conteúdo digital e é projetada para ser interoperável entre sistemas. O resultado final é que fotos e vídeos têm um ícone no qual os usuários podem clicar para ver como o conteúdo foi feito, quanto foi editado e se a IA foi usada; esse ícone então acompanha a imagem ou vídeo quando é exportado do Adobe Premiere, por exemplo, e postado em plataformas como YouTube ou Instagram.
“A missão do CAI tem sido firme e constante, e é dar aos consumidores de informações, checadores de fatos, criativos a capacidade de saber o que estão fazendo”, disse Parsons.
A Adobe não ganha dinheiro com sua participação no CAI ou no projeto colaborativo do grupo, a Coalition for Content Provenance and Authenticity (C2PA), que ela lançou com grandes players como Microsoft, Arm e Intel em 2021 para criar um padrão de certificação de conteúdo digital. O Meta anunciou em fevereiro que usaria Content Credentials, e no mesmo mês, o Google se juntou à C2PA para ajudar a desenvolver ainda mais esses padrões em colaboração com a Adobe e seus agora 2.500 parceiros. A Microsoft e a Adobe também trabalharam em uma ferramenta de Content Credentials para campanhas políticas antes das próximas eleições.
“Aquele pequeno pin do CR, que imaginamos que pode ser tão reconhecível nos próximos anos como o símbolo de direitos autorais, indica não que [o conteúdo digital é] bom, verdadeiro ou falso, mas que há mais informações [sobre de onde veio o conteúdo], é por isso que gostamos dessa metáfora do rótulo de nutrição. Você sabe, você pode entrar em um supermercado e ninguém vai te impedir de comprar alimentos não saudáveis – mas você tem o direito fundamental de saber o que está nele”, disse Parsons.
Parsons disse que a Adobe iniciou todo esse esforço quando um apresentador em sua conferência anual em Las Vegas em 2016 mostrou o quão fácil seria criar um áudio deepfake da voz de Jordan Peele.
Parsons disse que os esforços da Adobe para criar mais padrões em torno do conteúdo gerado por IA são para benefício de seus clientes do Creative Cloud, que desejam essas ferramentas. Ele também disse que as Content Credentials são mais fortes que marcas d’água digitais, um pedaço de código que identifica conteúdo feito por IA e foi introduzido como uma solução potencial para deepfakes.
“É bastante fácil treinar uma IA para derrotar marcas d’água. Então, apoiamos a ideia de marcas d’água, mas achamos que a combinação de uma marca d’água e uma Credencial de Conteúdo juntas é uma contramedida muito mais forte”, disse ele.
Ainda assim, Parsons reconhece que mais precisa ser feito para evitar desinformação relacionada à IA. Ele disse que a adoção generalizada de um padrão de certificação de conteúdo digital, como as Content Credentials e a educação em alfabetização midiática são necessárias.
“Nenhuma dessas contramedidas é uma bala de prata. Será necessário o governo, a sociedade civil, as empresas de tecnologia e uma variedade de abordagens tecnológicas para realmente abordar a desinformação”, disse ele.
