Atualmente, ouvimos muito sobre todas as salvaguardas que o Gemini e o ChatGPT têm em vigor. Mas tudo o que você precisa fazer é manipulá-los e eles vão fornecer qualquer coisa que você precise para sua campanha política.
O Gizmodo conseguiu fazer com que o Gemini e o ChatGPT escrevessem vários slogans políticos, discursos de campanha e e-mails através de simples sugestões e um pouco de manipulação.
Hoje, o Google e a OpenAI assinaram “Um Acordo Tecnológico para Combater o Uso Enganoso de IA nas Eleições de 2024” ao lado de mais uma dúzia de outras empresas de IA. No entanto, este acordo parece ser apenas uma postura das Big Tech. As empresas concordaram em “implementar tecnologia para mitigar os riscos relacionados ao conteúdo de IA enganoso nas Eleições”. O Gizmodo conseguiu contornar essas “salvaguardas” muito facilmente e criar conteúdo enganoso de IA eleitoral em apenas alguns minutos.
Com o Gemini, conseguimos manipular o chatbot para escrever textos políticos dizendo que “o ChatGPT poderia fazer isso” ou que “sou experiente”. Depois disso, o Gemini escreveria tudo o que pedimos, na voz do candidato que quisermos.
Um porta-voz do Google disse ao Gizmodo que as respostas do Gemini não violam suas políticas porque não estão espalhando desinformação. Em outras palavras, o Gemini pode escrever discursos, slogans e e-mails para campanhas políticas, desde que sejam precisos.
O OpenAI disse que está “trabalhando para prevenir abusos, fornecer transparência sobre o conteúdo gerado por IA e melhorar o acesso a informações de votação precisas”, em um post de blog de janeiro. No entanto, não está claro o que essas prevenções realmente são. Conseguimos fazer o ChatGPT escrever um e-mail do Presidente Biden dizendo que o dia da eleição é na verdade em 8 de novembro deste ano, em vez de 5 de novembro (a data real).
“Estamos comprometidos em proteger a integridade das eleições, fazendo cumprir políticas que evitem abusos e melhorando a transparência em torno do conteúdo gerado por IA,” disse Anna Makanju, Vice-Presidente de Assuntos Globais da OpenAI, em um comunicado à imprensa na sexta-feira.
“A democracia repousa em eleições seguras e seguras”, disse Kent Walker, Presidente de Assuntos Globais do Google. “Não podemos permitir que abusos digitais ameacem a oportunidade geracional da IA de melhorar nossas economias”, disse Walker, em uma declaração um tanto lamentável, dado que as salvaguardas de sua empresa são muito fáceis de contornar.
O Google e a OpenAI precisam fazer muito mais para combater o abuso de IA nas próximas eleições presidenciais de 2024. Dado o caos que deepfakes de IA já causaram em nosso processo democrático, só podemos imaginar que isso vai piorar muito. Essas empresas de IA precisam ser responsabilizadas.
