Na quarta-feira, a OpenAI divulgou um rascunho de sua planilha de especificações do modelo que detalha como pretende que seus modelos de IA se comportem. Há uma seção focando em conteúdo NSFW que dá a impressão de que a empresa está explorando maneiras de criar pornô de IA, mas a empresa diz que isso não está acontecendo.
“Não temos intenção de criar pornografia gerada por IA”, disse um porta-voz da OpenAI em um e-mail na quinta-feira. “Temos salvaguardas fortes em nossos produtos para evitar deepfakes, que são inaceitáveis, e priorizamos proteger as crianças. Também acreditamos na importância de explorar cuidadosamente conversas sobre sexualidade em contextos apropriados para a idade.”
A seção que levou alguns comentaristas a acreditarem que pornografia está sendo desenvolvida na OpenAI se concentra em conteúdo NSFW. A empresa escreve que seus modelos não devem atender a pedidos de conteúdo inadequado, que incluem “erotismo, violência extrema, insultos e palavrões não solicitados.” No entanto, enfatiza que os desenvolvedores estão “explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados para a idade por meio da API e do ChatGPT.” A planilha continua a fornecer um exemplo de conteúdo NSFW apropriado, como ser solicitado a escrever uma letra de música que contenha uma palavra de baixo calão.
A pornografia de IA, em particular deepfakes, criou muita controvérsia no último ano. Taylor Swift foi alvo de uma onda de imagens adultas não consensuais falsas usando sua semelhança que foram espalhadas nas redes sociais em janeiro. No mês passado, uma mulher no estado de Washington participou de um site de loteria estadual, o que acabou criando uma imagem nua gerada por IA dela.
O Gizmodo entrou em contato com a Aylo, empresa-mãe do Pornhub, para comentar sobre a perspectiva da OpenAI abrir as comportas para pornografia gerada por IA e um porta-voz escreveu que a empresa não tolera qualquer material não consensual em suas plataformas, incluindo deepfakes.
“Qualquer manipulação de IA/deepfake da imagem de uma pessoa, seja em imagem ou vídeo, para criar a ilusão de que a pessoa está falando ou agindo de outra maneira é proibida”, disse o porta-voz em um e-mail. “Em todos os casos em que identificamos ou somos informados sobre conteúdo que viola esta política, nossas equipes de Confiança e Segurança e de Moderação trabalham rapidamente para: Revisar e remover o conteúdo infrator; registrar a digital do conteúdo em questão para ajudar a bloquear futuros envios do mesmo conteúdo em nossos sites; e suspender ou encerrar permanentemente a conta do envio associado, quando apropriado.
