Na quarta-feira, a OpenAI lançou um rascunho de sua folha de especificações do Modelo que detalha como pretende que seus modelos de IA se comportem. Há uma seção focada em conteúdo NSFW que dá a impressão de que a empresa está explorando maneiras de criar pornografia de IA, mas a empresa diz que isso não está acontecendo.
“Não temos intenção de criar pornografia gerada por IA”, disse um porta-voz da OpenAI em um e-mail na quinta-feira. “Temos salvaguardas fortes em nossos produtos para evitar deepfakes, que são inaceitáveis, e priorizamos proteger crianças. Também acreditamos na importância de explorar cuidadosamente conversas sobre sexualidade em contextos apropriados para a idade.”
A seção que levou alguns comentaristas a acreditar que pornografia está em desenvolvimento na OpenAI foca no conteúdo NSFW. A empresa escreve que seus modelos não devem atender solicitações de conteúdo inadequado que incluem “erotismo, violência extrema, insultos e palavrões não solicitados”. No entanto, ela enfatiza que os desenvolvedores estão “explorando se podemos fornecer responsavelmente a capacidade de gerar conteúdo NSFW em contextos adequados para a idade através da API e ChatGPT.” A folha continua a fornecer um exemplo de conteúdo NSFW apropriado que é permitido, como ser solicitado a escrever uma letra de música que contenha uma palavra de baixo calão.
A pornografia de IA, em particular deepfakes, criou muita polêmica no último ano. Taylor Swift foi alvo de uma onda de imagens adultas não consentidas usando sua semelhança que foram espalhadas nas redes sociais em janeiro. No mês passado, uma mulher no estado de Washington participou de um site de loteria estadual, que acabou criando uma foto nua gerada por IA dela.
O Gizmodo entrou em contato com a Aylo, empresa controladora do Pornhub, para comentar sobre a perspectiva da OpenAI abrir as comportas para a pornografia gerada por IA, e um porta-voz afirmou que a empresa não tolera nenhum material não consensual em suas plataformas, incluindo deepfakes.
