A OpenAI, empresa por trás do ChatGPT, continua a considerar e a abordar se os usuários devem ser capazes de criar pornografia gerada por IA e outros conteúdos explícitos. Essas conversas estão em andamento desde 2024, mas parecem ter chegado a uma conclusão.
Os tipos de sites de pornografia de IA que podem gerar esse tipo de conteúdo têm se tornado cada vez mais populares, e há mais sendo lançados o tempo todo. Eles permitem que os usuários criem conteúdo não seguro para o trabalho (NSFW), usando Generative Adversarial Networks (GANs) para transformar texto de usuários em imagens.
Você pode ter ouvido falar sobre esses geradores em artigos de notícias, pois houve muita controvérsia em torno de deepfakes sendo compartilhados e a falta de consentimento e políticas que protegem menores. Houve um período em que X foi forçado a proibir buscas por Taylor Swift, pois havia imagens deepfake explícitas dela inundando o site.
A OpenAI enfatizou que não está considerando permitir deepfakes, mas algumas pessoas dizem que permitir qualquer forma de pornografia vai contra a declaração de missão de produzir inteligência artificial "segura e benéfica".
Um documento recente do modelo-spec do OpenAI, em fevereiro de 2025, afirma que o conteúdo proibido se aplica apenas a conteúdo sexual envolvendo menores e transformações de conteúdo fornecido pelo usuário. Parece que eles chegaram a um acordo e estão relaxando algumas das restrições anteriores em seu modelo.
A conversa na OpenAI se refere a se a geração de texto exótico e imagens de nudez deve ser proibida ou permitida em seus produtos. A partir de 2025, se você tentar fazer o ChatGPT interagir com erótica, os usuários receberão uma mensagem dizendo que a IA é "incapaz de criar conteúdo adulto explícito", ou algo semelhante, dependendo do seu prompt exato. Isso mesmo após a atualização das especificações do modelo. Eu esperava algo mais sujo, mas ainda há algumas salvaguardas em vigor.
Atualmente, a OpenAI tem uma ferramenta de geração de vídeo chamada Sora, bem como Dall-E 3 para imagens. Um membro da equipe de produtos da OpenAI, Joanna Jang, disse que "há casos criativos em que sexualidade ou nudez são permitidas, o que é importante para seus usuários". É difícil argumentar contra isso, pois às vezes é uma expressão artística e colocar uma proibição geral sobre todas as formas de nudez parece desnecessário. Não é como se o resto da internet fosse um porto seguro sem qualquer pornografia nela, de qualquer forma.
As pessoas já estão usando IA de código aberto para criar conteúdo pornográfico
Existem outros modelos de IA de código aberto que as pessoas mudaram e editaram para permitir conteúdo explícito, tanto em imagens quanto em texto. Eles incluem OpenAI e DeepSeek, um modelo de IA mais novo lançado na China. Isso levou a diferentes sites que permitem que as pessoas removam roupas de fotos, criem deepfakes e recebam nudes de prompts.
Se as pessoas desejam criar conteúdo NSFW, ele é altamente acessível, o que levanta questões sobre a legalidade e se o OpenAI deve permitir conteúdo pornográfico no futuro, quando as pessoas já subverteram seu treinamento para obter os mesmos resultados.
A missão da OpenAI é “desenvolver e implementar IA de uma forma que seja segura, benéfica e acessível a todos”. Você não pode realmente argumentar que ajudar as pessoas com suas bolas azuis conta como benéfico. No entanto, ela também não permite erotismo em forma de texto. Se você pedir um pedaço de literatura ou uma história de duas pessoas fazendo sexo, o pedido será negado.
Quais são alguns problemas se o OpenAI permitir conteúdo adulto?
Já estamos vendo o impacto que o uso de inteligência artificial para escrita e arte tem no trabalho das pessoas. Os modelos que eles usam foram treinados em grandes quantidades de dados públicos da web, e eles continuam a pegar conteúdo para treinamento sem pedir permissão. Eles agora permitem que os criadores optem por não participar do treinamento, mas isso inclui apenas certas formas de treinamento.
Pense em todos os criadores de conteúdo adulto por um segundo. Não há como dizer se o modelo será treinado em todos os seus dados e fotos, aumentando a competição e tornando mais difícil para eles ganharem a vida em um mercado já saturado.
É difícil regular uma indústria em rápido movimento como a IA e há um fator de risco definido se a OpenAI começar a permitir pornografia gerada por IA em seu servidor e produtos. Ao mesmo tempo, se eles não fizerem isso, outra pessoa fará. Existem outras ferramentas de IA que são aparentemente seguras, mas elas não têm problemas em gerar erotismo ou nus.
Outra questão é que as “políticas universais” da OpenAI devem ter estrita conformidade com as leis que envolvem a exploração ou dano de childrenDezenas de escolas já foram afetadas por pessoas que compartilham deepfakes de seus alunos. Atualmente, a OpenAI permite exceções para contextos científicos ou médicos, como o que acontece durante o sexo ou uma explicação sobre os genitais, mas não proíbe conteúdo erótico.