OpenAI, la empresa detrás de ChatGPT, continúa considerando y abordando si los usuarios deberían poder crear pornografía generada por IA y otro contenido explícito. Estas conversaciones se llevan a cabo desde 2024, pero parecen haber llegado a una conclusión.
Los sitios web pornográficos con IA que generan este tipo de contenido son cada vez más populares, y se lanzan más constantemente. Permiten a los usuarios crear contenido no apto para el trabajo (NSFW) mediante redes generativas antagónicas (GAN) para convertir el texto de los usuarios en imágenes.
Quizás hayas oído hablar de estos generadores en las noticias, ya que ha habido mucha controversia en torno a la difusión de deepfakes y la falta de consentimiento y políticas que protejan a los menores. Hubo un periodo en el que X se vio obligado a prohibir las búsquedas de Taylor Swift debido a la proliferación de imágenes deepfakes explícitas de ella en el sitio.
OpenAI ha enfatizado que no están considerando permitir deepfakes, pero algunas personas dicen que permitir cualquier forma de pornografía va en contra de la declaración de la misión de producir inteligencia artificial "segura y beneficiosa".
Un documento reciente de la especificación del modelo de OpenAI, de febrero de 2025, establece que el contenido prohibido solo se aplica al contenido sexual que involucra a menores y a las transformaciones del contenido proporcionado por el usuario. Parece que han llegado a un acuerdo y están flexibilizando algunas de las restricciones anteriores de su modelo.
La conversación en OpenAI gira en torno a si debería prohibirse o permitirse la generación de textos exóticos e imágenes de desnudos en sus productos. A partir de 2025, si se intenta que ChatGPT interactúe con contenido erótico, los usuarios recibirán un mensaje que indica que la IA "no puede crear contenido explícito para adultos", o algo similar, según la solicitud. Esto ocurre incluso después de la actualización de las especificaciones del modelo. Esperaba algo más subido de tono, pero aún existen algunas medidas de seguridad.
Actualmente, OpenAI cuenta con una herramienta de generación de video llamada Sora, así como con Dall-E 3 para imágenes. Joanna Jang, miembro del equipo de producto de OpenAI, comentó: «Hay casos creativos donde se permite la sexualidad o la desnudez, lo cual es importante para sus usuarios». Es difícil rebatirlo, ya que a veces se trata de una expresión artística y prohibir totalmente cualquier forma de desnudez parece innecesario. De todas formas, internet no es un refugio seguro sin pornografía.
La gente ya está utilizando IA de código abierto para crear contenido pornográfico
Existen otros modelos de IA de código abierto que se han modificado y editado para permitir contenido explícito, tanto en imágenes como en texto. Entre ellos se incluyen OpenAI y DeepSeek, un modelo de IA más reciente lanzado en China. Esto ha dado lugar a diferentes sitios web que permiten eliminar la ropa de las fotos, crear deepfakes y recibir desnudos a través de indicaciones.
Si las personas desean crear contenido NSFW, este es muy accesible, lo que genera preguntas sobre su legalidad y si OpenAI debería permitir contenido pornográfico en el futuro, cuando las personas ya han subvertido su entrenamiento para lograr los mismos resultados.
La misión de OpenAI es "desarrollar e implementar IA de forma segura, beneficiosa y accesible para todos". No se puede negar que ayudar a las personas con problemas de testículos sea beneficioso. Sin embargo, tampoco permite contenido erótico en formato de texto. Si solicitas un texto literario o una historia sobre dos personas teniendo sexo, la solicitud será denegada.
¿Cuáles serían algunos problemas si OpenAI permite contenido para adultos?
Ya estamos viendo el impacto que el uso de la inteligencia artificial para la escritura y el arte tiene en el trabajo de las personas. Los modelos que utilizan se entrenaron con cantidades masivas de datos web públicos, y siguen utilizando contenido para el entrenamiento sin pedir permiso. Ahora permiten a los creadores optar por no participar en el entrenamiento, pero esto solo incluye ciertas formas de entrenamiento.
Piensa en todos los creadores de contenido para adultos por un segundo. No hay forma de saber si la modelo será entrenada con todos sus datos y fotos, lo que aumenta la competencia y les dificulta ganarse la vida en un mercado ya saturado.
Es difícil regular una industria en constante evolución como la IA, y existe un claro riesgo si OpenAI empieza a permitir pornografía generada por IA en sus servidores y productos. Al mismo tiempo, si no lo hacen, alguien más lo hará. Existen otras herramientas de IA aparentemente seguras, pero no tienen problemas para generar contenido erótico o desnudos.
Otra cuestión es que las “políticas universales” de OpenAI deben tener un estricto cumplimiento de las leyes que involucran la explotación o daño de childrenDecenas de escuelas ya se han visto afectadas por la difusión de deepfakes de sus alumnos. Actualmente, OpenAI permite excepciones en contextos científicos o médicos, como lo que sucede durante el sexo o una explicación de los genitales, pero no permite el contenido erótico.