ChatGPT를 담당하는 회사인 OpenAI는 사용자가 다음을 수행할 수 있어야 하는지 여부를 계속 고려하고 해결하고 있습니다. AI가 생성한 포르노를 만들어보자 그리고 다른 노골적인 내용. 이러한 논의는 2024년부터 진행되었지만 결론에 도달한 것으로 보입니다.
이런 유형의 콘텐츠를 생성할 수 있는 AI 포르노 사이트 유형은 점점 더 인기를 얻고 있으며, 계속해서 더 많은 사이트가 출시되고 있습니다. 이를 통해 사용자는 생성적 적대 네트워크(GAN)를 사용하여 사용자의 텍스트를 이미지로 변환하여 업무에 안전하지 않은(NSFW) 콘텐츠를 만들 수 있습니다.
뉴스 기사에서 이런 생성기에 대해 들어보셨을 수도 있습니다. 딥페이크가 공유되고 동의가 부족하며 미성년자를 보호하는 정책이 부족하기 때문에 많은 논란이 있었습니다. X가 Taylor Swift에 대한 검색을 금지해야 했던 시기가 있었는데, 사이트에 그녀의 노골적인 딥페이크 이미지가 넘쳐났기 때문입니다.
OpenAI는 딥페이크 허용을 고려하지 않는다고 강조했지만, 일부 사람들은 어떤 형태의 포르노도 허용하는 것은 "안전하고 유익한" 인공지능을 만들겠다는 사명에 어긋난다고 말합니다.
OpenAI의 모델 사양에 대한 최근 문서인 2025년 XNUMX월에는 금지된 콘텐츠가 미성년자를 포함하는 성적 콘텐츠와 사용자가 제공한 콘텐츠의 변형에만 적용된다고 명시되어 있습니다. 그들은 합의에 도달했고 이전 모델의 제한 중 일부를 완화하고 있는 것 같습니다.
OpenAI의 대화는 이국적인 텍스트와 누드 이미지를 생성하는 것을 제품에서 금지해야 하는지 허용해야 하는지에 대한 것입니다. 2025년부터 ChatGPT가 에로티카에 참여하도록 시도하면 사용자는 AI가 "명백한 성인 콘텐츠를 만들 수 없습니다"라는 메시지를 받거나 정확한 프롬프트에 따라 비슷한 메시지를 받습니다. 이는 모델 사양이 업데이트된 후에도 마찬가지입니다. 저는 더 더러운 것을 기대했지만 여전히 몇 가지 보호 장치가 있습니다.
현재 OpenAI는 Sora라는 비디오 생성 도구와 이미지를 위한 Dall-E 3를 보유하고 있습니다. OpenAI 제품 팀의 멤버인 Joanna Jang은 "성적 표현이나 누드가 허용되는 창의적인 사례가 있는데, 이는 사용자에게 중요합니다."라고 말했습니다. 때로는 예술적 표현이기 때문에 모든 형태의 누드에 대한 전면적인 금지를 하는 것은 불필요해 보이기 때문에 이에 반박하기 어렵습니다. 어차피 인터넷의 나머지 부분이 포르노가 없는 안전한 피난처는 아닙니다.
사람들은 이미 오픈소스 AI를 사용하여 포르노 콘텐츠를 만들고 있습니다.
사람들이 이미지와 텍스트 모두에서 노골적인 콘텐츠를 허용하도록 변경하고 편집한 다른 오픈소스 AI 모델이 있습니다. 여기에는 OpenAI와 중국에서 출시된 새로운 AI 모델인 DeepSeek이 포함됩니다. 이로 인해 사람들이 사진에서 옷을 제거하고, 딥페이크를 만들고, 프롬프트에서 누드를 받을 수 있는 다양한 사이트가 생겨났습니다.
사람들이 NSFW 콘텐츠를 만들고 싶어한다면, 그것은 매우 쉽게 접근할 수 있는데, 이는 합법성에 대한 의문과 OpenAI가 미래에 포르노 콘텐츠를 허용해야 하는지에 대한 의문으로 이어진다. 왜냐하면 사람들이 이미 동일한 결과를 얻기 위해 훈련을 방해했기 때문이다.
OpenAI의 사명은 "모든 사람이 안전하고 유익하며 접근 가능한 방식으로 AI를 개발하고 배포하는 것"입니다. 파란 알을 가진 사람들을 돕는 것이 유익하다고 주장할 수는 없습니다. 그러나 텍스트 형태의 에로티카도 허용하지 않습니다. 문학 작품이나 두 사람이 섹스하는 이야기를 요청하면 요청이 거부됩니다.
OpenAI가 성인 콘텐츠를 허용하면 어떤 문제가 생길까요?
우리는 이미 글쓰기와 예술에 인공지능을 사용하는 것이 사람들의 직업에 미치는 영향을 보고 있습니다. 그들이 사용하는 모델은 방대한 양의 공개 웹 데이터로 훈련되었으며, 그들은 허가 없이도 계속해서 콘텐츠를 훈련에 사용합니다. 그들은 이제 크리에이터가 훈련을 거부할 수 있도록 허용하지만, 그것은 특정 형태의 훈련에만 포함됩니다.
모든 성인 콘텐츠 제작자에 대해 잠깐 생각해 보세요. 모델이 모든 데이터와 사진으로 훈련되어 경쟁이 치열해지고 이미 포화된 시장에서 생계를 유지하기가 더 어려워질지 여부는 말할 수 없습니다.
AI와 같이 빠르게 움직이는 산업을 규제하는 것은 어렵고 OpenAI가 자사 서버와 제품에 AI가 생성한 포르노를 허용하기 시작하면 확실한 위험 요소가 있습니다. 동시에, 그들이 그렇게 하지 않으면 다른 누군가가 그렇게 할 것입니다. 겉보기에 안전한 다른 AI 도구가 있지만, 에로티카나 누드를 생성하는 데는 문제가 없습니다.
또 다른 문제는 OpenAI의 "보편적 정책"이 착취 또는 피해를 수반하는 법률을 엄격히 준수해야 한다는 것입니다. children이미 수십 개의 학교가 학생들의 딥페이크 영상을 공유하는 사람들로 인해 피해를 입었습니다. 현재 OpenAI는 성관계 중 일어나는 일이나 성기에 대한 설명과 같은 과학적 또는 의학적 맥락에 대해서는 예외를 허용하지만, 성적 콘텐츠에는 선을 긋고 있습니다.