OpenAI, компанія, що стоїть за ChatGPT, продовжує розглядати та вирішувати, чи повинні користувачі мати можливість створювати порно з штучним інтелектом та інший відвертий вміст. Ці переговори тривали з 2024 року, але, схоже, дійшли висновку.
Типи порносайтів зі штучним інтелектом, які можуть генерувати цей тип вмісту, стають дедалі популярнішими, і їх постійно випускається все більше. Вони дозволяють користувачам створювати вміст, небезпечний для роботи (NSFW), використовуючи Generative Adversarial Networks (GAN), щоб перетворювати текст від користувачів на зображення.
Можливо, ви чули про ці генератори в новинних статтях, оскільки було багато суперечок навколо розповсюдження дипфейків та відсутності згоди та політики захисту неповнолітніх. Був період, коли X був змушений заборонити пошук Тейлор Свіфт, оскільки сайт заполонили її відверті зображення deepfake.
OpenAI підкреслив, що вони не розглядають дозвіл глибоких фейків, але деякі люди кажуть, що дозвіл будь-якої форми порнографії суперечить заяві про створення «безпечного та корисного» штучного інтелекту.
У нещодавньому документі специфікації моделі OpenAI від лютого 2025 року зазначено, що заборонений контент стосується лише сексуального контенту за участю неповнолітніх і трансформації контенту, наданого користувачами. Здається, вони досягли згоди та послабили деякі попередні обмеження щодо своєї моделі.
Розмова в OpenAI стосується того, чи слід заборонити чи дозволити створення екзотичного тексту та оголених зображень у його продуктах. Станом на 2025 рік, якщо ви спробуєте змусити ChatGPT задіяти еротику, користувачі отримають повідомлення про те, що штучний інтелект «не може створити відвертий контент для дорослих» або щось подібне залежно від вашого точного запиту. Це навіть після оновлення специфікацій моделі. Я очікував чогось бруднішого, але деякі запобіжні заходи все ж є.
На даний момент OpenAI має інструмент створення відео під назвою Sora, а також Dall-E 3 для зображень. Член команди продукту OpenAI Джоанна Джанг сказала, що «є креативні випадки, коли сексуальність або оголеність дозволені, що важливо для їхніх користувачів». З цим важко сперечатися, оскільки іноді це художнє вираження, і загальна заборона на всі форми оголеного тіла здається непотрібною. Це не те, що решта Інтернету є безпечною гаванню без будь-якого порно.
Люди вже використовують ШІ з відкритим кодом для створення порнографічного вмісту
Існують інші моделі штучного інтелекту з відкритим вихідним кодом, які люди змінювали та редагували, щоб дозволити відвертий вміст як у зображеннях, так і в тексті. Серед них OpenAI і DeepSeek, новіша модель штучного інтелекту, запущена в Китаї. Це призвело до появи різних сайтів, які дозволяють людям знімати одяг із фотографій, створювати дипфейки та отримувати оголені зображення з підказок.
Якщо люди хочуть створювати вміст NSFW, він дуже доступний, що призводить до питань щодо законності та того, чи повинен OpenAI дозволяти порнографічний вміст у майбутньому, коли люди вже підірвали його навчання для досягнення тих самих результатів.
Місія OpenAI полягає в «розробці та розгортанні штучного інтелекту таким чином, щоб він був безпечним, вигідним і доступним для всіх». Ви не можете сперечатися, що допомога людям із їхніми синіми кульками вважається корисною. Однак він також не допускає еротики в текстовій формі. Якщо ви попросите літературний твір або історію про секс двох людей, у запиті буде відмовлено.
Які проблеми виникають, якщо OpenAI дозволяє вміст для дорослих?
Ми вже бачимо вплив використання штучного інтелекту для письма та мистецтва на робочі місця людей. Моделі, які вони використовують, були навчені на величезних обсягах загальнодоступних веб-даних, і вони продовжують використовувати вміст для навчання, не запитуючи дозволу. Тепер вони дозволяють творцям відмовитися від навчання, але це стосується лише певних форм навчання.
Подумайте на секунду про всіх творців контенту для дорослих. Не можна сказати, чи буде модель навчатися на всіх їхніх даних і фотографіях, що посилить конкуренцію та ускладнить їм заробляти на життя на вже насиченому ринку.
Важко регулювати індустрію, яка швидко розвивається, як штучний інтелект, і існує певний фактор ризику, якщо OpenAI почне дозволяти створене штучним інтелектом порно на своїх серверах і продуктах. Водночас, якщо не вони, то зробить хтось інший. Існують інші інструменти штучного інтелекту, які начебто безпечні, але вони не мають проблем із створенням еротики чи оголеного тіла.
Інша проблема полягає в тому, що «універсальна політика» OpenAI повинна суворо відповідати законам, які передбачають використання чи пошкодження children. Уже десятки шкіл постраждали від того, що люди поширюють дипфейки своїх учнів. Наразі OpenAI допускає винятки для наукового чи медичного контексту, як-от те, що відбувається під час сексу чи пояснення статевих органів, але обмежує еротичний вміст.