OpenAI, tvrtka koja stoji iza ChatGPT-a, nastavlja razmatrati i baviti se trebaju li korisnici to moći stvoriti pornografiju generiranu umjetnom inteligencijom i druge eksplicitne sadržaje. Ovi razgovori traju od 2024., ali čini se da su došli do zaključka.
Vrste AI pornografskih stranica koje mogu generirati ovu vrstu sadržaja postale su sve popularnije, a stalno ih se objavljuje. Korisnicima omogućuju stvaranje sadržaja koji nije siguran za rad (NSFW), koristeći Generative Adversarial Networks (GAN) za pretvaranje teksta korisnika u slike.
Možda ste čuli za ove generatore u novinskim člancima, jer je bilo mnogo kontroverzi oko dijeljenja deepfakeova i nedostatka pristanka i politika koje štite maloljetnike. Postojalo je razdoblje u kojem je X bio prisiljen zabraniti pretraživanje Taylor Swift jer su bile eksplicitne deepfake slike koje su preplavile web mjesto.
OpenAI je naglasio da ne razmatra dopuštanje deepfakea, ali neki ljudi kažu da je dopuštanje bilo kojeg oblika pornografije u suprotnosti s misijom proizvodnje "sigurne i korisne" umjetne inteligencije.
Nedavni dokument specifikacije modela OpenAI-ja iz veljače 2025. navodi da se zabranjeni sadržaj odnosi samo na seksualni sadržaj koji uključuje maloljetnike i transformacije sadržaja koji pružaju korisnici. Čini se da su postigli dogovor i ublažili neka od dosadašnjih ograničenja na svom modelu.
Razgovor u OpenAI-ju odnosi se na to treba li generiranje egzotičnog teksta i golih slika biti zabranjeno ili dopušteno u njegovim proizvodima. Od 2025., ako pokušate natjerati ChatGPT da se bavi erotikom, korisnici će primiti poruku da AI "nije u mogućnosti stvoriti eksplicitni sadržaj za odrasle", ili nešto slično, ovisno o vašem točnom upitu. To je čak i nakon ažuriranja specifikacija modela. Očekivao sam nešto prljavije, ali ipak postoje neke mjere zaštite.
Trenutno OpenAI ima alat za generiranje videa koji se zove Sora kao i Dall-E 3 za slike. Članica OpenAI proizvodnog tima, Joanna Jang, rekla je da "postoje kreativni slučajevi gdje su seksualnost ili golotinja dopušteni, što je važno njihovim korisnicima". Teško je raspravljati s tim, jer ponekad je riječ o umjetničkom izričaju i stavljanje opće zabrane nad svim oblicima golotinje čini se nepotrebnim. Nije da je ostatak interneta ionako sigurno utočište bez pornografije.
Ljudi već koriste umjetnu inteligenciju otvorenog izvora za stvaranje pornografskog sadržaja
Postoje i drugi modeli AI otvorenog koda koje su ljudi mijenjali i uređivali kako bi omogućili eksplicitan sadržaj, kako u slikama tako iu tekstu. To uključuje OpenAI i DeepSeek, noviji AI model lansiran u Kini. To je dovelo do različitih stranica koje dopuštaju ljudima da skidaju odjeću s fotografija, stvaraju deepfake i primaju aktove iz upita.
Ako ljudi žele stvoriti NSFW sadržaj, on je vrlo dostupan, što dovodi do pitanja o zakonitosti i treba li OpenAI dopuštati pornografski sadržaj u budućnosti, kada su ljudi već potkopali njegovu obuku za postizanje istih rezultata.
Misija OpenAI-ja je "razviti i implementirati AI na način koji je siguran, koristan i dostupan svima". Ne možete baš tvrditi da se pomaganje ljudima s njihovim plavim kuglicama računa kao korisno. Međutim, također ne dopušta erotiku u obliku teksta. Ako zatražite dio literature ili priču o dvoje ljudi koji vode seks, zahtjev će biti odbijen.
Koji su neki problemi ako OpenAI dopušta sadržaj za odrasle?
Već vidimo utjecaj koji upotreba umjetne inteligencije za pisanje i umjetnost ima na radna mjesta ljudi. Modeli koje koriste obučeni su na golemim količinama javnih web podataka i nastavljaju uzimati sadržaj za obuku bez traženja dopuštenja. Sada dopuštaju kreatorima da odustanu od obuke, ali to uključuje samo određene oblike obuke.
Razmislite na trenutak o svim kreatorima sadržaja za odrasle. Nema sumnje hoće li se manekenka obučavati na svim njihovim podacima i fotografijama, povećavajući konkurenciju i otežavajući im zaradu za život na već zasićenom tržištu.
Teško je regulirati industriju koja se brzo razvija kao što je umjetna inteligencija i postoji određeni faktor rizika ako OpenAI počne dopuštati pornografiju generiranu umjetnom inteligencijom na svom poslužitelju i proizvodima. Pritom, ako oni to ne učine, učinit će netko drugi. Postoje i drugi alati umjetne inteligencije koji su naizgled sigurni, ali nemaju problema s generiranjem erotike ili aktova.
Drugi problem je da "univerzalne politike" OpenAI-ja moraju biti u strogom skladu sa zakonima koji uključuju iskorištavanje ili nanošenje štete childrenDeseci škola već su pogođeni dijeljenjem deepfakeova svojih učenika. Trenutno OpenAI dopušta iznimke za znanstveni ili medicinski kontekst poput onoga što se događa tijekom seksa ili objašnjenja genitalija, ali povlači granicu kod erotskog sadržaja.