OpenAI, firmaet bag ChatGPT, fortsætter med at overveje og adressere, om brugerne skal kunne skabe AI-genereret porno og andet eksplicit indhold. Disse forhandlinger har været i gang siden 2024, men ser ud til at være nået til en konklusion.
De typer af AI-pornosider, der kan generere denne type indhold, er blevet mere og mere populære, og der bliver hele tiden udgivet flere. De giver brugerne mulighed for at skabe indhold, der ikke er sikkert til arbejde (NSFW) ved at bruge Generative Adversarial Networks (GAN'er) til at omdanne tekst fra brugere til billeder.
Du har måske hørt om disse generatorer i nyhedsartikler, da der har været en masse kontroverser omkring deepfakes, der deles og manglen på samtykke og politikker, der beskytter mindreårige. Der var en periode, hvor X blev tvunget til at forbyde søgninger efter Taylor Swift, da der var eksplicitte deepfake billeder af hende, der oversvømmede siden.
OpenAI har understreget, at de ikke overvejer at tillade deepfakes, men nogle mennesker siger, at det at tillade enhver form for pornografi er imod missionserklæringen om at producere "sikker og gavnlig" kunstig intelligens.
Et nyligt dokument med modelspecifikationen for OpenAI, i februar 2025, fastslår, at forbudt indhold kun gælder seksuelt indhold, der involverer mindreårige og transformationer af brugerleveret indhold. Det ser ud til, at de er nået til enighed og lemper nogle af de tidligere begrænsninger på deres model.
Samtalen på OpenAI handler om, hvorvidt generering af eksotisk tekst og nøgenbilleder skal forbydes eller tillades i dets produkter. Fra og med 2025, hvis du forsøger at få ChatGPT til at engagere sig i erotik, modtager brugere en besked, der siger, at AI'en er "ikke i stand til at skabe eksplicit voksenindhold", eller noget lignende afhængigt af din nøjagtige prompt. Dette er endda efter opdateringen til modelspecifikationerne. Jeg havde forventet noget mere beskidt, men der er stadig nogle sikkerhedsforanstaltninger på plads.
På nuværende tidspunkt har OpenAI et videogenereringsværktøj kaldet Sora samt Dall-E 3 til billeder. Et medlem af OpenAI-produktteamet, Joanna Jang, sagde, at "der er kreative tilfælde, hvor seksualitet eller nøgenhed er tilladt, hvilket er vigtigt for deres brugere". Det er svært at argumentere med det, da det nogle gange er kunstneriske udtryk, og det virker unødvendigt at lægge et forbud mod alle former for nøgenhed. Det er ikke sådan, at resten af internettet er et sikkert tilflugtssted uden porno på det alligevel.
Folk bruger allerede open source AI til at skabe pornografisk indhold
Der er andre open source AI-modeller, som folk har ændret og redigeret for at tillade eksplicit indhold, både i billeder og tekst. Disse omfatter OpenAI og DeepSeek, en nyere AI-model lanceret i Kina. Dette har ført til forskellige websteder, der giver folk mulighed for at fjerne tøj fra billeder, lave deepfakes og modtage nøgenbilleder fra prompter.
Hvis folk ønsker at skabe NSFW-indhold, er det meget tilgængeligt, hvilket fører til spørgsmål om lovligheden, og om OpenAI skal tillade pornografisk indhold i fremtiden, når folk allerede har undergravet dets træning for at opnå de samme resultater.
Missionen for OpenAI er "at udvikle og implementere AI på en måde, der er sikker, gavnlig og tilgængelig for alle". Du kan ikke rigtig argumentere for, at det tæller som gavnligt at hjælpe folk med deres blå kugler. Det giver dog heller ikke mulighed for erotik i en tekstform. Hvis du beder om et stykke litteratur eller en historie om to personer, der har sex, vil anmodningen blive afvist.
Hvad er nogle problemer, hvis OpenAI tillader voksenindhold?
Vi ser allerede den indvirkning, som brug af kunstig intelligens til skrivning og kunst har på folks job. De modeller, de bruger, blev trænet i enorme mængder af offentlige webdata, og de fortsætter med at tage indhold til træning uden at spørge om tilladelse. De giver nu skabere mulighed for at fravælge træning, men det omfatter kun visse former for træning.
Tænk på alle de voksne indholdsskabere et øjeblik. Der er ingen sager om, hvorvidt modellen vil blive trænet på alle deres data og billeder, hvilket øger konkurrencen og gør det sværere for dem at tjene til livets ophold på et allerede mættet marked.
Det er svært at regulere en industri i hurtig bevægelse som AI, og der er en klar risikofaktor, hvis OpenAI begynder at tillade AI-genereret porno på sin server og produkter. På samme tid, hvis de ikke gør det, vil en anden gøre det. Der er andre AI-værktøjer, der tilsyneladende er sikre, men de har ingen problemer med at generere erotik eller nøgenbilleder.
Et andet spørgsmål er, at OpenAI's "universelle politikker" skal overholde strenge love, der involverer udnyttelse eller skade childrenAllerede er snesevis af skoler blevet påvirket af folk, der deler deepfakes af deres elever. I øjeblikket tillader OpenAI undtagelser i videnskabelig eller medicinsk kontekst, såsom hvad der sker under sex eller en forklaring af kønsorganer, men trækker grænsen ved erotisk indhold.