OpenAI, företaget bakom ChatGPT, fortsätter att överväga och ta itu med om användare ska kunna skapa AI-genererad porr och annat explicit innehåll. Dessa samtal har pågått sedan 2024, men verkar ha nått en slutsats.
De typer av AI-porrsajter som kan generera den här typen av innehåll har blivit allt populärare, och det släpps fler hela tiden. De tillåter användare att skapa innehåll som inte är säkert för arbete (NSFW) genom att använda Generative Adversarial Networks (GAN) för att förvandla text från användare till bilder.
Du kanske har hört talas om dessa generatorer i nyhetsartiklar, eftersom det har varit en hel del kontroverser kring deepfakes som delas och bristen på samtycke och policyer som skyddar minderåriga. Det fanns en period då X tvingades förbjuda sökningar efter Taylor Swift eftersom det fanns explicita deepfake-bilder av henne som översvämmade webbplatsen.
OpenAI har betonat att de inte överväger att tillåta djupförfalskningar, men vissa människor säger att att tillåta någon form av pornografi går emot uppdragsförklaringen att producera "säker och fördelaktig" artificiell intelligens.
Ett färskt dokument med modellspecifikationen för OpenAI, i februari 2025, säger att förbjudet innehåll endast gäller sexuellt innehåll som involverar minderåriga och omvandlingar av innehåll som tillhandahålls av användare. Det verkar som att de har nått en överenskommelse och lättar på några av de tidigare begränsningarna för sin modell.
Konversationen på OpenAI handlar om huruvida generering av exotisk text och nakenbilder ska förbjudas eller tillåtas i dess produkter. Från och med 2025, om du försöker få ChatGPT att engagera sig i erotik, får användarna ett meddelande som säger att AI:n "inte kan skapa explicit vuxet innehåll", eller något liknande beroende på din exakta uppmaning. Detta även efter uppdateringen av modellspecifikationerna. Jag förväntade mig något smutsigare, men det finns fortfarande några säkerhetsåtgärder på plats.
För närvarande har OpenAI ett videogenereringsverktyg som heter Sora samt Dall-E 3 för bilder. En medlem av OpenAI-produktteamet, Joanna Jang, sa att "det finns kreativa fall där sexualitet eller nakenhet tillåts, vilket är viktigt för deras användare". Det är svårt att argumentera mot det, då det ibland är konstnärliga uttryck och att lägga ett heltäckande förbud över alla former av nakenhet verkar onödigt. Det är inte som att resten av internet är en fristad utan porr i alla fall.
Människor använder redan AI med öppen källkod för att skapa pornografiskt innehåll
Det finns andra AI-modeller med öppen källkod som människor har ändrat och redigerat för att tillåta explicit innehåll, i både bilder och text. Dessa inkluderar OpenAI och DeepSeek, en nyare AI-modell som lanseras i Kina. Detta har lett till olika sajter som låter människor ta bort kläder från foton, skapa djupa förfalskningar och ta emot nakenbilder från uppmaningar.
Om människor vill skapa NSFW-innehåll är det mycket tillgängligt, vilket leder till frågor om lagligheten och om OpenAI bör tillåta pornografiskt innehåll i framtiden, när människor redan har undergrävt sin utbildning för att uppnå samma resultat.
Uppdraget för OpenAI är "att utveckla och distribuera AI på ett sätt som är säkert, fördelaktigt och tillgängligt för alla". Du kan inte riktigt argumentera för att det räknas som fördelaktigt att hjälpa människor med sina blå bollar. Men det tillåter inte heller erotik i textform. Om du ber om ett stycke litteratur eller en berättelse om två personer som har sex, kommer begäran att avslås.
Vilka är några problem om OpenAI tillåter vuxet innehåll?
Vi ser redan vilken inverkan att använda artificiell intelligens för skrivande och konst har på människors jobb. Modellerna de använder tränades på enorma mängder offentlig webbdata, och de fortsätter att ta innehåll för utbildning utan att fråga om lov. De tillåter nu kreatörer att välja bort träning, men det inkluderar bara vissa former av träning.
Tänk på alla innehållsskapare för vuxna en sekund. Det finns inget att säga om modellen kommer att tränas på all deras data och foton, vilket ökar konkurrensen och gör det svårare för dem att försörja sig på en redan mättad marknad.
Det är svårt att reglera en snabbrörlig industri som AI och det finns en klar riskfaktor om OpenAI börjar tillåta AI-genererad porr på sin server och sina produkter. Samtidigt, om de inte gör det, kommer någon annan att göra det. Det finns andra AI-verktyg som uppenbarligen är säkra, men de har inga problem med att generera erotik eller nakenbilder.
En annan fråga är att de "universella policyerna" för OpenAI måste följa strikt lagar som involverar utnyttjande eller skada av childrenRedan har dussintals skolor drabbats av att personer delar deepfakes av sina elever. För närvarande tillåter OpenAI undantag för vetenskapliga eller medicinska sammanhang, såsom vad som händer under sex eller en förklaring av könsorgan, men drar gränsen vid erotiskt innehåll.