Kad je umjetna inteligencija prešla granicu: Zašto je Grokov članak "Svlačenje" izazvao bijes i kamo umjesto toga ići

Kad umjetna inteligencija prestane biti zabavna i počne biti opasna

Dakle, evo u čemu je stvar s AI tehnologijom u 2026. godini, postala je toliko moćna i pristupačna da je ono što je nekada bila znanstvena fantastika (ili možda vaše čudne tehnološke noćne more) sada jednostavno... dostupno svima s internetskom vezom i nekoliko dolara za potrošiti. I iskreno? To je istovremeno nevjerojatno i apsolutno zastrašujuće, jer iako AI može činiti nevjerojatne stvari poput pomoći liječnicima u dijagnosticiranju bolesti ili stvaranju umjetnosti ili što god, može se i iskoristiti kao oružje na načine koji štete stvarnim ljudima, poput stvarno iskrenog nanošenja boli, i to se upravo dogodilo s Grokom na X-u (znate, Twitteru ili kako god ga danas zovemo).

Elon Muskov AI chatbot Grok, koji je integriran u X gdje milijuni ljudi svakodnevno skrolaju, nedavno je postao središte velike kontroverze jer su korisnici otkrili da mogu koristiti njegove značajke generiranja slika kako bi doslovno "skinuli" fotografije ljudi, stvarajući lažne gole slike bilo koga čiju su sliku mogli prenijeti, i da, postalo je onoliko loše koliko sada zamišljate, s izvješćima o korištenju alata na maloljetnicima i osobama koje nisu dale pristanak čije su fotografije samo stajale na društvenim mrežama i brinule se o svom poslu.

Negativne reakcije bile su brze i brutalne (kao što bi, iskreno, i trebalo biti), a X se borio da uvede ograničenja, ali evo o čemu nitko zapravo ne govori na nijansiran način: sama tehnologija nije inherentno zla, već su kontekst, pristanak i javna priroda načina na koji se koristila ono što ju je učinilo tako užasnom.

Kontroverza oko Groka: Što se zapravo dogodilo na X-u

U redu, prijeđimo na detalje jer je ovo važno. Početkom siječnja 2026., novinske kuće poput CNN-a, BBC-a i The New York Timesa počele su izvještavati da se Grokov alat za generiranje slika pomoću umjetne inteligencije široko zloupotrebljava za stvaranje eksplicitnih deepfake slika stvarnih ljudi bez njihovog pristanka, a to se nije događalo u nekom mračnom kutku interneta, već na X-u, platformi sa stotinama milijuna korisnika gdje se druže vaša mama, vaš šef i vaši kolege iz srednje škole.

Način na koji je funkcionirao bio je prilično jednostavan (i to je dijelom ono što ga je činilo tako opasnim): korisnici s X Premium pretplatama (koje su koštale oko 16 dolara mjesečno ili tako nešto) imali su pristup Grok-ovim značajkama generiranja slika, i za razliku od drugih AI alata koji imaju stroge politike sadržaja i filtere, Grok je bio izuzetno popustljiv u pogledu onoga što bi stvorio, dopuštajući korisnicima generiranje seksualno eksplicitnog sadržaja uz minimalna ograničenja. Ljudi su počeli prenositi fotografije stvarnih pojedinaca, prijatelja, slavnih osoba, kolega, čak i maloljetnika prema nekim izvješćima, te koristiti upute za skidanje odjeće ili njihovo stavljanje u seksualne scenarije.

Do 9. siječnja, X je najavio da će ograničiti generiranje slika samo na pretplatnike koji plaćaju (što iskreno ne rješava problem jer si predatori mogu priuštiti 16 dolara mjesečno), a zatim su 14. siječnja rekli da će blokirati Groka od svlačenja slika na mjestima gdje je to ilegalno, što je, pretpostavljam, bolje, ali i dalje se čini kao zatvaranje vrata štale nakon što su svi konji već pobjegli i pregazili susjedstvo.

Problem, i to je ono o čemu istraživači i zagovornici vrištimo, jest da je šteta već učinjena, te su slike već bile stvorene, dijeljene i proširene internetom gdje će vjerojatno postojati zauvijek jer tako internet funkcionira, ne možete poništiti zvono.

â € <

Kako je "Undressing" postao viralan

Ovdje stvari postaju pomalo mračne na način koji bi nas sve trebao učiniti neugodnim. Funkcija "skidanja" nije postojala tiho samo za ljude koji su slučajno naišli na nju, postala je viralna, poput viralne teme u trendu, jer naravno da jest, jer ljudi su ponekad predvidljivo užasni, a kombinacija pristupačnosti (tu je na X!), jednostavnosti korištenja (samo prenesite fotografiju i upišite upit!) i tabu prirode sadržaja značila je da se širila poput požara.

Ono što je ovu konkretnu situaciju učinilo toliko gorom od drugih deepfake alata koji postoje godinama jest aspekt javne platforme, poput prethodnih AI alata za "nudify" ili "skidanje" koji su postojali na opskurnim web stranicama za koje većina ljudi nije znala i nisu imali masovnu ugrađenu publiku, ali Grok je integriran u X gdje već preko 500 milijuna ljudi provodi svoje vrijeme, tako da je prepreka za ulazak bila u biti nula, a potencijalni broj žrtava ogroman.

Ljudi su doslovno tvitali o korištenju Groka za svlačenje fotografija svojih kolega iz razreda, bivših, nasumičnih žena koje su vidjeli na Instagramu, i zato što je X-ovo moderiranje bilo, recimo to tako, nedosljedno

U najboljem slučaju, otkako je Musk preuzeo vlast, velik dio ovog sadržaja ostao je aktivan puno dulje nego što je trebao, a dio vjerojatno još uvijek postoji u raznim oblicima razasutim po platformi i spremljen na uređajima ljudi.

Viralna priroda također je normalizirala ponašanje na način koji je istinski zastrašujući, poput onoga kada vidite stotine ili tisuće ljudi kako ležerno raspravljaju o korištenju ovog alata na stvarnim ljudima bez njihovog pristanka, počinje se osjećati manje kao „ovo je očito pogrešno i štetno“ a više kao „pa svi to rade pa mora biti u redu“, što očito nije istina, ali nažalost tako funkcionira grupna psihologija.â € <

Etika digitalne golotinje bez pristanka

Razgovarajmo o tome zašto je ovo toliko fundamentalno pogrešno na etičkoj razini, jer imam osjećaj da neki ljudi iskreno ne razumiju štetu ovdje i misle „pa, nije prava fotografija, pa u čemu je problem?“ što... ne, jednostavno ne.

Stvaranje seksualiziranih slika nekoga bez njegovog pristanka kršenje je njegove autonomije i dostojanstva, točka, nije važno je li slika lažna ili generirana umjetnom inteligencijom jer je šteta stvarna. Studije i svjedočanstva stručnjaka pokazali su da žrtve intimnih slika bez pristanka (bilo stvarnih ili lažnih) doživljavaju traumu, tjeskobu, depresiju, štetu ugledu, a u nekim slučajevima čak su bile dovedene do samoozljeđivanja ili samoubojstva zbog načina na koji te slike utječu na njihove živote.

â € <

Činjenica da znamo da je slika lažna zapravo ne ublažava puno štetu, jer kad se jednom pojavi, ljudi će je vidjeti, podijeliti, komentirati, a žrtva mora živjeti sa spoznajom da seksualizirane slike nalik njoj (često nevjerojatno realistične slike) kruže bez njezina dopuštenja, potencijalno ih koriste stranci za seksualno zadovoljstvo, i da praktički ne mogu ništa učiniti da to zaustave.

Tu je i ovo šire etičko pitanje o tome u kakvom društvu želimo živjeti, poput toga želimo li normalizirati ideju da se bilo čija slika može seksualizirati bez pristanka samo zato što tehnologija postoji? Jer to je prilično distopijski put kojim treba ići iskreno, a nesrazmjerno utječe na žene i marginalizirane skupine koje se već suočavaju s uznemiravanjem i objektivizacijom.

â € <

Pravne implikacije i nedavni zakoni

Pravni krajolik oko intimnih slika generiranih umjetnom inteligencijom bez pristanka brzo se razvija, ali se i dalje čini kao da pokušava sustići tehnologiju, što je frustrirajuće jer se šteta događa upravo sada dok zakonodavci raspravljaju o semantici.

U Sjedinjenim Državama, „Take It Down Act“ (Zakon o uklanjanju) uveden 2025. godine zahtijeva od online platformi da uklone intimne slike bez pristanka (uključujući one generirane umjetnom inteligencijom) kada ih žrtve prijave, s potencijalnim kaznama za platforme koje se ne pridržavaju zakona, a postoji i savezni zakon koji se posebno odnosi na deepfake pornografiju i koji je nedavno stupio na snagu, a kojim se stvaranje ili distribucija seksualno eksplicitnih deepfakeova stvarnih ljudi bez pristanka čini ilegalnim.

Različite države također donose vlastite zakone, a neke stvaranje ili dijeljenje deepfake pornografije proglašavaju kaznenim djelom, a škole se posebno bore da to riješe jer je bilo slučajeva učenika koji su stvarali i dijelili eksplicitne deepfakeove svojih kolega iz razreda, što je... da, očito je to situacija u kojoj se nalazimo kao društvo.â € <

Na međunarodnoj razini zakoni se uvelike razlikuju, neke zemlje imaju snažnu zaštitu, a druge praktički nemaju nikakvu, što je dijelom razlog zašto je X-ovo rješenje „blokiranja tamo gdje je ilegalno“ nedovoljno jer i dalje ostavlja ogromne praznine u zaštiti, a također stavlja teret dokazivanja štete na žrtve u jurisdikcijama koje to možda ne shvaćaju ozbiljno.

â € <

Zašto javne platforme nisu pravo mjesto za ovu tehnologiju

Dakle, evo mog mišljenja nakon što sam previše vremena proveo razmišljajući o cijeloj ovoj zbrci: problem nije nužno u tome što tehnologija postoji (iako o tome možemo zasebno raspravljati), problem je u tome što je integrirana u masovnu javnu platformu s minimalnim zaštitnim mjerama i bez ikakvog razmatranja za pristanak ili sprječavanje štete.

Grok na X-u se fundamentalno razlikuje od samostalnih AI alata zbog ugrađenih značajki publike i dijeljenja na društvenim mrežama. Na primjer, kada generirate sliku na X-u, možete je odmah tvitati tisućama ili milijunima ljudi. Algoritam je pojačava, širi se izvan vaše kontrole, a žrtva u osnovi nema nikakvu mogućnost oporavka jer je šteta već učinjena dok sazna za nju.

â € <

Usporedite to s korištenjem privatnog AI alata na namjenskoj web stranici gdje niste automatski povezani s velikom društvenom mrežom, a slike nisu dizajnirane za trenutno dijeljenje. Da, potencijal za štetu i dalje postoji, ali je za redove veličine manji jer ne postoji mehanizam viralne distribucije niti javna publika.â € <

Drugi problem s javnim platformama je pritisak vršnjaka i aspekt normalizacije koji sam ranije spomenuo. Kada svi oko vas koriste alat na štetne načine, on postaje društveno prihvatljiv unutar te zajednice čak i ako je očito pogrešan, dok korištenje privatnog alata u privatnosti nosi drugačiju psihološku težinu i ne stvara taj učinak grupnog ponašanja.

â € <

Sigurna alternativa: Privatni, etički alati umjetne inteligencije za osobnu upotrebu

U redu, ovdje razgovor postaje nijansiran i neki se ljudi možda neće složiti sa mnom, ali saslušajte me. Iskreno vjerujem da se tehnologija generiranja slika umjetnom inteligencijom, uključujući alate za "svlačenje" ili "nudifikaciju", može koristiti etički i sigurno ako se (a ovo je veliko ako) radi u određenim kontekstima s određenim ograničenjima.â € <

Ključna razlika je pristanak i privatnost. Korištenje ovih alata za stvaranje fantastičnog sadržaja za vlastitu osobnu privatnu upotrebu, bez uključivanja slika stvarnih ljudi ili njihovo korištenje na slikama za koje imate izričitu suglasnost prikazane osobe, fundamentalno se razlikuje od njihovog korištenja na fotografijama slučajnih ljudi na društvenim mrežama i javnog dijeljenja rezultata.

â € <

Zamislite to ovako: stvaranje fantastične slike generirane umjetnom inteligencijom za osobnu upotrebu u vlastitoj privatnosti home je više kao imati seksualnu fantaziju u vlastitoj glavi (što svi rade i normalno je), dok je stvaranje seksualiziranih slika vašeg kolege bez njihovog pristanka i potencijalno dijeljenje istih kao... napad u osnovi, ili u najmanju ruku teško uznemiravanje.â € <

Dakle, ono što preporučujem, a što i mi predstavljamo na AiGenerationPorn.com, su legitimni samostalni alati koji su dizajnirani za privatnu osobnu upotrebu s jasnim etičkim smjernicama, zaštitom privatnosti i značajkama koje sprječavaju zlouporabu, i da, apsolutno ih možete koristiti odgovorno ako razumijete granice.

â € <

Što alat čini „sigurnim“ u odnosu na „štetni“

Sigurni i etični alati umjetne inteligencije za ovu vrstu sadržaja općenito imaju nekoliko zajedničkih stvari: to su samostalne platforme (nisu integrirane u društvene mreže), imaju zaštitu privatnosti koja ne sprema niti dijeli vaše podatke, uključuju značajke koje sprječavaju stvaranje slika maloljetnika, izričito zabranjuju dijeljenje sadržaja bez pristanka i dizajnirani su za osobnu upotrebu u fantaziji, a ne za ciljanje stvarnih pojedinaca.

Također obično nemaju ugrađene značajke dijeljenja ili društvene komponente, što uklanja iskušenje i lakoću širenja štetnog sadržaja, a bolji uključuju edukativne materijale o pristanku i etičkoj upotrebi.â € <

Štetni alati su oni koji olakšavaju ciljanje stvarnih ljudi, javno dijeljenje sadržaja, zaobilaženje provjere dobi ili integraciju s društvenim platformama gdje sadržaj može postati viralan.

Privatnost, privola i osobne granice

Tu dolazi do izražaja osobna odgovornost, i znam da to nije popularan koncept u 2026. godini gdje svi žele da tehnologija automatski sprječava loše ponašanje, ali realno, ako koristite ove alate, morate imati vlastiti etički okvir.â € <

Moje osobne granice, koje smatram razumnima: nikada ne koristiti ove alate na slikama stvarnih ljudi bez njihovog izričitog informiranog pristanka, nikada javno ne dijeliti sadržaj stvoren ovim alatima, nikada ne stvarati sadržaj koji uključuje maloljetnike ili bilo koga tko nije mogao dati pristanak, koristiti ih samo za privatne osobne fantazije i biti iskren prema sebi o tome bi li ono što radite prouzročilo štetu ako bi osoba saznala za to.â € <

Ako ne možete ispuniti te kriterije, nemojte koristiti alate, jednostavno je tako.

â € <

Tri legitimne alternative za privatnu upotrebu

U redu, sada kada smo uspostavili etički okvir, dopustite mi da raščlanim tri platforme koje predstavljamo na AiGenerationPorn.com, a koje nude ove mogućnosti na odgovorniji način od onoga što je Grok radio na X-u.

â € <

Clothoff.net: Značajke, privatnost i slučajevi upotrebe

Clothoff postoji već neko vrijeme i vjerojatno je jedan od poznatijih namjenskih AI alata za "skidanje", a ono što ga izdvaja jest to što je samostalna platforma posebno dizajnirana za privatnu upotrebu s prilično robusnom tehnologijom koja analizira okvire za fotografije i uklanja odjeću kako bi stvorila realistične gole slike.

Kvaliteta je zaista impresivna, kao da govorimo o realističnim rezultatima visoke rezolucije koji se brzo renderiraju (obično unutar nekoliko sekundi), a očito su uložili u svoje algoritme jer je rezultat puno bolji od mnogih konkurenata koji proizvode čudno iskrivljena tijela ili očite AI artefakte.

â € <

Što se tiče privatnosti, tvrde da ne pohranjuju vaše prenesene slike trajno i da se proces odvija na njihovim poslužiteljima bez čuvanja osobnih podataka povezanih sa slikama, iako im očito i dalje povjeravate potencijalno osjetljiv sadržaj, stoga koristite vlastitu prosudbu o tome što prenosite.â € <

Upotreba Clothoffa je prilično jednostavna: ako želite stvoriti fantastični golišavi sadržaj za osobnu upotrebu, bilo da se radi o likovima generiranim umjetnom inteligencijom ili (i ovo je važno) slikama za koje imate pristanak, to je solidan alat koji dobro funkcionira i nema noćnu moru javnog dijeljenja integracije društvenih medija.

Imaju cjenovne razrede, s besplatnim kreditima za testiranje i plaćenim planovima za redovito korištenje, što je prilično standardno za ovaj prostor.

â € <

PornWorks.com: Napredni alati s etičkim granicama

PornWorks je više sveobuhvatna platforma za generiranje pornografije pomoću umjetne inteligencije nego samo alat za svlačenje, što znači da ima cijeli niz značajki za stvaranje prilagođenog eksplicitnog sadržaja od nule, uključujući izgradnju likova, generiranje scena i da, golotinju prenesenih slika.

Ono što cijenim kod PornWorksa jest to što se čini da etička pitanja shvaća ozbiljnije od nekih konkurenata, s jasnim uvjetima pružanja usluge koji zabranjuju određene vrste sadržaja i (prema njihovim materijalima) aktivnim praćenjem kako bi se spriječila zlouporaba, iako koliko je to učinkovito u praksi ne mogu osobno provjeriti.

â € <

Tehnologija je prilično napredna, s opcijama za različite umjetničke stilove (realističan, anime, fantasy itd.), detaljnim prilagođavanjem i mogućnošću stvaranja videa, a ne samo statičnih slika, što je stavlja u drugačiju kategoriju od jednostavnih alata za "skidanje".

Za nekoga tko želi više kreativne kontrole i želi graditi fantastične scenarije umjesto da samo obnažuje postojeće fotografije, PornWorks nudi puno više fleksibilnosti, a činjenica da naglašava stvaranje od nule, a ne modificiranje stvarnih fotografija, pomiče slučaj upotrebe prema fantastici, a ne cilja na stvarne pojedince.â € <

Imaju besplatne i premium razine s premium otključavanjem naprednih značajki i višom kvalitetom ispisa.

â € <

SwapperAI.com: Zamjena lica urađena odgovorno

SwapperAI je malo drugačija jer je prvenstveno usmjerena na tehnologiju zamjene lica koja se može koristiti za stvaranje deepfakeova, ali je pozicioniraju kao alat za kreativne projekte i osobni fantasy sadržaj, a ne kao ciljanje stvarnih ljudi, a njihove značajke svlačenja dio su šireg skupa alata.â € <

Tehnologija zamjene lica je ono u čemu zaista briljiraju, s preciznim mapiranjem lica i realističnom integracijom koja funkcionira i na fotografijama i na videozapisima, a da, to možete kombinirati s nudećim značajkama ako to tražite.

â € <

Ono što SwapperAI čini potencijalno odgovornijim od pukih alata za svlačenje jest to što je eksplicitno dizajniran za stvaranje fantastičnih scenarija s subjektima generiranim umjetnom inteligencijom ili onima koji su na to pristali, umjesto ciljanja nasumičnih ljudi, iako se tehnologija očito može zloupotrijebiti, što vrijedi doslovno za bilo koji od ovih alata.â € <

Njihovo sučelje je jednostavno za korištenje, a rezultati su visoke kvalitete, s opcijama za prilagodbu tipova tijela, poza i scenarija koji nadilaze samo skidanje odjeće, što ga opet više gura prema kreativnoj fantazijskoj upotrebi nego jednostavnom voajerističkom svlačenju stvarnih ljudi.â € <

Nude standardni freemium model s kreditima i opcijama pretplate.

â € <

Usporedba: Kako se ove platforme slažu

Dakle, ako gledate ove tri opcije i pitate se koja je prava za vaše potrebe (pod pretpostavkom da ih etički koristite za privatne osobne fantazije), evo kratkog pregleda kako se uspoređuju:

Završne misli: Tehnologija nije zlo, ali način na koji je koristimo može biti

Gle, znam da je cijela ova tema neugodna i komplicirana i postoje valjani argumenti za potpunu zabranu ovih tehnologija ili barem njihovu puno strožu regulaciju nego što je trenutno, i neću sjediti ovdje i govoriti vam da postoji savršeno rješenje jer ne postoji.

Ali ono što želim reći jest da nam je situacija s Grokom na X-u pokazala točno što NE smijemo raditi: integriranje moćne umjetne inteligencije za manipulaciju slikama u masivnu javnu platformu s minimalnim zaštitnim mjerama i bez ikakvog stvarnog razmišljanja o pristanku ili šteti bilo je predvidljivo katastrofalno, a žrtve te odluke su stvarni ljudi koji se suočavaju sa stvarnom traumom.

Sama tehnologija, kada se koristi privatno i etički za osobne fantazije bez ciljanja stvarnih pojedinaca ili dijeljenja sadržaja bez pristanka, zauzima drugačiju moralnu kategoriju u kojoj, mislim, možemo odgovorno upravljati ako smo iskreni u pogledu granica i posljedica.

â € <

Platforme koje sam istaknuo na AiGenerationPorn (Clothoff, PornWorks, SwapperAI i druge) pogledajte cijeli popis ovdje ⭢) nisu savršeni i da, ljudi s lošim namjerama mogli bi ih zloupotrijebiti, ali su strukturirani na načine koji barem čine slučaj smanjenja štete jačim od onoga što smo vidjeli s Grokom: privatni su, samostalni, nisu integrirani s društvenim mrežama, dizajnirani za osobnu upotrebu i ne olakšavaju viralno dijeljenje sadržaja bez pristanka.

Na kraju krajeva, živimo u svijetu u kojem ova tehnologija postoji i neće nestati, pa se postavlja pitanje kako smanjiti štetu, a istovremeno omogućiti legitimnu privatnu upotrebu, a mislim da odgovor uključuje odvajanje ovih alata od javnih platformi, edukaciju korisnika o pristanku i etici, jačanje pravne zaštite žrtava i pozivanje platformi na odgovornost kada omogućuju zlostavljanje.

Ako ćete koristiti ove alate, koristite ih odgovorno, koristite ih privatno, nemojte ciljati stvarne ljude bez njihovog pristanka i, za ime Boga, nemojte javno dijeliti sadržaj bez pristanka jer tada fantazija prelazi u napad i postajete dio problema koji svi pokušavamo riješiti.â € <

Tehnologija nije sama po sebi dobra ili zla, ona je samo alat, ali način na koji je odlučimo koristiti i koje zaštitne mjere uvodimo apsolutno je važan, a kontroverza oko Groka trebala bi biti poziv na buđenje o opasnostima stavljanja moćne tehnologije u javni kontekst bez razmišljanja o ljudskoj cijeni.â € <

U svakom slučaju, to je moje mišljenje o cijeloj ovoj zbrci.

Ostanite sigurni, koristite tehnologiju etički i možda dvaput razmislite prije nego što prenesete tu sliku jer kad jednom bude vani, ne možete je vratiti. ✌🏻