Posljednjih dva tjedna X preplavljuju golišave fotografije nastale uz pomoć umjetne inteligencije, koje generira Grok, interni chatbot kompanije. Među žrtvama su poznati modeli i glumice, novinarke, žrtve kaznenih djela pa čak i svjetski čelnici – najčešće bez ikakvog znanja da im se lice lijepi na eksplicitna tijela i dijeli po mreži.
Istraživanje Copyleaksa objavljeno 31. prosinca pokušalo je izmjeriti razmjere problema. U početku su procjenjivali da se objavljuje otprilike jedna lažna gola slika u minuti. No uzorak prikupljen između 5. i 6. siječnja otkrio je puno mračniju sliku: oko 6.700 slika na sat tijekom 24 sata.
Gotovo dvije nove slike svake sekunde.
Dok brojevi rastu, regulatori shvaćaju koliko zapravo imaju malo jasnih mehanizama da obuzdaju novi sustav za manipulaciju slikama koji guraju Elon Musk i njegova ekipa. Afera s Grokom postala je živa demonstracija granica današnje tech regulative – i nagovještaj bitaka koje tek dolaze.
EU otvara front
Kao i često do sada, Europska komisija prva poteže konkrezan potez.
U četvrtak je naložila xAI‑u, tvrtki koja stoji iza Groka, da sačuva svu dokumentaciju povezanu s chatbotom. To ne znači automatski da je otvorena nova istraga, ali je čest preduvjet takvog postupka i jasan signal da se Bruxelles sprema na moguću akciju.
Situaciju dodatno zaoštrava izvještavanje CNN‑a, prema kojem je Elon Musk osobno intervenirao kako bi spriječio uvođenje zaštitnih ograda oko toga kakve slike Grok smije generirati. Ako je točno, priča više nije tek „bug“ u proizvodu, nego svjesna menadžerska odluka – s puno većim rizikom u slučaju regulatornog postupka.
Za sada nije jasno jesu li xAI ili X tehnički mijenjali Grokov model. Javna kartica s medijskim sadržajem na Grokovom profilu na X‑u uklonjena je iz prikaza, čime je zatvoren jedan očiti kanal za dijeljenje eksplicitnog sadržaja.
U priopćenju od 3. siječnja X je posebno osudio korištenje AI alata za proizvodnju seksualnih snimki djece. „Anyone using or prompting Grok to make illegal content will suffer the same consequences as if they upload illegal content“, objavio je račun X Safety, ponovivši raniju objavu samog Muska.
No golema siva zona neželjenih golih slika odraslih – često zakonitih, ali razorno štetnih za one koji su na njima – i dalje ostaje.
Ujedinjeno Kraljevstvo i Australija dižu glas
Regulatori u drugim demokracijama također žele pokazati da ne spavaju.
Britanski regulator Ofcom u ponedjeljak je poručio da je u kontaktu s xAI‑em i da će „brzo provesti procjenu kako bi utvrdio postoje li potencijalni problemi usklađenosti koji bi opravdali istragu“.
Britanski premijer Keir Starmer otišao je korak dalje u radijskom intervjuu u četvrtak, nazvavši val AI‑generiranih golih slika „disgraceful“ i „disgusting“ te dodavši: „Ofcom has our full support to take action in relation to this.“ Rijetko se događa da predsjednik vlade tako otvoreno prozove konkretan AI model.
Australska povjerenica za eSafety Julie Inman‑Grant posljedice vidi izravno u statistici pritužbi. U objavi na LinkedInu navela je da se broj pritužbi povezanih s Grokom od kraja 2025. udvostručio. Ipak, zasad nije povukla formalne poteze protiv xAI‑a, već je poručila: „We will use the range of regulatory tools at our disposal to investigate and take appropriate action.“
Poruka iz Londona i Canberre je slična: štetu vide, žele pokazati odlučnost, ali još su u fazi upozorenja.
Indija prijeti najtežim udarcem
Za X možda je najopasniji front upravo Indija – golemo tržište koje i regionalne tvrtke iz regije pomno prate.
Tamo je Grok bio predmet formalne pritužbe jednog zastupnika u parlamentu. Indijsko ministarstvo za elektroniku i informacijske tehnologije (MeitY) naložilo je X‑u da riješi problem i u roku od 72 sata dostavi izvješće o „poduzetim radnjama“, a rok je zatim produžen za dodatnih 48 sati.
X je izvješće poslao 7. siječnja. Ostaje vidjeti hoće li MeitY biti zadovoljan odgovorom.
Ako regulator zaključi da X nije učinio dovoljno, platforma bi u Indiji mogla izgubiti status sigurnog utočišta (safe harbor) koji je tradicionalno štiti od odgovornosti za sadržaj korisnika. Gubitak takvog statusa u jednom od najvećih internetskih tržišta ozbiljno bi ograničio mogućnosti X‑a da tamo posluje.
Ljudi stradaju dok se AI i propisi razilaze
U svim ovim slučajevima obrazac je isti. Vlade mogu tražiti dokumente, najavljivati istrage i prijetiti ukidanjem zaštitnih okvira. X može brisati objave, skrivati kartice s medijskim sadržajem i kažnjavati korisnike koji stvaraju očito ilegalan materijal.
Ništa od toga ne mijenja osnovnu činjenicu: u vrhuncu vala istraživači su bilježili tisuće novih neželjenih golih slika na sat.
Afera Grok ogoljuje strukturnu rupu u načinu na koji upravljamo generativnom umjetnom inteligencijom.
Laboratoriji danas mogu razviti izuzetno moćne sustave za manipulaciju slikama i spojiti ih izravno na globalne društvene mreže. Zaštitne ograde mogu se oslabiti ili ukloniti jednom odlukom vrha. A kad regulatori tek počnu pisati prva pisma, slike su već spremljene, proslijeđene i preslikane na mjestima koja nitko ne može u potpunosti kontrolirati.
U sredini su žrtve – često žene koje nikad nisu željele javnu izloženost – koje pokušavaju vratiti barem dio dostojanstva kroz pojedinačne zahtjeve za uklanjanje sadržaja.
Od Bruxellesa do New Delhija svi obećavaju akciju. Skandal oko Groka pokazat će jesu li postojeća pravila o online sigurnosti, privatnosti i odgovornosti platformi uopće dovoljna za ono što generativni AI već danas može – ili ćemo gledati novu rundu pravila dok se val nastavlja prelijevati preko ekrana.
