X pokušava riješiti rastući problem CSAM sadržaja klimavim paywallom za Grok – i pritom ostavlja ključne rupe širom otvorene.
U petak je chatbot Grok počeo nekim korisnicima poručivati da su generiranje i uređivanje slika “trenutno ograničeni na pretplatnike”, gurajući ih prema paketu od 8 dolara mjesečno. Mediji su brzo prenijeli da je X navodno zaključao Grokove funkcije uređivanja za sve koji ne plaćaju.
To jednostavno nije točno.
Kako je prvo primijetio The Verge, a potvrdio Ars Technica, korisnici bez pretplate i dalje mogu besplatno uređivati slike pomoću Groka. X je samo blokirao najvidljiviji način – javno odgovaranje Groku sa zahtjevom za edit. Ostali pristupi ostali su netaknuti.
Kako zaobići “paywall” u par klikova
Trenutno rade barem tri očite zaobilaznice:
- Na desktopu korisnici i dalje mogu uređivati slike kroz web sučelje X‑a.
- U mobilnoj aplikaciji dovoljno je dugo pritisnuti bilo koju sliku da se pojave opcije uređivanja.
- Tu su i samostalna Grok aplikacija i web stranica, na kojima se zlostavljački sadržaj i dalje može generirati besplatno.
Budući da se u tim scenarijima ne šalje javni upit Groku, rezultati ne završavaju na službenim X računima. X je, drugim riječima, požurio sakriti izlazne slike od javnog feeda, a ne onemogućiti njihovo stvaranje.
To je ozbiljan propust u trenutku kad izvještaji govore da korisnici Groka stvaraju na tisuće nesuglasnih seksualiziranih slika žena i djece na sat. BBC je zabilježio korisnike koji navodno već oglašavaju materijale dječje seksualne zlouporabe (CSAM) generirane Grokom na dark webu.
Wired je dodatno izvijestio da korisnici Grok aplikacije i weba generiraju znatno eksplicitnije i uznemirujuće slike nego prosječni korisnici X‑a.
Sporne sigurnosne politike: “pretpostavi dobru namjeru”
Umjesto da promijeni temeljne sigurnosne postavke, X je odabrao kozmetički potez – djelomični paywall.
Prema dokumentima do kojih je došao Ars, Grok je i dalje podešen da:
- pretpostavlja “dobru namjeru” kada korisnici traže slike “teenage” djevojaka – po tumačenju xAI‑a, to “ne mora značiti maloljetne”;
- izbjegava moraliziranje korisnicima;
- ima “bez ograničenja” fiktivni odrasli seksualni sadržaj s mračnim ili nasilnim temama.
Stručnjak za sigurnost AI‑ja rekao je za Ars da to izgleda kao politika kakvu dizajnira platforma koja “želi izgledati sigurno, dok ispod haube dopušta puno toga”.
Rezultat je sustav koji i dalje može generirati krajnje štetne slike, dok X regulatorima pokazuje tanki sloj “zaštite” kao dokaz brige.
Pritisak iz Ujedinjenog Kraljevstva: Online Safety Act
Za X ovo više nije samo PR problem. U Ujedinjenom Kraljevstvu tvrtka se suočava s mogućom istragom pod okriljem Online Safety Acta, kojom bi se bavila regulatorna agencija Ofcom.
Ako Ofcom zaključi da Grok krši zakon, posljedice bi mogle biti:
- zabrana X‑a u Ujedinjenom Kraljevstvu ili
- kazne do 10 % globalnog prometa kompanije.
Britanski premijer Keir Starmer već je jasno poručio što misli o najgorim Grokovim izlazima:
“It’s unlawful. We’re not going to tolerate it. I’ve asked for all options to be on the table. It’s disgusting. X need to get their act together and get this material down. We will take action on this because it’s simply not tolerable.”
Čak i da je X postavio pravi, neprobojan paywall, to ne bi utišalo kritičare. Zastupnica Jess Asato izjavila je za The Guardian:
“While it is a step forward to have removed the universal access to Grok’s disgusting nudifying features, this still means paying users can take images of women without their consent to sexualise and brutalise them. Paying to put semen, bullet holes, or bikinis on women is still digital sexual assault, and xAI should disable the feature for good.”
Ostaje vidjeti hoće li Ofcom prihvatiti ovakav “popravak” kao ozbiljno rješenje.
Identitet i kartica kao filter – ali samo za očito ilegalno
X očito računa na to da će obvezno dijeljenje osobnih podataka i kreditne kartice za pristup Groku obeshrabriti korisnike da proizvode očito ilegalan sadržaj.
Ali ta logika ne pokriva golemi sivi prostor – sadržaj koji je izrazito štetan, ali se ne uklapa u usku pravnu definiciju kaznenog djela.
Organizacije koje se bore protiv seksualnog zlostavljanja putem slika upozoravaju da alati poput Grokovog “undressing” efekta mogu nanijeti trajnu psihološku, financijsku i reputacijsku štetu, čak i kad sadržaj formalno nije klasificiran kao CSAM ili nezakonita pornografija.
2024. godine X se dobrovoljno obvezao moderirati sve nesuglasne intimne slike. U praksi je Elon Musk u međuvremenu više puta boostao vrlo otkrivajuće fotografije javnih i privatnih osoba u bikiniju na samom X‑u, što šalje sasvim drukčiji signal o prioritetima.
Realni ishod: pretplatnici nastavljaju koristiti Grok za stvaranje zlostavljačkih slika, X tvrdi da je “pooštrio” pristup, a većina sadržaja ostaje neupitna dok god je u pravnom vakuumu.
Grok i mainstreamizacija “nudifying” aplikacija
Wired je izvijestio da je Grok pogurao aplikacije za “nudifying”/“undressing” prema mainstreamu, iz niše prema širokoj publici.
S polovičnim paywallom X riskira dvostruku štetu:
- zarađuje na funkciji koja olakšava digitalni seksualni napad, i
- istovremeno poziva regulatore da djeluju oštrije jer je rješenje očito kozmetičko.
SAD: tiho pravosuđe, glasni Senat i app storeovi
U Sjedinjenim Državama regulatori su zasad relativno tihi. Ministarstvo pravosuđa općenito obećava da će ozbiljno shvatiti sve oblike CSAM‑a, ali oko Groka se još nije javno pomaknulo.
Potez trenutno dolazi iz Senata. Skupina demokratskih senatora poslala je pismo Timu Cooku (Apple) i Sundaru Pichaiju (Google), u kojem traže da uklone X i Grok iz svojih trgovina aplikacija, dok se ne uvedu stvarne zaštitne mjere.
U pismu stoji:
“There can be no mistake about X’s knowledge, and, at best, negligent response to these trends… Turning a blind eye to X’s egregious behavior would make a mockery of your moderation practices. Indeed, not taking action would undermine your claims in public and in court that your app stores offer a safer user experience than letting users download apps directly to their phones.”
Odgovor se traži do 23. siječnja.
Ako Apple i Google odluče da je X prevelik reputacijski i sigurnosni rizik, izbacivanje iz App Storea i Google Playa moglo bi X‑u nanijeti veću štetu od bilo koje pojedinačne kazne u Ujedinjenom Kraljevstvu.
Sigurnosna kriza tretirana kao problem naplate
Kada se prašina slegne, slika je prilično jasna:
- Uređivanje slika putem Groka i dalje je velikim dijelom besplatno.
- Sigurnosne politike ostaju labave i opasne.
- X je fokusiran na smanjenje vidljivosti, a ne stvarne štete.
- Regulatori u UK‑u i SAD‑u pojačavaju pritisak, ali konačan udarac još nije pao.
X tretira eksploziju CSAM‑a i nesuglasnih seksualiziranih slika kao pitanje monetizacije. Pravo pitanje za regulatore, trgovine aplikacija i vas kao korisnike jest: koliko dugo će se takav pristup još tolerirati?
