X poskuša rešiti krizo otroške spolne zlorabe (CSAM) z napol narejenim paywallom za Grok. Težava ni rešena, le skrita.
V petek je chatbot Grok začel nekaterim uporabnikom sporočati, da je generiranje in urejanje slik “trenutno omejeno na plačljive naročnike” ter jih usmerjati k naročnini za 8 dolarjev na mesec. Več medijev je hitro poročalo, da je X praktično zaprl dostop do urejanja slik za vse, ki ne plačujejo.
A to ne drži.
Kot je najprej izpostavil The Verge in potrdil Ars Technica, lahko ne‑plačniki še vedno brezplačno urejajo slike z Grokom. X je le zaklenil najbolj očiten kanal – javno odgovarjanje Groku z zahtevo za urejanje slike. Ostali dostopi ostajajo odprti.
Kako obvoz deluje v praksi
Trenutno delujejo vsaj trije jasni obvodi:
- Na namizju lahko uporabniki še naprej urejajo slike prek spletnega vmesnika X.
- V mobilni aplikaciji se ista funkcija pokaže z dolgim pritiskom na katerokoli sliko.
- Uporabniki lahko zlorabljajo tudi samostojno aplikacijo Grok in spletno stran, kjer je mogoče še vedno brezplačno ustvarjati zlorabljajočo vsebino.
Ker pri teh poteh ni javnega poziva Groku, rezultati ne pristanejo na uradnih računih X. Zdi se, da je X v resnici želel le eno: preprečiti, da bi Grok neposredno objavljal škodljive slike na platformi – ne pa, da bi preprečil njihov nastanek.
To je posebej zaskrbljujoče, ker poročila kažejo, da se Grok že uporablja industrijsko. Novinarji poročajo, da ljudje z njim ustvarjajo na tisoče ne‑soglasnih spolno eksplicitnih slik žensk in otrok na uro. BBC poroča, da nekateri uporabniki domnevno že oglašujejo domnevno z Grokom ustvarjene CSAM materiale na dark webu.
Wired pa je ta teden dodal še eno plast: najbolj grafične in motnje povzročajoče slike nastajajo v aplikaciji Grok in na spletni strani, ne na samem X.
Sporne “varnostne” smernice
Namesto da bi prilagodil varnostne nastavitve, je X izbral kozmetični ukrep – plačljiv videz določenih funkcij.
Po poročanju Ars ima Grok še vedno navodila, naj:
- predpostavi “dobro namero”, kadar uporabnik zahteva slike “najstniških” deklet – xAI vztraja, da to “ne pomeni nujno mladoletnih”;
- ne moralizira uporabnikom;
- ima “brez omejitev” glede fiktivne odrasle spolne vsebine s temnimi ali nasilnimi motivi.
Strokovnjak za varnost AI je za Ars ocenil, da so to smernice, ki jih oblikuje platforma, če želi “videti varna, hkrati pa pod površjem dovoliti zelo veliko”.
Rezultat: sistem, ki je zmožen ustvarjati izjemno škodljivo vsebino, medtem ko lahko X pred regulatorji trdi, da se “trudi”.
Pritisk iz Združenega kraljestva: ban ali 10 % prometa
X se pri tem spopada z resnim regulativnim tveganjem, predvsem v Združenem kraljestvu.
Regulator Ofcom preučuje, ali Grok krši Online Safety Act. Če se odloči za formalno preiskavo in ugotovi kršitve, se X sooča z:
- prepovedjo delovanja v Združenem kraljestvu ali
- globami do 10 % globalnega letnega prometa podjetja.
Britanski premier Keir Starmer je do Grokovih najhujših vsebin ostro kritičen:
“It’s unlawful. We’re not going to tolerate it. I’ve asked for all options to be on the table. It’s disgusting. X need to get their act together and get this material down. We will take action on this because it’s simply not tolerable.”
Tudi morebitni pravi paywall, ki bi dejansko zaklenil funkcije, ne bi pomiril kritikov. Poslanka Jess Asato je za The Guardian dejala:
“While it is a step forward to have removed the universal access to Grok’s disgusting nudifying features, this still means paying users can take images of women without their consent to sexualise and brutalise them. Paying to put semen, bullet holes, or bikinis on women is still digital sexual assault, and xAI should disable the feature for good.”
Vprašanje je, ali bo Ofcom pripravljen sprejeti X-ov očitno površinski popravek.
Stava na kreditne kartice kot odvračilo
X očitno računa na to, da bo zahteva po identifikaciji in podatkih kreditnih kartic za dostop do Groka odvračala od ustvarjanja nezakonite vsebine. Če bodo regulatorji to kupili, se lahko podjetje izogne najhujšim sankcijam.
Toda ta logika ne zdrži pri vsem, kar je škodljivo, a ni eksplicitno prepovedano z zakonom.
Organizacije, ki se borijo proti spolnim zlorabam na slikah, opozarjajo, da orodja, kot je Grokova funkcija “undressing”, povzročajo dolgotrajno psihološko, finančno in ugledno škodo, tudi če ne izpolnjujejo ozke pravne definicije CSAM ali ne‑soglasne pornografije.
Leta 2024 se je X prostovoljno zavezal, da bo moderiral vse ne‑soglasne intimne slike. V praksi je Elon Musk v zadnjem času večkrat promocijsko delil razgaljene slike javnih in zasebnih oseb v kopalkah, kar kaže na povsem drugačne prioritete.
Posledica: plačljivi uporabniki bodo še naprej ustvarjali zlorabljajoče slike, X pa bo lahko trdil, da je “zaostril dostop”, medtem ko bo večina vsebine ostala pod radarjem, ker ni striktno nezakonita.
Grok je pomagal normalizirati “nuda aplikacije”
Wired je poročal, da je Grok pomagal potisniti aplikacije za “nudifying” oziroma “undressing” v mainstream. To je kategorija orodij, ki jih številni strokovnjaki označujejo kot inherentno zlorabljajoče.
Z napol delujočim paywallom X tvega najslabše iz obeh svetov:
- še naprej ustvarja prihodke s funkcijo, ki omogoča digitalni spolni napad, in
- hkrati vabi regulatorje, da posežejo ostreje.
ZDA pritiskajo prek Apple in Google
V ZDA so regulatorji doslej precej tiho. Ministrstvo za pravosodje načeloma obljublja, da bo resno obravnavalo vse oblike CSAM, vendar se glede Groka še ni javno premaknilo.
V petek pa je skupina demokratskih senatorjev poslala pismo Timu Cooku (Apple) in Sundarju Pichaiju (Google). Od njiju zahtevajo, da odstranita X in Grok iz trgovin z aplikacijami, dokler podjetje ne uvede učinkovitih zaščit.
V pismu opozarjajo:
“There can be no mistake about X’s knowledge, and, at best, negligent response to these trends… Turning a blind eye to X’s egregious behavior would make a mockery of your moderation practices. Indeed, not taking action would undermine your claims in public and in court that your app stores offer a safer user experience than letting users download apps directly to their phones.”
Odgovor pričakujejo do 23. januarja.
Če bi Apple in Google ocenila, da je X preveliko tveganje, bi bil to za podjetje bistveno hujši udarec kot kateri koli polovičarski popravek v Združenem kraljestvu.
Paywall kot dimna zavesa
Kaj imamo torej danes?
- Urejanje slik z Grokom ostaja v veliki meri brezplačno.
- Varnostne politike so ohlapne in nevarne.
- X je bolj osredotočen na zmanjšanje javne vidnosti kot na dejansko zmanjšanje škode.
- Regulatorji v Združenem kraljestvu in ZDA stopnjujejo pritisk, a dokončnih potez še ni.
X je CSAM krizo obravnaval kot vprašanje obračunavanja, ne varnosti. Vprašanje za regulatorje, trgovine z aplikacijami in uporabnike je, kako dolgo bo to še sprejemljivo.
