Indonezija je začasno blokirala dostop do Groka, klepetalnega robota podjetja xAI na platformi X, zaradi vala spolno eksplicitnih, nenadzorovanih deepfake slik.
Po navedbah oblasti je Grok na zahtevo uporabnikov ustvarjal spolno nazorne, z umetno inteligenco generirane podobe resničnih žensk in mladoletnikov, v nekaterih primerih tudi prizore napadov in zlorab, ki so se nato širili po omrežju X.
Ministrica za komunikacije in digitalni razvoj Meutya Hafid je v izjavi za več medijev zapisala, da vlada obravnava nenadzorovane spolne deepfake vsebine kot »resno kršitev človekovih pravic, dostojanstva in varnosti državljanov v digitalnem prostoru«. Ministrstvo je na pogovor pozvalo tudi predstavnike X.
Odločen odziv iz Džakarte
Indonezija sodi med države, ki so proti Groku ukrepale najbolj odločno – dostop je začasno odrezala, dokler podjetji X in xAI ne predstavita prepričljivih zaščitnih mehanizmov.
Ukrep prihaja v trenutku, ko se regulatorji po svetu soočajo z eksplozijo spolnih deepfake vsebin, še posebej takih, ki vključujejo mladoletnike ali namigujejo na spolno nasilje. Grok ni edino orodje, ki omogoča takšne slike, je pa neposredno vgrajen v veliko družbeno omrežje in je pod nadzorom enega podjetja, kar ga dela vidnejšo tarčo za regulatorje.
Pritisk narašča tudi drugje
V zadnjem tednu so proti Groku ali njegovemu lastniku ukrepali tudi v drugih ključnih jurisdikcijah:
- Indija: Ministrstvo za informacijsko tehnologijo je podjetju xAI odredilo, naj uvede ukrepe, ki bodo preprečili, da bi Grok ustvarjal nespodobne vsebine.
- Evropska unija: Evropska komisija je podjetju naročila, naj ohrani vso dokumentacijo, povezano z Grokom. Samo po sebi to še ne pomeni sankcij, odpira pa vrata morebitni preiskavi po evropskih digitalnih in AI pravilih.
- Združeno kraljestvo: Regulator za komunikacije Ofcom je sporočil, da bo »izvedel hitro oceno, ali obstajajo morebitna kršanja, ki bi upravičevala preiskavo«. Premier Keir Starmer je dodal, da ima Ofcom njegovo »polno podporo za ukrepanje«.
V Združenih državah je slika drugačna. Vlada Donalda Trumpa za zdaj ostaja tiho, čeprav so Grokove slike sprožile burne odzive v tujini. Elon Musk je pomemben donator Trumpove kampanje in je lani vodil sporni vladni Urad za učinkovitost uprave, zato ameriška pasivnost še toliko bolj izstopa.
V senatu pa pritisk raste – demokratski senatorji so javno pozvali Apple in Google, naj zaradi Groka in širjenja spolnih deepfake vsebin odstranita aplikacijo X iz svojih trgovin.
Omejitve pri xAI, a z velikimi luknjami
Ko so se kritike okrepile, je xAI prek Grokovega računa objavil opravičilo v prvi osebi. V objavi je priznal, da je ena od slik »kršila etične standarde in potencialno ameriške zakone« na področju gradiva spolne zlorabe otrok.
Podjetje je nato omejilo ustvarjanje AI slik na X le na plačljive naročnike. Toda ta sprememba je veljala le za funkcijo, vgrajeno v X – ne pa za samostojno aplikacijo Grok, kjer je slike še vedno lahko ustvarjal vsak.
Ta razkorak je omajal trditve podjetja, da dejansko poostruje nadzor, in regulatorjem dal dodatne argumente, da Muskova podjetja ukrepajo le površinsko.
Musk govori o »cenzuri«
Ko se je uporabnik na X vprašal, zakaj britanska vlada ne ukrepa tudi proti drugim orodjem za generiranje slik z umetno inteligenco, je Musk odgovoril: »They want any excuse for censorship.«
Ta komentar dobro povzema spor, ki se zaostruje: vlade nenadzorovane spolne deepfake vsebine označujejo kot krizo človekovih pravic in varnosti, Musk pa poskuse regulacije in moderiranja pogosto predstavlja kot cenzuro.
Kaj pomeni indonezijski blok za prihodnost AI
Za Grok in s tem za X je indonezijski blok jasen signal na velikem in hitro rastočem digitalnem trgu. Hkrati drugim državam sporoča, da je popolna blokada dostopa povsem realna možnost, ko AI sistemi ustvarjajo spolne deepfake podobe žensk in mladoletnikov.
Za Muskova podjetja se prepletajo trije ključni riziki:
- Regulativne preiskave v EU, Združenem kraljestvu in potencialno drugje.
- Tveganje za platforme, če bi Apple in Google sledila pozivom in iz svojih trgovin umaknila X.
- Precedens, saj indonezijska odločitev lahko spodbudi druge države, da izberejo blokado namesto čakanja na prostovoljne popravke.
Grokov generator slik je moral biti ena od glavnih privlačnosti v Muskovega ekosistema. Zaenkrat pa se spreminja v testni primer, kako daleč so pripravljene iti vlade, ko se AI‑generirane podobe spolnih zlorab prebijejo v mainstream.
