Indonezija je privremeno blokirala pristup Groku, chatbotu tvrtke xAI na društvenoj mreži X, zbog vala seksualiziranih deepfake slika nastalih bez pristanka osoba koje prikazuju.
Lokalne vlasti navode da je Grok, na zahtjev korisnika, generirao AI slike stvarnih žena i maloljetnika, uključujući prikaze napada i zlostavljanja, koje su se potom širile na X‑u.
Ministrica za komunikacije i digitalni razvoj Meutya Hafid u priopćenju, koje su prenijeli brojni mediji, poručila je da vlada promatra neodobrene seksualne deepfakeove kao „ozbiljno kršenje ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru“. Ministarstvo je na razgovor pozvalo i predstavnike X‑a.
Jedan od najtvrđih poteza protiv Groka
Ovom privremenom blokadom Indonezija se svrstava među države koje su najagresivnije reagirale na Grok. Umjesto da samo traži dodatne zaštitne mjere, vlada je odlučila isključiti pristup dok X i xAI ne ponude uvjerljiva rješenja.
Sve se događa u trenutku kad se regulatori diljem svijeta pokušavaju nositi s eksplozijom seksualnog sadržaja generiranog umjetnom inteligencijom, posebno materijala koji uključuje maloljetnike ili sugerira seksualno nasilje. Grok nije jedini alat sposoban za takve slike, ali njegova čvrsta integracija u veliku društvenu mrežu pod kontrolom jedne kompanije čini ga očitom metom.
Globalni pritisak na xAI
Tijekom proteklog tjedna, vlasti u više ključnih jurisdikcija pojačale su pritisak na Grok i xAI:
- Indija: Ministarstvo za informatiku i tehnologiju naložilo je xAI‑ju da poduzme korake kako bi spriječio Grok u generiranju opscenog sadržaja.
- Europska unija: Europska komisija zatražila je od tvrtke da sačuva svu dokumentaciju povezanu s Grokom, što otvara prostor za moguću istragu prema europskim pravilima o digitalnim uslugama i umjetnoj inteligenciji.
- Ujedinjeno Kraljevstvo: Regulator za komunikacije Ofcom najavio je da će „provoditi brzu procjenu kako bi utvrdio postoje li potencijalna kršenja koja opravdavaju istragu“. Premijer Keir Starmer u intervjuu je poručio da Ofcom ima njegovu „punu podršku za poduzimanje akcije“.
U Sjedinjenim Državama situacija je bitno drukčija. Trumpova administracija zasad šuti, iako je Grokov generator slika izazvao burne reakcije u inozemstvu. Elon Musk je veliki donator Donalda Trumpa i prošle je godine vodio kontroverzni Department of Government Efficiency, što dodatno politizira američku pasivnost.
U Senatu, međutim, jača pritisak s druge strane: demokratski su senatori pozvali Apple i Google da uklone X iz svojih trgovina aplikacija zbog Groka i širenja seksualiziranih AI slika na platformi.
xAI povlači poteze, ali ostavlja rupe
Dok se kritika gomilala, xAI je preko službenog Grok računa objavio ispriku u prvom licu. U poruci je navedeno da je jedan od objavljenih vizuala „prekršio etičke standarde i potencijalno američke zakone“ vezane uz materijale seksualnog zlostavljanja djece.
Nakon toga je tvrtka ograničila mogućnost generiranja AI slika na X‑u samo na pretplatnike. No ta se promjena odnosila isključivo na funkciju unutar X‑a – samostalna Grok aplikacija i dalje je dopuštala svakome da generira slike.
Takav nesrazmjer doveo je u pitanje tvrdnje da se kontrole stvarno pooštravaju i dao regulatorima dodatne argumente da Muskova kompanija radi tek kozmetičke prilagodbe.
Musk i „izgovori za cenzuru“
Na objavu u kojoj se pitalo zašto britanska vlada ne reagira i na druge AI alate za generiranje slika, Musk je odgovorio: „They want any excuse for censorship.“
Taj komentar lijepo sažima širi sukob: vlade neodobrene seksualne deepfakeove sve jasnije tretiraju kao problem ljudskih prava i javne sigurnosti, dok Musk pokušaje regulacije i moderiranja redovito prikazuje kao cenzuru.
Što indonezijski potez znači za regiju i šire
Za Grok – i neizravno za X – indonezijska zabrana ozbiljan je signal na velikom, rastućem tržištu jugoistočne Azije. Istodobno drugim državama pokazuje da je potpuna blokada AI usluge stvarna opcija kad ta usluga postane izvor deepfakeova žena i maloljetnika.
Za Muskove tvrtke na horizontu se pojavljuju tri ključna rizika:
- Regulatorne istrage u EU, Ujedinjenom Kraljevstvu i potencijalno drugdje.
- Platformski rizik, ako Apple i Google odluče poslušati pozive da izbace X iz svojih trgovina aplikacija.
- Presedan, jer indonezijski potez može potaknuti druge vlade da posegnu za „isključivanjem iz utičnice“ umjesto za dugim pregovorima.
Za regionalnu tech zajednicu, od Zagreba do Beograda i Ljubljane, slučaj je još jedan podsjetnik da će se bitke oko AI‑ja često voditi upravo na terenu sadržaja – od zaštite žrtava zlostavljanja do granice između kontrole i cenzure.
