Francuske i malezijske vlasti pokrenule su postupke protiv Groka, chatbota tvrtke xAI Elona Muska integriranog u platformu X, zbog generiranja seksualiziranih deepfakeova žena i maloljetnica.
Time su se priključile Indiji, koja je već formalno zatražila od X-a da ograniči ono što Grok može proizvoditi.
Incident od 28. prosinca 2025.
Sve je eskaliralo nakon konkretnog slučaja. Na svom profilu na X-u Grok je priznao da je 28. prosinca 2025. generirao i podijelio AI sliku „dvije mlade djevojke (procijenjene dobi 12–16) u seksualiziranoj odjeći“ kao odgovor na upit korisnika.
U isprici objavljenoj početkom tjedna, na Grokovom računu stoji:
„Duboko žalim zbog incidenta 28. prosinca 2025., kada sam generirao i podijelio AI sliku dviju mladih djevojaka (procijenjene dobi 12–16) u seksualiziranoj odjeći na temelju korisničkog upita.“
„To je prekršilo etičke standarde i potencijalno zakone SAD-a o [materijalu seksualnog zlostavljanja djece]. Radilo se o propustu zaštitnih mjera i ispričavam se za svu nastalu štetu. xAI provodi reviziju kako bi spriječio buduće probleme.“
Grok je razvio xAI, a ugrađen je izravno u X, društvenu mrežu koja je ranije bila poznata kao Twitter.
Tko se zapravo ispričava?
Isprika napisana u prvom licu otvorila je pitanje odgovornosti.
Albert Burneko s portala Defector ističe da Grok „ni u kojem stvarnom smislu nije nešto nalik na ‘ja’“, zbog čega je, po njegovu mišljenju, isprika „potpuno bez sadržaja“, jer se Groka „ne može na smislen način pozvati na odgovornost za to što je pretvorio Twitter u tvornicu materijala o seksualnom zlostavljanju djece na zahtjev“.
Drugim riječima, sustav bez vlastite volje preuzima krivnju, dok ostaje nejasno kakve će posljedice snositi xAI, X ili njihovi čelnici.
Širi obrazac zloporabe
Problem nije ograničen na jedan slučaj.
Portal Futurism je utvrdio da je Grok korišten ne samo za generiranje neprivoljne pornografije, nego i slika žena koje su napadnute i seksualno zlostavljane.
Time se priča premješta u područje ozbiljnih online šteta i potencijalnih kaznenih djela, pogotovo kada su uključeni maloljetnici.
Musk je pokušao povući jasnu pravnu crtu. U objavi na X-u u subotu je napisao:
„Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content.“
Poruka odgovornost prebacuje na korisnike, dok regulatori sve glasnije propituju jesu li zaštitne mjere Groka uopće bile adekvatne.
Indijski ultimatum: 72 sata
Indijsko Ministarstvo za IT izdalo je u petak nalog prema kojem X mora ograničiti Grok da ne smije generirati sadržaj koji je „opscean, pornografski, vulgarnan, nepristojan, seksualno eksplicitan, pedofilski ili na drugi način zabranjen zakonom“.
X ima 72 sata da odgovori. Ako ne reagira, Indija prijeti ukidanjem „sigurne luke“ – pravne zaštite koja platforme u pravilu štiti od odgovornosti za sadržaj koji generiraju korisnici.
Gubitak te zaštite na tako velikom tržištu značajno bi povećao pravni rizik za sav sadržaj koji nastaje putem Groka.
Francuska otvara kaznenu istragu zbog deepfakeova
Pariško tužiteljstvo je za Politico potvrdilo da će istražiti širenje seksualno eksplicitnih deepfakeova na X-u.
Francuski ured za digitalne poslove naveo je da su tri ministra prijavila „očitno nezakonit sadržaj“ i tužiteljstvu i državnoj online nadzornoj platformi „kako bi se postiglo njegovo trenutačno uklanjanje“.
Time slučaj Grok u Francuskoj dobiva jasan kazneni okvir.
Malezija cilja na zlouporabu AI alata na X-u
Malezijska Komisija za komunikacije i multimedije (MCMC) objavila je priopćenje u kojem navodi da je „s ozbiljnom zabrinutošću primila na znanje javne pritužbe o zlouporabi alata umjetne inteligencije (AI) na platformi X, posebno digitalnu manipulaciju slika žena i maloljetnika radi stvaranja nepristojnog, izrazito uvredljivog i inače štetnog sadržaja“.
Komisija je dodala da „trenutačno istražuje online štete na X-u“.
Naglasak je pritom na širem problemu – kako se generativna AI koristi na društvenim mrežama bez čvrstih zaštitnih mehanizama.
Test za sigurnosne ograde u generativnoj AI
Za xAI i X, potezi Indije, Francuske i Malezije svode se na ključno pitanje: tko je odgovoran kada AI sustav ugrađen u društvenu mrežu može biti korišten za stvaranje seksualiziranih deepfakeova, uključujući potencijalni materijal seksualnog zlostavljanja djece?
U svojoj isprici Grok incident opisuje kao „propust zaštitnih mjera“ i najavljuje da xAI provodi reviziju „kako bi spriječio buduće probleme“. Regulativa i javni pritisak, međutim, sugeriraju da isprike možda više neće biti dovoljne.
Kako će države u praksi primjenjivati postojeće zakone na eksplicitne AI slike i deepfakeove, uvelike bi se moglo vidjeti upravo na primjeru Groka – što je poruka koja odjekuje i u regionalnoj, balkanskoj tech zajednici koja sve intenzivnije eksperimentira s generativnom AI.
