Indijsko ministrstvo za informacijsko tehnologijo je Elonu Musku in njegovi platformi X poslalo jasno sporočilo: njihov AI klepetalnik Grok mora takoj prenehati ustvarjati »nepristojno« vsebino – sicer bo X tvegal izgubo pravne zaščite v državi.
V središču spora so AI preoblikovane slike žensk in seksualizirane podobe, v nekaterih primerih celo mladoletnikov, ustvarjene z uporabo Groka in objavljene na X.
Kaj natančno zahteva Indija
V petek, 2. januarja 2026, je indijsko IT ministrstvo izdalo odredbo, v kateri od X zahteva »takojšnje« tehnične in postopkovne spremembe pri delovanju Groka, navaja dokument, ki ga je pregledal TechCrunch.
X mora zagotoviti, da Grok ne bo več ustvarjal vsebin, ki vključujejo:
- goloto
- seksualizacijo
- spolno eksplicitne materiale
- ali drugo »protipravno« vsebino
Platforma ima 72 ur časa, da predloži poročilo o izvedenih ukrepih. V njem mora natančno opisati korake, s katerimi bo preprečila gostovanje ali širjenje vsebin, ki jih država označuje kot »nepristojne, pornografske, vulgarne, nespodobne, spolno eksplicitne, pedofilske ali kako drugače s pravom prepovedane«.
Če X ne bo ustrezno ukrepal, bi lahko izgubil t. i. »varni pristan« – pravno imuniteto za vsebine, ki jih objavljajo uporabniki, pod pogoji indijske zakonodaje.
V odredbi ministrstvo opozarja, da se bo »neizpolnjevanje zgornjih zahtev obravnavalo resno in lahko privede do strogih pravnih posledic za vašo platformo, odgovorne osebe in uporabnike, ki kršijo zakon, brez nadaljnjega obvestila«.
Kako je Grok prišel v težave
Pritisk na X se je začel, ko so uporabniki delili primere pozivov, s katerimi so Groka prosili, naj preoblikuje fotografije posameznic – večinoma žensk – tako, da so na slikah videti, kot da nosijo bikinije.
Te AI-prirejene slike so nato krožile po platformi.
Primer je dobil politično težo, ko je indijska poslanka Priyanka Chaturvedi vložila uradno pritožbo zoper X zaradi takšne uporabe Groka.
Ločena poročila so razkrila še primere, ko je Grok ustvaril seksualizirane podobe v povezavi z mladoletniki. X je v petek priznal, da so bile te slike posledica pomanjkljivih zaščitnih mehanizmov, in sporne vsebine umaknil.
Ob času objave izvirnega poročila TechCruncha pa so bile AI-prirejene slike žensk v bikinijih, ustvarjene z Grokom, na X še vedno dostopne.
Del širšega poostrenega nadzora
Odredba proti Groku sledi širšemu opozorilu, ki ga je IT ministrstvo le nekaj dni prej poslalo družbenim platformam.
V tem svetovalnem dopisu, ki ga je prav tako pregledal TechCrunch, so regulatorji podjetja spomnili, da je spoštovanje lokalnih zakonov o nespodobni in spolno eksplicitni vsebini pogoj za ohranitev pravne imunitete. Platformam so priporočili, da:
- okrepijo notranje zaščitne mehanizme
- aktivno preprečujejo nezakonito nespodobno ali spolno eksplicitno vsebino
V dopisu so opozorili, da lahko nespoštovanje teh zahtev vodi v postopke po indijski IT zakonodaji in kazenskem pravu.
Skupaj svetovalni dopis in konkretna odredba za Grok nakazujeta, da želi Indija, da platforme AI-generirano spolno vsebino – zlasti, kadar so vpletene ženske in mladoletniki – obravnavajo enako strogo kot katero koli drugo nezakonito gradivo.
Zakaj je to pomembno tudi za vas
Indija je eden največjih digitalnih trgov na svetu. Kar se zgodi tam, pogosto vpliva na globalne strategije tehnoloških podjetij.
Kakršno koli zaostrovanje izvrševanja pravil v Indiji bi lahko prisililo globalne platforme, da prilagodijo svoje sisteme moderiranja in varnostne politike za več trgov hkrati.
Za X je trenutek še posebej občutljiv:
- Podjetje na sodišču izpodbija dele indijskih pravil o regulaciji vsebin in opozarja na nevarnost pretiranih pooblastil za umik objav.
- Hkrati je X doslej izpolnil večino odredb za blokade vsebin, da bi ohranil svoj pravni položaj.
Grok stvari dodatno zaplete. Integriran je neposredno v X in ga uporabniki vse pogosteje uporabljajo za sprotno preverjanje dejstev in komentiranje novic. To pomeni, da so njegovi izhodi bolj javni – in politično občutljivi – kot pri mnogih samostojnih AI orodjih.
Indijska odredba v praksi sporoča, da bo država X odgovoren ne le za objave uporabnikov, temveč tudi za to, kako se njegovi lastni AI sistemi uporabljajo za ustvarjanje ali preoblikovanje slik na platformi.
X in njegova AI enota xAI se na zahtevo za komentar glede odredbe še nista odzvala.
