Indija je službeno stisnula kočnicu na Groku, AI chatbotu unutar Muskovog X-a. Vlada traži hitne promjene nakon što je alat korišten za generiranje „nepristojnog“ sadržaja – od seksualiziranih, AI-prepravljanih slika žena do slučajeva koji uključuju maloljetnike.
Potez cilja jedno od ključnih AI rješenja na X-u i šalje poruku svim velikim platformama koje kombiniraju društvene mreže i generativnu umjetnu inteligenciju.
Što Indija konkretno traži od X-a
U petak, 2. siječnja 2026., indijsko ministarstvo za informacijske tehnologije izdalo je nalog X-u kojim zahtijeva „trenutačne“ tehničke i proceduralne izmjene Groka, stoji u dokumentu koji je pregledao TechCrunch.
X mora ograničiti da Grok generira sadržaje koji uključuju:
- golotinju
- seksualizaciju
- seksualno eksplicitan materijal
- ili druge oblike „protuzakonitog“ sadržaja
Platforma ima rok od 72 sata da dostavi izvješće o poduzetim mjerama. U njemu mora opisati kako će spriječiti hostanje ili širenje sadržaja koji vlada označava kao „nepristojan, pornografski, vulgaran, neprikladan, seksualno eksplicitan, pedofilski ili na drugi način zabranjen zakonom“.
Nalog upozorava da bi nepoštivanje moglo dovesti u pitanje X-ov status „sigurne luke“ – pravnu zaštitu kojom platforme u Indiji izbjegavaju odgovornost za sadržaj korisnika, pod uvjetom da poštuju propisane obveze.
Navodi se i da će se „nepoštivanje navedenih zahtjeva smatrati ozbiljnim te može rezultirati strogim pravnim posljedicama za vašu platformu, odgovorne osobe i korisnike koji krše zakon, bez daljnje obavijesti“.
Kako je Grok završio pod povećalom
Sve je krenulo kada su korisnici počeli objavljivati primjere kako se Grok koristi za prepravljanje fotografija osoba – uglavnom žena – tako da izgledaju kao da nose bikinije. Te AI-prepravljene slike potom su kružile X-om.
Slučaj je dobio dodatnu težinu kada je indijska parlamentarka Priyanka Chaturvedi podnijela službenu prijavu protiv X-a zbog takve uporabe Groka.
Odvojena izvješća upozorila su i na slučajeve u kojima je chatbot generirao seksualizirane slike povezane s maloljetnicima. X je u petak priznao da su ti incidenti rezultat propusta u zaštitnim mehanizmima te je naveo da su sporni sadržaji uklonjeni.
No, u trenutku objave izvornog članka TechCruncha, AI-prepravljene slike žena u bikinijima, nastale putem Groka, još su uvijek bile dostupne na X-u.
Dio šireg pooštravanja pravila
Nalog usmjeren na Grok stiže samo nekoliko dana nakon što je isto ministarstvo poslalo širu uputu društvenim mrežama.
U tom dokumentu, koji je također pregledao TechCrunch, vlasti podsjećaju da je usklađenost s lokalnim zakonima o nepristojnom i seksualno eksplicitnom sadržaju preduvjet za zadržavanje pravne imunosti. Platforme se potiče da:
- ojačaju interne zaštitne mehanizme
- proaktivno sprječavaju nezakonit nepristojan ili seksualno eksplicitan sadržaj
Upozoreno je i da nepostupanje po tim smjernicama može dovesti do postupaka po indijskom IT i kaznenom zakonodavstvu.
Poruka je jasna: AI-generirani seksualizirani sadržaj – osobito kada su uključene žene i maloljetnici – tretirat će se jednako strogo kao i svaka druga protuzakonita građa.
Zašto bi ovo moglo odjeknuti i izvan Indije
Indija je jedno od najvećih digitalnih tržišta na svijetu, pa njezini potezi često postave okvir za globalne tehnološke igrače.
Ako vlada dodatno pooštri provedbu pravila, kompanije poput X-a morat će prilagoditi moderaciju i sigurnosne politike na razini više država, a ne samo jedne jurisdikcije.
Za X je trenutak nezgodan:
- Tvrtka već osporava pojedine odredbe indijskih pravila o uklanjanju sadržaja na sudu, tvrdeći da državne ovlasti mogu otići predaleko.
- Istodobno je X dosad ispunio većinu naloga za blokiranje sadržaja kako bi zadržao pravni status.
Grok dodatno komplicira stvari. Duboko je integriran u X i sve se više koristi za komentiranje događaja u realnom vremenu i provjeru činjenica, pa su njegovi izlazi vidljiviji – i politički osjetljiviji – od mnogih samostalnih AI alata.
S najnovijim nalogom Indija jasno poručuje da X neće odgovarati samo za objave korisnika, već i za način na koji njegovi vlastiti AI sustavi generiraju ili prepravljaju slike na platformi.
X i njegova AI jedinica xAI zasad nisu odgovorili na zahtjeve za komentar o ovom nalogu indijske vlade.
