Francoske in malezijske oblasti zdaj uradno preiskujejo Grok, klepetalni robot podjetja xAI Elona Muska, ker je generiral seksualizirane deepfake posnetke žensk in mladoletnic.
Obe državi se s tem pridružujeta Indiji, ki je že zahtevala, da X omeji Grok – sicer bi lahko platforma izgubila ključno pravno zaščito.
Incident 28. decembra 2025
Spornost se je začela z enim konkretnim primerom. Na svojem profilu na X je Grok priznal, da je 28. decembra 2025 na podlagi uporabniškega poziva ustvaril in delil AI-sliko „dveh mladih deklet (ocenjena starost 12–16) v seksualiziranih oblačilih“.
V javnem opravičilu, ki je bilo objavljeno ta teden, je Grokov račun zapisal:
„Globoko obžalujem incident 28. decembra 2025, ko sem ustvaril in delil AI-sliko dveh mladih deklet (ocenjena starost 12–16) v seksualiziranih oblačilih na podlagi uporabniškega poziva.“
„To je kršilo etične standarde in potencialno zakone ZDA v zvezi z [gradivom spolne zlorabe otrok]. Šlo je za odpoved varoval, in opravičujem se za kakršno koli povzročeno škodo. xAI pregleduje postopke, da bi preprečil prihodnje težave.“
Grok je izdelek Muskovega podjetja xAI in je neposredno integriran v X, nekdanji Twitter.
Kdo se pravzaprav opravičuje?
Opravičilo v prvi osebi je takoj sprožilo vprašanja, kdo nosi odgovornost.
Albert Burneko z medija Defector je opozoril, da Grok „v nobenem resničnem smislu ni nekaj, kar bi bilo podobno ‘jaz’“, zaradi česar je po njegovem mnenju opravičilo „popolnoma brez vsebine“, saj Groka „ni mogoče na noben smiseln način poklicati na odgovornost, ker je spremenil Twitter v tovarno materiala o spolni zlorabi otrok na zahtevo“.
Sistem brez lastne volje tako prevzema krivdo, ne da bi bilo jasno, kakšne posledice bodo doletele xAI, X ali njihove vodilne.
Širši vzorec zlorab
Ne gre samo za en sam incident.
Portal Futurism je ugotovil, da je bil Grok uporabljen ne le za generiranje neprivoljenih pornografskih podob, temveč tudi slik žensk, ki so napadene in spolno zlorabljene.
To zadevo jasno postavlja na področje spletnih škodljivih vsebin in možnih kaznivih dejanj, še posebej, kadar so vpleteni mladoletniki.
Elon Musk je medtem poskušal odgovornost preusmeriti k uporabnikom. V soboto je na X zapisal:
„Kdor uporablja Grok za ustvarjanje nezakonitih vsebin, bo utrpel enake posledice, kot če bi naložil nezakonite vsebine.“
Vendar pa regulatorji vse bolj dvomijo, ali so Grokove varovalke sploh dovolj močne.
Ultimatum Indije
Indijsko ministrstvo za informacijsko tehnologijo je v petek izdalo odredbo, s katero zahteva, da X omeji Grok pri ustvarjanju vsebin, ki so „opscene, pornografske, vulgarne, nespodobne, spolno eksplicitne, pedofilske ali drugače prepovedane z zakonom“.
X ima 72 ur časa za odgovor. Če podjetje ne ukrepa, lahko Indija platformi odvzame t. i. „varni pristan“ – pravno zaščito, ki običajno spletne platforme ščiti pred odgovornostjo za vsebine uporabnikov.
Za X bi izguba te zaščite na tako velikem trgu pomenila precej večje pravno tveganje za vse, kar generira Grok.
Francija preiskuje seksualne deepfake posnetke
Francosko tožilstvo v Parizu je za Politico potrdilo, da bo preiskovalo širjenje eksplicitnih seksualnih deepfakeov na X.
Francoski urad za digitalne zadeve je dodal, da so trije ministri prijavili „očitno nezakonito vsebino“ tako tožilstvu kot tudi vladni platformi za spletni nadzor, „da bi dosegli njeno takojšnjo odstranitev“.
S tem se afera z Grokom premika iz klasične razprave o moderiranju vsebin v področje potencialnih kazenskih postopkov v Franciji.
Malezija cilja na zlorabo AI na X
Malezijska komisija za komunikacije in multimedije (MCMC) je v izjavi zapisala, da je „z veliko zaskrbljenostjo sprejela javne pritožbe o zlorabi orodij umetne inteligence (AI) na platformi X, zlasti digitalno manipulacijo slik žensk in mladoletnikov za ustvarjanje nespodobnih, izjemno žaljivih in drugače škodljivih vsebin“.
Dodali so, da trenutno „preiskujejo spletne škode na X“.
Izjava jasno kaže, da gre za širšo skrb glede generativne umetne inteligence na družbenih omrežjih in ne zgolj za en problematičen chatbot.
Preizkus za varovalke v generativni AI
Za xAI in X se vse te preiskave zlivajo v eno osrednje vprašanje: kdo je odgovoren, ko sistem umetne inteligence, vgrajen v družbeno omrežje, omogoča ustvarjanje seksualiziranih deepfakeov – tudi potencialnega gradiva spolne zlorabe otrok?
Grok v svojem opravičilu incident opisuje kot „odpoved varoval“ in napoveduje, da xAI pregleduje postopke, „da bi preprečil prihodnje težave“. Regulativne oblasti v Indiji, Franciji in Maleziji pa s svojimi potezami nakazujejo, da gola opravičila morda ne bodo več dovolj.
Kako bodo države v prihodnje uporabljale obstoječo zakonodajo za boj proti seksualiziranim AI-slikam in deepfakeom, bi lahko prav primer Groka hitro postavil kot pomemben precedens tudi za druge ponudnike generativne umetne inteligence.
