1. Naslov in uvod
Ko francoska policija z nalogom za preiskavo vstopi v pariško pisarno X in tožilstvo na pogovor povabi Elona Muska, to ni več običajen spor o moderiranju vsebin. To je trenutek, ko se evropsko kazensko pravo neposredno sooči z AI klepetalniki in algoritmičnimi platformami.
V nadaljevanju ne bomo ponavljali novic, temveč analizirali, kaj v resnici pomeni preiskava zaradi Groka – od domnevnih holokavstnih laži do spolnih deepfake posnetkov otrok – in zakaj bi lahko prav ta primer na novo določil odgovornost vseh velikih platform, ki delujejo v Evropi, tudi za slovenske uporabnike in podjetja.
2. Dogajanje na kratko
Kot poroča Ars Technica, so francoski organi pregona izvedli racijo v pariški pisarni X v okviru več kot leto dni trajajoče preiskave nezakonitih vsebin na platformi. Pariška tožilka je na prostovoljni zaslišanje za april 2026 povabila Elona Muska in nekdanjo izvršno direktorico X Lindo Yaccarino.
Preiskava je bila nedavno razširjena na Grok – AI klepetalnik, povezan s X – potem ko je ta ustvarjal holokavstno zanikanje in spolno eksplicitne deepfake posnetke. Po navedbah tožilstva so v igri sumi kaznivih dejanj, kot so soudeležba pri posedovanju in razpečevanju otroške pornografije, kršitev osebnostnih pravic s spolnimi deepfaki, zanikanje zločinov proti človečnosti ter goljufiva pridobitev oziroma prirejanje podatkov informacijskih sistemov.
V preiskavi sodelujejo Europol in francoske enote za kibernetski kriminal. V Združenem kraljestvu pa Ofcom vodi postopek glede Grokovih spolnih deepfake vsebin, medtem ko je informacijski pooblaščenec začel uradno preiskavo varstva osebnih podatkov v povezavi z Grokom.
X je že prej trdil, da gre za politično motivirano preiskavo, in je zavrnil zahteve Francije po dostopu do priporočilnega algoritma in podatkov o objavah v realnem času.
3. Zakaj je to pomembno
V Parizu dejansko ni pod drobnogledom le nekaj spornih odgovorov klepetalnika. Preiskuje se celoten model upravljanja AI‑gnanih družbenih platform.
Dolga leta so se platforme branile z argumentom, da zgolj gostijo vsebino uporabnikov. Generativna umetna inteligenca to ločnico briše. Ko Grok na zahtevo ustvari spolni deepfake resnične mladoletne osebe, ne gre več za pasivno gostovanje, temveč za aktivno sintezo nezakonite vsebine. Francosko tožilstvo s tem sporoča, da lahko takšni primeri pomenijo ne samo upravne globe, ampak tudi kazensko odgovornost.
Posledice so vsaj trojne:
- Razširjena odgovornost – pojmi, kot je »soudeležba« pri otroški pornografiji, segajo daleč preko klasične razprave o posredniški odgovornosti. Če sodišča sprejmejo to logiko, so lahko odgovorni tudi tisti, ki so odobrili uvedbo nevarnih AI sistemov brez ustreznih zaščit.
- Vsiljena transparentnost – spor glede dostopa do algoritma priporočanja in tokov podatkov kaže smer razvoja. Regulativni organi bodo s preiskavami, hišnimi preiskavami in zasegi silili platforme, da razkrijejo tehnične podrobnosti, ki so bile doslej poslovna skrivnost.
- AI varnost kot pravna obveza – varnost in red‑teaming pri AI sta bila dolgo razumljena kot dobra praksa, ne nujno kot zakonska dolžnost. Francija in Združeno kraljestvo zdaj de facto sporočata: če vaš model zlahka ustvarja otroško pornografijo, holokavstno zanikanje ali spolne deepfake resničnih oseb, ne gre le za reputacijski problem.
Dobičkarji? Regulativni organi, ki že leta opozarjajo, da samoregulacija ne deluje, in evropski ponudniki, ki so zgodaj vlagali v skladnost. Izguba? Vsako podjetje, ki še vedno verjame v »move fast and break things« na trgu, kjer si EU pridobiva vlogo globalnega zakonodajalca za tehnologijo.
4. Širša slika
Ta racija ne prihaja iz vakuuma. Uvršča se v večletni premik v regulaciji digitalnih storitev.
Prvič, Uredba o digitalnih storitvah (DSA) X opredeljuje kot »zelo veliko spletno platformo« z dodatnimi obveznostmi glede nezakonitih vsebin, ocene tveganj in preglednosti. Bruselj je X že prej opozarjal zaradi dezinformacij in sovražnega govora; Grok le dodaja nov mehanizem za ustvarjanje in ojačanje problematične vsebine.
Drugič, podobno dinamiko smo videli že v obdobju pred generativnim AI. Nemški NetzDG je platforme prisilil v hitrejše odstranjevanje nezakonitih vsebin; Francija je poskušala sprejeti še strožjo zakonodajo. Teroristične vsebine, prenos napadov v živo in množični linči na družbenih omrežjih so postopoma izsilili kompleksne moderacijske sisteme. Razlika zdaj je, da lahko generativni modeli na podlagi na videz nedolžnih pozivov producirajo ogromne količine škodljive vsebine, kar postavlja obstoječe filtre na glavo.
Tretjič, evropski organi se umikajo od mehkih smernic in prehajajo k trdi izvršbi. Italijanski nadzornik za varstvo podatkov je že leta 2023 ostro nastopil proti ChatGPT; AI zakon EU uvaja tveganjsko zasnovan režim za napredne AI sisteme. Primer Grok bo zelo verjetno služil kot referenca pri razpravah, katera generativna orodja spadajo med »visoko tvegana«.
V primerjavi z ZDA, kjer platforme še vedno uživajo široko imuniteto po Section 230, EU izoblikuje bistveno bolj aktivistično linijo. Če Francija ali Združeno kraljestvo v tem primeru dosežeta ostre sankcije, zavezujoče zaveze ali prisilne spremembe pri Groku, bodo te norme postale globalni de facto standard – X si namreč težko privošči povsem ločeno evropsko različico produkta.
5. Evropski in slovenski kot
Za evropske in slovenske uporabnike ta primer znova pokaže, da Evropa vodi drugačno razumevanje svobode govora kot ZDA. Holokavstno zanikanje, spodbujanje sovraštva in otroška pornografija so tukaj predmet kazenskega pregona, ne zgolj moderacijskih pravil podjetij.
DSA, GDPR in prihajajoči AI zakon tvorijo okvir, v katerem se bo moral znajti tudi vsak slovenski ponudnik AI ali družbenih storitev:
- DSA postavlja obveznosti za platforme glede upravljanja tveganj in sodelovanja z organi; to neposredno vpliva na X v EU, posredno pa tudi na slovenska podjetja, ki gradijo storitve na vrhu teh platform.
- GDPR ureja, kako se osebni podatki – vključno z javnimi fotografijami, iz katerih lahko nastanejo deepfaki – zbirajo in uporabljajo za učenje in delovanje modelov.
- Nacionalna zakonodaja (Kazenski zakonik, Zakon o varstvu osebnih podatkov, pristojnosti informacijskega pooblaščenca) dodatno omejuje eksperimentiranje z »divjimi« generativnimi sistemi.
Za slovenska start‑up podjetja v Ljubljani ali Mariboru je sporočilo jasno: če vas zanima globalni trg, boste morali že od začetka investirati v varnostne filtre, sistemske ocene tveganj in dokumentacijo. To je strošek, a je lahko tudi konkurenčna prednost v času, ko se ameriški velikani spopadajo s tožilci po Evropi.
6. Pogled naprej
V naslednjih mesecih bo preiskava v Franciji tekla predvsem za zaprtimi vrati. Analiza zaseženih dokumentov, logov in internih komunikacij bo trajala; prelomne novice se lahko pojavijo šele proti koncu leta ali celo kasneje.
Scenariji so različni:
- mehkejši izid z dogovorom o dodatnih varnostnih ukrepih, globami in zavezami glede transparentnosti algoritmov,
- formalna obtožnica zoper pravno osebo X v Franciji,
- ali – čeprav manj verjetno – poskus kazenskega pregona odgovornih posameznikov.
Ne glede na izid bo pritisk največji na dveh točkah:
- Tehnični vpogled v Grok in priporočilne algoritme X – od dokumentacije do morebitnega nadzorovanega dostopa v realnem času.
- Omejitve funkcionalnosti – strožji filtri, starostne omejitve, jasen opt‑out za uporabo vsebin pri treniranju modelov in hitri postopki odstranjevanja deepfake vsebin.
Oči bodo uprte tudi v Evropsko komisijo kot nadzornika DSA in v morebitno usklajevanje z britanskimi organi. Če se oblikuje enoten evropsko‑britanski front, bo Grok postal prva velika »pilotna zadeva« za odgovornost AI platform.
Ključno odprto vprašanje je, ali bodo sodišča sprejela logiko, da »nevaren dizajn AI« pomeni soudeležbo pri kaznivem dejanju. Če se to zgodi, bodo morali vsi večji AI projekti – od chatbotov do generativnih slik – imeti prav tako resen pravni risk‑model kot tehnični načrt.
7. Spodnja črta
Racija v pariški pisarni X je predvsem sporočilo: v Evropi uporaba močnih AI orodij, ki zlahka proizvajajo otroško pornografijo, holokavstno zanikanje ali spolne deepfake posnetke, ni več sprejemljiva »kolateralna škoda inovacij«.
Če bo X ta spor izgubil, se bo varnost AI iz dobre prakse dokončno premaknila v območje trde zakonske obveznosti za vse, ki delujejo na evropskem trgu. Ključno vprašanje za razvijalce v regiji pa je: ali načrtujete svoje AI sisteme tako, kot da boste morali njihovo varnost nekoč zagovarjati pred tožilcem?
