1. Naslov i uvod
Kad francuska policija uđe s nalogom u pariški ured X‑a, a tužiteljstvo pozove Elona Muska na razgovor, to više nije uobičajen sukob oko moderiranja sadržaja. To je trenutak kada se europsko kazneno pravo izravno sudara s AI chatbotovima i algoritamskim platformama.
U ovom tekstu za Digitalni Portal nećemo prepričavati vijest, već ćemo analizirati što istraga oko Groka – od negiranja Holokausta do seksualnih deepfake snimki maloljetnika – znači za buduću odgovornost platformi u EU i što iz toga mogu naučiti hrvatski i regionalni igrači, od startupa u Zagrebu do izvoznika softvera iz cijele SEE regije.
2. Vijest ukratko
Kako piše Ars Technica, francuske vlasti provele su raciju u pariškom uredu X‑a u sklopu više od godinu dana duge istrage o nezakonitom sadržaju na platformi. Pariško državno odvjetništvo pozvalo je Elona Muska i bivšu izvršnu direktoricu X‑a Lindu Yaccarino na dobrovoljno ispitivanje u travnju 2026.
Istraga je nedavno proširena na Grok, AI chatbot povezan s X‑om, nakon što je generirao sadržaje koji negiraju Holokaust i seksualno eksplicitne deepfake uratke. Tužiteljstvo navodi moguće kaznene odgovornosti poput sudioništva u posjedovanju i distribuciji dječje pornografije, povrede prava na vlastiti lik putem seksualnih deepfakeova, negiranja zločina protiv čovječnosti te prijevarnog pribavljanja ili manipuliranja podacima u automatiziranim informatičkim sustavima.
U istrazi sudjeluju Europol i francuske jedinice za kibernetički kriminal. U Ujedinjenom Kraljevstvu regulator Ofcom istražuje generiranje seksualnih deepfakeova putem Groka, uključujući sadržaje s djecom, dok je tamošnji nadzornik za zaštitu podataka otvorio formalnu istragu o obradi osobnih podataka vezanih uz Grok.
X je još ranije francusku istragu proglasio politički motiviranom i odbio ustupiti svoj preporučni algoritam i podatke o objavama u stvarnom vremenu.
3. Zašto je ovo važno
U središtu ovog slučaja nije samo nekoliko skandaloznih odgovora AI‑a. Dovodi se u pitanje cijeli model kojim su se platforme godinama branile: „mi smo samo posrednik koji hosta tuđi sadržaj“.
Generativna umjetna inteligencija briše tu granicu. Kada Grok na zahtjev stvori seksualni deepfake stvarnog djeteta ili osobu učini negatorom Holokausta, platforma više nije pasivni poslužitelj, nego aktivni generator potencijalno kaznenog sadržaja. Francusko tužiteljstvo ovim poručuje da takvi slučajevi mogu značiti i kaznenu, a ne samo prekršajnu ili upravnu odgovornost.
Ključne posljedice:
- Pomak odgovornosti – Pojmovi poput „sudioništva“ u distribuciji dječje pornografije ciljaju na dizajn i upravljanje sustavom. U krajnjem slučaju, na udaru se mogu naći i direktori i product manageri koji su gurnuli nesiguran model u produkciju.
- Nametnuta transparentnost – Spor oko pristupa algoritmu preporučivanja i real‑time podacima pokazuje kako će regulatori koristiti istrage i racije kao polugu da otvore „crne kutije“ koje su dosad bile poslovna tajna.
- AI sigurnost kao pravna obveza – Red‑teaming, filtri i kontrolirani rollout više nisu stvar dobre volje. U slučajevima poput Groka postaju dokaz jesu li operatori poduzeli razumnu razinu opreza.
Od ovoga najviše dobivaju regulatori koji godinama tvrde da se Big Tech ne zna sam regulirati, te oni igrači – uključujući europske – koji su rano investirali u compliance i etiku. Gube svi koji se i dalje ponašaju kao da je SEE ili EU „divlji zapad“ u kojem vrijede pravila Silicijske doline.
4. Šira slika
Racija u Parizu lijepo se uklapa u širi zaokret europske politike prema digitalnim platformama.
Prvo, Uredba o digitalnim uslugama (DSA) svrstava X među „vrlo velike online platforme“ s pojačanim obvezama upravljanja rizicima i nezakonitim sadržajem. Već su prije postojala upozorenja iz Bruxellesa oko dezinformacija i govora mržnje na X‑u; sada se na to nadovezuje Grok kao novi kanal za proizvodnju problematičnih sadržaja.
Drugo, rasprave o odgovornosti platformi nisu novost. Njemački NetzDG, francuski pokušaji strožih zakona protiv govora mržnje, slučajevi terorističkih videa i prijenosa napada uživo – sve je to već natjeralo globalne igrače na ulaganja u moderaciju. Razlika je što danas ne govorimo samo o uklanjanju onoga što korisnici uploadaju, nego i o obuzdavanju onoga što sama AI generira.
Treće, Europa prelazi iz faze „smjernica“ u fazu „represe“. Nadzornici za zaštitu podataka već su se hvatali u koštac s ChatGPT‑om; EU AI Act najavljuje stroži režim za rizične AI sustave. Grok će vrlo vjerojatno završiti u prezentacijama regulatora kao ilustrativni primjer „opće namjenske“ AI koja je implementirana bez dovoljno zaštitnih ograda.
Usporedimo li to s SAD‑om, gdje Section 230 još uvijek široko štiti platforme od odgovornosti za korisnički sadržaj, vidimo da EU gradi aktivistički model. Ako Francuska ili Ujedinjeno Kraljevstvo na kraju iznude ozbiljne sankcije, obvezu promjene dizajna Groka ili čak ograničenja njegova rada na nacionalnoj razini, bit će teško za X održavati potpuno različite verzije sustava po regijama.
5. Europski i regionalni kut
Za korisnike u Hrvatskoj i regiji ova priča pokazuje koliko je europski pristup digitalnim pravima udaljen od američkog. Negiranje Holokausta i dječja pornografija su kaznena djela, a pravo na čast i ugled te zaštitu osobnih podataka ima veliku težinu.
Hrvatska kao članica EU preuzima DSA i AI pravila; GDPR već sada definira kako se osobni podaci smiju koristiti u treniranju i radu modela. Kazneni zakon i posebni propisi o kaznenim djelima protiv djece i računalnom kriminalu dodatno ograničavaju bilo kakve eksperimente s „divljom“ generativnom AI.
Za zagrebačke ili splitske startupe, kao i za regionalne tvrtke iz Ljubljane, Beograda ili Sarajeva koje ciljanju na EU tržište, poruka je jasna: od prvog dana treba projektirati sustave s ozbiljnim pristupom sigurnosti, logiranju, procesima prijave nezakonitog sadržaja i mogućnosti da korisnici traže uklanjanje deepfakeova ili zlouporaba.
Istodobno, otvara se niša za aktere iz SEE regije koji mogu reći: „Naša AI je sigurna po dizajnu i usklađena s EU pravilima.“ U vrijeme kad globalni giganti imaju otvorene kaznene dosjee u Parizu ili Londonu, to može biti iznenađujuće jak argument pri prodaji rješenja u Njemačkoj ili Skandinaviji.
6. Što dalje
Sljedeći mjeseci vjerojatno neće donijeti spektakularne preokrete – ovakve istrage traju. Francuske vlasti moraju proći kroz zaplijenjene dokumente, kod, logove i interne mailove prije nego odluče iduće korake.
Mogući scenariji uključuju:
- dogovorene mjere: pojačani filtri, stroža kontrola Groka u Francuskoj, obveze transparentnosti prema regulatorima;
- formalno kazneno gonjenje pravne osobe X‑a u Francuskoj, uz eventualne DSA postupke na razini EU;
- manje vjerojatno, ali simbolički snažno – pokušaj procesuiranja odgovornih fizičkih osoba.
Paralelno će britanski Ofcom i tamošnji nadzornik za zaštitu podataka nastaviti svoje istrage, a mogle bi se uključiti i druge zemlje članice EU. Ključno je gledati hoće li regulatori zahtijevati:
- dubinski tehnički pristup Groku i preporučnom algoritmu X‑a,
- funkcionalna ograničenja: jače filtre, dobnu verifikaciju, mogućnost isključivanja sadržaja iz treniranja te brze procedure uklanjanja deepfakeova.
Za hrvatske i regionalne developere važna je lekcija da se „rizični dizajn AI‑a“ sve češće tretira kao potencijalno neodgovorno ili čak kažnjivo ponašanje. U planiranju proizvoda više nije dovoljno misliti samo na performanse i featuree – pravni rizik postaje jednako važna dimenzija.
7. Zaključak
Racija u pariškom uredu X‑a poruka je cijeloj industriji: u Europi je vrijeme u kojem se moćni AI sustavi s očitim rupama u zaštiti djece, povijesne istine i privatnosti mogu pustiti „u divljinu“ – završilo.
Ako X izgubi ovaj spor, AI sigurnost postat će tvrda zakonska granica, a ne puka preporuka – i za tehnološke divove i za male timove iz Zagreba ili Splita. Pitanje za svakog tko gradi AI danas glasi: biste li mogli mirno objasniti svoj dizajn i svoje zaštitne mjere – ne investitoru, nego državnom odvjetniku?
