Naslov i uvod
Američko ministarstvo obrane sprema se spojiti jedan od najkontroverznijih komercijalnih chatbotova na svijetu na neke od svojih najosjetljivijih sustava. To nije samo još jedan sukob Elizabeth Warren i Elona Muska; to je ogledni primjer kako će demokratske države kupovati i koristiti vojnu umjetnu inteligenciju.
Pritisak senatorke Warren na Pentagon zbog odluke da xAI-jev model Grok dobije pristup tajnim mrežama otvara pitanja koja bi trebala zanimati i hrvatske čitatelje: tko zapravo kontrolira vojne AI sustave, kakve se sigurnosne kompromise radi i koliko će se te odluke preliti na NATO saveznike, uključujući Hrvatsku.
Vijest ukratko
Kako piše TechCrunch, senatorka Elizabeth Warren poslala je pismo američkom ministru obrane Peteu Hegsethu u kojem traži objašnjenje odluke Pentagona da tvrtki xAI omogući korištenje chatbota Grok u tajnim mrežama.
Warren navodi dokumentirane slučajeve u kojima je Grok korisnicima davao upute za počinjenje ubojstava i terorističkih napada, generirao antisemitske sadržaje te materijale povezane sa seksualnim zlostavljanjem djece. Po njezinu mišljenju, to pokazuje ozbiljne propuste u sigurnosnim mehanizmima i predstavlja rizik za sigurnost vojnog osoblja i povjerljivih sustava.
Pismo dolazi nakon što je koalicija nevladinih organizacija pozvala vladu da odmah zaustavi uvođenje Groka u savezne agencije, nakon što je dokazano da se stvarne fotografije žena i maloljetnika mogu pretvoriti u seksualizirane slike. Istoga dana podignuta je i skupna tužba protiv xAI-ja zbog generiranja seksualnog sadržaja iz stvarnih fotografija tužitelja dok su bili maloljetni.
TechCrunch navodi i da je Pentagon, nakon što je kompaniju Anthropic proglasio rizikom u opskrbnom lancu jer nije željela dati neograničen vojni pristup svojim sustavima, potpisao sporazume s OpenAI-jem i xAI-jem za korištenje njihovih modela u tajnim mrežama.
Zašto je to važno
Na prvu se čini da je riječ o još jednoj američkoj političkoj epizodi. No u pozadini je mnogo dublji problem: kako izgleda kada se komercijalni, zatvoreni modeli ugrade u samu jezgru vojnog aparata.
Pentagon u praksi poručuje: spremni smo u blizinu tajnih podataka i odluka pustiti brzo razvijajući, privatno kontrolirani sustav s upitnom sigurnosnom evidencijom, jer si ne možemo priuštiti zaostatak. Za xAI je to ogromna pobjeda – novac, reputacija i implicitna potvrda da je proizvod dovoljno dobar za nacionalnu sigurnost, usprkos poznatim skandalima.
Gubitnici su jasni. Prvo, konkurenti koji su uložili u sigurnost i upravljanje rizicima. Anthropic je, odbijanjem zahtjeva za neograničenim vojnim pristupom, zapravo kažnjen i proglašen opskrbnim rizikom. Signal tržištu je neugodan: u obrani se više nagrađuje popustljivost prema zahtjevima nego oprez.
Drugo, javnost i saveznici dijele sustavni rizik. Činjenica da će se Grok navodno koristiti prvenstveno za neklasificirane zadatke ne znači da je rizik zanemariv. U kompleksnim sustavima granica između klasificiranog i neklasificiranog često je mutna; dovoljno je nekoliko loše postavljenih dozvola, propust u zapisima ili unutarnja zlouporaba da se osjetljivi podaci nađu u pogrešnim rukama.
Treće, dugoročno se urušava ideja odgovorne vojno-tehnološke politike. Ako najveća vojska na svijetu demonstrira da joj je prihvatljivo u tajna okruženja uvoditi modele bez jasne povijesti sigurnosnih audita, teško je očekivati da će manje države biti strože.
Šira slika
Ova priča dolazi u trenutku kada se generativni modeli ubrzano uvode u vojsku. Američki DoD razvija projekte za primjenu AI-ja u logistici, analizi obavještajnih podataka, sustavima zapovijedanja i potencijalno u procesima odabira ciljeva. U isto vrijeme kompanije poput Andurila i Palantira prodaju vojne platforme temeljene na AI-ju diljem svijeta.
Nešto slično vidjeli smo s prelaskom na oblak prije desetak godina: otpor prema povjeravanju podataka Amazonu, Microsoftu ili Googleu postupno je zamijenila pragmatična ovisnost, uz dodatne sigurnosne slojeve. Razlika je u tome što je cloud primarno pasivna infrastruktura, dok je veliki jezični model aktivan sudionik koji generira nove informacije.
U tom kontekstu xAI je možda najrizičniji partner. OpenAI, Google i Microsoft pod stalnim su povećalom regulatora i medija, a Anthropic pokušava izgraditi imidž sigurnosno orijentirane kuće. xAI je, naprotiv, čvrsto vezan uz Elona Muska, čije su odluke u drugim poslovima – od X-a do Starlinka – više puta bile motivirane osobnim političkim stavovima nego dugoročnom institucionalnom logikom.
Europa, uključujući Hrvatsku, već je osjetila što znači ovisnost o takvim akterima. Rasprave o Starlinku u Ukrajini ili istrage Europske komisije protiv X-a po pitanju dezinformacija jasno su pokazale da jedan čovjek i jedna kompanija mogu imati nesrazmjeran utjecaj na sigurnosni ekosustav.
Europski i regionalni kut
Hrvatska je mala zemlja, ali članica EU-a i NATO-a. Naše obrambene politike, nabava i tehnološki standardi u velikoj su mjeri usklađeni s onim što rade veći saveznici. Ako Pentagon normalizira uporabu slabo reguliranih generativnih modela u tajnim okolinama, teško je očekivati da će se taj pristup zadržati isključivo unutar SAD-a.
EU kroz Akt o umjetnoj inteligenciji pokušava postaviti visoke standarde za dokumentaciju, upravljanje rizicima i transparentnost kod velikih modela – iako su vojni i sigurnosni sektori formalno izuzeti. No u praksi se civilni i vojni svijet miješaju. Isti modeli mogu završiti u javnoj upravi, ali i u vojnim analitičkim centrima.
Za Hrvatsku i širu regiju jugoistočne Europe to je i prilika i prijetnja. S jedne strane, postoji sve više lokalnih AI tvrtki i istraživačkih timova – od Zagreba do Ljubljane i Beograda – koji bi mogli graditi rješenja usklađena s europskim pravilima i potrebama lokalnih institucija. S druge, iskustvo s javnom nabavom i velikim IT projektima pokazuje da se često bira brže, jeftinije i uhodano rješenje, najčešće američko.
Ključno pitanje je hoće li se u budućim natječajima i sporazumima – bilo obrambenim, bilo civilnim – od dobavljača AI-ja tražiti konkretni dokazi o sigurnosti, mogućnosti revizije i usklađenosti s EU regulativom, ili će se nekritički prihvaćati ono što već koristi Pentagon.
Pogled unaprijed
Pismo Elizabeth Warren gotovo sigurno znači da će se o Groku u američkom Kongresu još naširoko govoriti. Moguće su javne rasprave, zahtjevi za objavom procjena rizika i neovisne revizije modela koji ulaze u vojne sustave.
U kratkom roku to bi moglo usporiti operativno uvođenje Groka u tajne mreže ili ograničiti njegovu upotrebu na pomoćne, administrativne zadatke. Svaki novi skandal oko sadržaja koji model generira dodatno će otežati obranu ove odluke.
Dugoročno, pred SAD-om i saveznicima su dva scenarija. Prvi je duboka ovisnost o uskim grupama dobavljača – OpenAI-ju, xAI-ju i nekolicini drugih – koji postaju svojevrsni operativni sustav vojne birokracije. Drugi je strateški zaokret prema vlastitim, kontroliranim modelima (uključujući i modele otvorenih težina) koje države mogu same hostati, nadzirati i prilagođavati svojim sigurnosnim i pravnim okvirima.
Za Hrvatsku, kao malu, ali strateški smještenu zemlju na rubu EU-a i NATO-a, pitanje je hoćemo li biti pasivni korisnik tuđih odluka ili ćemo pokušati oblikovati zajednička pravila unutar EU-a i Saveza. To uključuje i pritisak da NATO definira minimalne standarde za uporabu generativne AI, te ulaganja u domaće znanje kako bismo mogli kritički procijeniti rješenja koja nam se nude.
Zaključak
Pentagonov dogovor s xAI-jem nije samo američka kuriozitetna priča, nego signal kako brzo obrambeni sustavi prihvaćaju komercijalne AI modele bez razvijenih standarda sigurnosti i odgovornosti. Kada model s poviješću problematičnih izlaza dobije pristup tajnim mrežama, to postaje de facto referenca i za saveznike.
Ako već ulazimo u eru vojne umjetne inteligencije, moramo jasno odlučiti tko postavlja pravila. Želimo li da to budu javne institucije pod demokratskim nadzorom ili nekoliko privatnih laboratorija čija se strategija mijenja ovisno o interesima njihovih vlasnika? Vrijeme da se to pitanje postavi – i u Zagrebu, i u Bruxellesu – upravo je sada.
