Naslov i uvod
Kada se otkrije malware u popularnom open‑source projektu, to je ozbiljan problem. Kada se ispostavi da je isti projekt imao „uredne“ sigurnosne certifikate od startupa koji je potom optužen za lažiranje podataka, problem prelazi na sasvim novu razinu.
Priča LiteLLM–Delve nije samo još jedna američka startup drama. Za hrvatske i regionalne tvrtke koje ubrzano uvode AI rješenja, to je vrlo konkretno upozorenje: povjerenje u infrastrukturu umjetne inteligencije sve se više oslanja na certifikate i audite koje mnogi ne razumiju dovoljno. U nastavku analiziramo što se dogodilo, zašto je važno i kako se uklapa u europski regulatorni okvir.
Vijest ukratko
Prema pisanju TechCruncha, otvorena verzija LiteLLM‑a – popularnog AI „gatewaya“ koji milijunima programera omogućuje spajanje na različite modele velikih jezika – nedavno je kompromitirana zlonamjernim softverom za krađu vjerodajnica. Zlonamjerni kod je navodno prikupljao API ključeve i druge tajne programera koji su koristili zahvaćenu verziju.
Prije incidenta, LiteLLM je preko startupa Delve stekao dvije sigurnosne certifikacije. Delve se pozicionira kao tvrtka specijalizirana za automatiziranu usklađenost na području umjetne inteligencije. Takvi certifikati bi trebali potvrditi da su uspostavljeni procesi i kontrole koji smanjuju rizik od upravo ovakvih incidenata.
TechCrunch navodi da je anonimni zviždač optužio Delve da je zavarao klijente navodnim generiranjem lažnih podataka i suradnjom s revizorima koji su izvješća odobravali bez ozbiljne provjere. Osnivač Delve poriče optužbe i nudi besplatno ponovno testiranje i audite svim klijentima. Zviždač je tijekom vikenda objavio dodatne navodne dokaze.
U ponedjeljak je CTO LiteLLM‑a na X‑u objavio da će tvrtka ponoviti certifikaciju s Delveovim konkurentom Vantom i angažirati vlastitog, neovisnog trećeg revizora.
Zašto je to važno
Na površini, riječ je o klasičnoj priči: sigurnosni incident, gubitak povjerenja, promjena dobavljača. No ispod površine puca model na kojem se posljednjih godina gradi veliki dio B2B SaaS tržišta – uključujući i rješenja koja sve češće koriste hrvatske tvrtke.
LiteLLM je za mnoge razvojne timove ključna infrastrukturna komponenta: preko njega usmjeravaju promet prema OpenAI‑ju, Anthropic‑u, Azureu i lokalnim/open‑source modelima. Kada je ta komponenta kompromitirana, potencijalni domet napada je ogroman. TechCrunch u zasebnom tekstu već spominje barem jedan drugi startup, Mercor, pogođen istim kompromitiranim open‑source projektom.
Druga polovica priče su certifikati. SOC 2, ISO 27001 i slične sheme postale su preduvjet za sklapanje ugovora s bankama, telekomima, javnim sektorom. Startupima trebaju što brže, a specijalizirane „compliance“ platforme obećavaju upravo to: automatsko skupljanje dokaza i ekspresnu pripremu za audit.
Ako su optužbe protiv Delvea točne – o izmišljenim dokazima i „gumastim“ revizorima – onda ne govorimo samo o jednom propalom startupu, već o industrijaliziranom „teatru usklađenosti“. Lijepa PDF izvješća bez stvarnih promjena u praksi.
Gubitnik je, naravno, povjerenje. CIO‑vi i direktori koji su i do sada s rezervom gledali na certifikate dobit će dodatni razlog za skepticizam. No istovremeno će porasti važnost ozbiljnih, neovisnih revizora, kao i alata koji štite open‑source dobavne lance.
Šira slika
Afera LiteLLM–Delve uklapa se u nekoliko širih trendova koje vidimo u posljednjim godinama.
1. AI infrastruktura postaje nova kritična infrastruktura.
AI gatewayi poput LiteLLM‑a postaju ono što su nekoć bili payment procesori ili API gatewayi – komponente duboko u srcu sustava, koje je teško zamijeniti. Kompromitacija takve točke nalikuje napadima na SolarWinds ili pokušajima kompromitiranja široko korištenih Linux alata: jedan uspješan udarac, ogroman domet.
2. Usklađenost je pretvorena u proizvod – ponekad bez sadržaja.
Startup scena posljednjih godina nudi niz alata koji obećavaju „automatsku usklađenost“: spoji oblak, odgovori na upitnik i za nekoliko tjedana si spreman za reviziju. U najboljem slučaju, takvi alati donose red, vidljivost i disciplinu. U najgorem, postaju tvornice certifikata u kojima je najvažnije da se klijent „ne muči previše“.
Optužbe na račun Delvea podsjećaju na stare rasprave oko revizorskih kuća i kreditnih rejtinga: kada je revizor istovremeno dobavljač kojeg možeš lako zamijeniti, pritisak da bude „fleksibilan“ je velik. U segmentu AI‑a, gdje su regulacija i standardi tek u nastajanju, taj pritisak je još izraženiji.
3. Open‑source dobavni lanac pod sve je većim pritiskom.
Kompromitirana je upravo open‑source varijanta LiteLLM‑a. To se uklapa u obrazac: napadači ciljaju knjižnice i pakete kojima developeri vjeruju „zdravo za gotovo“ i kroz njih kradu ključeve, mijenjaju build procese i ulaze dublje u sustave. U svijetu AI‑a, gdje se u Zagrebu, Ljubljani ili Beogradu brzo slažu prototipovi od gotovih komponenti, taj rizik je još veći.
Rezultat? AI alate i gatewaye moramo prestati gledati kao zgodne dodatke i početi ih tretirati kao kritičnu infrastrukturu – uz sve što to nosi za izbor dobavljača, revizora i open‑source komponenti.
Europski i regionalni kut
Za hrvatske tvrtke, ovo nije samo američka priča, već ogledalo onoga što nam dolazi kroz EU regulativu.
GDPR, Direktiva NIS2, Akt o digitalnim uslugama i nadolazeći Akt o umjetnoj inteligenciji postavljaju jasne zahtjeve: upravljanje rizicima, nadzor trećih strana, transparentnost i mogućnost dokazivanja da ste napravili „domaću zadaću“. Oslanjanje na certifikat za koji se kasnije pokaže da je izdan uz upitne prakse može biti ozbiljan problem u slučaju nadzora ili incidenta.
Za Hrvatsku je specifično to da se mnoge tvrtke – od malih SaaS‑ova do većih igrača u financijskom i turističkom sektoru – oslanjaju na strane, uglavnom američke cloud i AI dobavljače. Dokumentacija i certifikati često se prihvaćaju zdravo za gotovo, jer domaći timovi nemaju resurse za dubinsku provjeru.
Afera LiteLLM–Delve sugerira da će to morati promijeniti. Regulatori u EU sve više gledaju i na treće dobavljače, a nacionalna tijela (u našem slučaju AZOP, HAKOM i resorna ministarstva) dobit će dodatne argumente da pojačaju nadzor.
S druge strane, to je prilika za regionalne sigurnosne tvrtke, konzultante i startupe: oni koji mogu pomoći u provjeri AI dobavljača i usklađenosti s EU pravilima postat će vrlo traženi partneri.
Pogled unaprijed
Što slijedi nakon ovoga?
LiteLLM će, ako želi zadržati povjerenje zajednice, morati učiniti više od zamjene Delvea Vantom. Očekuje se detaljan tehnički izvještaj o incidentu, jasne upute korisnicima (rotacija ključeva, provjera sustava) i vidljive promjene u načinu na koji se razvija i objavljuje open‑source kod (stroži code review, potpisane verzije, bolje praćenje anomalija).
Delve je pred ozbiljnim testom opstanka. Čak i ako dio optužbi nije u potpunosti točan, sama činjenica da postoji aktivan zviždač s javno objavljenim „računima“ tjera klijente i investitore da barem preispitaju suradnju. Mnogi će tražiti ponovne audite kod drugih, drugi će pričekati razvoj situacije, ali reputacija je već ozbiljno narušena.
Šire gledano, tržište „compliance as a service“ alata vjerojatno ulazi u fazu trežnjenja. Priče o „SOC‑u u nekoliko tjedana“ morat će dokazati da iza njih stoji stvarna promjena u praksi, a ne samo automatizirano generiranje dokumentacije. Posebno će se promatrati uloga i neovisnost revizora – tko su, kako se biraju, koliko su priznati kod regulatora.
Za hrvatske tvrtke i timove koji razvijaju ili kupuju AI rješenja, praktična poruka je jasna:
- ne pitajte samo ima li dobavljač certifikat, nego i tko ga je izdao i kako je do njega došao;
- ozbiljno shvatite sigurnost open‑source komponenti, uključujući reviziju ovisnosti i upravljanje tajnama;
- računajte da će EU regulativa postajati stroža, a time i očekivanja vaših klijenata.
Zaključak
Prekid suradnje između LiteLLM‑a i Delvea nije izolirani incident, već simptom šireg problema: kada se sigurnosna usklađenost pretvori u brzu uslugu na klik, bez stvarne promjene prakse, dobivamo iluziju sigurnosti umjesto sigurnosti.
Ako AI doista postaje nova slojevita infrastruktura na kojoj gradimo proizvode i javne usluge, tada gatewaye, alate i njihove revizore moramo tretirati jednako ozbiljno kao cloud providere ili platne sustave.
Ključno pitanje za svaku hrvatsku tvrtku glasi: na kojim mjestima u svom IT‑lancu još uvijek vjerujete logotipu tamo gdje biste trebali tražiti dokaze?
