Naslov in uvod
Incident pri LiteLLM je marsikoga presenetil, a ne bi smel. V nekaj letih smo varnostne certifikate spremenili v prodajno orodje, ne pa v zaščitni mehanizem. Zdaj se to maščuje prav na področju, ki ga evropska podjetja pospešeno uvajajo: AI infrastruktura.
LiteLLM, eno najbolj priljubljenih »gateway« orodij za dostop do različnih AI modelov, se je po vdoru v svojo odprtokodno kodo javno odreklo startupu Delve, ki mu je urejal varnostne certifikate. Zamenjava ponudnika sama po sebi ni presenetljiva. Pomembno je, kaj nam ta zgodba pove o tem, kako slovenska in evropska podjetja kupujejo, preverjajo in zaupajo AI storitvam.
Novica na kratko
Kot poroča TechCrunch, je LiteLLM – AI prehod, ki ga uporabljajo milijoni razvijalcev za povezavo z različnimi ponudniki velikih jezikovnih modelov – pred kratkim razkril, da je bila njegova odprtokodna različica kompromitirana z zlonamerno programsko opremo za krajo poverilnic. Zlonamerna koda naj bi prestrezala ključe in gesla razvijalcev, ki so uporabljali projekt.
Pred incidentom je LiteLLM pridobil dva varnostna certifikata prek podjetja Delve, mladega startupa za avtomatizacijo skladnosti na področju AI. Takšne potrditve naj bi dokazovale, da ima podjetje procese in kontrole, s katerimi zmanjšuje tveganje podobnih incidentov.
Po navedbah TechCruncha je žvižgač Delve obtožil, da je stranke zavajal z domnevno ponarejenimi podatki in zanašanjem na revizorje, ki naj bi poročila potrjevali brez resne preverbe. Ustanovitelj Delve te očitke zanika in strankam ponuja brezplačno ponovno testiranje. Žvižgač je čez vikend objavil dodatne »dokaze«.
V ponedeljek je CTO LiteLLM na X objavil, da bodo certifikate znova pridobivali pri konkurenčnem ponudniku Vanta in si sami poiskali neodvisnega revizorja.
Zakaj je to pomembno
Na prvi pogled gre za klasičen scenarij: vdor, izguba zaupanja, menjava dobavitelja. A v ozadju se lomi model, na katerem sloni velik del današnjega B2B SaaS trga – tudi v Sloveniji.
LiteLLM ni nišni projekt; je plast »vodovodov«, skozi katero mnoge ekipe usmerjajo promet do OpenAI, Anthropic, Azure in odprtokodnih modelov. Ko je kompromitirana ta plast, je ogrožen vsak, ki je v njo vnesel prave API ključe ali gesla. TechCrunch v ločenem članku že opisuje vsaj en drug startup (Mercor), ki ga je napad zadel prek istega odprtokodnega kompromisa.
Druga plast zgodbe je skladnost. Certifikati – naj bodo to SOC 2, ISO 27001 ali druge sheme – so postali vstopnica za prodajo večjim podjetjem. Toda spodbude so napačne: startupi potrebujejo značko čim hitreje, da lahko podpisujejo pogodbe; ponudniki »compliance SaaS« rešitev pa se merijo po hitrosti in številu pridobljenih potrdil, ne po tem, koliko nevarnih praks dejansko odpravijo.
Če očitki na račun Delve držijo, gre za klasičen »compliance teater«: lep PDF, za katerim se realnost ni spremenila. Če LiteLLM enega avtomatiziranega ponudnika zamenja z drugim, je to morda taktično pravilno, strateško pa še ne pomeni spremembe kulture.
Največja žrtev je zaupanje. Številni slovenski CIO‑ji in direktorji so že do zdaj težko razumeli razliko med resnim certifikatom in marketinškim logotipom. Po tej aferi bodo še bolj skeptični – in prav je tako.
Širši kontekst
Ta primer se lepo ujema s tremi trendi, ki že nekaj časa zorijo v ozadju.
1. AI infrastruktura postaja kritična odvisnost.
Prehodi, kot je LiteLLM, so v svetu LLM nekaj podobnega, kot so bili v preteklosti payment gatewayji v svetu e‑trgovine. Ko jih vgradite v arhitekturo, jih težko zamenjate. To iz njih naredi zelo privlačno tarčo – in sistemsko tveganje. Spomnimo se primerov SolarWinds ali nedavnih poskusov vstavljanja zlonamerne kode v razširjene odprtokodne knjižnice.
2. Skladnost smo spremenili v produkt – včasih brez vsebine.
Zadnja leta so številni startupi obljubljali »avtomatizirano skladnost«: povežite oblak, odgovorite na vprašalnik in v nekaj tednih ste pripravljeni na revizijo. V najboljšem primeru takšne platforme modernizirajo boleč proces. V najslabšem ga spremenijo v tovarno certifikatov, kjer se vsi trudijo, da stranki ne bi stopili na žulj.
Očitki proti Delve spominjajo na stare razprave v finančnem revidiranju: če je revizor tudi ponudnik storitve, ki jo lahko zamenjate, je skušnjava, da bo »prijazen«, velika. AI je le nova industrija, kjer se ta vzorec pojavlja.
3. Napadi na odprtokodne dobavne verige se stopnjujejo.
Kompromitirana je bila odprtokodna različica LiteLLM. To se ujema z vzorcem zadnjih let: napadalci ciljajo knjižnice in pakete, ki jim razvijalci privzeto zaupajo, nato pa prek njih kradejo poverilnice. V svetu AI se to potencira, ker veliko ekip še vedno zelo lahkomiselno ravna s ključi in skrivnostmi.
Skupni imenovalec? AI orodja, ki jih vgradimo v svoje sisteme, moramo začeti obravnavati kot kritično infrastrukturo – z vsemi posledicami za izbor dobaviteljev, revizorjev in odprtokodnih komponent.
Evropski in slovenski vidik
Za evropske uporabnike to ni le ameriška drama, temveč praktičen opomnik, kaj nas čaka pod okriljem GDPR, NIS2, Akta o digitalnih storitvah in prihodnjega Akta o umetni inteligenci.
Vsa ta pravila poudarjajo upravljanje tveganj in nadzor nad tretjimi ponudniki. Če slovensko podjetje uporablja AI gateway za obdelavo osebnih podatkov evropskih državljanov, ne more več zgolj pokazati certifikata in reči, da je »vse urejeno«. Regulatorje bo zanimalo, kako skrbno je izbralo ponudnika, kakšne pogodbe ima sklenjene, ali so revizorji res neodvisni.
Za slovenska podjetja je tu dvojni izziv. Po eni strani so majhna in se zanašajo na »plug‑and‑play« rešitve, ki naj bi jim prihranile čas. Po drugi strani jih evropska pravila postavljajo v enak okvir kot velike banke ali telekome. To pomeni, da bo moral nekdo v hiši razumeti razliko med resnim poročilom revizorja in priročnim PDF‑jem iz compliance platforme.
Hkrati je to priložnost za domačo in regionalno sceno: varnostni svetovalci, nišni SaaS za upravljanje tveganj ter odprtokodni projekti za varnostno analitiko lahko postanejo nepogrešljivi partnerji, ko bodo podjetja preverjala svoje AI dobavitelje.
Pogled naprej
Kaj lahko pričakujemo v naslednjih mesecih?
Najprej bo moral LiteLLM opraviti klasičen krizni cikel: jasen tehnični opis incidenta, priporočila za rotacijo ključev in druge ukrepe za razvijalce ter bolj stroge varnostne prakse pri odprtokodni kodi (podpisane izdaje, strožji pregled sprememb, boljši sistemi za zaznavanje anomalij).
Druga zgodba je Delve. Tudi če podjetje vztraja, da so očitki neutemeljeni, bo pritisk strank, investitorjev in morda tudi regulatorjev težko ignorirati. Ni izključeno, da bo del strank sledil LiteLLM in se odločil za ponovne revizije pri drugih ponudnikih. Trg »AI compliance« orodij je še dovolj mlad, da ga lahko ena afera močno preoblikuje.
Tretjič, pričakujte zaostrovanje vprašanj na strani kupcev. Varnostni vprašalniki bodo manj govorili o tem, ali ima ponudnik certifikat, in bolj o tem, kdo ga je izdal, kakšen je bil obseg revizije in ali obstajajo dodatna neodvisna mnenja. Pri večjih pogodbah bo postajalo normalno, da podjetje zahteva vpogled v povzetke poročil revizorjev.
Za slovenske razvijalce in arhitekte to pomeni: pri izbiri AI gatewayev in orodij ne glejte le na API in ceno. Preverite, kako upravljajo tajnosti, kako objavljajo odprtokodno kodo, ali imajo program nagrajevanja ranljivosti. Dodaten dan za preverjanje vam lahko prihrani tedne gašenja požara.
Regulatorji v EU pa bodo v takšnih incidentih našli argument, da morajo okrepiti tudi nadzor nad akterji, ki izdajajo certifikate in izvajajo revizije. Akt o umetni inteligenci bo v praksi stal in padal na tem, kako zanesljivi bodo »notified bodies« in druge institucije, ki bodo presojale skladnost.
Ključna poanta
Primer LiteLLM–Delve je opomin, da značke skladnosti brez resničnih sprememb v praksi niso varnost, temveč iluzija varnosti. V času, ko AI prehodi in orodja postajajo nova plast kritične infrastrukture, si tega ne moremo več privoščiti. Podjetja, tudi slovenska, bodo morala manj verjeti logotipom in bolj spraševati po dokazih.
Vprašanje, ki ostane za vas: pri katerih ponudnikih v vašem skladu še vedno verjamete PDF‑ju tam, kjer bi morali vztrajati pri dejanskih varnostnih dokazih?
