Naslov i uvod
Bum generativne umjetne inteligencije dosad se održavao na oblaku i skupim GPU klasterima. Taj model već pokazuje pukotine: računi rastu brže od prihoda. Rješenje vjerojatno neće doći iz čarobno malih modela, nego iz toga da se što veći dio posla preseli na vaš prijenosnik ili mobitel. Londonski Mirai, tim iza aplikacija Prisma i Reface, upravo je oklada na takvu budućnost lokalne AI obrade. U nastavku analiziramo što njihova tehnologija stvarno mijenja, tko dobiva, tko gubi i što to znači za Hrvatsku i regiju.
Vijest ukratko
Prema pisanju TechCruncha, Mirai je startup sa sjedištem u Londonu koji razvija engine za izvođenje AI modela izravno na uređajima, zasad na računalima s Apple Silicon čipovima. Tvrtku su 2025. osnovali Dima Shvets, suosnivač aplikacije za zamjenu lica Reface, i Alexey Moiseenkov, suosnivač i bivši direktor viralne aplikacije Prisma.
Mirai je osigurao 10 milijuna dolara seed investicije u rundi koju je predvodio fond Uncork Capital, uz sudjelovanje niza poznatih anđela povezanih sa Snowflakeom, ElevenLabsom, Coinbaseom i drugima. Tehnički tim od 14 ljudi izgradio je engine u Rustu koji, prema vlastitim benchmarkima, može ubrzati generiranje modela na Apple hardveru do 37 posto bez mijenjanja težina modela. Trenutni fokus su tekst i glas, a podrška za vizualne modele je u planu.
Startup priprema SDK koji bi trebao omogućiti da se Mirai runtime u aplikaciju uključi s tek nekoliko linija koda. Paralelno surađuje s pružateljima naprednih modela i proizvođačima čipova na prilagodbi modela za edge, namjerava doći i na Android te razvija orkestracijski sloj koji zahtjeve koje uređaj ne može lokalno odraditi prebacuje u oblak.
Zašto je to važno
Malo neugodna pozadinska istina mnogih AI proizvoda jest da im ekonomika po korisniku izgleda loše. Najveći trošak više nije treniranje, nego izvođenje modela kada broj korisnika naraste. Chat pomoćnik koji je za korisnika besplatan može u pozadini trošiti više desetaka centi po sesiji na oblačnu infrastrukturu. Dok kapital riskiran stoji iza toga, sve prolazi; kad dođe vrijeme profitabilnosti, to postaje problem.
Mirai cilja upravo na taj problem: prebaciti što veći dio inferencije na uređaje koje su korisnici već kupili. Ako prijenosnik s Apple Silicon čipom može lokalno pokretati dovoljno sposoban jezični ili govorni model, granični trošak po upitu približava se nuli. Vrijednost se seli iz podatkovnog centra u softverski sloj koji iz svakog vata na uređaju izvlači maksimum.
Za developere je potencijal dvostruk. Prvo, manji računi za oblak i bolja marža. Drugo, jednostavnija integracija: Mirai se jasno pozicionira kao svojevrsni Stripe za lokalni AI, koji iza SDK‑a skriva optimizaciju kernela, kvantizaciju i sve specifičnosti pojedinih čipova. Ako u tome uspiju, male ekipe moći će izgraditi asistente, alate za transkripciju ili prevođenje koji rade gotovo u stvarnom vremenu, bez ulaganja u vlastite GPU klastere.
S druge strane, potencijalni gubitnici su oblačni pružatelji i proizvođači GPU‑ova koji danas zarađuju na svakom generiranom tokenu. I dalje će biti ključni za treniranje i najteže zadatke, ali već pomak 20 do 30 posto izvođenja na rub mreže bio bi osjetan. Istovremeno, narušava se barem dio kontrole koju nad lokalnom AI infrastrukturom žele imati Apple, Google, Qualcomm i drugi.
Šira slika
Mirai ne izmišlja on‑device AI; pokušava ga učiniti univerzalnim i razvijateljski prihvatljivim. Veliki igrači su koncept već dokazali. Apple koristi svoj Neural Engine za fotografiju i prepoznavanje govora, Google već dugo vrti modele za prijevod i predikciju izravno na Android telefonima, tipkovnice nose vlastite jezične modele.
Ono što se promijenilo jest razmjer i očekivanja. Korisnici danas žele chatbote, copilote i glasovne asistente koji se približavaju iskustvu oblaka. Istodobno se cijela industrija suočila s realnim troškovima čiste oblačne inferencije. Tu se lijepo uklapa neovisni sloj za izvođenje na rubu – posebno za tvrtke koje ne žele biti potpuno vezane za jednog cloud dobavljača.
Postoji i povijesna paralela. Prije gotovo deset godina postojala je prva generacija edge‑ML startupa fokusiranih na mobitele i IoT. Mnogi su bili prerano: modeli mali, korisnička vrijednost mutna, oblak jeftin. Dobar dio završio je u tihim akvizicijama. Danas je slika drugačija: modeli su goleme veličine, potražnja jasna, GPU resursi ograničeni.
U odnosu na današnje gigante, Mirai neće biti poseban po tome što može pokrenuti model na uređaju – to mogu i drugi – nego ako uspije postati zadani sloj za developere, svojevrsni standardni API za lokalni AI. Za to će morati biti krajnje pragmatičan: podržavati modele i čipove koji tržištu stvarno trebaju, ponuditi vrhunske alate i benchmarke te orkestraciju između uređaja i oblaka staviti u središte proizvoda.
Europski i regionalni kut
Za Europu lokalna AI obrada nije samo stvar troškova, nego i regulative te digitalnog suvereniteta. GDPR već potiče minimizaciju podataka i lokalnu obradu. Novi Akt o umjetnoj inteligenciji EU dodatno će regulirati kako se postupa s rizičnim sustavima i osjetljivim podacima. Ako se više obrade događa izravno na uređaju korisnika, manje osobnih podataka putuje mrežom ili završava u stranim podatkovnim centrima – što je regulatorima svakako prihvatljivo.
To je posebno zanimljivo u sektorima u kojima EU i Hrvatska imaju ambiciju ili prednost: turizam, zdravstvo, financijske usluge, javna uprava, industrija. Zamislite hotelsku aplikaciju koja lokalno prevodi i transkribira govor gosta bez slanja snimke u oblak, ili e‑zdravstvo u kojem se dio analize simptoma obavlja na mobitelu pacijenta. U takvim slučajevima Mirai ili slični runtime slojevi mogu pomoći tvrtkama da usklade inovaciju i usklađenost s propisima.
Za hrvatske startupove i softverske tvrtke, od Zagreba do Splita i Osijeka, ključna je i financijska dimenzija. Malo tko si može priuštiti stotine tisuća eura godišnje za GPU‑e u oblaku. Ako se značajan dio AI funkcionalnosti može prebaciti na uređaj korisnika, lakše je graditi održive poslovne modele, a ne samo priče o rastu.
Pogled unaprijed
Nekoliko faktora odredit će hoće li Mirai postati ključni dio AI slagalice ili samo dobro izveden nišni proizvod.
Prvo, odnos s velikim platformama. Apple, Google i proizvođači čipova nastavit će gurati vlastite SDK‑ove i alate za lokalni AI. Mirai mora dokazati da cross‑platform sloj donosi dovoljno dodatne vrijednosti – u performansama, jednostavnosti ili usklađenosti s EU regulativom – da developeri svjesno prihvate novu ovisnost.
Drugo, konkurencija iz open source svijeta. Već postoje vrlo sposobne biblioteke i alati za kvantizirane modele na CPU‑u i GPU‑u krajnjih uređaja. Mirai računa na to da će mnoge tvrtke radije platiti podržano, zaokruženo rješenje s monitoringom, orkestracijom i podrškom, nego same spajati više projekata otvorenog koda. No cijena i licencni uvjeti bit će presudni, osobito za poduzeća u jugoistočnoj Europi koja rade s ograničenim budžetima.
Treće, hibridni scenariji. Orkestracijski sloj koji odlučuje što ostaje na uređaju, a što ide u oblak, vjerojatno će biti srce Mirai proizvoda. Tu se susreću latencija, trošak, mogućnosti uređaja, preferencije korisnika i pravila zaštite podataka. Ako taj dio bude dobro riješen, Mirai može postati infrastrukturni standard; ako ne, ostat će samo još jedan optimizacijski alat.
U sljedećih 12 do 24 mjeseca valja pratiti neovisne benchmarke, prve korisnike u reguliranim sektorima i eventualna partnerstva s europskim proizvođačima uređaja ili telekomima. Za hrvatske tvrtke bit će zanimljivo vidjeti hoće li se pojaviti domaće aplikacije – u turizmu, zdravstvu ili javnim uslugama – koje grade konkurentsku prednost upravo na lokalnoj AI obradi.
Zaključak
Mirai je jasna oklada na budućnost u kojoj genAI nije samo tanki klijent prema oblaku, nego distribuirana sposobnost koja se izvršava ondje gdje to ekonomski i regulatorno najviše ima smisla. Iskustvo osnivača s masovnim potrošačkim aplikacijama i fokus na developere dobar su start, ali tržište on‑device runtime rješenja bit će iznimno konkurentno i pod utjecajem politike velikih platformi. Za hrvatske i regionalne inovatore pravo je pitanje ne hoće li rasti lokalna inferencija – hoće – nego tko će kontrolirati taj ključni sloj između modela i uređaja koje koristimo svaki dan.
