Ray-Ban Meta očala razkrivajo resnico o “človeku v zanki” pri umetni inteligenci
Posnetki s pametnih očal, ki pristanejo pred nizko plačanimi označevalci podatkov v Nairobiju, zvenijo kot distopična fikcija, a prav to naj bi se dogajalo pri Meta Ray‑Ban očalih. Poročila o delavcih, ki gledajo ljudi pri seksu, v kopalnici ali spalnici, niso le še ena Meta afera z zasebnostjo. Razkrivajo strukturni problem današnjega razcveta umetne inteligence: kadar koli podjetje reče, da ima “človeka v zanki”, to pogosto pomeni, da lahko popolni neznanci gledajo v vaše najbolj intimne trenutke. V nadaljevanju pogledamo, kaj ta primer pomeni za AI nosljive naprave, dobavne verige podatkov in meje privolitve – tudi za slovenski prostor.
2. Novica na kratko
Kot poroča Ars Technica, ki povzema preiskovalno zgodbo švedskih časnikov, delavci podjetja Sama s sedežem v Keniji – podizvajalca Mete – trdijo, da pri označevanju podatkov gledajo videe, posnete z Ray‑Ban Meta očali, na katerih so izjemno intimne situacije. V preiskavi je sodelovalo več kot 30 sedanjih in nekdanjih zaposlenih, nekateri opisujejo posnetke golih ljudi, spolnih odnosov ali uporabe stranišča, očitno brez zavedanja, da jih nekdo snema.
Meta je po navedbah BBC potrdila, da včasih deli vsebine, poslane v klepet z Meta AI, s podizvajalci za namen izboljšanja storitve, pri čemer naj bi podatke filtrirala, na primer z zamegljevanjem obrazov. V svojih politikah zasebnosti za nosljive naprave in Meta AI navaja, da lahko medije in prepise obdelujejo sistemi strojnega učenja ter človeški pregledovalci, vključno s tretjimi ponudniki.
Zgodba je sprožila zanimanje britanskega informacijskega pooblaščenca in predlog skupinske tožbe v ZDA proti Meti in Luxottici. Tožniki trdijo, da je oglaševanje očal kot zasebnih in pod nadzorom uporabnika zavajajoče, če občutljive posnetke dejansko pregledajo delavci v tujini.
3. Zakaj je to pomembno
Lahko bi preprosto rekli: “Spet Meta.” Težje vprašanje pa je, ali bi danes sploh kateri koli ponudnik pametnih očal z naprednimi AI funkcijami lahko deloval brez podobnega tveganja.
Vsi v verigi nekaj pridobijo. Meta dobiva tok resničnih podatkov iz vsakdanjega življenja, nujno potrebnih za tekmo z OpenAI, Googlom in Applom. Podjetja, kot je Sama, dobijo dobro plačane pogodbe za označevanje podatkov. Zgodnji uporabniki dobijo priročnega pomočnika, ki prepoznava objekte, snema, prepisuje in “razume”, kaj očala vidijo.
Skriti strošek nosijo drugi. Partner, ki se v spalnici preobleče, otrok v dnevni sobi, prijatelji na večerji ali ljudje v vrsti v trgovini – vsi se lahko nenamerno znajdejo v posnetku, ki ga kasneje gleda nekdo na drugem koncu sveta. Tudi številni lastniki očal verjetno ne razumejo v celoti, da se njihovi posnetki ob uporabi oblačne obdelave ali Meta AI lahko znajdejo v cevi, kjer jih obdelujejo in včasih gledajo ljudje.
Jedro problema je razkorak med enovrstičnim marketinškim sloganom o zasebnosti in kupom dolgih, kompleksnih pravil zasebnosti, kjer je nekje omenjeno ročno pregledovanje in deljenje s tretjimi. Na papirju je to privolitev; v praksi je to informacijska asimetrija.
Pametna očala so povrhu vsega nosljiva. Telefona moramo vzeti iz žepa in ga usmeriti; očala preprosto nosimo. Majhna rdeča LED lučka je šibka obramba proti družbenim normam, ki še vedno predvidevajo, da kopalnica ali spalnica pomenita zasebnost. Ko posnetek enkrat pristane na strežniku, vprašanje ni več, ali ga bo kdo videl, temveč kdo in pod kakšnimi pogoji.
4. Širša slika
To ni prvič, da se realnost surovo zaleti v obljube velikih tehnoloških podjetij o “najvišji ravni zasebnosti”.
Google Glass je propadel tudi zato, ker javnost ni sprejela kamer na obrazih v javnem prostoru. Snap Spectacles so ostala bolj igrača, z jasnim vizualnim signalom snemanja in omejenimi zmožnostmi. Ray‑Ban Meta očala pa so videti kot običajna sončna ali dioptrijska očala, medtem ko tiho dodajajo mikrofone, kamere in zdaj še AI funkcije.
Ponovno gledamo tudi staro zgodbo o zunanjih moderatorjih in označevalcih vsebin. Facebookovi moderatorji v Keniji ali na Filipinih so že pripovedovali o psihičnih posledicah pregledovanja najhujših vsebin interneta. OpenAI in drugi so bili kritizirani, ker se pri čiščenju podatkov zanašajo na nizko plačano delo na globalnem jugu. Primer Ray‑Ban očal to logiko razširi s javnih vsebin na zasebno življenje. “Človek v zanki” zveni dobro, ko govorimo o kakovosti modelov; precej manj, ko si tega človeka predstavljamo, kako gleda v našo dnevno sobo.
Konkurenca poskuša drugače. Apple na primer poudarja obdelavo na napravi in stroge omejitve za posebej občutljive podatke, kot so signali sledenja očem v Vision Pro. Tudi če ne verjamete vsakemu detajlu, je filozofija očitno drugačna od Meta pristopa, ki je bolj odvisen od oblaka in množic podatkov.
Za Meto ta incident prihaja v občutljivem trenutku. Pametna očala so eden glavnih stavov podjetja na življenje po pametnem telefonu – tudi za evropski trg, kjer je znamka Ray‑Ban izjemno močna. Če bodo potrošniki očala povezovali predvsem z nevidnim nadzorom in aferami, lahko cel segment spet obstane.
5. Evropski in slovenski vidik
Za evropske uporabnike ta zgodba ni zgolj neprijetna, temveč pravna mina. Po GDPR obdelava intimnih videoposnetkov, na katerih se razkrivajo zdravje, spolnost ali biometrične značilnosti, pade blizu kategorije posebnih osebnih podatkov, za katere veljajo strožji pogoji. Če tak material rutinsko gledajo označevalci podatkov v tretji državi, se odprejo vprašanja o nujnosti, sorazmernosti in varnih prenosih.
Poleg tega imamo nova orodja. Akt o digitalnih storitvah zahteva večjo transparentnost zelo velikih platform, kot je Meta; Akt o umetni inteligenci pa uvaja obveznosti glede upravljanja učnih podatkov in ocenjevanja tveganj. Skupaj otežujeta skrivanje široke, odprte uporabe podatkov za nejasno formulacijami o “izboljševanju storitev”.
Slovenski Informacijski pooblaščenec je že v preteklosti ostro nastopal pri videonadzoru in uporabi biometrije. Pametna očala, ki lahko mimogrede posnamejo otroke v vrtcu, paciente v čakalnici ali goste v turističnem apartmaju na Obali, so idealen kandidat za prihodnja mnenja in morebitne postopke.
Za domače in regionalne startupe pa se odpira priložnost. V Ljubljani in širši regiji imamo podjetja, ki prisegajo na etično tehnologijo in odprtokodne pristope. Rešitve, ki zmorejo dokazljivo obdelovati podatke lokalno, z minimalnim shranjevanjem in brez človeškega pregleda po privzetem, lahko postanejo konkurenčna prednost na EU trgu.
6. Pogled naprej
Kaj lahko pričakujemo v prihodnjih mesecih in letih?
V ZDA bo skupinska tožba verjetno razkrila več o notranjih procesih Mete: kako so zasnovani projekti označevanja videa, koliko materiala dejansko konča pri človeških pregledovalcih in kako dosledno podjetje upošteva lastna pravila. Tudi če tožniki ne uspejo, bo sama razprava pritiskala na Meto.
Evropski regulatorji – od ICO v Združenem kraljestvu do informacijskih pooblaščencev v državah članicah EU, vključno s Slovenijo – bodo pozorno spremljali razvoj. Že brez velikih glob lahko dosežejo spremembe: jasnejše indikatorje snemanja, strožjo ločitev med “navadnim” slikanjem in AI funkcijami, krajše roke hrambe, omejitve uporabe evropskih posnetkov za globalno učenje modelov.
Meta se bo verjetno odzvala defenzivno: z več izobraževanja v aplikaciji, bolj preglednimi nastavitvami oblačne obdelave in morda z dodatnimi možnostmi obdelave na napravi. To so poceni koncesije v primerjavi z nevarnostjo, da bi se celoten segment očal prelevil v simbol nadzora.
Za slovenske uporabnike je najbolj praktičen korak zelo preprost: prebrati nastavitve, razumeti, kaj pomeni vključena oblačna obdelava ali glasovni ukaz, in se vprašati, ali želimo takšno napravo nositi v domači kopalnici ali otroški sobi. Trg bo na koncu reagiral na to, koliko nam zasebnost v resnici pomeni.
7. Zaključek
Afera z Ray‑Ban Meta očali ni osamljen spodrsljaj, temveč logična posledica kombinacije stalnih kamer, oblačne AI in nejasnega človeškega pregleda. Dokler bodo nosljive naprave načrtovane predvsem za maksimalno zbiranje podatkov, bodo podobne zgodbe ponavljajoče. Resnična “zasebnost po zasnovi” se začne šele tam, kjer proizvajalec iskreno prizna: če lahko naprava nekaj vidi ali sliši, obstaja možnost, da bo to nekdo nekje tudi videl. Ste vi – in ljudje okoli vas – pripravljeni na takšen kompromis?
