Anthropicov eksperiment razkriva, kako lahko pametnejši agenti ustvarijo novo digitalno neenakost
Na prvi pogled je Anthropicov interni test videti nepomemben: 69 zaposlenih, darilne kartice v višini 100 dolarjev in interno oglasno spletno mesto. V resnici pa gre za mnogo več – za prvi resen vpogled v to, kaj se zgodi, ko AI agenti samostojno sklepajo posle med seboj, pri čemer upravljajo z našim denarjem.
V nadaljevanju povzemam, kaj je Anthropic dejansko testiral, zakaj se lahko pojavijo nove "razredne razlike" med uporabniki z boljšimi in slabšimi agenti, kako se to ujema z globalnim trendom avtonomnih agentov ter kaj to pomeni za Evropo in manjše trge, kot je Slovenija.
Kaj se je zgodilo – na kratko
Kot poroča TechCrunch, je Anthropic izvedel interni poskus Project Deal. Zgradili so oglasniški trg, kjer so AI agenti zastopali kupce in prodajalce, medtem ko so v ozadju stali dejanski zaposleni Anthropica. Vsak od 69 sodelujočih je prejel 100 dolarjev v obliki darilnih kartic, ki jih je lahko porabil za nakup resničnih izdelkov od sodelavcev.
Podjetje je postavilo štiri različne tržnice. V eni – "pravi" – so vse udeležence zastopali najnaprednejši modeli in sklenjeni posli so se dejansko izvedli. Preostale tri so služile raziskavi, z različnimi modeli in pogoji.
Rezultat: agenti so sklenili 186 poslov v skupni vrednosti več kot 4.000 dolarjev. Anthropic poroča, da so zmogljivejši modeli svojim uporabnikom dosegali objektivno boljše rezultate, vendar večina sodelujočih te razlike ni zaznala. Zanimivo je tudi, da začetna navodila agentom (npr. kako agresivni naj bodo pri pogajanjih) skoraj niso vplivala na to, ali je do prodaje prišlo in po kakšni ceni.
Zakaj je to pomembno
To ni še en lep demo pogovornega bota. Anthropic je ustvaril mini ekonomijo agentov, ki sprejemajo odločitve o ceni, vrednosti in strategiji. To je bližje svetu algoritmičnega trgovanja, kot pa klasičnim klepetalnim asistentom.
Prva in najbolj očitna ugotovitev: boljši modeli prinesejo boljše posle. Če se ta vzorec prenese v resnično spletno trgovino, dobimo prihodnost, v kateri si bodo uporabniki z dostopom do zmogljivejših (in verjetno plačljivih) agentov sistematično izborili ugodnejše cene, pogoje in priporočila kot tisti, ki uporabljajo brezplačne ali šibkejše rešitve. To je nova oblika digitalne neenakosti – ne le med povezanimi in nepovezanimi, ampak med tistimi z "močnimi" in tistimi s "šibkimi" osebnimi agenti.
Še bolj zaskrbljujoče je, da uporabniki večinoma niso opazili, ko so bili v slabšem položaju. Trg je bil torej objektivno neenak, subjektivno pa je deloval pošteno. Tradicionalno varstvo potrošnikov predpostavlja, da ljudje vsaj do neke mere zaznajo, da so bili prikrajšani. V svetu agentov so lahko škode tihe, postopne in težko dokazljive.
Na drugi strani bodo tudi prodajalci in platforme morali reagirati. Če bodo kupci z močnimi agenti izpogajali boljše cene, se bodo tržnice odzvale z dinamičnim določanjem cen in lastnimi prodajnimi agenti. Tako dobimo tekmo agent proti agentu, podobno kot danes v oglaševalskih dražbah ali visokofrekvenčnem trgovanju.
Dejstvo, da začetna navodila agentom skoraj niso vplivala na izid, pa nakazuje še nekaj: kakovost modela je pomembnejša od "promptanja", ko so v igri resnični finančni interesi. To dodatno krepi moč velikih ponudnikov temeljnih modelov in zmanjšuje iluzijo, da lahko vsakdo z domiselnimi ukazi izenači teren.
Širši kontekst
Project Deal se lepo ujema z globalnim premikom k avtonomnim ali polavtonomnim agentom:
- OpenAI in drugi vgrajujejo agente v pisarniška orodja, razvojne okolja in podporo strankam.
- Googlov ekosistem združuje iskanje, nakupovanje in AI pomočnike v enotne tokove.
- Številni startupi gradijo "AI zaposlene" za prodajo, nabavo in podporo.
Anthropic je preizkusil potrošniško različico sistemov, ki že danes poganjajo oglaševalske dražbe in finančne trge: algoritmi, ki tekmujejo med seboj pri oblikovanju ponudb. Razlika je v tem, da so oglaševanje in finance profesionalna, strogo regulirana področja. Tukaj pa govorimo o navadnih uporabnikih, ki prodajajo rabljen monitor ali kupujejo kolo.
Zgodovina nas uči, da množična avtomatizacija določanja cen in pogajanj skoraj vedno pripelje do vprašanj o kartelnih dogovorih in diskriminaciji. EU in ZDA so že preiskovale primere, kjer so algoritmi za oblikovanje cen "spontano" ustvarili vzorce, podobne tihemu dogovarjanju.
Zdaj si predstavljajte, da ne avtomatiziramo le cen, ampak celoten proces: od iskanja ponudb do plačila in reševanja sporov. Kje se končajo pravila platforme in kje se začne odgovornost agenta? Ali ste preplačali zaradi pristranskega trga ali ker je vaš agent preprosto podpovprečen? Ali prodajalec diskriminira kupce ali njegov agent optimizira na podlagi napačnih podatkov?
V primerjavi z nekaterimi konkurenti Anthropic precej neposredno govori o "kakovostnih razlikah" med agenti. To je drugačen ton od običajne kalifornijske retorike "AI za vse". Posredno priznava, da lahko agenti brez pravil in nadzora poglobijo obstoječe socialne in ekonomske razlike, namesto da bi jih zmanjšali.
Evropski in slovenski vidik
Za Evropo je Project Deal skoraj učbeniški primer za prihodnjo regulacijo. Uredba o umetni inteligenci (EU AI Act) zahteva preglednost pri interakcijah z AI, EU pa je že danes občutljiva na algoritmično škodo pri cenah, rangiranju in profiliranju.
Najprej je tu potrošniško pravo. EU prepoveduje zavajajoče in agresivne poslovne prakse. Če platforma ve, da nekateri uporabniki zaradi slabših agentov sistematično dobivajo slabše pogoje, pa tega ne naslovi, se lahko pojavi vprašanje nepoštenih poslovnih praks. Potrošniške organizacije v Nemčiji, Franciji ali tudi v Sloveniji se bodo gotovo oglasile.
Drugo je varstvo podatkov po GDPR. Nakupni agenti potrebujejo vpogled v navade, zgodovino nakupov in pogosto tudi v finančne podatke. To jih spremeni v zelo občutljive profilne sisteme. Evropski nadzorniki bodo zahtevali jasno omejitev namenov obdelave in stroge pogoje za deljenje podatkov med kupčevim in prodajalčevim agentom.
Tretje področje je konkurenca in digitalni trgi (DMA). Če nekaj največjih ponudnikov AI nadzira najzmogljivejše agente, lahko ti izkrivljajo celotne trge – na primer pri energiji, zavarovanju ali potovanjih. Evropska komisija bo verjetno vztrajala, da dostop do naprednih agentov ne postane še ena točka zaklepanja uporabnikov v ekosisteme velikih ponudnikov.
Za slovenski in širši regionalni ekosistem (Ljubljana, Zagreb, Dunaj) se tukaj skriva priložnost: gradnja preglednih, uporabniško usmerjenih agentov, ki poleg cene upoštevajo tudi trajnost, lokalne ponudnike ali pravičnost. To je niša, ki je globalni velikani verjetno ne bodo prioritetno naslovili.
Pogled naprej
Najbolj realistično je pričakovati, da bodo agentni sistemi tiho vstopili v spletno trgovino v naslednjih 2–4 letih. Sprva kot "pametni pomočniki" z boljšimi priporočili ali avtomatskimi kuponi, nato kot polno delegirani agenti, ki bodo sami primerjali ponudbe, časovno optimizirali nakupe in celo samodejno menjali naročniške pakete.
Na kaj se je vredno osredotočiti:
- Integracija v velike platforme: trenutek, ko igralci, kot so Amazon, Alibaba ali evropski trgovci, ponudijo javne API-je za agente, bo pomenil, da se model Project Deal seli v realni svet.
- Povezava s plačili: ko bodo agenti lahko avtonomno premikali denar prek SEPA, kartičnih sistemov ali odprtega bančništva, bodo regulativna tveganja bistveno večja.
- Standardi in protokoli: pričakovati je bitko za to, kako se agenti med seboj pogajajo, kako se beležijo transakcije in kdo ima vpogled v te podatke.
Odprta ostajajo predvsem vprašanja odgovornosti. Kdo je kriv, če vaš agent sklene slab posel ali spregleda pomembno omejitev? Ali bi morale platforme razkriti, kako zmogljiv je vaš agent v primerjavi z drugimi? Ali bo EU nekoč zahtevala minimalno raven "javnega" agenta – podobno kot univerzalne storitve pri telekomunikacijah?
Ni izključeno tudi manj prijetno, a ekonomsko logično tveganje: platforme lahko odkrijejo, da je nadzorovana raven neenakosti agentov zelo donosna. Napredni agenti za podjetja in premožnejše, povprečni za množice, ki tako nehote subvencionirajo marže. Brez pritiska regulatorjev in trga je tak scenarij povsem realen.
Ključna misel
Project Deal ni zgolj zanimiva interna igra, temveč napoved agentno posredovanega kapitalizma. Pokazal je, da boljši modeli svojim uporabnikom dosegajo boljše pogoje in da ljudje pogosto sploh ne opazijo, ko so sistematično v slabšem položaju. Če to logiko prenesemo v množično rabo brez jasnih pravil, lahko agenti utrdijo novo, nevidno digitalno razslojenost. Osnovno vprašanje za oblikovalce politik, platforme in uporabnike je jasno: kdo bo imel dostop do najpametnejšega pogajalca v prostoru – in pod katerimi pogoji?
