DoorDash pravi, da je trajno blokiral račun voznika, potem ko je viralna objava na X razkrila domnevno uporabo AI-generirane fotografije za lažno označitev dostave kot opravljene.
Zgodbo je opisal prebivalec Austina Byrne Hobart, o njej je najprej poročal Nexstar. Hobart je v objavi na X zapisal: "Amazing. DoorDash driver accepted the drive, immediately marked it as delivered, and submitted an AI-generated image of a DoorDash order (left) at our front door (right)."
Objava je hitro zaokrožila, zato je Hobart dodal še nekaj podrobnosti. Priznal je, da bi bila zgodba na internetu "pretty easy" za ponarejanje, a je opozoril tudi na drugega uporabnika v niti, ki je trdil, da se mu je v Austinu zgodilo isto – z enakim prikaznim imenom voznika.
Hobart je predstavil tudi svojo hipotezo, kako bi lahko prevara delovala. Domneva, da je voznik uporabljal vdrt račun dostavljavca na odklenjenem (jailbroken) telefonu in da je do prave fotografije njegovega vhodnih vrat prišel prek funkcije DoorDasha, ki voznikom pokaže slike prejšnjih dostav na isti naslov. Takšna realna fotografija bi lahko služila kot osnova za generativni model, ki ustvari zelo prepričljiv "dokaz o dostavi", ne da bi voznik sploh prišel na lokacijo.
DoorDash je primer obravnaval resno. Glasnogovorec podjetja je za TechCrunch izjavil: "After quickly investigating this incident, our team permanently removed the Dasher’s account and ensured the customer was made whole. We have zero tolerance for fraud and use a combination of technology and human review to detect and prevent bad actors from abusing our platform."
Čeprav podjetje ni razkrilo dodatnih tehničnih podrobnosti, primer jasno pokaže, kako generativna umetna inteligenca spodkopava obstoječe mehanizme zaupanja v gig ekonomiji. Fotografija kot dokaz – nekoč razmeroma zanesljiv signal – postane veliko manj vredna, če jo je mogoče v nekaj sekundah verno sintetizirati.
V konkretnem primeru je voznikov račun izbrisan, stranka pa je dobila povrnjena sredstva. Za vas kot uporabnike ali ponudnike pa ostaja večje vprašanje: kako bodo platforme, kot je DoorDash, svoje sisteme za zaznavanje prevar prilagodile času, ko lahko vsaka fotografija izgleda pristna, pa to ni.
