DoorDash tvrdi da je trajno blokirao račun jednog vozača nakon viralne objave u kojoj je korisnik ustvrdio da je vozač iskoristio AI-generiranu fotografiju kako bi lažno prikazao dostavu kao dovršenu.
Priču je ispričao Byrne Hobart iz Austina, a prvi ju je prenio Nexstar. Hobart je situaciju opisao u objavi na X-u riječima: "Amazing. DoorDash driver accepted the drive, immediately marked it as delivered, and submitted an AI-generated image of a DoorDash order (left) at our front door (right)."
Objava je brzo postala viralna, pa je Hobart dodao još detalja. Priznao je da bi cijelu stvar na internetu bilo "pretty easy" iscenirati, ali je istaknuo da se u raspravi javio još jedan korisnik koji tvrdi da mu se dogodilo isto, također u Austinu i s istim prikaznim imenom vozača.
Hobart je iznio i vlastitu pretpostavku kako je prijevara mogla funkcionirati. Sumnja da je vozač koristio hakirani Dasher račun na „jailbreakanom“ telefonu te da je do prave fotografije njegovih ulaznih vrata došao preko DoorDashove funkcije koja pokazuje slike prijašnjih dostava na tu adresu. Ta bi se stvarna fotografija zatim mogla ubaciti u generativni AI alat i pretvoriti u uvjerljiv „dokaz o dostavi“, bez da se vozač ikad pojavio.
DoorDash je, sudeći po izjavi, slučaj shvatio ozbiljno. Glasnogovornik kompanije rekao je za TechCrunch: "After quickly investigating this incident, our team permanently removed the Dasher’s account and ensured the customer was made whole. We have zero tolerance for fraud and use a combination of technology and human review to detect and prevent bad actors from abusing our platform."
Iako dodatni tehnički detalji nisu objavljeni, incident jasno pokazuje kako generativni AI potkopava postojeće mehanizme povjerenja na gig platformama. Fotografija kao dokaz – ključni element rješavanja sporova između vozača i korisnika – sve je manje pouzdana ako se uvjerljive slike mogu stvoriti u nekoliko sekundi.
U ovom slučaju vozač je uklonjen s platforme, a korisnik je obeštećen. No za vas kao dio šire tech zajednice ostaje veći izazov: kako će DoorDash i ostale aplikacije za dostavu nadograditi detekciju prijevara u vremenu kada svaka fotografija potencijalno može biti generirana umjetnom inteligencijom.
