DoorDash afirma que ha expulsado de forma permanente a uno de sus repartidores después de que una historia viral lo acusara de usar una imagen generada con IA para simular una entrega completada.
El caso lo contó Byrne Hobart, residente en Austin, y fue recogido primero por Nexstar. Hobart relató lo ocurrido en una publicación en X, donde escribió: "Amazing. DoorDash driver accepted the drive, immediately marked it as delivered, and submitted an AI-generated image of a DoorDash order (left) at our front door (right)."
La publicación se viralizó rápidamente y obligó a Hobart a dar más contexto. Reconoció que su historia sería "pretty easy" de falsificar en internet, pero señaló que otra persona intervino en el hilo para decir que le había pasado lo mismo, también en Austin y con el mismo nombre público del repartidor.
Hobart también lanzó una hipótesis sobre cómo pudo funcionar el engaño. Sospecha que el repartidor utilizó una cuenta de Dasher hackeada en un teléfono "jailbroken" y obtuvo una foto real de la puerta de su casa a través de una función de DoorDash que muestra imágenes de entregas anteriores en esa dirección. Esa imagen real podría haberse usado como base en una herramienta generativa para producir una foto muy convincente de "prueba de entrega" sin haber pisado el portal.
DoorDash, por su parte, dio por bueno el aviso y actuó. Un portavoz de la compañía declaró a TechCrunch: "After quickly investigating this incident, our team permanently removed the Dasher’s account and ensured the customer was made whole. We have zero tolerance for fraud and use a combination of technology and human review to detect and prevent bad actors from abusing our platform."
La empresa no ofreció más detalles técnicos, pero el episodio ilustra un problema que empieza a ser recurrente: cuando las fotos se convierten en algo trivial de falsificar con IA generativa, todo el sistema de confianza de las apps de reparto se resiente. La foto de la bolsa en la puerta, pensada como prueba objetiva, deja de serlo.
En este caso, el repartidor ha sido expulsado y el cliente ha recuperado su dinero. La pregunta de fondo es qué harán ahora DoorDash y el resto del sector para detectar fraudes en un contexto en el que cualquier imagen puede ser producto de un modelo de IA.
