V ameriški zvezni državi Utah lahko umetna inteligenca prvič samostojno odobri obnovitev recepta – brez neposrednega nadzora zdravnika.
Gre za pilotni program, ki ga javni zagovorniki označujejo kot »nevaren« in ki preizkuša, kako daleč je država pripravljena iti pri avtomatizaciji zdravniških odločitev.
Regulativni peskovnik in podjetje Doctronic
Program poteka v okviru državnega »regulativnega peskovnika«, ki podjetjem omogoča preizkušanje »inovativnih« storitev, medtem ko so izbrane državne zahteve začasno omiljene ali odstopljene.
Utahovo ministrstvo za trgovino je v ta namen sklenilo partnerstvo s telemedicinskim zagonskim podjetjem Doctronic, ki temelji na klepetalnem robotu – »AI zdravniku«.
Obstoječi poslovni model Doctronic:
- pacientski klepet z AI zdravnikom je brezplačen,
- nato lahko uporabnik za 39 USD rezervira virtualni pregled pri zdravniku, licenciranem v njegovi zvezni državi,
- do človeškega zdravnika pa lahko pride šele, ko je najprej opravil klepet z AI.
V neodani (ne–recenzirani) preprint objavi, ki povzema 500 primerov telezdravstva, Doctronic trdi:
- da se je diagnoza AI ujemala z diagnozo zdravnika v 81 % primerov,
- da je bil predlagani načrt zdravljenja »skladen« z načrtom zdravnika v 99 % primerov.
Ti podatki zvenijo impresivno, a znanstvena skupnost jih še ni formalno preverila.
Kaj se spremeni za paciente v Utahu
Za prebivalce Utaha AI zdaj ne služi le kot triažna točka, temveč lahko tudi samostojno obnovi njihove recepte.
Postopek deluje tako:
- pacient se prijavi in potrdi prebivališče v Utahu,
- klepetalni robot dostopa do njegove zgodovine receptov,
- prikaže seznam zdravil, ki so primerna za obnovitev,
- AI lahko obnovi recept – za 4 USD storitvene pristojbine.
Po poročanju Politica lahko sistem obnavlja recepte za 190 pogostih zdravil za kronične bolezni.
Nekaterih zdravil pa AI ne sme obnavljati:
- protibolečinska zdravila,
- zdravila za ADHD,
- vsa injekcijska zdravila.
Na papirju gre torej za omejen nabor kroničnih zdravil, ne za splošni sistem za vse recepte.
Najprej nadzor zdravnikov, nato samostojno
Utah in Doctronic sta v program vgradila prehodno fazo.
Za vsako terapevtsko skupino bo prvih 250 obnovitev receptov pregledal zdravnik. Ko bo ta prag dosežen, bo AI odločal sam.
Soustanovitelj Doctronica in profesor na University of California, San Francisco, Adam Oskowitz je za Politico povedal, da je sistem zasnovan konzervativno in naj bi v dvomljivih primerih primer eskaliral k pravemu zdravniku.
Margaret Woolley Busse, izvršna direktorica Utah Department of Commerce, je v izjavi zapisala: »Utahov pristop k regulativnemu ublažitvenemu okolju dosega ključno ravnotežje med spodbujanjem inovacij in zagotavljanjem varnosti potrošnikov.«
Država tako preko peskovnika stavi na to, da lahko varno preizkusi nove meje uporabe AI v zdravstvu, ob določenih varovalkah.
Kje je meja FDA?
Odprto ostaja vprašanje, kako in kdaj bo (če sploh) posegla ameriška Agencija za hrano in zdravila (FDA).
Po eni strani je obnavljanje receptov del opravljanja zdravniške dejavnosti, kar tradicionalno spada v pristojnost posameznih zveznih držav.
Po drugi strani je FDA jasno povedala, da ima pristojnost nad medicinskimi pripomočki, ki diagnosticirajo, zdravijo ali preprečujejo bolezni – kar lahko vključuje tudi programsko opremo.
To odpira vprašanje: kdaj sistem za predpisovanje z AI preseže okvire državnega eksperimenta in postane medicinski pripomoček, ki ga mora regulirati FDA?
»Nevaren prvi korak«
Nekateri zagovorniki pacientov menijo, da je odgovor jasen: zdaj.
V izjavi je Robert Steinbrook, direktor raziskovalne skupine za zdravje pri organizaciji Public Citizen, ostro kritiziral Doctronic in pomanjkanje zveznega nadzora.
»AI ne bi smel samostojno obnavljati receptov niti se predstavljati kot ‘AI zdravnik’,« je zapisal.
»Čeprav lahko premišljena uporaba AI pomaga izboljšati določene vidike zdravstvene oskrbe, je pilotni program v Utahu nevaren prvi korak k bolj avtonomni medicinski praksi,« je dodal. »FDA in drugi zvezni regulatorji ne morejo gledati stran, ko aplikacije AI spodkopavajo ključno vlogo človeških klinikov pri predpisovanju in obnovitvi zdravil.«
To je jedro razprave: ali gre za pametno uporabo avtomatizacije, ki vam skrajša poti do kroničnih zdravil in zniža stroške, ali pa za začetek postopnega odmika od človeških zdravnikov pri ključnih odločitvah o zdravilih?
Utah je svojo odločitev sprejel. Zdaj bo preostanek ZDA – in zvezni regulatorji – pozorno spremljal, kaj se zgodi, ko bo »AI zdravnik« začel odobravati recepte za 4 USD na klik.
