Utah je napravio potez koji će odjeknuti cijelim zdravstvenim sustavom SAD-a – i šire.
U pilot-programu, država dopušta da umjetna inteligencija samostalno odobrava obnovu recepata, bez izravnog nadzora liječnika. Organizacija Public Citizen već ga naziva opasnim.
Regulativni „sandbox“ i startup Doctronic
Program se provodi kroz državni „regulatory sandbox“ – okvir koji omogućuje tvrtkama da testiraju „inovativne“ usluge dok su pojedini propisi privremeno ublaženi.
Partner Utaha je Doctronic, telemedicinski startup čiji je glavni proizvod AI chatbot, predstavljen kao „AI doctor“.
Današnja usluga Doctronica izgleda ovako:
- korisnici besplatno razgovaraju s AI doktorom,
- zatim mogu platiti 39 USD za virtualni pregled kod liječnika licenciranog u njihovoj saveznoj državi,
- da biste došli do pravog liječnika, prvo morate proći kroz chatbot.
U ne–recenziranom preprint radu koji analizira 500 telemedicinskih slučajeva na njihovoj platformi, Doctronic tvrdi:
- da se dijagnoza AI-a podudarala s dijagnozom liječnika u 81 % slučajeva,
- da je plan liječenja bio „konzistentan“ s liječničkim u 99 % slučajeva.
Radi se o internoj analizi, još uvijek neprovjerenoj u znanstvenom časopisu.
Što se mijenja za pacijente u Utahu
Za stanovnike Utaha chatbot sada ide korak dalje: može samostalno obnoviti postojeći recept.
Proces izgleda ovako:
- prijavite se i potvrdite da ste rezident Utaha,
- AI dohvaća vašu povijest recepata,
- prikaže listu lijekova koji su podobni za obnovu,
- podnesete zahtjev, a AI može odobriti obnovu – uz naknadu od 4 USD.
Prema Politicu, sustav može obnavljati recepte za 190 uobičajenih lijekova za kronične bolesti.
Neki lijekovi su namjerno isključeni:
- lijekovi protiv bolova,
- lijekovi za ADHD,
- sva injekcijska terapija.
Dakle, ne radi se o potpunoj automatizaciji svih recepata, nego o ograničenom skupu kroničnih terapija.
Prvih 250 pod nadzorom, poslije AI sam odlučuje
Utah i Doctronic uveli su fazu pojačanog nadzora.
Za svaku terapijsku klasu prvih 250 obnova recepata pregledat će liječnici. Nakon tog praga, chatbot će odluke donositi sam.
Suosnivač Doctronica i profesor na University of California, San Francisco, Adam Oskowitz rekao je za Politico da je chatbot dizajniran tako da se u slučaju sumnje prikloni sigurnosti i slučaj proslijedi pravom liječniku.
Margaret Woolley Busse, izvršna direktorica Utah Department of Commerce, brani model: „Utah’s approach to regulatory mitigation strikes a vital balance between fostering innovation and ensuring consumer safety“, stoji u njezinoj izjavi.
Poruka države je jasna: iskoristiti sandbox da se pogura granica upotrebe AI-ja u zdravstvu, ali uz barem minimalne zaštitne ograde.
Gdje počinje uloga FDA-e?
Ključno otvoreno pitanje jest hoće li i kada će u igru ući američka Agencija za hranu i lijekove (FDA).
S jedne strane, obnova recepata dio je medicinske prakse, koja se u SAD-u prvenstveno regulira na razini saveznih država.
S druge strane, FDA tvrdi da ima ovlasti nad medicinskim uređajima koji dijagnosticiraju, liječe ili sprječavaju bolesti – a to može uključivati i softver.
To otvara dilemu: kada AI koji odlučuje o obnovi terapije prelazi iz domene „državnog eksperimenta“ u domenu medicinskog uređaja koji bi trebala regulirati FDA?
Za sada nema jasnog odgovora.
„Opasan prvi korak“ prema autonomnoj medicini
Organizacije za zaštitu pacijenata smatraju da se ne smije čekati.
U priopćenju je Robert Steinbrook, direktor health research grupe u watchdog organizaciji Public Citizen, oštro napao program Doctronica i izostanak čvršćeg nadzora.
„AI should not be autonomously refilling prescriptions, nor identifying itself as an ‘AI doctor’“, naglasio je.
„Although the thoughtful application of AI can help to improve aspects of medical care, the Utah pilot program is a dangerous first step toward more autonomous medical practice“, dodao je. „The FDA and other federal regulatory agencies cannot look the other way when AI applications undermine the essential human clinician role in prescribing and renewing medications.“
Tu leži glavna podjela: je li ovo pametna upotreba automatizacije za smanjenje gužve u telemedicini i lakši pristup terapiji za kronične bolesnike, ili početak polaganog istiskivanja liječnika iz ključnih odluka o lijekovima?
Utah je svoj rizik prihvatio. Sada će ostatak SAD-a – i regulatori – gledati što se događa dok „AI doctor“ u pozadini klika i odobrava recepte za 4 USD po obnovi.
