Im US-Bundesstaat Utah darf eine KI erstmals eigenständig Wiederholungsrezepte genehmigen – ohne direkte ärztliche Aufsicht.
Der Pilotversuch sorgt für Schlagzeilen und bringt Regulierer, Telemedizin-Startups und Patientenschützer auf Konfrontationskurs.
Regulierungssandbox und das Startup Doctronic
Das Projekt läuft im Rahmen der sogenannten „Regulatory Sandbox“ des Bundesstaats. Dieses Instrument erlaubt es Unternehmen, „innovative“ Angebote zeitlich befristet unter gelockerten Auflagen zu testen.
Partner der Aufsichtsbehörde ist Doctronic, ein Telemedizin-Startup mit einem KI-Chatbot, der als „AI doctor“ auftritt.
Das heutige Geschäftsmodell von Doctronic sieht so aus:
- Patientinnen und Patienten chatten zunächst kostenlos mit dem KI-Arzt.
- Anschließend können sie für 39 US-Dollar einen virtuellen Termin mit einer Ärztin oder einem Arzt buchen, der in ihrem Bundesstaat zugelassen ist.
- Voraussetzung: Der Weg führt zwingend zuerst über den Chatbot.
In einem nicht peer-reviewten Preprint zu 500 Telemedizin-Fällen auf der Plattform behauptet Doctronic:
- Die Diagnose der KI habe in 81 % der Fälle mit der Diagnose einer realen Fachkraft übereingestimmt.
- Der vorgeschlagene Behandlungsplan sei in 99 % der Fälle „konsistent“ mit dem Plan der Ärztin oder des Arztes gewesen.
Diese Zahlen klingen beeindruckend, sind aber bislang nicht wissenschaftlich begutachtet.
Was sich in Utah konkret ändert
Für Bewohnerinnen und Bewohner Utahs geht die KI nun einen Schritt weiter: Sie darf bestehende Rezepte eigenständig verlängern.
Der Ablauf im Pilotprojekt:
- Patient meldet sich an und bestätigt seinen Wohnsitz in Utah.
- Der Chatbot greift auf die Rezept-Historie zu.
- Er zeigt eine Liste von Medikamenten an, die für eine Verlängerung infrage kommen.
- Die KI kann die Verlängerung genehmigen – gegen eine Servicegebühr von 4 US-Dollar.
Laut Politico kann das System Wiederholungsrezepte für 190 gängige Medikamente zur Behandlung chronischer Erkrankungen ausstellen.
Bestimmte Wirkstoffgruppen sind explizit ausgeschlossen:
- Schmerzmedikamente,
- ADHD-Medikamente,
- alle injizierbaren Präparate.
Es handelt sich also nicht um einen Freibrief für das gesamte Arzneimittelspektrum, sondern um ein klar begrenztes Einsatzfeld.
Anfänglich Kontrolle – danach fliegt die KI solo
Utah und Doctronic haben einen Stufenplan eingebaut.
Für jede Medikamentenklasse werden die ersten 250 Verlängerungen von realen Ärztinnen und Ärzten überprüft. Nach Überschreiten dieser Schwelle soll der Chatbot Rezepte eigenständig verlängern.
Adam Oskowitz, Mitgründer von Doctronic und Professor an der University of California, San Francisco, sagte gegenüber Politico, der Chatbot sei so konstruiert, dass er im Zweifel auf Sicherheit setze und unklare Fälle an menschliche Ärztinnen und Ärzte eskaliere.
Margaret Woolley Busse, Executive Director des Utah Department of Commerce, verteidigt das Vorgehen: „Utah’s approach to regulatory mitigation strikes a vital balance between fostering innovation and ensuring consumer safety“, heißt es in ihrer Stellungnahme.
Der Bundesstaat setzt damit bewusst auf seine Sandbox, um neue Grenzen für KI im Gesundheitswesen auszuloten – mit begrenzten, aber realen Schutzmechanismen.
Wo beginnt die Zuständigkeit der FDA?
Offen ist, wie sich die US-Arzneimittelbehörde FDA zu dem Projekt positionieren wird.
Einerseits gilt die Verlängerung von Rezepten als Teil der ärztlichen Tätigkeit – klassischerweise Sache der Bundesstaaten.
Andererseits hat die FDA klargestellt, dass sie Medizinprodukte reguliert, die Krankheiten diagnostizieren, behandeln oder verhindern – dazu kann auch Software gehören.
Damit stellt sich die Frage: Wann wird ein KI-gestütztes Verschreibungstool zu einem regulierungspflichtigen Medizinprodukt – und verlässt den Schutzschirm einer staatlichen Sandbox?
Noch ist unklar, ob und wann die FDA im Fall Utah eingreifen wird.
„Ein gefährlicher erster Schritt“
Patientenvertreter wollen nicht abwarten.
In einer Stellungnahme kritisierte Robert Steinbrook, Leiter der Health Research Group der Watchdog-Organisation Public Citizen, das Modell von Doctronic und die fehlende bundesweite Aufsicht scharf.
„AI should not be autonomously refilling prescriptions, nor identifying itself as an ‘AI doctor’“, sagte er.
Weiter warnte er: „Although the thoughtful application of AI can help to improve aspects of medical care, the Utah pilot program is a dangerous first step toward more autonomous medical practice. The FDA and other federal regulatory agencies cannot look the other way when AI applications undermine the essential human clinician role in prescribing and renewing medications.“
Damit ist die Konfliktlinie klar: Ist der Einsatz der KI ein sinnvoller Weg, Telemedizin zu entlasten, Kosten zu senken und chronisch Erkrankten Hürden abzubauen? Oder markiert er den Beginn eines schleichenden Rückzugs menschlicher Fachkräfte aus zentralen Verschreibungsentscheidungen?
Utah hat sich positioniert. Jetzt steht die Antwort der Bundesregulierer – und der übrigen USA – aus, während ein „AI doctor“ beginnt, Rezepte für 4 US-Dollar pro Klick zu verlängern.
