Künstliche Intelligenz (KI) in der Heilmittelpraxis: rechtlichen Anforderungen

Das Wichtigste in Kürze

1. KI in der Heilmittelpraxis hat viele Anwendungsfälle, zu Beispiel: Gesprächsaufzeichnung, Auswertung von Patientendaten, automatisierte Entscheidungsfindung.
2. Einsatz aktuell nur mit ausdrücklicher Einwilligung der Patienten möglich, da KI für die Behandlung selbst nicht erforderlich ist.
3. Einwilligung muss freiwillig, ausdrücklich, konkret und informiert sein – pauschale Einwilligungen reichen nicht aus.
4. Keine Formvorschrift: weder Schriftform noch Unterschrift notwendig, Dokumentation aber empfehlenswert.
5. Einwilligung ist jederzeit widerrufbar; der Widerruf wirkt nur für die Zukunft; bei der Auswahl der KI-Software darauf achten, dass Patientendaten im Falle eines Widerrufs auch wieder entfernt werden können.
6. Gesprächsaufzeichnung ohne Einwilligung ist sogar strafbar (§ 201 StGB).
7. Behandlung von GKV-Versicherten darf nicht von der Einwilligung abhängig gemacht werden – die Behandlungspflicht bleibt unberührt.
8. Automatisierte Entscheidungsfindung unterliegt besonders hohen Anforderungen (Medizinprodukt-Status, Datenschutz-Folgenabschätzung, menschliche Aufsicht).
9. Das Haftungsrisiko für Heilmittelerbringende bleibt gering, solange sie die finale Entscheidung selbst treffen.

Es ist noch nicht absehbar, welche Einsatzmöglichkeiten künstlicher Intelligenz in der Heilmittelpraxis Zukunft haben werden. Vom Einsatz in der Buchhaltung bis zur fortschrittlichen Suchfunktion für abgelegte Dokumente sind bereits jetzt viele Ansätze erkennbar. Dieser Beitrag geht auf drei mögliche Anwendungsfälle im medizinischen Kontext ein:

• KI-gestützte Aufzeichnung von Gesprächen mit Patientinnen und Patienten

• Auswertung von Patientendaten mittels künstlicher Intelligenz

• Automatisierte Entscheidungsfindung mittels künstlicher Intelligenz

DSGVO und Datenschutz

Für alle der vorgenannten Anwendungsfälle ist zu beachten, dass es sich um Anwendungen handelt, in denen die künstliche Intelligenz personenbezogene Gesundheitsdaten verarbeitet. Dies ist insbesondere - aber nicht ausschließlich - nach den Regelungen der Datenschutzgrundverordnung nicht ohne weiteres möglich.

Zunächst müssen Heilmittelerbringende sicherstellen, dass die eingesetzte Software selbst datenschutzkonform ist. Dies gilt sowohl für reine Webanwendungen, in die zum Beispiel Dokumente hochgeladen werden, als auch für in die eigene Praxissoftware integrierte Anwendungen, weil auch diese regelmäßig auf Datenbanken im Internet zurückgreifen.

Die Verarbeitung von Gesundheitsdaten mittels künstlicher Intelligenz ist in einer Praxis vor allem dann zulässig, wenn eine Einwilligung vorliegt oder die Verarbeitung für die Zwecke der Gesundheitsfürsorge, d.h. für die Behandlung, Diagnostik oder Versorgung, erforderlich ist. Aus jetziger Sicht sind in der Heilmittelpraxis keine Anwendungen erkennbar, bei denen der Einsatz künstlicher Intelligenz erforderlich ist, um die Behandlung durchzuführen, sie also notwendig ist, um den Behandlungserfolg zu erreichen. Damit ist der Einsatz künstlicher Intelligenz, die Gesundheitsdaten von Patienten verarbeitet, derzeit nur mit deren Einwilligung möglich. Wenn sich dies in (vielleicht schon naher) Zukunft ändert, ist darauf zu achten, dass auch dann immer der Grundsatz der Datenminimierung einzuhalten ist. Es dürfen nur dann Daten verarbeitet werden, wenn der Zweck der Verarbeitung nicht in zumutbarer Weise auch durch andere Mittel erreicht werden kann. Je weiter sich der konkrete Verarbeitungsprozess von rein gesundheitsbezogenen Zwecken entfernt, desto strengere Maßstäbe gelten für die Datenverarbeitung. 

Einwilligung der Patientinnen und Patienten

Die Einwilligung muss stets freiwillig, d. h. ohne Zwang oder Druck, erfolgen. Patienten müssen eine echte Wahlfreiheit haben. Entgegen vieler Behauptungen ist für die Einwilligung keine bestimmte Form vorgeschrieben. Sie muss nur ausdrücklich erfolgen, d. h. der Patient muss aktiv seine Zustimmung erteilen, es reicht nicht aus, dass er seine Versichertenkarte vorlegt oder einfach in der Praxis erscheint. Text- oder Schriftform sind hingegen nicht vorgeschrieben, eine Unterschrift ist nicht notwendig. Gleichwohl ist es natürlich für Heilmittelerbringer sinnvoll, die Einwilligung des Patienten zu dokumentieren. 

Zudem müssen Patienten einwilligungsfähig sein. Bei Minderjährigen ist die Zustimmung der Sorgeberechtigten einzuholen.

Das bedeutet auch: Soll eine KI-Anwendung die Daten aller Patienten verarbeiten, ist eben auch die Zustimmung aller Patienten erforderlich. Da diese regelmäßig nicht vorliegt, muss sichergestellt werden, dass die KI nur die Daten von den Patienten verarbeitet, die auch zugestimmt haben.

Keine Konsequenzen für GKV-Versicherte bei verweigerter Einwilligung

Heilmittelerbringer dürfen die Erfüllung des Behandlungsvertrages nicht von der Einwilligung zur Datenverarbeitung mittels künstlicher Intelligenz abhängig machen, solange der Einsatz künstlicher Intelligenz für die Erfüllung des Behandlungsvertrages nicht notwendig ist.

Bei der Behandlung von gesetzlich Krankenversicherten besteht bekanntlich eine Behandlungspflicht. D. h. die fehlende Zustimmung zur Datenverarbeitung mittels künstlicher Intelligenz darf keine Auswirkungen auf das Behandlungsverhältnis haben.

Konkret, informiert, widerruflich: Anforderungen an die Einwilligung

Die Einwilligung muss konkret und informiert sein: Wichtig ist, dass sich die Einwilligung immer auf einen bestimmten Verarbeitungssachverhalt bezieht. Pauschale Einwilligungen für mehrere, alle oder gar nur geplante Datenverarbeitungen mit künstlicher Intelligenz wären zu unbestimmt und unwirksam.

Wichtig ist, dass der Patient weiß, worin er einwilligt. Er muss stets erkennen können, welche Konsequenzen mit seiner Einwilligung verbunden sind. Die Einwilligung ist beim Einsatz künstlicher Intelligenz nur wirksam, wenn der Heilmittelerbringer verständlich erklärt, wie er KI einsetzen wird und wie sie funktioniert. Dies setzt selbstverständlich voraus, dass Heilmittelerbringer sie selbst auch verstanden haben.

Wird die Einwilligung nicht ordnungsgemäß eingeholt, ist dies gemäß Art. 83 DSGVO und § 34 Bundesdatenschutzgesetz bußgeldbewehrt. Auch können Patienten und Patientinnen Schadensersatzansprüche bei der illegalen Verarbeitung von Daten verlangen. 

Die Einwilligung ist stets widerruflich. Patienten und Patientinnen können - auch darüber sind sie zu informieren - die Einwilligung zur Datenverarbeitung mittels künstlicher Intelligenz jederzeit widerrufen. Das Widerrufsrecht kann nicht vertraglich ausgeschlossen werden. Der Widerruf wirkt ausschließlich für die Zukunft, d. h. vorherige Datenverarbeitungen mittels künstlicher Intelligenz bleiben selbstverständlich rechtmäßig. Hinsichtlich des Widerrufsrechts ist zu beachten, dass es nicht durch die Wahl der KI-Software ausgehöhlt werden darf. Denn manche KI-Systeme werden mit Patientendaten trainiert, sodass es fast unmöglich ist, diese wieder aus dem KI-System zu entfernen. Bei der Auswahl sollte also darauf geachtet werden, dass die KI-Systeme so konzipiert sind, dass die verwendeten Daten wieder entnommen werden können.

Haftung: Was Praxisinhabende wissen müssen

Angst vor zivilrechtlicher oder strafrechtlicher Haftung müssen Heilmittelerbringende nicht haben. Zwar haften Heilmittelerbringer auch für Fehler eingesetzter Software, die zu Gesundheits- oder Vermögensschäden bei Patienten führt, allerdings müssen sie wenigstens fahrlässig gehandelt haben. Solange aber Heilmittelerbringende sicherstellen, dass sie selbst die letzte Entscheidung treffen, ist es kaum vorstellbar, dass es hier zu kausalen und wenigstens fahrlässigen Behandlungsfehlern kommt. Insbesondere für zivilrechtliche Behandlungsfehlervorwürfe, also die Forderung von Schadensersatz und Schmerzensgeld, greift selbstverständlich auch die Berufshaftpflichtversicherung.

KI in der Praxis: Drei Anwendungsgebiete und ihre rechtlichen Anforderungen

KI-gestützte Aufzeichnung von Gesprächen mit Patientinnen und Patienten

Die Aufzeichnung von Gesprächen und Therapiesituationen mit Patientinnen und Patienten kann sehr hilfreich sein, etwa zur Nachbereitung einer Therapieeinheit oder zur Fokussierung auf die Gesprächssituation, ohne dass noch mitgeschrieben werden muss. Auch kann so verhindert werden, dass wichtige Informationen verloren gehen. Allerdings handelt es sich hier letztlich um eine reine Arbeitserleichterung für die Heilmittelerbringer, weshalb – wie schon dargestellt – der Einsatz von KI nicht ohne Einwilligung möglich ist. Die Aufzeichnung des gesprochenen Wortes ohne Einwilligung der Patienten ist sogar gemäß § 201 Abs. 1 Nr. 1 Strafgesetzbuch strafbar. 

Für die Einholung der Einwilligung gelten die obigen Ausführungen, insbesondere sind die Patienten darüber aufzuklären, zu welchem Zweck hier der Einsatz der künstlichen Intelligenz dient, was diese genau macht und dass sie dem Einsatz von KI jederzeit widersprechen können.

Auswertung von Patientendaten mittels künstlicher Intelligenz

Eine weitere Möglichkeit der Anwendung künstlicher Intelligenz ist die KI-gestützte Verarbeitung bereits vorliegender Patientendaten, etwa um Muster zu erkennen, Cluster zu bilden usw. In der Regel wird diese Verarbeitung nicht von einer bereits erklärten Einwilligung erfasst sein, insbesondere wenn der Entschluss, die Daten auszuwerten, erst später gefasst wurde. Deshalb ist hierfür eine gesonderte Einwilligung der Patientinnen und Patienten einzuholen.

Automatisierte Entscheidungsfindung mittels künstlicher Intelligenz

Besonders hohe Anforderungen stellt die KI-gestützte Entscheidungsfindung in der Praxis. Diese erfordert besondere Vorsicht. Immer dann, wenn Systeme künstlicher Intelligenz im Einzelfall eigenständige, patientenbezogene Handlungsanweisungen oder Entscheidungen treffen, gelten regelmäßig weitergehende rechtliche Anforderungen. So handelt es sich bei diesen Anwendungen um Medizinprodukte. Heilmittelerbringer müssen prüfen, ob die Anbieter die erforderlichen Maßnahmen (Konformitätsbewertungsverfahren usw.) durchgeführt haben, damit die Software überhaupt eingesetzt werden darf. 

Sollen Systeme mit automatisierter Entscheidungsfindung eingeführt werden, müssen Heilmittelerbringende zunächst eine Datenschutz-Folgenabschätzung gem. Art. 35 DSGVO durchführen. Im Betrieb bedürfen diese Systeme der menschlichen Aufsicht und Überwachung. Auch müssen Heilmittelerbringer Patienten aussagekräftige Informationen über die involvierte Logik der künstlichen Intelligenz, die Tragweite und die angestrebten Auswirkungen einer automatisierten Entscheidungsfindung geben.

Künstliche Intelligenz wird die Heilmittelpraxis in den kommenden Jahren voraussichtlich nachhaltig verändern. Bereits heute sollten Heilmittelerbringende die rechtlichen Rahmenbedingungen kennen und müssen diese bei der Auswahl sowie dem Einsatz entsprechender Systeme berücksichtigen. Nur so lassen sich die Chancen der Technologie rechtssicher und verantwortungsvoll nutzen.

Rechtsanwalt Dr. Dr. Thomas Ruppel und sein Team beraten Heilmittelerbringer in allen rechtlichen Fragen rund um die Praxis. www.gesundheitsrecht.de, kanzlei@gesundheitsrecht.de, Telefon: 0451 / 29 366 500.