von RA, FA MedR, Dr. Rainer Hellweg, Hannover

Für viele medizinische Anwendungsgebiete, etwa in der Diagnostik, verspricht die Unterstützung durch künstliche Intelligenz (KI) großes Potenzial. Für Ärztinnen und Ärzte sind Fragen für den Fall eines möglichen Haftungsschadens nach einem KI-Einsatz beim Patienten hochrelevant. Welcher Haftungsmaßstab gilt, was muss der Ärztin/Arzt wissen, wie kann sie/er sich schützen? Themen, die Ihre Zielgruppe aktuell interessiert. In drei Beiträgen werden die Haftungsfragen beim Einsatz von KI beantwortet. Dieser Beitrag widmet sich den Fragen, die sich bereits vor dem Einsatz von KI bei Patientenbehandlungen stellen: Wann ist der Einsatz von KI zulässig? Muss der Patient initiativ hierüber aufgeklärt werden? Ein Folgebeitrag widmet sich der Haftung bei Behandlungsfehlern, ein dritter Beitrag wirft einen Blick in die Zukunft.

Der Einsatz von KI in der Medizin ist rechtliches Neuland

Die bislang geltenden Gesetze enthalten keine auf die Verwendung von KI in der Medizin zugeschnittenen Sonderregelungen. Zudem gibt es hierzu noch keine dezidierte Rechtsprechung der Gerichte. Rechtssystematisch wirft der Einsatz von KI völlig neue Fragen im Arzthaftungsrecht auf, da zusätzlich zu dem ansonsten vorherrschenden bilateralen Arzt-Patienten-Verhältnis die KI – vorerst noch unterstützend – hinzutritt. Daher können die sich stellenden rechtlichen Fragen nur anhand des Regelungsregimes zum jetzigen Zeitpunkt bestmöglich antizipierend beleuchtet werden – vorbehaltlich möglicher anderweitiger rechtlicher Neuregelungen in der Zukunft.

Wann darf KI am Patienten überhaupt eingesetzt werden?

Im Ausgangspunkt ist zunächst festzuhalten, dass es nicht per se behandlungsfehlerhaft ist, den Korridor des medizinischen Standards zu verlassen. Wäre dies so, könnte es keinen medizinischen Fortschritt geben. Die Therapiewahl ist primär Sache des Arztes, dem ein Beurteilungsspielraum bei der Wahl der Therapie zusteht. Im Rahmen der ärztlichen Therapiefreiheit ist somit auch die Verwendung von KI in der Medizin grundsätzlich zulässig.

Ärzte sind frei in der Wahl der Therapie, müssen aber Nutzen und Risiken verantwortungsvoll abwägen

Jedoch müssen die zu erwartenden Vorteile der Methode außerhalb des Standards und ihrer abzusehenden und zu vermutenden Nachteile gegenüber der standardgemäßen

Behandlung im Rahmen einer „verantwortlichen medizinischen Abwägung“ gegenüber gehalten werden, wie es der Bundesgerichtshof in ständiger Rechtsprechung hervorhebt. Daraus folgt, dass ­höhere Belastungen oder Risiken für den Patienten durch Besonderheiten des konkreten Falles oder durch eine günstigere Heilungsprognose sachlich gerechtfertigt sein müssen. Diese Abwägung ist auch vorzunehmen, wenn es um den Einsatz von KI in der Patientenbehandlung geht. KI kann somit nicht uneingeschränkt und vorschnell zur Anwendung kommen, nur weil es ­„modern“ ist. Vielmehr muss ein medizinischer Mehrwert für den Patienten begründbar sein und dieser im Verhältnis zum immanenten Risiko beim ­Einsatz neuer Technik in verantwortlicher Weise abgewogen werden.

Praxistipp

Dies ist auch kein einmaliger Abwägungsvorgang, sondern muss stets von Neuem erfolgen, wenn dazu Anlass besteht. Im Ergebnis folgen daraus erhöhte Überwachungspflichten, ob die Art und Weise des ­Ein­satzes von KI in der eigenen Abteilung noch und weiterhin „state of the art“ ist. Hier trifft den Chefarzt – auch haftungsrechtlich – besondere Verantwortung aufgrund seiner Stellung als medizinisch Gesamtverantwortlicher seiner Abteilung oder Klinik. Um sich nicht dem möglichen Vorwurf eines Organisationsverschuldens auszusetzen, sollte er sich daher über aktuelle Entwicklungen und mögliche Fortentwicklungen von KI stets informiert halten.

Besondere Aufklärung ist erforderlich ...

Stellt sich der Einsatz von KI unter Berücksichtigung dieser Maßstäbe nicht als behandlungsfehlerhaft dar, ist dies jedoch noch nicht das Ende der juristischen Anforderungen. Solange das KI-System noch nicht zur Standardmethode im konkreten Behandlungsfall geworden ist, gelten die Grundsätze zur Aufklärung über sogenannte Neulandmethoden.

Das heißt: Dem Patienten müssen nicht nur „wie normalerweise“ die Chancen und auch die Risiken einer medizinischen Maßnahme erläutert werden. Vielmehr ist er auch explizit darüber aufzuklären, dass der geplante KI-Einsatz (noch) nicht medizinischer Standard ist. Die Gerichte fordern hierzu: Der Patient muss wissen, worauf er sich einlasse, um abwägen zu können, ob er die Risiken einer – eventuell nur relativ indizierten – Behandlung eingehen will.

Praxistipps

• Wenn geplant ist, KI in der Patientenversorgung zu verwenden, ist der Patient darüber in jedem Fall initiativ und schriftlich aufzuklären. Dem Patienten sollte deutlich vor Augen geführt werden, dass die Anwendung einer neuartigen Behandlungsmethode – nämlich unter Einsatz von KI – geplant ist, die außerhalb des medizinischen Standards liegt. Dabei sind Chancen und Risiken einerseits der Standardmethode und andererseits der alternativen Herangehensweise unter Verwendung von KI im Vergleich zu erläutern.
• KI selbst darf keine Aufklärungsgespräche führen! § 630 Absatz 2 Satz 1 BGB (Bürgerliches Gesetzbuch) normiert: „Die Aufklärung muss mündlich durch den Behandelnden oder durch eine Person erfolgen, die über die zur Durchführung der Maßnahme notwendige Ausbildung verfügt ...“ Daraus ist zu schlussfolgern: Eine natürliche Person muss das Aufklärungsgespräch mit dem Patienten führen. KI darf dies – nach aktuellem Gesetzesstand – nicht übernehmen. Somit dürfte auch die KI nicht selbst darüber mit dem Patienten sprechen und ihn darüber aufklären, dass KI zum Einsatz kommt.

... weil Langzeiterfahrungen noch fehlen!

Wenn sich das KI-System dereinst zur Standardmethode entwickelt haben sollte, würde eine Aufklärung nach den üblichen Grundsätzen ausreichen. ­Betreffend Inhalt und Umfang wäre dann nur noch eine Aufklärung „im Großen und Ganzen“ über Chancen und Risiken der Behandlung erforderlich. Dies ist allerdings noch Zukunftsmusik, da nach derzeitigem Stand Langzeiterfahrungen zum Einsatz von KI noch nicht in hinreichendem Maße vorliegen. (Quelle: IWW, CB Chefärzte Brief)