KI in der Arztpraxis – große Chancen und wenig Regeln

KI, kurz für Künstliche Intelligenz, ist seit geraumer Zeit aus den Schlagzeilen nicht mehr wegzudenken. Doch auch in alltäglichen Situationen ist sie mittlerweile für viele ein ständiger Begleiter, sei es privat oder beruflich. Der nachfolgende Beitrag soll eine kleine Übersicht über denkbare Anwendungsfelder in der Arztpraxis, ihre Risiken und zu treffende Maßnahmen geben.
 

1. Was ist KI?

Fragt man eine KI „Was ist KI?“, so erhält man die Antwort, dass Künstliche Intelligenz die Fähigkeit von Maschinen oder Computersystemen ist, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern. Dazu gehören Bereiche wie Lernen, Denken, Problemlösen, Spracherkennung und Entscheidungsfindung.
 

2. Anwendungsbereiche

Die Definition verspricht mithin, menschliche Intelligenz ersetzen zu können. Daher ist es nicht verwunderlich, dass Künstliche Intelligenz auch in der niedergelassenen ärztlichen Tätigkeit längst Einzug gefunden hat. Die Anwendungsfelder sind hierbei vielfältig. Der wohl häufigste Anwendungsbereich ist zurzeit Spracherkennungssoftware, die bei jeder Verwendung lernt, sich auf die Sprache und Ausdrucksweise des Nutzers einzustellen und so stetig besser wird. Sie kann das Verfassen von Arztbriefen oder Patientendokumentationen effizienter gestalten. Daneben kommen viele weitere Anwendungsfelder in Betracht. So gibt es bereits intelligente Bilderkennungsprogramme, die Bilder auf Krankheiten, wie etwa Hautkrebs, prüfen, oder Programme, die eingegebene Symptome analysieren, mit Datenbanken abgleichen und sodann Diagnosen stellen und so den behandelnden Arzt bei seiner Haupttätigkeit, nämlich der Befundung und Diagnostik, unterstützen könnte. 
 

Wie verbreitet ist die KI-Nutzung unter niedergelassenen Ärzten? Wann wird sie sich flächendeckend durchsetzen? In welchen Bereichen bringt KI große Vorteile? Wo drohen Gefahren? Unsere repräsentative Umfrage "AÄA Trendradar" hat spannende Ergebnisse zutagegebracht.  Hier lesen

Auch die Praxisassistenz kann selbstverständlich durch Künstliche Intelligenz unterstützt werden, etwa durch intelligente Telefonassistenten, die ans Telefon gehen und die wesentlichen Informationen abfragen, nach Anfragen strukturieren, alle notwendigen Informationen sammeln und zusammenfassen und so im stressigen Praxisalltag die Unterbrechungen durch ein klingelndes Telefon reduzieren können.

Vorhanden sind auch KI-Modelle, in Form von dauerhaft im Hintergrund laufenden Sprachanalyseprogrammen, die etwa die gesamte Dokumentation übernehmen können. Hier wird das gesamte Behandlungsgespräch aufgezeichnet und von der KI ausgewertet bzw. sortiert, sodass die wesentlichen Informationen des Gesprächs ordnungsgemäß dokumentiert werden.

3. Risiken und zu treffende Maßnahmen

Neben diesen vielfältigen Einsatzmöglichkeiten, die nach einer starken Entlastung im Praxisalltag klingen, gibt es jedoch auch eine Vielzahl von Risiken, derer sich jeder Nutzer bewusst sein sollte und Maßnahmen, die er deswegen treffen sollte. 

Ein großes Risiko liegt darin, dass die datenschutzrechtlichen Vorschriften eingehalten werden müssen, insbesondere die ärztliche Schweigepflicht. Das bedeutet, die Daten müssen lokal verarbeitet werden und dürfen nicht an Dritte übermittelt werden. Sollen Daten nach außen gehen, so ist darauf zu achten, dass diese anonymisiert sind und keine Rückschlüsse auf die Person zulassen. 

Ein weiteres, häufig unbekanntes, Risiko besteht darin, dass verschiedene KI-Modelle versuchen, ein für den Nutzer zufriedenstellendes Ergebnis zu erzielen. Hierfür denken sich die Modelle auch Quellen aus. Da die Modelle wissen, wie Quellen aufgebaut sind, sehen diese täuschend echt aus, da sie echte Autoren und Quellen verwenden und diesen den gewünschten Inhalt zuschreiben. Dies kann insbesondere gefährlich werden, wenn hierdurch falsche Diagnosen gestellt werden.

Schließlich ist zu beachten, dass der Arzt für die Behandlung haftet. Das bedeutet, der Arzt darf das KI-Modell unter Beachtung der datenschutzrechtlichen Regelungen und der Schweigepflicht dazu nutzen, sich bei der Behandlung unterstützen zu lassen. Er darf sich jedoch nicht auf das Ergebnis des KI-Modells verlassen. Die Ergebnisse sind kritisch anhand von Leitlinien und anderen zuverlässigen Quellen zu prüfen. Das gilt gleichermaßen für die Behandlungsdokumentation. Auch die Dokumentationspflicht bleibt beim Arzt; es muss daher jeweils geprüft werden, ob die Dokumentation ordnungsgemäß erfolgt ist. 

Der Arzt haftet im Rahmen von Organisationsverschulden auch für Verstöße seiner Mitarbeiter bei der Verwendung von KI-Modellen. Er muss daher Arbeitsanweisungen geben, wie KI-Modelle zu verwenden sind, und seine Mitarbeiter auf die Risiken im Zusammenhang mit der Verwendung hinweisen und gegebenenfalls in der richtigen Anwendung schulen. 

4. Ergebnis

Damit lässt sich festhalten, dass Künstliche Intelligenz und verschiedene KI-Modelle durchaus geeignet sind, schon heute den Arbeitsalltag stark zu entlasten und effizienter zu gestalten. Es muss jedoch darauf geachtet werden, dass die Vertraulichkeit der Patientendaten gewahrt bleibt und die Ergebnisse kritisch geprüft werden. Denn die Künstliche Intelligenz ist zum aktuellen Zeitpunkt noch nicht so weit, dass sie den Arzt ersetzen könnte, und die rechtlichen Rahmenbedingungen sind noch nicht so weit, dass sie den Arzt aus seiner Haftung entlassen würden. 

\\\ Verfasser: Dr. Dr. Thomas Ruppel, Rechtsanwaltsgesellschaft Dr. Ruppel mbH (Lübeck) für AÄA. Dr. Dr. Thomas Ruppel und sein Team beraten Ärztinnen und Ärzte in allen Rechtsfragen rund um die Praxis: www.gesundheitsrecht.de