KI in DiGA: Wie sieht verantwortungsvolle Innovation aus?

Digitale Gesundheitsanwendungen werden zunehmend zu einem wichtigen Bestandteil der modernen Gesundheitsversorgung. In Deutschland haben DiGA einen Weg geschaffen, evidenzbasierte digitale Lösungen in die Versorgung zu integrieren.

Gleichzeitig verändert Künstliche Intelligenz die Möglichkeiten solcher Anwendungen grundlegend.

KI kann Interaktionen personalisieren, Muster in patientengenerierten Daten erkennen, das Selbstmanagement unterstützen und möglicherweise Veränderungen des Gesundheitszustands früher sichtbar machen. Generative KI kann digitale Gesundheitsanwendungen zudem dialogorientierter und adaptiver gestalten.

Doch mehr technologische Leistungsfähigkeit bedeutet nicht automatisch bessere Gesundheitsversorgung.

Die entscheidende Frage lautet deshalb nicht nur, wie KI in eine DiGA integriert werden kann, sondern wie dies verantwortungsvoll geschehen kann.

Bei KI-gestützten DiGA muss Innovation an klinischem Nutzen, Patientensicherheit, Evidenz, Transparenz und den tatsächlichen Anforderungen der Versorgung gemessen werden.

Von digitalen Anwendungen zu intelligentem Support

Klassische digitale Gesundheitsanwendungen arbeiten häufig mit definierten Abläufen: Patientinnen und Patienten geben Informationen ein, durchlaufen ein Programm und erhalten Empfehlungen auf Grundlage festgelegter Regeln.

KI eröffnet die Möglichkeit, diese Unterstützung adaptiver zu gestalten.

Ein System kann potenziell Muster in longitudinalen Patientendaten erkennen, Informationen stärker an individuelle Bedürfnisse anpassen, relevante Veränderungen identifizieren und Patientinnen und Patienten zwischen Arztbesuchen unterstützen.

Das ist insbesondere bei chronischen Erkrankungen relevant. Denn der Gesundheitszustand verändert sich nicht nur während eines Arztbesuchs. Symptome, Verhalten, Therapieadhärenz und Risiken können sich kontinuierlich verändern.

KI kann dazu beitragen, digitale Versorgung besser an diese Veränderungen anzupassen.

Gleichzeitig entsteht eine grundlegende Verantwortung: Je adaptiver ein System wird, desto sorgfältiger müssen sein Verhalten, seine Grenzen und seine Sicherheit konzipiert, getestet und überwacht werden.

Verantwortungsvolle KI beginnt mit dem klinischen Zweck

Der Ausgangspunkt sollte niemals die Technologie selbst sein.

Eine verantwortungsvolle DiGA setzt KI nicht ein, nur weil KI verfügbar ist. Sie beginnt mit einem klar definierten medizinischen oder versorgungsbezogenen Problem.

Was soll verbessert werden?

Hilft die Anwendung Patientinnen und Patienten, ihre Erkrankung besser zu verstehen? Unterstützt sie Therapieadhärenz oder Selbstmanagement? Kann sie relevante Veränderungen früher erkennen? Kann sie medizinisches Personal entlasten? Trägt sie zu messbaren gesundheitlichen Ergebnissen bei?

Diese Fragen sind wichtiger als die Frage, welches konkrete KI-Modell eingesetzt wird.

KI sollte dort eingesetzt werden, wo sie einen nachvollziehbaren zusätzlichen Nutzen bietet – und nicht dort, wo eine einfachere und besser kontrollierbare Lösung ausreichend wäre.

Evidenz muss im Mittelpunkt bleiben

Gesundheitsinnovationen müssen letztlich zeigen, dass sie funktionieren.

Das gilt insbesondere dann, wenn KI beeinflusst, wie Patientinnen und Patienten Informationen erhalten, ihre Gesundheit managen oder mit einer digitalen Therapie interagieren.

Eine beeindruckende Demonstration ist noch kein klinischer Wirksamkeitsnachweis.

Verantwortungsvolle KI in DiGA erfordert deshalb eine systematische Bewertung von Leistung, Sicherheit und realen Versorgungsergebnissen. Ebenso wichtig ist es zu verstehen, unter welchen Bedingungen ein System zuverlässig funktioniert, wo seine Grenzen liegen und wann Empfehlungen nicht verwendet werden sollten.

Bei KI-Systemen, die sich weiterentwickeln oder adaptiv eingesetzt werden, wird dies zu einer kontinuierlichen Aufgabe und nicht zu einer einmaligen Validierung.

Personalisierung ohne Kontrollverlust

Eine der interessantesten Möglichkeiten von KI im Bereich digitaler Gesundheit ist die Personalisierung.

Zwei Menschen mit derselben chronischen Erkrankung können sich in ihrer individuellen Situation erheblich unterscheiden. Symptome, Lebensstil, Therapie, Risikofaktoren und der Umgang mit der Erkrankung können sehr unterschiedlich sein.

KI kann diesen Kontext potenziell nutzen, um digitale Unterstützung relevanter und individueller zu gestalten.

Personalisierung darf jedoch nicht bedeuten, einer KI uneingeschränkte Entscheidungsfreiheit zu geben.

Ein verantwortungsvolles System benötigt klar definierte Grenzen: Was darf es empfehlen? Wann werden zusätzliche Informationen benötigt? Welche Situationen müssen an medizinisches Fachpersonal eskaliert werden?

Der Grundsatz ist einfach:

Personalisiert bedeutet nicht autonom.

KI sollte die Fähigkeit der Patientinnen und Patienten stärken, mit ihrer Erkrankung umzugehen, und die medizinische Versorgung unterstützen – nicht die professionelle medizinische Einschätzung ersetzen.

Transparenz ist Teil des Produkts

Vertrauen kann nicht nachträglich in eine KI-gestützte DiGA eingebaut werden.

Patientinnen, Patienten und medizinisches Fachpersonal sollten nachvollziehen können, was das System tut, welche Informationen es verwendet und wo seine Grenzen liegen.

Wenn KI eine Empfehlung erzeugt, muss diese im richtigen Kontext eingeordnet werden können.

Wenn das System unsicher ist, sollte diese Unsicherheit nicht verborgen werden.

Und wenn eine Situation außerhalb des vorgesehenen Anwendungsbereichs liegt, darf nicht der Eindruck entstehen, die KI könne auch diese Situation zuverlässig und sicher bearbeiten.

Das ist insbesondere bei generativer KI wichtig. Sprachlich überzeugende Antworten können schnell den Eindruck medizinischer Autorität erzeugen, obwohl die zugrunde liegende Information unvollständig oder fehlerhaft sein kann.

Verantwortungsvolle Entwicklung umfasst deshalb Verifikation, Umgang mit Unsicherheit, Eskalationsmechanismen und menschliche Kontrolle.

KI sollte die Versorgung ergänzen – nicht Patientinnen und Patienten isolieren

Eine digitale Therapie sollte kein digitaler Versorgungssilo werden.

Der größte Nutzen KI-gestützter DiGA kann entstehen, wenn digitale Informationen in einen übergeordneten Versorgungspfad eingebunden werden.

So könnte KI beispielsweise relevante Veränderungen im Gesundheitszustand erkennen und eine angemessene Eskalation unterstützen. Sie kann dabei helfen, von Patientinnen und Patienten erhobene Informationen so zu strukturieren, dass medizinisches Personal relevante Signale erhält – statt mit zusätzlichen Datenmengen belastet zu werden.

Hier wird verantwortungsvolle Innovation eng mit Interoperabilität und der Integration in bestehende Arbeitsabläufe verbunden.

KI sollte nicht einfach mehr Informationen erzeugen.

Sie sollte dabei helfen, die richtigen Informationen zur richtigen Zeit der richtigen Person zugänglich zu machen.

Verantwortungsvolle Innovation bedeutet auch, auf KI zu verzichten

Vielleicht ist dies der wichtigste Grundsatz: Nicht jedes Problem braucht KI.

Wenn eine deterministische Regel sicherer, leichter zu validieren und klinisch ausreichend ist, gibt es möglicherweise keinen Grund, sie durch ein generatives Modell zu ersetzen.

Wenn eine Entscheidung professionelle medizinische Einschätzung erfordert, sollte KI nicht den Eindruck vermitteln, eine automatisierte Antwort könne diese ersetzen.

Und wenn die verfügbare Evidenz nicht ausreicht, kann die verantwortungsvolle Entscheidung darin bestehen, weitere Informationen einzuholen, medizinisches Fachpersonal einzubeziehen oder überhaupt keine Empfehlung abzugeben.

Das Ziel ist nicht maximale Automatisierung.

Das Ziel ist maximaler sinnvoller klinischer Nutzen innerhalb klar definierter Sicherheitsgrenzen.

Von Innovation zu verantwortungsvoller Umsetzung

Die Zukunft KI-gestützter DiGA wird nicht davon abhängen, wer als Erstes die fortschrittlichste Technologie integriert.

Entscheidend wird sein, wer nachweisen kann, dass KI in der realen Versorgung einen relevanten Nutzen sicher und zuverlässig erbringt.

Dafür braucht es Zusammenarbeit zwischen Technologieentwicklern, Ärztinnen und Ärzten, Forschung, Patientinnen und Patienten, Regulatoren und Organisationen des Gesundheitswesens.

Für Chatdok bedeutet das, KI in digitalen Therapien zunächst als klinische und versorgungsbezogene Herausforderung zu betrachten – und erst danach als technologische.

Die Chancen sind erheblich: KI kann digitale Versorgung personalisierter, kontinuierlicher und reaktionsfähiger machen.

Doch verantwortungsvolle Innovation erfordert Disziplin.

KI sollte DiGA nicht einfach intelligenter machen. Sie sollte sie nützlicher, klinisch relevanter und wirkungsvoller machen – und gleichzeitig Sicherheit, Evidenz und menschliche Verantwortung ins Zentrum stellen.