Künstliche Intelligenz könnte die Diagnostik und Therapie psychischer Erkrankungen revolutionieren. Doch wie lassen sich große Sprachmodelle sicher und sinnvoll in die klinische Praxis integrieren? Ein aktueller Beitrag im Lancet Digital Health diskutiert Chancen und Herausforderungen.

Die steigende Verbreitung von Künstlicher Intelligenz eröffnet neue Möglichkeiten für die psychische Gesundheitsversorgung. Besonders große Sprachmodelle (Large Language Models, LLMs) versprechen Fortschritte in Diagnostik, Therapie und Forschung. Doch wie lassen sich diese Modelle sicher und sinnvoll in die klinische Praxis integrieren? Ein aktueller Beitrag im Lancet Digital Health skizziert eine umfassende Strategie zur Nutzung von LLMs in der Psychiatrie.

Psychische Erkrankungen betreffen weltweit rund 970 Millionen Menschen und stellen eine der führenden Ursachen für Behinderungen dar. LLMs könnten helfen, diagnostische Prozesse zu verbessern, Therapien zu unterstützen und Patienten einen besseren Zugang zu Informationen zu ermöglichen. So könnten KI-gestützte Systeme klinische Notizen analysieren, frühzeitig Warnsignale für psychische Erkrankungen identifizieren und personalisierte Interventionen vorschlagen. Trotz ihres Potenzials sind LLMs jedoch mit verschiedenen Herausforderungen verbunden. Die Qualität der zugrunde liegenden Daten ist dabei ein zentrales Problem, denn viele Modelle basieren auf Textsammlungen, die stark von westlichen Kulturen dominiert werden. Dies kann zu Verzerrungen in der Diagnostik führen und kulturelle Unterschiede unzureichend berücksichtigen. Auch der Schutz sensibler Gesundheitsdaten ist eine zentrale Herausforderung. Während KI-Systeme wertvolle Erkenntnisse liefern können, müssen sie so gestaltet sein, dass sie den Datenschutz wahren und keine sensiblen Patientendaten gefährden. Ein möglicher Lösungsansatz liegt in der Nutzung von „Federated Learning“, einer Technologie, die es ermöglicht, Modelle ohne direkten Austausch von Daten zu trainieren.

Ein weiteres Problem stellt die technische Umsetzung dar. Die Entwicklung und Implementierung leistungsfähiger LLMs erfordert hohe Rechenkapazitäten, die nicht überall verfügbar sind. Dies könnte bestehende Ungleichheiten in der psychischen Gesundheitsversorgung weiter verstärken. Um LLMs sicher und effektiv in die Psychiatrie zu integrieren, schlagen die Autoren des Beitrags ein sozial-technisches Rahmenwerk vor, das verschiedene Faktoren berücksichtigt. Ein wichtiger Schritt wäre der Aufbau globaler klinischer Datenbanken, um diversifizierte und repräsentative Datenquellen zu schaffen, die Verzerrungen reduzieren und die Modelle zuverlässiger machen. Zudem sind klare ethische Leitlinien erforderlich, die regeln, wie LLMs in der Patientenversorgung eingesetzt werden dürfen, um Fehldiagnosen oder Datenschutzverletzungen zu minimieren. Auch kulturelle Sensibilität spielt eine entscheidende Rolle, denn Modelle müssen an unterschiedliche sprachliche und kulturelle Kontexte angepasst werden, um eine gerechte Versorgung sicherzustellen.

Gleichzeitig ist es essenziell, digitale Inklusion zu fördern. Der Zugang zu KI-gestützten Lösungen darf nicht nur technikaffinen Bevölkerungsgruppen vorbehalten bleiben. Um den Umgang mit KI zu erleichtern, könnten neue Rollen wie die des „digitalen Navigators“ geschaffen werden, der als Schnittstelle zwischen Technik und Patienten agiert und eine bessere Nutzung dieser Technologien ermöglicht. Die Integration von LLMs in die psychiatrische Versorgung erfordert eine enge Zusammenarbeit zwischen Forschern, Medizinern und Patienten. Nur mit einem durchdachten und ethisch fundierten Ansatz lassen sich die Chancen der KI nutzen, ohne neue Risiken zu schaffen. Die Forschung zeigt, dass LLMs kein Ersatz für Ärzte sind, jedoch als unterstützendes Werkzeug einen wertvollen Beitrag zur Verbesserung der psychischen Gesundheitsversorgung leisten können.

Quelle: Malgaroli et al., The Lancet Digital Health, 2025, DOI: 10.1016/S2589-7500(24)00255-3

Text: Redaktion arztCME

Bild: DALL-E für arztCME