Das Thema Künstliche Intelligenz und deren Anwendung in der Medizin haben wir in diesem Blog bereits mehrfach aufgegriffen. Sicherlich wird die KI ein wichtiges Zukunftsfeld der unterstützten Diagnostik werden, aber können wir bereits heute schon absolute Verlässlichkeit erwarten?

Dem Watson-Supercomputer von IBM wird vorgeworfen, unsichere und falsche Krebstherapien empfohlen zu haben. Watson wurde mit einer kleinen Anzahl synthetischer Kasuistiken von hypothetischen Patienten gefüttert –  anstelle von echten Patientendaten. Die (Behandlungs-)Empfehlungen basierten auf der Expertise weniger Spezialisten, nicht jedoch auf den anerkannten Guidelines. Ausführlich hat sich damit das US-Portal STAT beschäftigt.

KI-Anwendungen sind insbesondere in der Dermatologie angesagt. „Besser als der Hautarzt“ wurde schon frohlockt. Aber auch hier wurden Schwächen entdeckt, insbesondere bei der Melanom-Diagnostik bei schwarzer Hautfarbe. Denn die Referenzfotos mit der die KI arbeitet, stammen überwiegend von hellhäutigen Patienten. Solange dieses Manko nicht beseitigt wird, ist an einen breiten Einsatz nicht zu denken, obwohl die Nutzung einer KI in Verbindung mit der Telemedizin gerade in Weltregionen mit einer geringen Arztdichte wünschenswert wäre.

In beiden oben genannten Fällen begrenzt die Datenauswahl die Möglichkeiten der KI – und darüber bestimmt die KI (noch) nicht selbst.