Wir haben hier im Blog schon öfter das große Potenzial von KI-Anwendungen in der Medizin diskutiert. Auch der Heidelberger E-Health-Tag 2019 am 13. September ging dieser Frage nach und widmete sich u.a. speziell den regulatorischen Fragestellungen: Welche besonderen Anforderungen stellt die Medical Device Regulation (MDR) an die Entwicklung KI basierter Medizinanwendungen? Vor dem Hintergrund selbstlernender Algorithmen eine besonders spannende Frage.

Für Prof. Mark Hastenteufel von der Hochschule Mannheim ist das besondere Anwendungsfeld der KI die diskrete Vorhersage: Handelt es sich um einen Tumor oder nicht? In welche Klassifikation fällt der Tumor oder  welcher der Notfallpatienten muss am dringlichsten behandelt werden? Dabei verglich er die einzelnen Stufen der Integration mit den Fahrassistenzen beim Auto: Von der einfachen, piependen Rückfahrhilfe bis zum vollautomatischen Einparken in 5 Stufen. Und bei den letzten 3 Stufen hat nicht mehr der Fahrer die Kontrolle, sondern die Maschine.

Zu den grundlegenden Sicherheitsanforderungen an medizinische Software gehören Wiederholbarkeit und Zuverlässigkeit. Aber gerade die Wiederholbarkeit ist bei einem selbstlernenden System schwierig, da die Integration neuer Daten leicht auch die Ergebnisse beeinflussen kann. Als logische Konsequenz schlägt Hastenteufel vor, bei KI-Anwendungen neben der eigentlichen Software-Versionierung auch eine Modell-Versionierung für neu trainierte Modell-Updates einzuführen – die dann nicht den gleichen großen regulatorischen Zyklus durchlaufen müssen, wie neue Software-Versionen.

Damit die KI Ihren Nutzen am Patienten voll entfalten kann, müssen solche Regularien seiner Meinung nach möglichst schnell umgesetzt werden. Denn, so schloss Prof. Hastenteufel seinen Vortrag: „Papers, patents and prototypes don’t cure patients.“