Was passiert, wenn jemand wegen eines Fehlers der maschinellen Übersetzung falsch behandelt wird? Könnten sensible Daten wie Forschungsergebnisse unfreiwillig offengelegt werden?
Im Anfang 2024 erschienenen „Allianz Risk Barometer“ rangieren „Cybervorfälle“ auf Platz 1 aller geschäftlichen Risiken, weit vor Betriebsunterbrechungen, Naturkatastrophen, Gewalt und anderen Gefahren. Zu den Cybervorfällen zählen auch Datenschutzverletzungen, und genau hier liegt ein weiterer Schwachpunkt der maschinellen Übersetzung (MÜ). Wer seine medizinischen Forschungsergebnisse, Patente, personenbezogenen Daten oder technologischen Geschäftsgeheimnisse zur Übersetzung an ein cloudbasiertes MÜ-System übergibt, und sei es nur für interne Zwecke, hat sich von seinen wohlgehüteten Geheimnisse bereits verabschiedet. Denn es liegt in der Natur der Sache, dass MÜ-Systeme, wie jede andere KI auch, Unmengen an Trainingstexten benötigt, um das zugrunde liegende Large Language Model (LLM) erweitern zu können. Man gibt bei der MÜ also sehenden Auges Informationen aus der Hand, die nicht oder noch nicht für die Öffentlichkeit bestimmt sind.
MÜ-Anbieter kennen natürlich den Stellenwert des Datenschutzes und versprechen feierlich, dass zumindest bei abonnementfähigen MÜ-Systemen keine Kundendaten auf ihren Servern zurückbleiben – es sei denn zu „Forschungszwecken“. Man möchte diesen Unternehmen den guten Willen nicht absprechen, andererseits haben sich die weltgrößten IT-Konzerne, die jetzt alle ein Stück vom großen KI-Kuchen abbekommen möchten, beim Thema Datenschutz in der Vergangenheit nicht gerade mit Ruhm bekleckert. So haben unter anderem Apple, Google, Meta (ehemals: Facebook) und Microsoft der NSA bis zur Offenlegung des Abhörskandals 2013 fleißig dabei geholfen, die benötigten Datenberge zu beschaffen. Und Datenlecks können auch ohne aktives Zutun dafür sorgen, dass sensible Daten in die falschen Hände geraten.
Übersetzungsfehler können extrem teuer werden und schlimmstenfalls ein Menschenleben zerstören. Berühmt geworden ist z. B. der Fall eines 18-jährigen Amerikaners, bei dem im Jahr 1980 eine Fehlübersetzung zu einer Fehldiagnose und diese wiederum zu einer Fehlbehandlung führte. Der Patient erlitt dadurch eine Querschnittslähmung, und die Klinik musste an die Familie eine Entschädigung in Höhe von 71 Millionen US-Dollar bezahlen. Auch hierzulande haben haarsträubende Fehlübersetzungen bereits für große Probleme gesorgt. So musste eine Berliner Klinik im Jahr 2007 einräumen, dass sie wegen einer Fehlübersetzung 47 Kniegelenksprothesen falsch implantiert hatte.
Wer haftet eigentlich für Schäden, die durch eine maschinelle Fehlübersetzung entstehen? Da es kein Rechtssubjekt im klassischen Sinne gibt, dürfte es schwierig werden, eine verschuldensabhängige Haftung herzuleiten. Auch sind MÜ-Systeme mittlerweile so komplex, dass sich häufig nicht mehr nachvollziehen lässt, wie die Übersetzungsergebnisse überhaupt zustande kamen. Man müsste also eher an eine verschuldensunabhängige Haftung denken: Demnach wäre schon die bloße Nutzung der MÜ riskant und würde eine Haftpflicht begründen. Die Rechtslage ist in dieser Frage noch unklar, und bis zur Klärung der Haftungsfrage bleibt die MÜ für Medizinunternehmen ein Minenfeld, das es tunlichst zu meiden gilt. Dafür spricht auch, dass in Artikel 6 der Anfang Juni 2024 in Kraft tretenden KI-Verordnung der EU (KI-VO) einige medizinische KI-Einsatzfelder als „hochriskant“ eingestuft werden. Sie sollen dann nur unter Vorgaben erlaubt sein. Wenn es nach mir ginge, würde auch die maschinelle Übersetzung explizit in diese Kategorie einsortiert werden.
Autor: Armin Mutscheller (E-Mail: info@mutscheller.de)
Über den Autor: Studium an der Universität Heidelberg, Diplom-Übersetzer für Englisch und Französisch, parallel Ausbildung zum Rettungssanitäter mit 10-jähriger Tätigkeit in diesem Beruf. Spezialisiert auf medizinische und technische Fachübersetzungen, Terminologie-Management und Textredaktion, Beratung von zahlreichen Unternehmen in sprachlichen Fragen. Am Heidelberger Institut für Übersetzen und Dolmetschen unterrichtet er Studierende in gemeinsprachlichem und technischem Übersetzen und hält Vorträge zu berufspraktischen Themen.
Bild: DALL-E für arztCME
