Künstliche Intelligenz und die Herausforderung der Kausalität in der Medizin

Eine interessante Beziehung zwischen dem Verkauf von Eiscreme und der Anzahl der Sonnenbrände hat die Forscher zum Nachdenken angeregt: Mit steigenden Eiscreme-Verkäufen nimmt auch die Zahl der Sonnenbrände zu. Dies mag wie eine klare Verbindung aussehen, doch Experten sind sich einig, dass Eiscreme keinen Sonnenbrand verursacht. Vielmehr ist es das warme Sommerwetter, das beide Phänomene beeinflusst. Diese Fähigkeit, zwischen Korrelation und Kausalität zu unterscheiden, stellt Künstliche Intelligenz (KI) jedoch vor große Herausforderungen.

Das Fehlen eines tieferen Verständnisses von Kausalzusammenhängen macht es schwierig, für KI-Systeme die tatsächlichen Ursachen für Ereignisse zu identifizieren. Zahlreiche Fachleute arbeiten daran, dieses Problem zu beheben, insbesondere in der Medizin, wo Fehlinterpretationen schwerwiegende Folgen haben können. Unter dem Begriff ‘Causal AI’ werden verschiedene Techniken entwickelt, die KI-Systemen helfen sollen, kausales Denken zu entwickeln und nicht nur Korrelationen zu erkennen.

Die Herausforderung des kausalen Denkens

Ein Beispiel zeigt die Problematik: Im Jahr 2021 hat ein Team von Forschern ein KI-Modell trainiert, um Pneumothorax – eine gefährliche Ansammlung von Luft um die Lunge – auf Röntgenbildern zu erkennen. Obwohl das Modell anfänglich vielversprechend erschien, stellte sich heraus, dass es sich beim Erkennen auf die Anwesenheit von medizinischen Schläuchen konzentrierte, die in den Bildern zu sehen waren. Das Ausbildungsbeispiel stammte von Patienten, die bereits behandelt wurden, sodass das KI-Modell die Schläuche als Hinweis auf einen Pneumothorax verwendete, obwohl sie keine Ursache dafür waren.

Julius von Kügelgen, ein Informatiker von der ETH Zürich, erklärt: „Die KI-Systeme nehmen eine Abkürzung. Aber da es sich nicht wirklich um Ursachen handelt, sind die Ergebnisse auch nicht stabil.“ Solche Fehler sind besonders im medizinischen Bereich besorgniserregend, da sie möglicherweise schwerwiegende Folgen haben könnten.

Diversifikation der Trainingsdaten

Um die Gefahr von Fehldiagnosen durch KI zu verringern, schlagen Experten vor, die Trainingsdaten zu diversifizieren. Wenn das KI-Modell auch Bilder berücksichtigen könnte, die vor der Behandlung gemacht wurden, würde es nicht auf die Anwesenheit von Schläuchen angewiesen sein. Indem man ein breiteres Spektrum an Daten bereitstellt, können die Systeme echte kausale Zusammenhänge besser erkennen.

Ein weiterer Ansatz, um KI-Modelle auf Kausalitäten zu trainieren, ist das sogenannte „Causal Representation Learning“. Hierbei versuchen Forscher, aus komplexen Datensätzen abstrakte Variablen zu extrahieren, die die tatsächlichen Kausalitäten darstellen.

Simulation klinischer Studien

Zusätzlich zu diesen Methoden gibt es auch Ansätze, bei denen bestehende Daten genutzt werden, um klinische Studien zu simulieren. Stefan Feuerriegel, der an der Ludwig-Maximilians-Universität München arbeitet, beschäftigt sich mit der Anwendung von kausalem maschinellen Lernen in der Medizin. Er und sein Team haben 2024 in einem Fachartikel veröffentlicht, wie sie mit bestehenden Patientendaten sinnvolle Erkenntnisse über die Wirksamkeit von Medikamenten gewinnen können.

Diese Methode wird besonders relevant, weil klinische Studien oft teuer und ethisch bedenklich sind. In einer Untersuchung zu den Auswirkungen von Krankenhauseinweisungen bei depressiven Patienten stellte das Team fest, dass eine solche Einweisung nicht immer hilfreich ist. Im Gegenteil, sie konnte in bestimmten Fällen sogar zu einem erhöhten Suizidrisiko führen. Durch die Analyse umfangreicher Daten konnten individuelle Behandlungsansätze entwickelt werden, die die Anzahl der Krankenhauseinweisungen senken und gleichzeitig die Zahl der Suizidversuche reduzieren könnten.

Fazit und Ausblick

Obwohl kausales maschinelles Lernen bereits vielversprechende Ergebnisse liefert, steht es in der Medizin noch am Anfang. Die Fähigkeit, aus bestehenden Daten neue Erkenntnisse zu gewinnen, wird als spannender Ansatz für die zukünftige Medizin angesehen. Es wird jedoch Zeit brauchen, bis KI-Systeme in der Lage sind, auch völlig autonom Kausalitäten zu erkennen.

Somit bleibt die Frage offen, ob Künstliche Intelligenz, ähnlich wie Menschen, auch ohne menschliche Hilfe imstande sein wird, effektiv zwischen Ursache und Wirkung zu unterscheiden. Der Fortschritt in der Datenverarbeitung und die ständige Verbesserung der Algorithmen könnten uns eines Tages jedoch zu einer KI führen, die uns nicht nur in speziellen Bereichen, sondern auch in unserem gesamten Leben unterstützen kann.