Die Herausforderung der Kausalität: Wie KI-Modelle medizinische Einsichten verbessern können

Eiscreme und Sonnenbrand scheinen auf den ersten Blick nichts miteinander zu tun zu haben, doch ein interessanter Zusammenhang zeigt sich: In Regionen, in denen mehr Eiscreme verkauft wird, steigt auch die Zahl der Sonnenbrandfälle. Menschen, die dieses Phänomen betrachten, erkennen, dass es sich um eine Korrelation handelt, nicht um eine direkte Ursache. Das heißt, der Genuss von Eis verursacht keinen Sonnenbrand. Vielmehr ist das warme Sommerwetter der gemeinsame Grund für beide Phänomene. Diese einfache Erkenntnis stellt jedoch eine große Herausforderung für Künstliche Intelligenz (KI) dar.

Künstliche Intelligenz ist zwar in der Lage, Muster und Zusammenhänge zu erkennen, doch fehlt ihr oft das tiefere Verständnis für die Ursachen dieser Zusammenhänge. Deshalb gibt es derzeit viele Forschungsprojekte, die darauf abzielen, KI-Systeme dahingehend weiterzuentwickeln, dass sie auch kausale Beziehungen erkennen können. Dieser neue Bereich wird als ‘Causal AI’ bezeichnet und umfasst verschiedene Techniken, die KI helfen sollen, nicht nur Korrelationen, sondern auch Kausalität zu verstehen.

Eine Herausforderung liegt darin, dass die meisten KI-Modelle in der Vergangenheit auf einfache Korrelationen hereingefallen sind, ähnlich dem Beispiel mit dem Eis und dem Sonnenbrand. Besonders im medizinischen Bereich können solche Fehler schwerwiegende Folgen haben. Bei der Entwicklung eines KI-Modells, das Pneumothorax (eine gefährliche Luftansammlung neben der Lunge) auf Röntgenaufnahmen erkennen sollte, fiel beispielsweise auf, dass das Modell sich auf Schläuche in den Bildern konzentrierte. Es hatte gelernt, dass die Bilder immer nach einer bestimmten Behandlung gemacht wurden, bei der die Schläuche bereits eingesetzt waren. So schloss es fälschlicherweise, dass die Anwesenheit der Schläuche die Ursache für die Diagnose war, während sie in Wirklichkeit nur eine Folge waren.

Um das Risiko solcher Fehlinterpretationen zu minimieren, empfehlen Experten die Diversifizierung der Trainingsdaten. Wenn das KI-Modell mit vielfältigeren Daten gefüttert wird, darunter Bilder, die vor der Behandlung aufgenommen wurden, hat es eine bessere Chance, echte Ursachen zu erkennen. Es ist wichtig, dass die Unterschiede zwischen den Daten nicht ignoriert, sondern als Lernsignal genutzt werden.

Sein Team hat auch versucht, neue Methoden zu entwickeln, um Kausalität aus komplexen Daten abzuleiten, beispielsweise durch ‘Causal Representation Learning’. Dabei wird versucht, aus vielen Variablen, die alle miteinander verbunden sind, die wesentlichen kausalen Zusammenhänge herauszufiltern.

Andere Forscher, wie Stefan Feuerriegel, konzentrieren sich darauf, aus bereits bestehenden Datensätzen kausale Zusammenhänge abzuleiten, anstatt neue Modelle zu trainieren. Sie simulieren klinische Studien mithilfe von Daten, die bereits aus der Praxis vorliegen. So untersucht Feuerriegel die Wirksamkeit von Behandlungen, indem er Gruppen bildet, die unterschiedlich behandelt wurden. Er warnt jedoch, dass die Einteilung dieser Gruppen sehr wichtig ist, da nicht zufällig ausgewählt wurde.

Ein aktuelles Beispiel ist eine Studie, die sich mit der Frage beschäftigte, ob Krankenhausaufenthalte ältere Menschen mit Suizidrisiko helfen, weitere Suizidversuche zu verhindern. Die Ergebnisse zeigten auf, dass eine Einweisung in einigen Fällen sogar das Risiko erhöhen kann, während in anderen Fällen eine Einweisung tatsächlich hilfreich war. Mithilfe von KI können solcherart individuellen Unterschiede in der Wirkung einer Behandlung besser erkannt und genutzt werden.

Die Entwicklungen in der Causal AI könnten dazu beitragen, dass Behandlungen präziser auf die Bedürfnisse einzelner Patienten abgestimmt werden können. Es gibt bereits Fortschritte und immer mehr Daten, die für wissenschaftliche Zwecke gesammelt werden. Diese Fortschritte könnten dazu führen, dass KI in der medizinischen Forschung eine Schlüsselrolle spielt und somit dazu beiträgt, die Behandlungsergebnisse zu verbessern.

Trotz positiver Entwicklungen müssen wir jedoch vorsichtig sein. Die Frage, ob KI einmal in der Lage sein wird, ohne menschliche Hilfe komplexe kausale Zusammenhänge zu erkennen, bleibt offen. Es ist ein spannendes Feld mit viel Potenzial, das die Art und Weise, wie wir medizinische Erkenntnisse gewinnen, revolutionieren könnte. In jedem Fall sollten wir uns jedoch bewusst sein, dass auch die besten KI-Modelle nicht perfekt sind und weiterhin menschliches Verständnis und Kontrolle benötigen, um die richtige Diagnose und Behandlung zu gewährleisten.