News - Bohnen und Bier im Röntgenbild erkennen

Erstaunliches

Bohnen und Bier im Röntgenbild erkennen

Eine vermeintlich absurde Studie demonstriert die Fähigkeiten und die Gefahren künstlicher Intelligenz in der Medizin.

01.03.2025 • 1 Kommentar

Foto: Friedrich Merz | physio.de • Lizenz: CC-BY •

Wie akkurat bildgebende Verfahren auf die Ursache von Schmerzen hindeuten können, ist schon lange umstritten. So schlossen etwa Horga et al. im Jahr 2020 aus den MRT-Untersuchungen von 230 schmerzfreien Knien, dass „nahezu alle Knie von asymptomatischen Erwachsenen (…) in mindestens einer Knie-Struktur Abnormalitäten im MRT“ aufweisen. Bildgebung scheint ohne zusätzlichen Kontext – überspitzt gesagt – also mehr oder minder wertlos zu sein.

Fünf Jahre später erscheint im renommierten Nature „Scientific Reports“ eine Studie, die vermeintlich das Gegenteil behauptet: Mit künstlicher Intelligenz (KI) lassen sich der Studie nach nämlich aus Röntgenbildern nicht nur Schmerzzustände, sondern auch das Ess- und Trinkverhalten ableiten. Genauer gesagt, konnte die eine KI ziemlich genau vorhersagen, ob ProbandInnen im Jahr zuvor Bier getrunken oder Bohnenmus gegessen hatten. Bitte was?

Das Training
Ein Team von ForscherInnen des Dartmouth-Hitchcock Medical Center untersuchten mit einer KI einen riesigen Datensatz der Osteoarthritis Initiative (OAI).

Dieser beinhaltet die Daten von 25.000 Röntgenbildern von über 4.700 PatientInnen, die über zehn Jahre hinweg in fünf Kliniken in den USA erfasst wurden. Zusätzlich zu den Röntgen-Aufnahmen beantworteten die TeilnehmerInnen Fragebögen zu ihrem Lebensstil, ihrer Ernährung und ihren Gewohnheiten. Eine dieser Fragen betraf ihre Vorlieben für Bohnen und Bier.

70 Prozent der Daten wurden genutzt, um die KI zu trainieren. Sie wurde also mit den Daten gefüttert und sollte lernen, Zusammenhänge zwischen den einzelnen Parametern zu finden. 15 Prozent der Daten wurde genutzt, um die Daten zu validieren und übliche Fehler auszuräumen.

Mit den letzten 15 Prozent wurde experimentiert. Welche Verhaltensweisen konnte die KI erkennen, wenn sie nur die Bilder (alle im selben Bildformat, ohne Stammdaten oder sonstige Informationen) betrachtete?

Wie kann das sein?
Die Ergebnisse waren verblüffend: Mit einer Genauigkeit von 63 Prozent für Bohnenkonsum und 73 Prozent für Bierkonsum konnte das Modell vorhersagen, ob ein Mensch in den letzten zwölf Monaten Bohnen gegessen oder weniger als ein Bier im Jahr getrunken hatte. Wie war das möglich?

Durch das schrittweise Entfernen von verfügbaren Informationen wurde deutlich, dass die KI nicht ausschließlich die Knie analysierte.

Die Algorithmen nutzten subtile Hinweise in den Bildern aus, die oft mit anderen Variablen korrelierten. So konnte die KI etwa anhand des Röntgenbildes erkennen, wo die Aufnahme erstellt wurde. Lag das Krankenhaus nahe an der mexikanischen Grenze, erhöhte sich zwangsläufig die Wahrscheinlichkeit das traditionelle mexikanische Gericht Bohnenmus zu essen.

Abkürzungen finden
Eine künstliche Intelligenz, die die ärztliche Diagnose nicht nur ersetzt, sondern auch für das menschliche Auge nicht greifbare Details erkennt, würde die Medizintechnik verändern. In Versuchen zu dem Thema stolperten ForscherInnen allerdings schon häufiger über das Problem des sogenannten „Shortcuttings“ (Abkürzung). Neuronale Netze, wie die hier verwendete KI, sind sehr gut im Erkennen von Mustern und Assoziationen. Wie die Berechnungen zu diesen Verknüpfungen ablaufen, können selbst die „Schöpfer“ künstlicher Intelligenz nicht einsehen. Diese „Blackbox“ macht die Anwendung von KI so gefährlich, denn oft passiert nicht das, was man eigentlich erwartet.

Ein Beispiel:
Ein KI-Modell soll auf Bildern von Wiesen erkennen, ob Kühe oder Kamele zu sehen sind. Wenn viele der Bilder mit Kühen auf grünen Wiesen aufgenommen wurden und die Bilder mit Kamelen in der Wüste, könnte die KI lernen, dass "grün" für Kühe und "braun" für Kamele steht. Das Modell ignoriert dann die tatsächlichen Merkmale der Tiere (z. B. Hörner oder Höcker) und schaut stattdessen nur auf die Hintergrundfarbe. Es hat also eine Abkürzung genommen – und genau das passiert auch bei medizinischen Anwendungen.

Im Falle der vorliegenden Studie konnte die KI wohl Rückschlüsse auf den Hersteller des Röntgenapparates und vermutlich auch die Einstelllungen des Gerätes, die Klinik, das Kalenderjahr, aber auch auf viele unbekannte Variablen ziehen. Sie bevorzugte diese Informationen, anstatt sich wirklich auf das Knie zu konzentrieren. Eine 64 Jahre alte Frau aus einer reichen Stadt trinkt mit höher Wahrscheinlichkeit kein Bier, als ein 46-jähriger Mann aus einer Arbeiterstadt. Dafür braucht es keine Bildgebung.

Die ethischen Fragen
So absurd die Forschung auch wirken mag, sie ist wichtig. In Zukunft sollen neuronale Netze zu Diagnosezwecken genutzt werden. Fangen diese an, Shortcuts zu nutzen, droht Gefahr für den Menschen. Beispielsweise ist bereits bekannt, dass KIs dazu neigen, bereits bestehende rassistische Tendenzen in der Medizin noch einmal zu verstärken. Problematisch ist dies auch deshalb, weil die Programme in der Lage sind, anhand von Röntgenbildern die ethnische Herkunft eines Menschen zu erkennen. Die ForscherInnen hoffen, dass ihre Arbeit die Diskussion über die Anwendung von KI in der Medizin voranbringt.

Daniel Bombien / physio.de

Mehr Lesen über

Röntgen Skurriles Studie

Düsseldorf Pempelfort

Gefällt mir

Das könnte Sie auch interessieren