Von Lieferketten bis zur Krebsforschung: Wie kausale KI an der Constructor University neue Forschungswege eröffnet
Wie kann Forschung zu Automobil-Lieferketten eine neue Forschungsrichtung in der Krebsbehandlung informieren? Für Ishansh Gupta, Lecturer und Postdoktorand an der Constructor University, lautet die Antwort: Kausale KI – eine Form künstlicher Intelligenz, die über einfache Mustererkennung hinausgeht, um zu analysieren, warum bestimmte Muster existieren, und dabei hilft, Ergebnisse von Veränderungen vorherzusagen.
Guptas Forschung zu KI-Anwendungen im Automobilsektor hat mehrere Publikationen hervorgebracht – darunter seine neueste Studie zu Lieferantenrisiko und -bewertung, veröffentlicht in der Zeitschrift Supply Chain Analytics. Nun erforscht Gupta, wie dieselbe Technologie potenziell Gesundheitsfachkräfte bei der Entscheidungsfindung während der Krebsbehandlung unterstützen könnte, Forschung, die für eine Präsentation nächsten Monat bei NeurIPS, einer der weltweit führenden KI-Forschungskonferenzen, angenommen wurde.
Die Verbindung zwischen den beiden Projekten entstand 2025, als Gupta am Lindauer Nobelpreisträgertagungen teilnahm, wo er Nobelpreisträger*innen traf, die ihn herausforderten, über die traditionellen Grenzen seines Fachgebiets hinauszudenken. Als er gefragt wurde, welches Fachgebiet außerhalb der Wirtschaftswissenschaften sein Leben am meisten beeinflusst habe, war die Antwort klar und unmittelbar: Medizin, der Beruf beider Elternteile. Gupta sah sich herausgefordert zu überlegen, ob er seine Arbeit in industrieller KI und dem Automobilsektor auf andere Bereiche wie die menschliche Gesundheit anwenden könnte.
„Wenn wir kausale KI nutzen können, um komplexe industrielle Systeme zu verstehen und bessere Entscheidungen zu treffen, warum könnten wir nicht ähnliche Ideen in der Medizin erforschen, wo die Konsequenzen dieser Entscheidungen weitaus bedeutender sind?", sagt Gupta.
Kausale KI und Krebsbehandlung
Zusammen mit Prof. Dr.-Ing. Hendro Wicaksono, der die Forschungsgruppe Data-Driven Collaborative Decision Making in Complex Industrial Systems der Constructor University leitet, begann Gupta ein neues Forschungsprojekt, um zu untersuchen, wie kausale KI und LLMs genutzt werden könnten, um Entscheidungsfindung während der Krebsbehandlung zu unterstützen. Die Studie untersuchte eine der Hauptherausforderungen bei der Nutzung von KI zur Unterstützung individualisierter Behandlungsentscheidungen: Ein Modell kann Empfehlungen für jeden Patientin produzieren, selbst wenn die verfügbare Evidenz nicht stark genug ist, um dies zu unterstützen. Gupta und seine Kollegen wollten untersuchen, wann ein KI-System eine Behandlungsrichtung geben kann und sollte, versus wann es anerkennen sollte, dass die verfügbare Evidenz unsicher ist, und von einer Empfehlung absehen sollte.
„In der Wirtschaft kann eine schlechte Entscheidung Millionen kosten. In der Medizin können die Konsequenzen in Menschenleben gemessen werden", sagt Gupta. „Die Zukunft der KI sollte nicht einfach darum gehen, genauere Vorhersagen zu produzieren. Sie sollte darum gehen, menschlichen Fachkräften zu helfen, bessere, transparentere und vertrauenswürdigere Entscheidungen zu treffen."
Gupta und seine Kollegen nutzten reale Eierstockkrebs-Daten und simulierten Behandlungszuweisungen und -ergebnisse, um einen Ansatz zu testen, der kausales maschinelles Lernen mit Methoden kombinierte, die entwickelt wurden, um Unsicherheit zu messen und dem System Zugang zu LLM-generierten Erklärungen zu geben. Dem System wurde auch erlaubt, von der Angabe von Behandlungsrichtungen abzusehen, wenn das Modell zu dem Schluss kam, dass die verfügbare Evidenz unzureichend war.
Die Ergebnisse zeigten, dass die Verbesserung der Vorhersagen eines Modells seine individuellen Empfehlungen nicht notwendigerweise zuverlässig machte. Unter den getesteten Bedingungen sah das System in 99,4 % der Fälle beim gewählten Konfidenzziel von einer Behandlungsempfehlung ab. Die Erkenntnisse heben eine wichtige Unterscheidung in KI-gestützter Entscheidungsfindung hervor: Eine Vorhersage zu produzieren ist nicht dasselbe wie Evidenz zu produzieren, die stark genug ist, um eine Entscheidung zu leiten. Dies deutet darauf hin, dass kausale KI nicht nur nach ihrer Fähigkeit beurteilt werden sollte, Ergebnisse vorherzusagen und Handlungen zu empfehlen, sondern auch nach ihrer Fähigkeit, die Wahrscheinlichkeit der Ergebnisse zu bewerten, einschließlich zu wissen, wann man überhaupt keine Antwort geben sollte.
„Das ist genau das, was unsere Forschung so interessant macht", reflektiert Gupta. „Wir suchen nach Wegen, kausale Modelle, LLMs und menschliche Expertise zu kombinieren, um Systeme zu bauen, die Entscheidungsfindung zuverlässig optimieren können, einschließlich der Möglichkeit, die Begründung hinter jeder Empfehlung zu untersuchen, zu hinterfragen und zu validieren."
Gupta und Prof. Wicaksono werden die Forschung „When Individualized Causal Predictions Are Not Actionable: Failure Analysis, Abstention and a Runtime-Checked Narrative Agent on Ovarian-Cancer Covariates" auf der NeurIPS-2026-Konferenz am 10. Dezember in Sydney, Australien, präsentieren.
„NeurIPS gehört zu den renommiertesten Konferenzen im Bereich künstliche Intelligenz, daher ist die Annahme unserer Arbeit bei einem ihrer Workshops persönlich ein sehr bedeutsamer Meilenstein", sagt Gupta. „Ich freue mich darauf, Ideen mit führenden KI-Forscher*innen auszutauschen, unsere Annahmen zu hinterfragen und hoffentlich Kooperationen zu etablieren, die helfen, diese Arbeit weiterzubringen. Für Constructor zeigt es unsere Fähigkeit, auf etablierten Stärken in industrieller KI aufzubauen und in neue interdisziplinäre Bereiche wie medizinische KI vorzudringen. Hoffentlich ist dies der Beginn einer viel größeren Forschungsrichtung und nicht nur eine einzelne Publikation."
Neugestaltung der Lieferketten-Entscheidungsfindung
Die industrielle Forschung, die schließlich das Krebsbehandlungsprojekt inspirieren sollte, begann mit einer Frage darüber, wie KI Entscheidungen in komplexen Lieferketten unterstützen kann. In „A causal analytics approach for interpretable supply chain risk and supplier performance evaluation" arbeiteten Gupta, Prof. Wicaksono et al. mit dem Industriepartner BMW Group zusammen, um zu erforschen, wie kausale KI helfen könnte, mögliche Ursache-Wirkungs-Beziehungen zwischen Problemen wie falschen Lieferungen, fehlenden Teilen, Rückständen und Lieferanten-Eskalationen zu analysieren. Der Ansatz zielte darauf ab, nicht nur Risiken zu identifizieren, sondern zu zeigen, warum sich bestimmte Risiken entwickeln könnten und was potenziell geändert werden könnte.
„Stellen Sie sich einen Streik oder eine Naturkatastrophe vor, die einen Lieferantin stört", erklärt Gupta. „Ein traditionelles Vorhersagemodell könnte diesen Lieferantin als Hochrisiko kennzeichnen. Unser Ansatz zielte darauf ab, weiter zu gehen. Er verband externe Ereignisse mit internen operativen Indikatoren und ermöglichte es Manager*innen, mögliche kausale Pfade zu untersuchen, wie etwa wie eine Störung Lieferverzögerungen erhöhen, Rückstände schaffen und schließlich das Lieferantenrisiko eskalieren könnte."
Die Forscher*innen arbeiteten mit 18 Fachexpert*innen, die über 300 Jahre kombinierte Berufserfahrung repräsentierten, sowie mit tatsächlichen internen Lieferanten-Leistungsdaten. LLMs halfen dabei, Informationen aus externen Ereignissen wie Streiks, Naturkatastrophen und Lieferantenstörungen in Entwürfe kausaler Modelle zu organisieren, die von den Fachexpert*innen überprüft und validiert wurden, anstatt automatisch akzeptiert zu werden.
Die mit diesen Modellen durchgeführten Simulationen deuteten darauf hin, dass die Reduzierung von Lieferanten-Rückständen um 50 % bis 70 % die vorhergesagten Eskalationsniveaus konsistent reduzierte. Obwohl dies nicht bestätigt, dass dasselbe Ergebnis in einer Live-Lieferkette auftreten würde, veranschaulicht die Studie, wie kausale KI Entscheidungsträger*innen helfen kann, mögliche Interventionen zu erforschen, bevor Maßnahmen ergriffen werden. „Die breitere Idee ist, von der Brandbekämpfung nach Störungen zur Verständnis möglicher Konsequenzen und Bewertung präventiver Maßnahmen im Vorfeld überzugehen", sagt Gupta.
Von der Simulation zur Realität
Während beide Projekte simulationsbasiert waren, sind Gupta und seine Kolleg*innen in Prof. Wicaksonos Forschungsgruppe verpflichtet, Forschungsergebnisse mit realer Anwendung und Wirkung zu verfolgen.
„Für mich ist dies einer der wichtigsten Aspekte unserer Arbeit", sagt Gupta. „Ein wissenschaftlich interessantes Modell ist nicht automatisch ein vertrauenswürdiges Entscheidungssystem. In unserer industriellen Forschung half uns Fachexpertise, kausale Beziehungen zu validieren und das zu hinterfragen, was die Algorithmen entdeckten. Wir wollen dieselbe Philosophie in die Medizin übertragen, aber mit noch größerer wissenschaftlicher und ethischer Strenge."
„Unsere Krebsforschung befindet sich noch in einem frühen Stadium. Die nächsten Schritte würden die enge Zusammenarbeit mit medizinischen Forscher*innen und Kliniker*innen beinhalten, die Validierung der Modelle anhand geeigneter klinischer Daten und schließlich die Untersuchung prospektiver klinischer Evaluierungen und Studien, wo gerechtfertigt und genehmigt. Das Ziel ist nicht, Ärzt*innen durch KI zu ersetzen, sondern Werkzeuge zu entwickeln, die ihnen letztendlich helfen könnten, komplexe Behandlungsentscheidungen mit größerem Vertrauen zu verstehen."
Folgen Sie diesen Links, um Mehr über KI-Studienprogramme und die Forschungsgruppe von Prof. Wicaksono an der Constructor University zu erfahren.
Erhalten Sie alle Neuigkeiten direkt in Ihren Posteingang.