Erklimmen der Leiter der Kausalität: Die Reise der KI über einfache Korrelationen hinaus
Über Florian Busch
Florian Busch ist Doktorand an der Technischen Universität Darmstadt und hessian.AI. Nach seinem Bachelor- und Masterstudium der Informatik mit den Schwerpunkten Künstliche Intelligenz und Maschinelles Lernen erforscht er nun, wie Künstliche Intelligenz Ursache und Wirkung verstehen kann.
Die Leiter der Kausalität und die Grenzen der KI
In unserem Gespräch hebt Florian Busch eine Dreiteilung in der Kausalitätsforschung hervor, die auf die Arbeiten des bekannten Forschers Judea Pearl zurückgeht.
In seiner „Leiter der Kausalität“ unterscheidet Pearl zwischen:
- Assoziationen: Diese umfassen Vorhersagen auf der Grundlage passiver Beobachtungen und bilden daher lediglich Korrelationen.
- Interventionen: Dabei handelt es sich um eine Veränderung des Bestehenden, also eine Vorhersage, was passiert, wenn man gezielt in ein System eingreift.
- Kontrafaktische Aussagen: Diese befassen sich mit der Frage, was passiert wäre, wenn bestimmte Bedingungen anders gewesen wären, also mit dem, was hätte sein können.
Busch forscht an Methoden, die es der KI ermöglichen sollen, zu verstehen, welche Ursachen zu welchen Wirkungen führen – also die Stufen 2 und 3 der Kausalitätsleiter zu verstehen. Dies steht im Gegensatz zu den meisten aktuellen KI-Modellen, die lediglich Korrelationen abbilden und damit auf Stufe 1 angesiedelt sind.
Sum-Product Networks: Ein Werkzeug zur Erforschung der Kausalität
Ein wesentliches Instrument in der Arbeit von Busch sind die sogenannten Sum Product Networks (SPN). Diese Modelle dienen der Berechnung von Wahrscheinlichkeiten und sind ursprünglich nur auf Korrelationen ausgerichtet. Buschs Ziel ist es, diese Netzwerke so anzupassen, dass sie auch Interventionen und kontrafaktische Aussagen verarbeiten können, um ein umfassendes Bild der Kausalität in KI-Systemen zu liefern.
Eine große Herausforderung für seine Forschung sieht Busch darin, dass kausale Modelle größtenteils auf sehr spezifische Annahmen angewiesen sind, die in der Praxis oft nicht erfüllt werden. Bei einfacheren Problemen mit wenigen Variablen funktionierten die Methoden gut, bei komplexeren Problemen mit vielen Variablen oft nicht mehr.
Sein Ziel ist es daher auch, die Skalierbarkeit der Modelle zu verbessern, um sie für komplexere Probleme mit vielen Variablen einsetzen zu können, wie sie in der realen Welt häufig vorkommen.
In unserem Gespräch betont Busch auch die positive Rolle von hessian.AI für seine Forschung, insbesondere hinsichtlich der Freiheit in der Forschungsarbeit und der Vernetzungsmöglichkeiten. Die Organisation ermögliche ihm produktive Kooperationen und biete Plattformen wie die AI-Con, die Einblicke in verschiedene Forschungsfelder ermöglichten.
Kausalität in Medizin und Klimaforschung
Buschs Forschung hat das Potenzial, einen wichtigen Beitrag zur Entwicklung der KI zu leisten. Er betont, dass viele Bereiche der KI derzeit ohne Kausalität auskommen, ein tieferes Verständnis von Kausalzusammenhängen aber für intelligentere und breiter einsetzbare KI-Systeme unerlässlich ist.
Ein interessantes Anwendungsfeld sieht er beispielsweise in der Medizin, wo solche Modelle die Wirkung von Medikamenten nachvollziehbar machen und von anderen Einflüssen wie dem Placebo-Effekt abgrenzen könnten. Auch im Kampf gegen den Klimawandel könnten die Modelle hilfreich sein. „Es gibt viele Daten und auch Wissen, aber wenn man ein Modell hätte, das Kausalzusammenhänge lernt, sowohl Interventionen als auch kontrafaktische, dann könnte man neue Fragen stellen, könnte verstehen, was Ursache und Wirkung ist“, sagt Busch.
