Die intelligente Täuschung
hessian.AI-Professor Frank Jäkel (TU Darmstadt) hat ein Buch über die Fähigkeiten Künstlicher Intelligenz geschrieben – denn die Vorstellungen von Chancen und Risiken von KI gehen weit auseinander. Frank Jäkel liefert eine realistische Einschätzung der Fähigkeiten von KI und erklärt, warum wir uns die Täuschung über die wahre Natur der Maschinen selbst zuzuschreiben haben. Das Buch ist open access publiziert: Die intelligente Täuschung bei transcript Verlag
Fragen an den Autor Professor Dr. Frank Jäkel
Was hat Sie motiviert, Die intelligente Täuschung zu schreiben – und warum gerade jetzt?
Spätestens seit ChatGPT in aller Munde ist und die EU den AI Act auf den Weg gebracht hat, ist das Thema in der breiten Öffentlichkeit angekommen. Dabei erleben wir eine sehr polarisierte Debatte: Während die einen enorme Heilserwartungen in Künstliche Intelligenz setzen, befürchten die anderen den Untergang der Menschheit. Beide Extreme sind stark von Science-Fiction-Szenarien geprägt und haben wenig mit der Realität zu tun. Mein Anliegen war es daher, ein Buch zu schreiben, das die großen Fragen aufgreift, die viele Menschen derzeit bewegen. Und gleichzeitig verständlich erklärt, was bei KI-Systemen „unter der Haube“ wirklich passiert, um eine realistische Einschätzung der Chancen und Risiken von KI zu ermöglichen.
An wen richtet sich Ihr Buch?
Die intelligente Täuschung richtet sich an alle, die sich für KI interessieren und besser verstehen wollen, was diese Systeme tatsächlich können und wie sie funktionieren. Dabei geht es nicht darum, Programmierkenntnisse zu vermitteln, sondern die grundlegenden Prinzipien verständlich zu machen, auf denen KI basiert.
Was ist aus Ihrer Sicht die größte Illusion, die wir uns über Künstliche Intelligenz machen?
Zunächst einmal gibt es keine einheitliche Definition von Intelligenz. Wir sprechen daher von Künstlicher Intelligenz, ohne genau zu wissen, was wir mit Intelligenz eigentlich meinen.
In der Regel bezeichnen wir ein Computersystem als intelligent, wenn es Dinge tut, für die wir beim Menschen ein gewisses Maß an Intelligenz voraussetzen. Beobachten wir ein solches Verhalten an einem System, dann schreiben wir ihm – oft voreilig – Intelligenz zu. Und zwar ohne genau zu verstehen, wie dieses Verhalten zustande kommt und ob es wirklich etwas mit dem zu tun hat, was wir beim Menschen Intelligenz nennen. Genau das bezeichne ich als „intelligente Täuschung“.
Sie sind Kognitionswissenschaftler und forschen bei hessian.AI unter anderem zur Interaktion von Mensch und Maschine. Warum sind wir Menschen so fasziniert davon, Maschinen menschliche Fähigkeiten zuzuschreiben?
Zum einen steckt das schon im Begriff selbst: „Künstliche Intelligenz“ beinhaltet, dass wir natürliche Intelligenz künstlich nachbilden wollen. Also, dass wir versuchen, Maschinen mit menschlicher Intelligenz auszustatten. Zum anderen neigen wir Menschen generell dazu, unserer Umwelt menschliche Fähigkeiten und Absichten zuzuschreiben. Wir sagen: „Der Wind bläst“ oder: „Die Fliege will jetzt aus dem Fenster fliegen.“ Diese Art der Vermenschlichung ist tief in unserer Psychologie verankert. Und deshalb lassen wir uns auch so leicht täuschen, insbesondere, wenn wir KI-Systeme in niedliche Roboter mit großen Augen einbauen oder ChatGPT mit uns in natürlicher Sprache kommuniziert. Das spielt genau mit unseren psychologischen Mechanismen, wodurch wir der KI vorschnell menschliche Intelligenz attestieren.
Welche Fragen sollten Politik, Wirtschaft und Gesellschaft im Umgang mit KI wirklich stellen?
Meiner Ansicht nach sollten wir KI weniger als neues Phänomen betrachten, das Maschinen plötzlich „menschlich“ macht, sondern vielmehr als kontinuierliche Fortsetzung der Automatisierung, die sich über die vergangenen Jahrzehnte entwickelt hat. Wichtig dabei ist, zu unterscheiden: Geht es darum, Tätigkeiten vollständig zu automatisieren – wie damals bei der Entwicklung des Webstuhls – oder nutzen wir KI als Werkzeug, das unsere eigenen Fähigkeiten erweitert? Je nach Anwendungsfall kann beides sinnvoll sein. Die entscheidenden Fragen lauten: Welche Aufgaben wollen wir komplett abgeben, und wo soll KI uns lediglich unterstützen? Und ganz zentral: Wie stellen wir sicher, dass die Verantwortung für wichtige Entscheidungen beim Menschen bleibt? Denn wenn wir diese Verantwortung unreflektiert an KI-Systeme abgeben, laufen wir Gefahr, dass beispielsweise Bürokratien und Unternehmen Entscheidungen automatisieren, die tief in das Leben von Menschen eingreifen, etwa bei der Vergabe von Sozialleistungen, Krediten oder sogar vor Gericht.
Was wünschen Sie sich, dass die Leser:innen aus der Lektüre Ihres Buches mitnehmen?
Dass wir uns nicht zu sehr von den beeindruckenden Tricks der Maschinen blenden lassen und ihnen vorschnell menschliche Intelligenz zuschreiben. Entscheidend ist, zu verstehen, wie diese Systeme funktionieren: nach Prinzipien aus der Informatik. Wer das erkennt, kann den Blick auf die tatsächlichen Chancen und Herausforderungen richten, die KI bereits heute mit sich bringt. Statt die Debatte von Utopien oder Dystopien bestimmen zu lassen, sollten wir uns fragen: Welche Entwicklungsschritte wünschen wir uns, und wie wollen wir diese Technologien einsetzen? Nur so können wir die Zukunft mit KI bewusst und verantwortungsvoll gestalten.
