KI im Amt – High Tech mit sensiblen Daten?

Die öffentliche Verwaltung in Deutschland setzt in zunehmendem Maße algorithmische Entscheidungssysteme ein, die auf Künstlicher Intelligenz (KI) basieren. Die großen Potentiale von KI, die mit der Verwaltung in Verbindung gebracht werden, gehen aber auch mit potentiellen Risiken einher, vor allem im Bereich der Sozialversicherungsbehörden, also zum Beispiel in den Agenturen für Arbeit oder der Rentenversicherung. Das wird Mareike Sirman-Winkler in ihrem Vortrag auf Basis empirischer Fallbeispiele veranschaulichen. Die Einführung von KI im Sozialstaat ist nicht trivial, es gibt eine Reihe von sektorspezifischen Herausforderungen. Welche Rolle spielt beispielsweise die Akzeptanz der Nutzer*innen bei der Einführung solcher Systeme? Zum Schluss wird Mareike noch auf die jüngsten Entwicklungen eingehen und darstellen, vor welche Fragen generative KI (wie ChatGPT) die öffentliche Verwaltung stellt.

Zur Person

Mareike forscht zu Künstlicher Intelligenz aus einer sozialwissenschaftlichen Perspektive. Ihre Forschungsschwerpunkte liegen auf den normativen Konflikten, organisatorischen Herausforderungen und verhaltensbezogenen Konsequenzen von KI-basierten Innovationen in der Sozialverwaltung. Sie ist Politikwissenschaftlerin und promoviert an der Universität Oldenburg.