European AI Act and AI Ethics – Was KI Startups jetzt wissen müssen

Der EU AI Act ist das weltweit erste umfassende Regelwerk für Künstliche Intelligenz und soll Risiken minimieren, Innovation fördern und Grundrechte schützen. Die Verordnung tritt schrittweise in Kraft, entsprechend gibt es bei der konkreten Umsetzung noch viele Fragezeichen. Die Veranstaltung “European AI Act & AI Ethics” von AI Startup Rising | hessian.AI bot eine tiefgehende Auseinandersetzung zum jetzigen Stand der Verordnungen und den möglichen Auswirkungen des EU AI Acts auf Startups und das KI-Ökosystem in Europa.

Nach einer kurzen Einführung in die Veranstaltung durch AI Startup Rising Co-Lead Carlina Bennison folgten vier Expert:innen-Inputs, die sich mit ethischen Fragen und den regulatorischen Herausforderungen auseinandersetzten. Anschließend diskutierte ein hochkarätig besetztes Panel mit Manuel Brack (DFKI | TU Darmstadt), Prof. Dr. iur. Janine Wendt (TU Darmstadt) und Anna Spitznagel (trail) unter der Moderation von Coach Stefan Rötzel die Chancen und Risiken des AI Acts, insbesondere mit Blick auf die europäische Wettbewerbsfähigkeit. Auch KI-Startups aus den Formaten Accelerator RISING und AI Startup Competition haben sich mit Fragen und Erfahrungen in die Diskussion eingebracht.

Impulse der Expert:innen

Manuel Brack (AI Researcher, DFKI | AIML Lab | TU Darmstadt | hessian.AI | The Hessian Center for Artificial Intelligence)

Manuel Brack präsentierte sein gemeinsam mit Co-Autor:innen verfasstes Paper „The Cake that is Intelligence. And who gets to bake it“. Mit einer anschaulichen Kuchen-Analogie betrachtete er ethische Herausforderungen entlang der Wertschöpfungskette von Large Language Models: von den „Zutaten“ (Daten) über das „Rezept“ und den „Backprozess“ bis hin zum „Verkosten und Verkaufen“. Dabei machte er deutlich, dass Fehler und Risiken in jeder Phase von Datenerhebung übers Training bis zum Betrieb auftreten können und ein umfassendes Qualitätsmanagement notwendig ist. Sein Appell an Entwickler:innen: Ethische Fragen sollten von Anfang an in den Entwicklungsprozess integriert werden.

Prof. Dr. iur. Janine Wendt (TU Darmstadt | hessian.AI)

Als Expertin für den EU AI Act lieferte Prof. Dr. Janine Wendt eine detaillierte Einordnung der neuen Verordnung. Sie betonte den risikobasierten Ansatz, der nicht alle KI-Produkte gleich behandelt, sondern eine Differenzierung zwischen High- und Low-Risk-KI sowie eine Unterscheidung zwischen KI-Betreibern und KI-Anwendern vorsieht. Ein zentrales Problem: Viele Details der Auslegung sind noch unklar und werden erst in den kommenden Monaten konkretisiert. Wendt forderte Startups daher auf, ihre Bedürfnisse aktiv über Verbände und Netzwerke einzubringen, um eine Balance zwischen Regulierung und Innovationsförderung zu gewährleisten.

Patrick Aurin (Bundesnetzagentur, via Videobotschaft)

Patrick Aurin, Experte für Künstliche Intelligenz bei der Bundesnetzagentur, meldete sich per Videobotschaft zu Wort in der er betonte, dass der AI Act eine Chance für Europa sei, sich als Vorreiter für vertrauenswürdige KI zu positionieren. Gleichzeitig plädierte er dafür, den Bürokratieaufwand gering zu halten und Innovationen nicht auszubremsen. Auch er rief Startups dazu auf, sich aktiv an der Gestaltung der Umsetzungsrichtlinien zu beteiligen.

Anna Spitznagel (CEO, trail)

Anna Spitznagel brachte die Startup-Perspektive ein. Ihr junges Unternehmen trail beschäftigt sich mit Governance und Regulierungen – nicht nur im Zusammenhang mit dem AI Act. Sie konnte die Sorgen der Startups nachvollziehen, dass steigende Bürokratie die Agilität beeinträchtigen könnte, wies aber auch darauf hin, dass Produktsicherheitsanforderungen bereits in vielen Branchen existieren und oft zur Qualitätssicherung beitragen. Gleichzeitig sah sie eine große Chance darin, dass europäische Unternehmen durch Compliance mit dem AI Act ihre Vertrauenswürdigkeit auf dem internationalen Markt stärken könnten.

Diskussionsrunde: Chancen und Risiken des AI Acts

In der von AISR-Coach Stefan Rötzel moderierten Panel-Diskussion stand die Frage der Regulierungsbalance im Zentrum der Diskussion. Die Expert:innen waren sich einig, dass es Regulierungen für neue Technologien wie KI brauche. Gleichzeitig bestehe das Risiko, dass zu hohe bürokratische Hürden oder Unklarheiten Innovationskraft und Wettbewerbsfähigkeit beeinträchtigen könnten.

Manuel Brack hob die exzellente Qualität der KI-Forschung in Europa hervor. Allerdings gelinge es noch zu selten, Forschungsergebnisse in marktfähige Anwendungen zu überführen. hessian.AI | The Hessian Center for Artificial Intelligence gehe hier als positives Beispiel voran; noch gebe es wenige Forschungs- und Innovationszentren, die Forschenden schnell und unkompliziert die notwendige Infrastruktur und zugehörigen Services für KI-Forschungsprojekte bereitstellen würden.

Mit Blick auf die Startups wurde betont, dass die europäischen Startups auch ohne den EU AI Act mit Herausforderungen stünden; so wurden geringe Wagniskapital-Investitionen, ein fragmentierter Markt, das Fehlen globaler europäischer Big-Tech-Player sowie strenge Datenschutzregeln in der Diskussion als Hürden genannt.

Trotz einiger kritischen Stimmen überwog in der Diskussion eine positive Grundhaltung gegenüber dem EU AI Act. Viele der Teilnehmenden sahen darin die Möglichkeit, eine ethisch verantwortungsvolle KI-Entwicklung zu fördern und Europa als Vorreiter für vertrauenswürdige KI zu positionieren. Gerade angesichts der aktuellen politischen Entwicklungen sei es der Gesellschaft ein Anliegen, technologische Fortschritte mit demokratischen Werten zu vereinen.

Fazit: Herausforderung und Chance zugleich

Der EU AI Act ist das weltweit erste umfassende Regelwerk für Künstliche Intelligenz und soll Risiken minimieren, Innovation fördern und Grundrechte schützen. Die Verordnung tritt schrittweise in Kraft, entsprechend gibt es bei der konkreten Umsetzung noch viele Fragezeichen. Die Veranstaltung “European AI Act & AI Ethics” von AI Startup Rising | hessian.AI bot eine tiefgehende Auseinandersetzung zum jetzigen Stand der Verordnungen und den möglichen Auswirkungen des EU AI Acts auf Startups und das KI-Ökosystem in Europa.

Die anwesenden Startups und Expert:innen waren sich einig: Europa hat das Potenzial, eine weltweit führende Rolle in der Entwicklung verantwortungsvoller KI einzunehmen – vorausgesetzt, dass die Rahmenbedingungen eine ausgewogene Balance zwischen Risikoregulierung und Innovationsförderung gewährleisten.