AI Academy I AI Agent Hacks & GTC 2025 Insights

Agenda
17:30 Uhr Türen Öffnen
18:00 Uhr Willkommen
18:15 Uhr How to Hack an Agent – or Not · Thomas Fraunholz
18:45 Uhr Networking mit Snacks und Getränken
19:45 Uhr AI & Data Strategy after NVIDIA GTC 2025 · Alexander Hendorf
20:15 pm Lightning Talks
20:30 pm Networking mit Snacks und Getränken
9:00 pm Ende

Vortrag #1
How to Hack an Agent – or Not · Thomas Fraunholz @Smart Labs AI
Große Sprachmodelle (LLMs) sind nicht so sicher, wie sie scheinen. Sie neigen nicht nur zum „Halluzinieren“, sondern können auch mit Hilfe von Jailbreaks und Adversarial Prompts manipuliert werden, um Sicherheitsvorkehrungen zu umgehen, die sie unter Kontrolle halten sollen. Die wirkliche Herausforderung entsteht jedoch, wenn LLMs mit Agenten verbunden werden, die über reale Fähigkeiten verfügen, wie z. B. das Versenden von E-Mails. Dieser Vortrag befasst sich mit den Sicherheitsrisiken von KI-Agenten und der laufenden Forschung, um sie widerstandsfähiger zu machen. Anhand der Herausforderung „Adaptive Prompt Injection: LLMail Inject“ von der IEEE Conference on Secure and Trustworthy Machine Learning als Fallstudie wird untersucht, wie Microsofts Phi3 und OpenAIs GPT-4o-mini mit gegnerischen Angriffen umgehen. Wir werden Sicherheitstechniken wie LLM-Richter, Task-Drift-Erkennung und Prompt-Shields erläutern – wichtige Konzepte, da die Sicherheitsanforderungen des EU AI Act im August 2025 in Kraft treten. Die Teilnehmer erhalten einen Einblick in die Stärken und Schwächen aktueller KI-Sicherheitsmechanismen und lernen praktische Strategien zur Bewertung der Sicherheit von KI-Agenten in Produktionsumgebungen kennen.

Über den Speaker
Thomas ist ein MLOps- und NLP-Experte mit einem Hintergrund in angewandter Mathematik und Embedded Programming. Er hat zwei öffentlich geförderte KI-Forschungsprogramme mit dem Deutschen Zentrum für Luft- und Raumfahrt geleitet und konzentriert sich derzeit auf KI-gesteuerte Cybersicherheit bei Smart Labs AI. In seiner Freizeit entwickelt er ein Low-Budget-Drohnensystem zur Erkennung von Borkenkäferbefall und verbindet dabei seine Leidenschaft für KI und eingebettete Systeme.

Vortrag #2
AI & Data Strategy after NVIDIA GTC 2025 · Alexander Hendorf @opotoc
Die NVIDIA GTC ist eine der einflussreichsten Konferenzen im Bereich der künstlichen Intelligenz, auf der Fortschritte in den Bereichen Accelerated Computing, Robotik, Gesundheitswesen und Finanzen vorgestellt werden. In diesem Vortrag wird Alexander Hendorf seine wichtigsten Eindrücke von der Konferenz teilen und sich dabei auf das konzentrieren, was für die Community am wichtigsten ist. Von modernster KI-Hardware und Modelloptimierung bis hin zu realen Anwendungen in der Robotik, im Gesundheitswesen und in der Finanzmodellierung werden wir untersuchen, wie sich diese Technologien auf Daten-Workflows auswirken. Freuen Sie sich auf Einblicke in die praktische Anwendung von KI, die neuesten Durchbrüche bei der GPU-Beschleunigung und die Frage, was für Datenwissenschaftler und Ingenieure tatsächlich nützlich ist (und was nur ein Hype).

Über den Speaker
Alexander ist Data Intelligence- und KI-Experte mit über 20 Jahren Erfahrung in der Digitalisierung und datengesteuerten Entscheidungsfindung. Als unabhängiger Berater ist er auf die Umsetzung und Vermittlung von KI-Strategien spezialisiert. Er ist ein häufiger Redner und Moderator auf internationalen Konferenzen wie PyCon DE, PyData Berlin und EuroPython, außerdem ist er Python Software Foundation Fellow und EuroPython Fellow. Er ist im Vorstand des Python Software Verbands und leitet seit 2024 Pioneers Hub, eine gemeinnützige Organisation, die sich der Unterstützung von Tech-Communities widmet.

*Bitte registriert euch für das Meetup, in dem ihr dem „Anmelden“-Button folgt.
**Das Event findet in Englisch statt.