Supercomputer für KI-Spitzenforschung in Hessen
Der neue KI-Superrechner des Hessischen Zentrums für Künstliche Intelligenz (hessian.AI) hört auf den Namen fortytwo. Dies verkündete heute hessian.AI, ein von drei hessischen Ministerien gefördertes Zentrum mit dem Ziel, exzellente Spitzenforschung im KI-Bereich zu fördern und in die Breite zu tragen. Dazu gehören auch zentrale Investitionen in KI-Compute-Infrastrukturen sowie darauf aufbauende Services für die Anwendenden.
fortytwo wurde von Hewlett Packard Enterprise (HPE) auf der Grundlage des Apollo 6500 Systems konzipiert und installiert Der KI-Superrechner dient insbesondere der Beantwortung von Forschungsfragen und ihren Anwendungen im Rahmen der dritten Welle der KI. Das neue Rechencluster ist speziell für maschinelles Lernen und Trainieren großer KI-Modelle ausgelegt. Das 14,5 Millionen schwere Projekt wurde maßgeblich von drei hessischen Ministerien (dem Hessischen Ministerium für Wissenschaft und Kunst, dem Hessischen Ministerium für Digitale Strategie und Entwicklung, dem Hessischen Ministerium für Wirtschaft, Energie, Verkehr und Wohnen) sowie dem Bundesministerium für Wissenschaft, Forschung und Bildung (BMBF) durch die Förderlinie der KI-Servicezentren ermöglicht.
Im Maschinenraum von fortytwo verrichten insgesamt 632 NVIDIA A100 Tensor Core GPUs mit je 80GB Speicher sowie vier IPU-Einheiten der Firma Graphcore ihren Dienst. Diese sind auf 80 Computeknoten verteilt, die über ein NVIDIA Quantum Infiniband Hochleistungsnetzwerk miteinander verbunden sind. Um das System schnell mit Daten zu versorgen, stehen 1,2 Petabyte an zentralem Flash-Speicher (IBM Spectrum Scale) über dasselbe Hochleistungsnetzwerk zur Verfügung. Die gemessene Höchstleistung des Systems liegt bei rund 8 PFlops. Damit liegt das System unter den ersten 100 Supercomputern weltweit.
In ähnlicher Weise wie die Zahl 42 als Antwort auf „die ultimative Frage des Lebens, des Universums und allem“ in Douglas Adams Klassiker „Per Anhalter durch die Galaxis“ dient, wird der neue Supercomputer fortytwo den Forschenden und Anwendenden des KI-Zentrums helfen, neue Erkenntnisse und Antworten auf komplexe Fragen in den Bereichen der künstlichen Intelligenz und des maschinellen Lernens zu finden.
fortytwo wird vom Green IT Cube auf dem GSI/FAIR-Campus im Norden Darmstadts beherbergt. Dieser zählt zu den leistungsfähigsten wissenschaftlichen Rechenzentren der Welt. Zugleich setzt er Maßstäbe beim Thema Energiesparen: Dank seiner speziellen Konstruktion und seines effizienten Kühlsystems ist er besonders energie- und kosteneffizient: Der Energieaufwand für die Kühlung beträgt weniger als sieben Prozent der für das Rechnen aufgewendeten elektrischen Leistung. Die TU Darmstadt und das GSI Helmholtzzentrum für Schwerionenforschung unterhalten seit vielen Jahren eine erfolgreiche Kooperation auf dem Gebiet der gemeinsamen Nutzung von Infrastrukturen für die Forschung.
Die Entschlüsselung des menschlichen Geistes ist vergleichbar mit der Erforschung des Urknalls und des menschlichen Erbguts. KI-Systeme wie ChatGPT könnten diesen Traum verwirklichen, da sie auf umfangreichem Texttraining basieren und vielfältige Aufgaben bewältigen können. hessian.AI, als Nukleus eines KI-Ökosystems, fördert solche bahnbrechenden Möglichkeiten in Wissenschaft, Wirtschaft und Gesellschaft. Der KI-Superrechner fortytwo ist der Grundstein für leistungsfähige KI-Anwendungen, der Unternehmen und Forschungseinrichtungen Rechenkraft zur Verfügung stellt. Zusammen können wir dank fortytwo eine europäische ‚Künstliche Vernunft‘ gestalten, die die europäischen Werte von Freiheit und Demokratie widerspiegelt. Danke an alle Beteiligte für das Vertrauen. fortytwo könnte der Grundstein für eine wegweisende ‚CERN für KI‘ Initiative sein.
Kristian Kersting, Co-Direktor hessian.AI
Fortytwo ist ein zukunftsweisender Baustein des starken hessischen KI-Ökosystems. Mit fortytwo etablieren wir eine einzigartige Infrastruktur für Wissenschaftler:innen und Anwender:innen gleichermaßen. So entstehen auch ausgezeichnete Rahmenbedingungen, um die exzellente KI-Forschung in Breite und Tiefe an der TU Darmstadt und aller an hessian.AI beteiligten Hochschulen in Anwendungen zu überführen. Mit Hilfe robuster, sicherer und effizienter KI-Systeme können wir im Austausch mit unseren Partner:innen in Wirtschaft und Gesellschaft Lösungen für globale Herausforderungen und große Zukunftsfragen entwickeln. Ich freue mich, dass wir dieses Ziel dank der großartigen Unterstützung der Hessischen Landesregierung und des Bundes weiterhin in hessian.AI umsetzen können.
Tanja Brühl, Präsidentin der TU Darmstadt
Die neue KI-Welle hat das Potenzial, in Forschungsbereichen wie Klimavorhersage, Krankheitsdiagnose oder Arzneimittel-Entwicklung Durchbrüche zu ermöglichen. Das erfordert außergewöhnliche Supercomputer-Leistung, um große KI-Modelle effektiv zu trainieren, die schneller zu Erkenntnissen führen und Probleme lösen. Wir freuen uns darauf, diese Mission für hessian.AI mit fortytwo voranzubringen, der aus HPE-Supercomputern und dem HPE Machine Learning Development Environment besteht. Die Lösung vereinfacht und beschleunigt die Entwicklung und Inbetriebnahme von KI-Umgebungen, mit denen Entwickler und Datenwissenschaftler Modelle trainieren und bei KI-Projekten zusammenarbeiten können.
Evan Sparks, Chief Product Officer, Artificial Intelligence, Hewlett Packard Enterprise
Die NVIDIA Accelerated Computing Plattform bildet das Herz des neuen fortytwo Supercomputers. Die über NVIDIA NVLink und InfiniBand besonders eng verbundenen Rechenknoten ermöglichen die hochskalierte und performante Berechnung von anspruchsvollsten neuronalen Netzwerken wie Large Language Models (LLM). So lassen sich selbst die größten Modelle mit mehreren hundert Milliarden Parameter effizient auf dem KI-Cluster verteilen, der damit einen wichtigen Beitrag zur KI-Souveränität Europas leisten kann. Wir sind gespannt auf den positiven Impuls auf die KI-Forschung und werden hessian.AI durch die kommende Kollaboration eng dabei unterstützen
Carlo Ruiz, Head of EMEA AI Data Center Solutions, NVIDIA
