Hasso-Plattner-Institut
 

Die Angebote im Bereich Rechenressourcen des KISZ-BB

Beispiele unterstützer Anforderungen:

  • Bedarf an GPU-basierten Systemen für Trainings- und Inferenzaufgaben
  • Nutzung von High-Performance-Computing (HPC) Ressourcen
  • Kosten- und Leistungsanalyse für unterschiedliche Workloads und Hardware-Typen

Sollten Sie andere Anforderungen haben, benutzen Sie gerne unser Kontaktformular!

Heterogene Infrastruktur

Voraussichtlich ab Januar 2024 stellt das KISZ eine heterogene KI-Infrastruktur bereit, die Anforderungen und Bedürfnisse verschiedener Interessensgruppen erfüllt, z.B. von Forschung, Start-ups oder kleinen/mittelständischen Unternehmen. Neben einem spezialisierten Trainings- und Inferenzcluster umfasst sie ein ARM-basiertes System sowie kleinere und mittlere Allzweck-Server. Diese Infrastruktur ermöglicht die Untersuchung von Edge-Anwendungen, Vergleich von Kosten und Leistung verschiedener Hardware-Typen und bietet flexible Lösungen bei der Entwicklung, Optimierung und Implementierung komplexer KI-Modelle in Produktionsumgebungen. 

 

Heterogene KI-Infrastruktur des KISZ

Trainingscluster

Das Trainingscluster besteht aus NVIDIA DGX-H100 Basepods mit je 80 GB VRAM, die mit 400 Gb/s Infiniband bzw. 200 Gb/s Ethernet kommunizieren können. Die H100 Rechenknoten sind dabei mit einem Schnellspeichersystem verbunden, das direktes Schreiben aus dem Arbeitsspeicher der GPU auf den persistenten Speicher ermöglicht.

Inferenzcluster

Bei der Anwendung trainierter Modelle auf potentiell unbekannte Dateneingaben kommen mehrere NVIDIA A30 Tensor-Core-GPUs zum Einsatz, die mit einem 25 Gb/s Infiniband bzw. 40 Gb/s Ethernet kommunizieren.

Leistungsbeschreibung

Ab Ende 2023 öffnet das KISZ eine Recheninfrastruktur für externe Interessierte. Um die Hürde für die Implementierung eigener KI-Anwendungen zu senken, werden kuratierte Daten, Modelle und Software Stacks angeboten. Neben den Rechenressourcen kann auf eine breite Palette von Beratungsangeboten zugegriffen werden, die Sie bei der Auswahl passender Modelle, Software-Stacks und Hardware für Ihre spezifische KI-Anwendung unterstützen.

Zur Unterstützung bei der Auswahl passender Ressourcen melden Sie sich gerne für eines der Beratungsangebote an, bei denen Sie sich auch zu Vor- und Nachteilen von Cloud, On-Premise und Hybrid-Lösungen beraten lassen können.

Ablauf: Nutzung Rechenressourcen

Um die Ressourcen des KISZ verwenden zu können, reichen Sie bitte einen kurzen Projektsteckbrief mit den wichtigsten Informationen zum Projekt über unser Anmeldeformular ein. Je nach Verfügbarkeit der Rechenressourcen erhalten Sie dann eine Zusage über Ihre Nutzungspezifika. Bitte nehmen Sie vorab die Nutzungsbedingungen zur Kenntnis.

  1. Anfrage über Formular
  2. Ressourcenzusage
  3. Schaffung der Nutzungsvoraussetzungen
  4. Zugang zu Rechenressourcen
  5. Dokumentation der Ergebnisse und Artefakte