GPU-Nvidia-DGX-A100-Rechencluster

Kurze Beschreibung

Die Institute für Ingenieurmathematik und Technik Autonomer Systeme beabsichtigen, einen GPU- Rechencluster im Rahmen der DTEC.bw Projekte SeRANIS und MORE für die Entwicklung und Erforschung von Deep Learning und Optimierungsalgorithmen bei der Beseitigung von Weltraumschrott sowie der Umfelderkennung und Verhaltensentscheidung autonomer Straßenfahrzeuge zu beschaffen. Da bereits CUDA- basierte Software und langjähriges KnowHow im Hinblick auf die Architektur von Nvidia vorhanden ist, benötigt die UniBw M zwingend ein Rechencluster bestehend aus GPU-Modulen, dass die Ausführung und Entwicklung von CUDA-basierten Softwarelösungen ermöglicht. Darüber hinaus benötigt die UniBw M ein Storagesystem, das zugleich als ein Dateninterface zum GPU-Rechencluster dient.

Beschreibung der Beschaffung

Die Institute für Ingenieurmathematik und Technik Autonomer Systeme beabsichtigen, einen GPU- Rechencluster im Rahmen der DTEC.bw Projekte SeRANIS und MORE für die Entwicklung und Erforschung von Deep Learning und Optimierungsalgorithmen bei der Beseitigung von Weltraumschrott sowie der Umfelderkennung und Verhaltensentscheidung autonomer Straßenfahrzeuge zu beschaffen. Da bereits CUDA- basierte Software und langjähriges KnowHow im Hinblick auf die Architektur von Nvidia vorhanden ist, benötigt die UniBw M zwingend ein Rechencluster bestehend aus GPU-Modulen, das die Ausführung und Entwicklung von CUDA-basierten Softwarelösungen ermöglicht. Darüber hinaus benötigt die UniBw M ein Storagesystem, das zugleich als ein Dateninterface zum GPU-Rechencluster dient.
GPU-Rechencluster:
Zentrale Anforderungen an den GPU-Rechencluster, bestehend aus vier DGX-A-100-80 Modulen, sind je Modul:
1. Grundlage für das Rechencluster ist eine Kompatibilität der Treiber und der Microarchiterktur der GPU mit CUDA-basierter Software und entsprechenden Bibilotheken.
2. Mindestens Compute Capability 8.0 und Shared Memory pro Streaming Machine (SM) in Höhe von 164 KB.
3. Verfügbarkeit von DRAM im Umfang von mindestens 80 GB je GPU, mit einer Bandbreite von 2 000 GB/s oder höher. Darüber hinaus muss der je Modul zur Verfügung stehende DRAM mindestens 640 GB betragen.
4. Double Precision Support der verfügbaren Tensor Kerne, für hoch genaue Rechenergebnisse, die im wissenschaftlichen Anwendungsbereich unabdingbar sind.
5. Rechenleistung in Single Precision 19,5 Teraflops (TF) und Tensor Float (Single Precision) 312 TF für dünn besetzte Matritzen, sowie Tensor Float (Double Precision) mit 19,5 TF.
6. Duales CPU-on-Board-System mit je 64 Kernen und einem Basistakt von 2,25 GHz, 2x 1,92 TB M.2 NVME Speicher für das Betriebssystem (als RAID-1) sowie 8x TB U.2 NVME Speicher für Zwischenspeicherung von Berechnungsergebenissen und 2 TB RAM.
7. Vollständige Vernetzung der einzelnen Module mit einer Bandbreite von mindestens 100 Gbit/s mittels Infiniband und einem entsprechenden Inifiniband-Switch. Die Infiniband Technologie realisiert mittels des NVLinks der Version 3.0 bereits auf den DGX-Boards die Verbindung zwischen den GPUs. Eine entsprechende Verbindung zum Managementsystem mit dem gleichen Standard ist daher erforderlich, um Konformität in Bandbreite aufrecht zu erhalten.
8. Hardware-Support von 5 Jahren. Dieser muss eine Hardware-Garantie mit Vor-Ort-Austauschservice für kritische Komponenten umfassen.
9. Software-Support für 5 Jahre und Zugriff auf die entsprechenden Nvidia-Entwickler-Repositories,-Tools und Bibliotheken sowie zugehörige Dokumentation.
Storage-System:
Zentrale Anforderungen an das Storage-System:
1. Speichervolumen auf SSD-Basis von mindestens 550 TB (Brutto), verteilt auf 3 Server,
2. Speichervolumen auf HDD-Basis von mindestens 1 792 TB (Brutto), verteilt auf 4 Server Vernetzung,
1. Breitbandige und latenzarme Vernetzung der einzelnen GPU-Modelle aller DGX-Server mit mindestens 100 Gbit/s Infiniband HDR,
2. Verbindung der DGX-Server zu den Storage- und CPU-Servern mit mindestens 200 Gbit/s Infininband HDR,
3. Alle Server müssen über eine separate Netzwerkschnittstelle mit mindestens 10 Gbit/s für die Verbindung zum Hoschuldatennetz verfügen
Montage, Wartung, Support, Administration Zentrale Anforderungen:
1. Installation und Inbetriebanhme des Gesamtsystems vor Ort.
2. Aufrechterhaltung der Aktualität des Softwarestandards durch regelmäßige Updates (u. a. Betriebssystem, Firmware).
3. Der Dienstleister für Wartung / Betrieb muss deutschsprachig sein und über eine langjährige Expertise in der Betreuung und Wartung vergleichbarer Systeme aufweisen.
4. Verfügbarkeit und Erreichbarkeit des Supports spätestens am nächsten Werktag.
5. Management-System für das Scheduling und Deployment von Jobs auf den DGX-A100. Weitere Einzelheiten, insbesondere zu Headnode und CPU-Server, ergeben sich aus der Leistungsbeschreibung.

Liste und kurze Beschreibung der Bedingungen

Mit dem Angebot sollen die Bieber möglichst folgende Unterlagen vorlegen (bei Bietergemeinschaften von jedem Mitglied):
a) Formlose, unterschriebene Eigenerklärung, aus der hervorgeht, dass
— keine Ausschlussgründe im Sinne der §§ 123, 124 GWB vorliegen bzw. erfolgreiche Selbstreinigungsmaßnahmen nach § 125 GWB durchgeführt worden sind,
— der Bieter in das einschlägige Berufsregister oder ein vergleichbares Register (Standeskammern etc.) des Herkunftslandes eingetragen ist sowie für seine Berufshaftpflichtversicherung, seine Krankenkasse(n) und seine Berufsgenossenschaft rückstandslos Beiträge entrichtet hat.
b) Bietergemeinschaften sollen zusätzlich eine Erklärung abgeben, aus der hervorgeht, dass kein Verstoß gegen Kartellrecht vorliegt (z. B. durch Angabe der Gründe, die zur Bildung der Bietergemeinschaft geführt haben) und dass keine unzulässigen wettbewerbsbeschränkenden Absprachen getroffen wurden.

Liste und kurze Beschreibung der Auswahlkriterien

Mit dem Angebot sollen die Bieter möglichst folgende Unterlagen vorlegen (bei Bietergemeinschaften von jedem Mitglied):
Angabe der Gesamtumsätze der letzten 3 abgeschlossenen Geschäftsjahre sowie Angabe der Umsätze der letzten 3 abgeschlossenen Geschäftsjahre mit Leistungen, die mit dem vorliegenden Auftragsgegenstand (Lieferung, Installation, Betrieb und Support von GPU-Rechenclustern mit einem Auftragsvolumen von mehr als 1 Mio. EUR (netto) vergleichbar sind.

Liste und kurze Beschreibung der Auswahlkriterien

Mit dem Angebot sollen die Bieter möglichst folgende Unterlagen vorlegen (bei Bietergemeinschaften von jedem Mitglied):
Liste der vom Bewerber in den letzten 3 Jahren erbrachten Leistungen, die mit der zu vergebenden Leistung vergleichbar sind (Lieferung, Installation, Betrieb und Support von GPU-Rechenclustern mit einem Auftragsvolumen von mehr als 1 Mio. EUR (netto)), unter Angabe des genauen Auftrags, der Auftragssumme,
Des Auftraggebers, der Leistungsart und Leistungszeiträume, der Referenzen mit Ansprechpartnern inkl. Tel.-Nr. Möglicherweise geforderte Mindeststandards:
1. Eigenerklärung, dass der Bieter mindestens über den Partner-Status „Elite“ im DGX-Kontext verfügt;
2. Eigenerklärung, dass der Bieter mindestens über den Partner-Status „Gold“ für das Cluster-Filesystem BeeGFS verfügt.

1. Mehrfachangeobte, als Einzelbieter sowie als Mitglied einer / mehrerer Bietergemeinschaften, sind nicht zulässig. Die Angaben zur Zusammensetzung der Bietergemeinschaften sind grundsätzlich bindend. Ein Austausch einzelner Mitglieder der Bietergemeinschaft vor Auftragsvergabe bedarf der Zustimmung des Auftraggebers.
2. Die UniBw M behält sich vor, Angebote, die den Kostenrahmen in Höhe von 1 190 650,00 EUR (Netto) überschreiten, vom Verfahren auszuschließen, sowie das Verfahren teilweise oder insgesamt aufzuheben, sollten ausschließlich Angebote oberhalb des Kostenrahmens eingehen.

Genaue Informationen über Fristen für Überprüfungsverfahren

Das Verfahren für Verstöße gegen diese Vergabe richtet sich nach den Vorschriften der §§ 160 ff. des Gesetzes gegen Wettbewerbsbeschränkungen (GWB). Zur Wahrung der Fristen wird auf die §§ 160 ff. GWB verwiesen. Insbesondere weisen wir darauf hin, dass der Nachprüfungsantrag gemäß § 160 Abs. 3 Satz 1 Nr. 4 GWB spätestens 15 Kalendertage nach Eingang der Mitteilung des Auftraggebers, einer Rüge nicht abhelfen
Zu wollen, zu stellen ist. Vergabeverstöße sind nach § 160 Abs. 3 Satz 1 Nr. 1 GWB vor Einreichen des Nachprüfungsantrags innerhalb von 10 Kalendertagen, nachdem der Bieter den Verstoß erkannt hat, beim Auftraggeber zu rügen. Vergabeverstöße, die aufgrund der Bekanntmachung erkennbar sind, sind gemäß § 160 Abs. 3 Satz 1 Nr. 2 GWB spätestens bis zum Ablauf der Angebotsfrist bei dem Auftraggeber zu rügen.