700-05 IT-Ausschreibung

Kurze Beschreibung

Die detaillierten Beschreibungen der notwendigen Hardware entnehmen Sie der nachfolgenden Leistungstabelle. Die Tabelle spezifiziert erschöpfend die Informationen zu jeder System-Kategorie im Hinblick auf Hardware, Software, Service, Garantie, sowie die benötigten InfiniBand-Kabel zur Realisierung der geplanten HPC-Infrastruktur.
Die geforderten Systeme wurden auf vier Lose aufgeteilt, entsprechend des Einsatzes der jeweiligen Systeme. Dabei spezifiziert
Los 1 die Leistungstabelle für das GPU-gestützte Forschungsserversystem,
Los 2 die Anforderungen für das GPU-gestützte Inferenzserversystem,
Los 3 die Speicherinfrastruktur und
Los 4 das CPU-System.

Beschreibung der Beschaffung

Das UKA (Auftraggeberin/AG) dient laut Art. 2 Bayerisches Universitätsklinikagesetz (BayUniKlinG) der universitären Forschung und Lehre und dem wissenschaftlichen Fortschritt und nimmt daran ausgerichtet Aufgaben der Krankenversorgung wahr. Die AG schreibt eine Rahmenvereinbarung i.S. § 21 der Vergabeverordnung (VgV) für Lieferung und Leistungen zum Aufbau einer auf Grafikprozessoren (GPU) sowie leistungsstarken CPU-Rechnern basierenden Infrastruktur für die Forschung und den Einsatz von u.a. auf künstlicher Intelligenz beruhenden Infrastruktur zur personalisierten Medizin und klinischen Entscheidungsunterstützung aus.
Die Infrastruktur muss dabei aus den folgenden vier Komponenten bestehen:
(1) GPU-System als Trainingseinheit,
(2) GPU-System als Inferenzeinheit, jeweils mit InfiniBand- Vernetzung zur hochperformanten Datenübertragung
(3) Speichersystem inklusive Headnode, sowie
(4) ein Hochleistungs-CPU-System.
Die GPU-Systeme müssen aus Gründen der Kompatibilität mit existierender Software und laufenden Forschungsprojekten NVIDIA DGX-Systeme sein. Die Konzeption und Architektur des Systems, die Lieferung der zugehörigen Hard- und Software, die Herstellung der Betriebsbereitschaft des Gesamtsystems und der notwendige Service und Support obliegt der Auftragnehmerin (AN).
Die angebotene Infrastruktur muss durch hochperformante InfiniBand-Vernetzung erweiterbar und an sekundäre Infrastrukturen anbindbar sein.
Die detaillierten Beschreibungen der notwendigen Hardware entnehmen Sie der nachfolgenden Leistungstabelle. Die Tabelle spezifiziert erschöpfend die Informationen zu jeder System-Kategorie im Hinblick auf Hardware, Software, Service, Garantie, sowie die benötigten InfiniBand-Kabel zur Realisierung der geplanten HPC-Infrastruktur.

Beschreibung der Beschaffung

Los 2 die Anforderungen für das GPU-gestützte Inferenzserversystem
Prozessor 2x x86_64-kompatible Prozessoren mit jeweils 32 physikalische Cores pro Prozessor, mind. 2,6GHz Basistakt
Arbeitsspeicher 2TB DDR4-3200MHz ECC reg.
Netzwerk Insgesamt acht Hochgeschwindigkeits- Netzwerkkarten (Single-Port) zur Node-to-Node Kommunikation. Diese müssen dem Standard 200Gb/s HDR InfiniBand entsprechen.
Zusätzlich zwei dedizierte Netzwerk-Adapter zur externen Storage-Anbindung. Diese müssen jeweils über zwei Schnittstellen verfügen (Dual- Port) und wahlweise als 200Gb/s HDR InfiniBand oder 200Gb/s Ethernet konfigurierbar sein.
Laufwerke SSD/HDD zwei 1.92 TB M.2 NVME SSDs für das Betriebssystem
30 TB lokaler Storage. Dieser muss aus Performancegründen mit U.2 NVME SSDs realisiert sein
Gehäuse 6 Höheneinheiten, luftgekühlt (Strömungsrichtung von vorne nach hinten)
Netzteil Die Stromversorgung ist auf 230V AC / 50 Hz ausgelegt. Es werden Anschlusskabel (3m) mitgeliefert, mit denen der Server an bereitgestellte Rack-PDUs (C13 bei 10A bzw. CEE 7/3 „Schuko“ bei 16A).angeschlossen werden kann .
Der Ausfall mehrerer Netzteile kann toleriert werden (N+N Redundanz). Selbst bei N-1 funktionierender Netzteile muss zumindest das Hostsystem booten können.
GPU Acht GPUs mit jeweils 80 GB Speicher und CUDA Compute Capability >= 8.0, miteinander verbunden ohne Einsatz von PCI-Express. Die Bandbreite zwischen zwei beliebige GPUs muss mindestens 600 GB/s (bi-direktional) betragen. Die Gesamtbandbreite muss mindestens 4.8 TB/s betragen (non-blocking). Die GPU Speicherbandbreite muss mindestens 2.0 TB/s betragen (Bandbreite zum lokalen GPU- Speicher)
Anforderungen/ Kriterien S/W Der Server wird komplett betriebsfertig konfiguriert geliefert und in dem bereitgestellten Rackspace installiert, inklusive Strom- und Infiniband-Verkabelung.
Es ist keine weitere Installation von Software notwendig. Dies umfasst sowohl das grundlegende Betriebssystem wie auch notwendige Virtualisierungs-schichten zur Ausführung fertiger Container-Images.
Ein Cloud-basierter Update-Service für alle Software-, Treiber- und Firmware-Komponenten wird angeboten
Betriebsfertige Docker-Images für mindestens die Deep Learning Frameworks Caffe, TensorFlow, Theano, Torch (pyTorch) und CNTK sind verfügbar und werden unterstützt
OOB ManagementDer Server verfügt über eine Fernwartungs- Schnittstelle (Baseboard Management Controller BMC) mit unbeschränkter KVM-Funktionalität für Monitoring und zur Kontrolle der Betriebsparameter. Der BMC besitzt eine dedizierte Netzwerk-Schnittstelle
Service Zugriff auf ein RMA-Portal zur Durchführung und Dokumentation eines notwendigen Teileaustauschs
Versand des Austauschteils (Customer Replaceable Unit) am nächsten Arbeitstag nach RMA-Bestätigung
Vor-Ort Einsatz (Field Replacement Unit) durch Techniker. Kosten für Anreise und Arbeitszeit sind inkludiert
Zugriff auf ein online Support-Portal (24x7) mit direktem Zugang zur Wissensdatenbank und Troubleshooting Informationen
Call Center (24x7) mit telefonischer Unterstützung für Support Service Anfragen
Technische Unterstützung (Telefon, Email) durch qualifizierte Techniker mit direktem Zugriff auf Software Stack Experten (CUDA, SDK, Applikationen, Frameworks)
Zugriff auf Supported Software Service Subscription (umfasst technischen Support, Wartung, Updates und Upgrades) für alle vor-installierten Software- Komponenten
Zugriff auf Deep-Learning / Machine-Learning Container-Software in einer optimierten Version für den angebotenen Server
Zugang zu einer GPGPU Cloud, inklusive Management, Monitoring und Scheduling Funktionalitäten zur Unterstützung des angebotenen Produkts
Remote-Wartung durch Techniker auf Wunsch über Fernwartungs-Schnittstelle inklusive Ausführung von integrierten Diagnosetools
Umfassender Applikations-Support für führende DL-/ML- Frameworks durch KI-Experten
Alle genannten Servicekriterien sind für 3 Jahre zu gewährleisten.
Gewährleistung 24 Monate gesetzliche Gewährleistung
Garantie: Sämtliche Bedingungen der gesetzlichen Gewährleistung gem. BGB müssen im Rahmen einer Garantie für 1 weiteres Jahr auf insgesamt 3 Jahre erfüllt werden (inkl. H/W- Komponenten-Vorabaustausch, Reaktionszeit 24h)
Zudem wird der Server mit 3 Jahren Enterprise-Grade Service angeboten. Eine Verlängerung des Service-Vertrags nach 3 Jahren muss möglich sein.
Infiniband 1 x NVidia/Mellanox MQM8790-HS2F Quantum Infiniband Switch HDR
1 x NVidia/Mellanox Support and Warranty, Silver 3 years
4x Mellanox Passive Copper cable, IB HDR, up to 200Gb/s, QSFP56, LSZH, 2m, black pulltab, 26AWG

Beschreibung der Beschaffung

Prozessor 1x x86_64-kompatibler Prozessor mit 16 physikalischen Cores, mind. 3,0 GHz Basistakt
Arbeitsspeicher 512GB DDR4-3200MHz ECC reg.
Netzwerk 2x 10GBase-T LAN
Dual 200Gb/s VPI Infiniband-HBA
IT-Mode HBA für extern per SAS (4x Mini-SAS HD mit je 12Gb/s) angebundenen JBOD
2x Mellanox Passive Copper cable, IB HDR, up to 200Gb/s, QSFP56, LSZH, 2m, black pulltab, 26AWG
4x Mini-SAS HD extern Kabel (SFF-8644), 2m
Laufwerke SSD/HDD 2 x 256GB OS M.2-NVMe
8 x U.2-NVMe 7,68TB (61,44TB Brutto)
Gehäuse 1 Höheneinheit
NetzteilRedundant (1+1), inkl. Kabel (3m) zum Anschluss an C13 Rack-PDU
OOB ManagementDer Server verfügt über eine Fernwartungs- Schnittstelle (Baseboard Management Controller BMC) mit unbeschränkter KVM-Funktionalität für Monitoring und zur Kontrolle der Betriebsparameter. Der BMC besitzt eine dedizierte Netzwerk-Schnittstelle
Gewährleistung 24 Monate gesetzliche Gewährleistung
Garantie: Sämtliche Bedingungen der gesetzlichen Gewährleistung gem. BGB müssen im Rahmen einer Garantie für 1 weiteres Jahr erfüllt werden (Reaktionszeit 24h)
JBOD
Laufwerke SSD/HDD 60 x 18TB HDDs mit Conventional Magnetic Recordning Technologie (CMR)
Konnektivität4x Mini-SAS HD (12Gb/s)
Gehäusemaximal 4 Höheneinheiten
NetzteilRedundant (1+1), inkl. Kabel (3m) zum Anschluss an C13 Rack-PDU
OOB ManagementDer JBOD verfügt über eine Fernwartungs- Schnittstelle (Baseboard Management Controller BMC) für Monitoring und zur Kontrolle der Betriebsparameter. Der BMC besitzt eine dedizierte Netzwerk-Schnittstelle
Gewährleistung 24 Monate gesetzliche Gewährleistung
GarantieSämtliche Bedingungen der gesetzlichen Gewährleistung gem. BGB müssen im Rahmen einer Garantie für 1 weiteres Jahr erfüllt werden (Reaktionszeit 24h)

Beschreibung der Beschaffung

Prozessor 2x x86_64-kompatible Prozessoren mit jeweils 32 physikalische Cores pro Prozessor, mind. 2.6GHz Basistakt
GPU-Support 2 Dual Slot Passiv gekühlte GPUs müssen möglich sein
Arbeitsspeicher 2048GB DDR4-3200MHz ECC reg
Netzwerk Dual 10GBase-T LAN ports
1x Dual 200Gb/s VPI Infiniband-HBA
2x Mellanox Passive Copper cable, IB HDR, up to 200Gb/s, QSFP56, LSZH, 2m, black pulltab, 26AWG
Laufwerke SSD/HDD 2 x OS SSDs mit jeweils 240GB
2 x lokaler SSD Storage mit jeweils 1,92TB
Netzteil 1600W Redundant Power Supplies Titanium Level
GPU-Karte GPU mit mindestens 80 GB HBM2e Double-Precision Performance: FP64: 9.7 TFLOPS
FP64 Tensor Core: 19.5 TFLOPS Single-Precision Performance: FP32: 19.5 TFLOPS
Tensor Float 32 (TF32): 156 TFLOPS | 312 TFLOPS*
Half-Precision Performance: 312 TFLOPS | 624TFLOPS*
Bfloat16: 312 TFLOPS | 624 TFLOPS* Multi-Instance GPU (MIG): Up to 7 GPU instances
(Various instance sizes with up to 7MIGs @5GB) Graphics Bus: PCI Express 4.0 x16
Anforderungen/ Kriterien S/W vorkonfigurierte Software inkl. aller benötigten
konfigurierten Softwarepakete für Deep Learning, Machine Learning, AI
Service komplette Systemintegration und Stabilitätstest
OOB ManagementDer Server verfügt über eine Fernwartungs- Schnittstelle (Baseboard Management Controller BMC) mit uunbeschränkter KVM-Funktionalität für Monitoring und zur Kontrolle der Betriebsparameter. Der BMC besitzt eine dedizierte Netzwerk-Schnittstelle
Gewährleistung 24 Monate gesetzliche Gewährleistung
Garantie: Sämtliche Bedingungen der gesetzlichen Gewährleistung
gem. BGB müssen im Rahmen einer Garantie für 1 weiteres Jahr erfüllt werden (Reaktionszeit 24h)

Liste und kurze Beschreibung der Bedingungen

Direkter Link zur Eigenerklärung -- siehe Link https://www.staatsanzeiger-eservices.de/aJs/EuBekEigenUrl?z_param=249038
Es ist ein aktueller Handelsregisterauszug, nicht älter als 3 Monate in Kopie oder ein entsprechender Firmenregisterauzug vorzulegen.

Liste und kurze Beschreibung der Auswahlkriterien

Direkter Link zur Eigenerklärung -- siehe Link https://www.staatsanzeiger-eservices.de/aJs/EuBekEigenUrl?z_param=249038
Es ist eine Berufs- oder Betriebshaftpflichtversicherung mit einer Deckungssumme für Personen- und Sachschäden in Höhe von 1.000.000,- EUR und einer Deckungssumme für Vermögensschäden von 1.000.000,- EUR je Schadensfall bei einem, in einem Mitgliedstaat der EU oder eines Vertragsstaates des Abkommens über den Europäischen Wirtschaftsraum zugelassenen Versicherungsunternehmens vor Vertragsschluss abzuschließen und nachzuweisen.Die Berufs- oder Betriebshaftpflichtversicherung muss während der gesamten Vertragszeit unterhalten und nachgewiesen werden. Es ist zu gewährleisten, dass zur Deckung eines Schadens aus dem Vertrag Versicherungsschutz in Höhe der genannten Deckungssummen besteht. In jedem Fall ist der Nachweis zu erbringen, dass die Maximierung der Ersatzleistung pro Versicherungsjahr mindestens das Zweifache der Deckungssumme beträgt.Die geforderte Sicherheit kann auch durch eine Erklärung des Versicherungsunternehmens (nicht ausreichend: Versicherungsmakler) erfüllt werden, mit dieses den Abschluss der geforderten Haftpflichtleistungen und Deckungsnachweise im Auftragsfall zusichert.Bei Versicherungsverträgen mit Pauschaldeckungen (also ohne Unterscheidung nach Sach- und Personenschäden) ist eine Erklärung des Versicherungsunternehmens erforderlich, dass beide Schadenskategorien im Auftragsfall nebeneinander mit den geforderten Deckungssummen abgesichert sind.

Bieterfragen sind ausschließlich über die Vergabeplattform und so rechtzeitig zustellen, dass dem Auftraggeber eine Beantwortung spätestens 6 Tage vor Ablauf der Angebotsfrist möglich ist. Der Auftraggeber behält sich vor, im Vergabeverfahren nicht rechtzeitig gestellte Fragen gar nicht oder innerhalb von weniger als 6 Tagen vor Ablauf der Angebotsfrist zu beantworten.