HPC Cluster mit partitionierbarem Hochgeschwindigkeitsnetz

Johannes Gutenberg-Universität Mainz

Gegenstand der Beschaffung ist ein HPC Cluster mit partitionierbarem Hochgeschwindigkeitsnetz
Das Cluster besteht aus Knoten mit Server CPUs, und Knoten mit mehreren GPUs. Die Mengenverhältnisse werden im Laufe des Verhandlungsverfahrens bestimmt.
Die Rechner werden entweder mit Luftkühlung oder mit Direktwasserkühlung (evtl. mit teilweiser (<30%) Luftkühlung) betrieben.
Im Falle von Luftkühlung werden die Rechner vom Auftragsnehmer in vorhandene Rittal Racks (120cm tief, 60cm Breit) mit Rittal LCP 60KW Sidecooler eingebaut, der verbrauchte Platz wird mit einem virtuellen Preis in den Gesamtkosten berücksichtigt. Die Racks haben eine eingebaute Stromverteilung von 2x3x32A, bei höherem Bedarf muss eine weiter Verteilung nachgerüstet werden.
Im Falle von Direktwasserkühlung liefert der Auftragnehmer eigene Racks mit Wasserverteilung und Wasser/Wasser Wärmetauscher. Pro 90cm Platz steht ein DN50 Kaltwasservorlauf(12°C) und Warmwasserrücklauf(>18°C) bei eine Druckdifferenz von ca. 1500 hPa zur Verfügung. Das System muss nach einem evtl. späteren Umbau in einen neuen Rechnerraum auch auf Betrieb mit einem Vorlauf von 35°C und einem Rücklauf >40°C umstellbar sein. Die Racks müssen mit eine Strom Verteilung ausgerüstete sein, bei der mindestens pro Phase der Stromverbrauch gemessen wird, diese Messwerte müssen sich durch den Betreiber elektronisch wenigstens 4 mal pro Minute auslesen lassen.
Das Cluster verfügt über 2 Netze: alle Knoten sind mit Ihren Baseboard Management Controler (BMC) über einen nur für das BMC reservierten Netzwerkanschluß an das IPMI_Netzwerk für Hardware-Management und Monitoring angeschlossen. Die Switche des IPMI Netzwerkes benutzen das "private vlan" Feature, um die knoten daran zu hindern, über das IPMI-Netzwerk miteinander zu kommunizieren.
Außerdem verfügen alle Clusterknoten und über Anschüsse an ein Hochgeschwindigkeitsnetz. Die Bandbreite jedes Anschusses wird im Rahmen mit den Vergabeunterlagen mitgeteilt. Dieses Hochgeschwindigkeitsnetz ist mit Softwarebefehlen partitionierbar in mindestens 4 Einzelpartitionen, die nicht miteinander kommunizieren können. Diese Steuerung wird aus nur einer der Partitionen kontrolliert, die Kontrollsoftware schreibt ein Auditlog der Konfiguration.
Die aktuellen Cluster des ZDV werden mit "CentOs", "xcat" und "slurm" betrieben, daher wird eine kompatible Lösung bevorzugt.
Der Maximalenergieverbrauch der angebotenen Lösung lieg in allen Betriebszuständen unter 650KW.
Selektionskriterium wird eine Formel zur Bewertung der Gesamtleistungskosten sein, die die Leistung des Cluster in vorgegebenen Kriterien ins Verhältnis setzt zu den Gesamtkosten (Erstehung und Betrieb) über eine Anzahl Jahre. Die Energieeffizienz des Gesamtsystems geht als ein Faktor in die Bewertungsformel ein. Die genaue Formel und die Leistungskriterien werden erst mit den Leistungsverzeichnissen den ausgewählten Bietern bekanntgegeben.
Das Cluster wird mit "Vor-Ort Service am nächsten Arbeitstag" geliefert, eine genauere Spezifikation erfolgt im Rahmen des Verhandlungsverfahrens.

Deadline

Die Frist für den Eingang der Angebote war 2021-10-04. Die Ausschreibung wurde veröffentlicht am 2021-09-07.

Anbieter

Die folgenden Lieferanten werden in Vergabeentscheidungen oder anderen Beschaffungsunterlagen erwähnt:

Wer? Wie? Wo?
Geschichte der Beschaffung
Datum Dokument
2021-09-07 Auftragsbekanntmachung
2022-01-06 Bekanntmachung über vergebene Aufträge
Auftragsbekanntmachung (2021-09-07)
Objekt
Umfang der Beschaffung
Titel: IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung
Referenznummer: 11096394-18 FIN1
Kurze Beschreibung:
“Gegenstand der Beschaffung ist ein HPC Cluster mit partitionierbarem Hochgeschwindigkeitsnetz Das Cluster besteht aus Knoten mit Server CPUs, und Knoten...”    Mehr anzeigen
Metadaten der Bekanntmachung
Originalsprache: Deutsch 🗣️
Dokumenttyp: Auftragsbekanntmachung
Art des Auftrags: Dienstleistungen
Verordnung: Europäische Union
Gemeinsames Vokabular für öffentliche Aufträge (CPV)
Code: IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung 📦
Zusätzlicher CPV-Code: Server 📦
Ort der Leistung
NUTS-Region: Mainz, Kreisfreie Stadt 🏙️

Verfahren
Verfahrensart: Verhandlungsverfahren
Angebotsart: Angebot für alle Lose
Vergabekriterien
Wirtschaftlichstes Angebot

Öffentlicher Auftraggeber
Identität
Land: Deutschland 🇩🇪
Art des öffentlichen Auftraggebers: Einrichtung des öffentlichen Rechts
Name des öffentlichen Auftraggebers: Johannes Gutenberg-Universität Mainz
Postanschrift: Saarstr. 21
Postleitzahl: 55122
Postort: Mainz
Kontakt
Internetadresse: https://www.verwaltung.finanzen.uni-mainz.de/einkauf/ 🌏
E-Mail: moersdorf@uni-mainz.de 📧
URL der Dokumente: https://Landesverwaltung.vergabe.rlp.de/VMPSatellite/notice/CXPDYDEYMXY/documents 🌏
URL der Teilnahme: https://Landesverwaltung.vergabe.rlp.de/VMPSatellite/notice/CXPDYDEYMXY 🌏

Referenz
Daten
Absendedatum: 2021-09-07 📅
Einreichungsfrist: 2021-10-04 📅
Veröffentlichungsdatum: 2021-09-10 📅
Datum des Beginns: 2022-01-01 📅
Kennungen
Bekanntmachungsnummer: 2021/S 176-457896
ABl. S-Ausgabe: 176
Zusätzliche Informationen

“Bekanntmachungs-ID: CXPDYDEYMXY”

Objekt
Umfang der Beschaffung
Kurze Beschreibung:
“Gegenstand der Beschaffung ist ein HPC Cluster mit partitionierbarem Hochgeschwindigkeitsnetz”

“Das Cluster besteht aus Knoten mit Server CPUs, und Knoten mit mehreren GPUs. Die Mengenverhältnisse werden im Laufe des Verhandlungsverfahrens bestimmt.”
Mehr anzeigen (9)
“Die Rechner werden entweder mit Luftkühlung oder mit Direktwasserkühlung (evtl. mit teilweiser (<30%) Luftkühlung) betrieben.”

“Im Falle von Luftkühlung werden die Rechner vom Auftragsnehmer in vorhandene Rittal Racks (120cm tief, 60cm Breit) mit Rittal LCP 60KW Sidecooler eingebaut,...”    Mehr anzeigen

“Im Falle von Direktwasserkühlung liefert der Auftragnehmer eigene Racks mit Wasserverteilung und Wasser/Wasser Wärmetauscher. Pro 90cm Platz steht ein DN50...”    Mehr anzeigen

“Das Cluster verfügt über 2 Netze: alle Knoten sind mit Ihren Baseboard Management Controler (BMC) über einen nur für das BMC reservierten Netzwerkanschluß...”    Mehr anzeigen

“Außerdem verfügen alle Clusterknoten und über Anschüsse an ein Hochgeschwindigkeitsnetz. Die Bandbreite jedes Anschusses wird im Rahmen mit den...”    Mehr anzeigen

“Die aktuellen Cluster des ZDV werden mit "CentOs", "xcat" und "slurm" betrieben, daher wird eine kompatible Lösung bevorzugt.”

“Der Maximalenergieverbrauch der angebotenen Lösung lieg in allen Betriebszuständen unter 650KW.”

“Selektionskriterium wird eine Formel zur Bewertung der Gesamtleistungskosten sein, die die Leistung des Cluster in vorgegebenen Kriterien ins Verhältnis...”    Mehr anzeigen

“Das Cluster wird mit "Vor-Ort Service am nächsten Arbeitstag" geliefert, eine genauere Spezifikation erfolgt im Rahmen des Verhandlungsverfahrens.”
Geschätzter Gesamtwert: 7 000 000 EUR 💰
Kurze Beschreibung:
“Aus den Bewerbern werden zwischen 4 und 8 Teilnehmer ausgewählt, die die Aufforderung zum Angebot zusammen mit den genauen Spezifikationen erhalten. Weitere...”    Mehr anzeigen
Beschreibung der Optionen:
“Nachkaufoption von vollständig kompatiblen Komponenten (Rechenknoten und Netzwerkkomponenten), mindestens der angebotenen oder einer höheren technischen...”    Mehr anzeigen

“Voraussichtlicher Zeitplan für den Rückgriff auf diese Optionen: innerhalb von 18 Monaten (ab Auftragsvergabe).”
Ort der Leistung
Hauptstandort oder Erfüllungsort:
“Johannes Gutenberg-Universität Mainz Saarstr. 21 55122 Mainz”

Verfahren
Rechtsgrundlage: 32014L0024
Mindestzahl der Bewerber: 4
Höchstzahl der Bewerber: 8
Objektive Kriterien für die Auswahl der begrenzten Anzahl von Bewerbern:
“Siehe Leistungsverzeichnis”
Zeitpunkt des Eingangs der Angebote: 10:30
Datum der Absendung der Aufforderungen: 2021-10-11 📅
Sprachen, in denen Angebote oder Teilnahmeanträge eingereicht werden können: Deutsch 🗣️
Gültigkeitsdauer des Angebots: 2021-12-31 📅

Öffentlicher Auftraggeber
Kontakt
Dokumente URL: https://Landesverwaltung.vergabe.rlp.de/VMPSatellite/notice/CXPDYDEYMXY/documents 🌏

Ergänzende Informationen
Körper überprüfen
Name: Ministerium für Wirtschaft, Verkehr, Landwirtschaft und Weinbau - Vergabeprüfstelle -
Postanschrift: Stiftsstraße 9
Postort: Mainz
Postleitzahl: 55116
Land: Deutschland 🇩🇪
Telefon: +49 6131-16-2546 📞
E-Mail: vergabepruefstelle@mwvlw.rlp.de 📧
Internetadresse: https://mwvlw.rlp.de/de/ministerium/zugeordnete-institutionen/vergabekammer/ 🌏
Informationen zu Fristen für Nachprüfungsverfahren:
“§ 5 Einleitung einer Nachprüfung”

“(1) Beanstandet 1. ein Bieter oder Bewerber nach der Information nach § 4 Abs. 1 und vor Ablauf der nach § 4 Abs. 2 Satz 1 bestimmten Frist oder 2. ein...”    Mehr anzeigen
Mehr anzeigen (5)
“(2) Ein Bieter oder Bewerber kann beim Auftraggeber trotz erteiltem Zuschlag die Nichteinhaltung der Vergabevorschriften auch dann schriftlich nach § 126...”    Mehr anzeigen

“§ 11 Gebühren des Verfahrens vor der Vergabeprüfstelle”

“(1) Für Amtshandlungen der Vergabeprüfstelle werden Gebühren zur Deckung des Verwaltungsaufwands erhoben.”

“(2) Die Höhe der Gebühren bestimmt sich nach dem personellen und sachlichen Aufwand der Vergabeprüfstelle unter Berücksichtigung der wirtschaftlichen...”    Mehr anzeigen

“(3) Gebühren werden nicht erhoben, wenn die Nachprüfung ergibt, dass ein Bieter oder Bewerber zu Recht das Vergabeverfahren beanstandet hat. Aufwendungen...”    Mehr anzeigen
Für Mediationsverfahren zuständige Stelle
Name: Schlichtungsstelle der Handwerkskammer Rheinhessen
Postanschrift: Dagobertstraße 2
Postort: Mainz
Postleitzahl: 55131
Land: Deutschland 🇩🇪
Telefon: +49 6131-9992-0 📞
E-Mail: info@hwk.de 📧
Internetadresse: www.hwk-rheinhessen.de 🌏
Dienststelle, bei der Informationen über das Überprüfungsverfahren eingeholt werden können
Name: EIC Trier IHK/HWK Europa- und Innovationscentre GmbHEIC Trier IHK/HWK Europa- und Innovationscentre GmbH
Postanschrift: Herzogenbuscher Str. 14
Postort: Trier
Postleitzahl: 54292
Land: Deutschland 🇩🇪
Telefon: +49 651-97567-0 📞
E-Mail: info@eic-trier.de 📧
Fax: +49 651-97567-33 📠
Internetadresse: https://www.eic-trier.de/ 🌏
Quelle: OJS 2021/S 176-457896 (2021-09-07)
Bekanntmachung über vergebene Aufträge (2022-01-06)
Objekt
Umfang der Beschaffung
Referenznummer: TED56-2RP051P01/2021-000134
Kurze Beschreibung:
“Gegenstand der Beschaffung ist ein HPC Cluster mit partitionierbarem Hochgeschwindigkeitsnetz Das Cluster besteht aus Knoten mit Server CPUs, und Knoten...”    Mehr anzeigen
Gesamtwert des Auftrags: 7 300 000 EUR 💰
Metadaten der Bekanntmachung
Dokumenttyp: Bekanntmachung über vergebene Aufträge

Verfahren
Angebotsart: Entfällt

Öffentlicher Auftraggeber
Identität
Name des öffentlichen Auftraggebers: Johannes Gutenberg Universität Mainz

Referenz
Daten
Absendedatum: 2022-01-06 📅
Veröffentlichungsdatum: 2022-01-11 📅
Kennungen
Bekanntmachungsnummer: 2022/S 007-014170
Verweist auf Bekanntmachung: 2021/S 176-457896
ABl. S-Ausgabe: 7

Verfahren
Vergabekriterien
Qualitätskriterium (Bezeichnung): Die Störungsannahme ist telefonisch rund um die Uhr möglich
Qualitätskriterium (Gewichtung): 20
Qualitätskriterium (Bezeichnung): Auch bei Meldung von Störungen nach der Stichzeit für Next-Business-Day-Support beginnt die telefonische Analyse unverzüglich oder zumindest am nächsten Tag.
Qualitätskriterium (Gewichtung): 10
Qualitätskriterium (Bezeichnung): Bewertung der einfachen Erweiterbarkeit der Netze: Zentrale IPMI-Switch und Core-Switches im RDMA-Netz haben noch mehr als einen Port frei
Beurteilung des Aufwands bei Bios- und Firmwareupdates, Änderungen der Bioseinstellunge
Qualitätskriterium (Gewichtung): 15
Qualitätskriterium (Bezeichnung): Latenz des RDMA-Netzes (OSU_Multi_lat, 8 Paare) kleiner 2 µs
Die Knoten haben einen freien PCIe 4.0 x16 Slot für Erweiterungen
Qualitätskriterium (Gewichtung): 100
Qualitätskriterium (Bezeichnung): Switches unterstützen MPI Collective Offloads
Qualitätskriterium (Gewichtung): 50
Qualitätskriterium (Bezeichnung): Alle Edgeswitches haben redundante Netzteile
Beurteilung der Supportqualität
Beurteilung der Technischen Qualität
Vereinfachter Betrieb im neuen RZ (Anteil Direktwasserkühlung)
Ersatzteil sparebestand vor Ort wird bewertet (5 NVMe, 5 DIMMS der hauptsächlich verendeten Größe, HBA, Kabel, evtl. Ersatzswitches)
Clustermanagementsoftware steht auch für MOGON 2 zur Verfügung
NVMe über M.2/U.2, gleiche NVMe, Wearout im Betrieb abrufbar
Knoten an Edgeswitches im gleichen Rack, alternativ mit Glasfaser außerhalb
Qualitätskriterium (Gewichtung): 25
Qualitätskriterium (Bezeichnung): Granularität der Strommessungen (Rack, Leiste, Phase, Knoten)
Kostenkriterium (Name): Umzug durch Dritte und/oder (un)verbindliches Angebot für Umzug
Kostenkriterium (Gewichtung): 10

Auftragsvergabe
Datum des Vertragsabschlusses: 2021-12-21 📅
Name: NEC Deutschland GmbH
Postort: Düsseldorf
Land: Deutschland 🇩🇪
Düsseldorf 🏙️
Gesamtwert des Auftrags: 7 300 000 EUR 💰
Informationen über Ausschreibungen
Anzahl der eingegangenen Angebote: 2

Ergänzende Informationen
Körper überprüfen
Name: Vergabekammern Rheinland-Pfalz
Quelle: OJS 2022/S 007-014170 (2022-01-06)