Recheninfrastruktur für Labor

Technische Universität München

Funktionale Infrastruktur zur Entwicklung von KI, im Wesentlichen bestehend aus GPU-Knoten und Speicher, inklusive nötigen Switchen, Verkabelung, Einbau und Installation an zwei Standorten in München.

Deadline

Die Frist für den Eingang der Angebote war 2024-01-03. Die Ausschreibung wurde veröffentlicht am 2023-11-30.

Wer?

• Technische Universität München

Wie?

• Zentralrechner › Computerkonfigurationen

Wo?

• Köln › Bonn, Kreisfreie Stadt
• Oberbayern › München, Kreisfreie Stadt

Geschichte der Beschaffung

Datum	Dokument
2023-11-30	Auftragsbekanntmachung

Auftragsbekanntmachung (2023-11-30)
Objekt
Umfang der Beschaffung
Titel: Recheninfrastruktur für Labor
Kurze Beschreibung:

Produkte/Dienstleistungen: Computerkonfigurationen 📦
Informationen über Lose
Dieser Vertrag ist in Lose unterteilt ✅
Höchstzahl der Lose, die an einen Bieter vergeben werden können: 2
Angebote können für eine maximale Anzahl von Losen eingereicht werden: 2

1️⃣
Interne Kennung: 1
Titel: ComputeplatformA100
Beschreibung der Beschaffung:

Los 1 Mindestanforderungen: =========================== - 2x NVIDIA DGX-A100 (640 GB) für KI Entwicklung, inkl. DGX OS, DGX-Software-Stack und Support für F+L mit umfassende Hardware- und Software-Wartung und Zugriff auf die optimierten KI-Software-Stacks von NVIDIA (mind. 3 Jahre) per unit: GPUs: 8x NVIDIA Tesla A100 GPUs, PCIe 4.0 GPU Memory: 640 GB total (80 GB pro GPU) CUDA Cores (FP32) 55.296 Tensor Cores (TF32) 3.456 Performance: 5 petaFLOPS AI, 10 petaOPS INT8 Multi Instance GPU support Interconnect GPUs: NVLink Switch 600GB/s CPU: Dual AMD EPYC 7742 128 cores total, 2.25 GHz (base), 3.4 GHz (max boost) System Memory: 2TB DDR4 Networking: 8x Single-Port Mellanox ConnectX-6 VPI, 200Gb/s HDR IB 2x Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200Gb/s Ethernet Storage OS: 2x 1.92TB M.2 NVME drives Internal Storage: 30TB (8x 3.84TB) U.2 NVME drives Software: Ubuntu Linux OS Operat. Temp. Range: 5 - 30 °C System Power Usage: max 6.5kW, 6 power supplies (3+3 red.) Weight / Requirements: 123 kg, 6U in 19"-rack, depth 897 mm - Infiniband Switch für die 2x DGX-A100 (MQM8790-HS2F oder höherwertig), inkl. mind. 3 Jahre Support - Sinnvolle Adapter und Verkabelung für 2x DGX-A100 und Switch (16x Mellanox Passive Copper cable, IB HDR, up to 200Gb/s, 1,5 m oder höherwertig) - 19" Rack mit Stromverteilung passend für 2x DGX-A100 Knoten und Switch. - Lieferung an die TU München, Standort 85748 Garching b. München, inkl. Installation/Einrichtung vor Ort (kein Server Lift vorhanden) und Softwareübergabe

Art des Vertrags: Lieferungen
Postanschrift: Technische Universität München
Postleitzahl: 85748
Stadt: Garching bei München
Land: Deutschland 🇩🇪
Ort der Leistung: München, Kreisfreie Stadt 🏙️
Informationen zu elektronischen Katalogen
Die Angebote müssen in Form von elektronischen Katalogen eingereicht werden oder einen elektronischen Katalog enthalten
Vergabekriterien
Preis ✅
Preis (Gewichtung): 50.0
Qualitätskriterium (Bezeichnung): Lieferzeitpunkt
Qualitätskriterium (Gewichtung): 50.0
Titel
Los-Identifikationsnummer: LOT-0002

2️⃣
Interne Kennung: 2
Titel: ComputeplatformH100
Beschreibung der Beschaffung:

Los 2 Mindestanforderungen: =========================== - 2x NVIDIA DGX-H100 (640 GB) für KI Entwicklung, inkl. DGX OS, DGX-Software-Stack und Support für F+L mit umfassender Hardware- und Software-Wartung und Zugriff auf die optimierten KI-Software-Stacks von NVIDIA (mind. 3 Jahre) per unit: GPUs: 8x NVIDIA Tesla H100 GPUs, PCIe 5.0 GPU Memory: 640 GB total (80 GB pro GPU) CUDA Cores (FP32) 135.168 CUDA Cores (FP64) 67.584 Tensor Cores (TF32) 4.224 Performance: 32 petaFLOPS FP8 Multi Instance GPU support Interconnect GPUs: NVLink Switch 900GB/s CPU: Dual Intel Xeon Platinum 8480C Processors, 112 Cores total, 2.00 GHz (Base), 3.80 GHz (Max Boost) System Memory: 2TB DDR5 Networking: 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 400Gb/s InfiniBand/Ethernet 2x dual-port QSFP112 NVIDIA ConnectX-7 VPI Up to 400Gb/s InfiniBand/Ethernet Storage OS: 2x 1.92TB M.2 NVME drives Internal Storage: 30TB (8x 3.84TB) U.2 NVME drives Software: Ubuntu Linux OS Operat. Temp. Range: 5 - 30 °C System Power Usage: max 11,2 kW, 6 power supplies (4+2 red.) Weight / Requirements: 130 kg, 8U in 19"-rack, depth 897 mm - InfiniBand Switch für die 2x DGX-H100 (MQM9790-NS2F, NVIDIA Quantum 2 based NDR InfiniBand Switch, 64 NDR ports, 32 OSFP ports, 2 Power Supplies (AC), Standard depth, Unmanaged, P2C airflow, Rail Kit, oder höherwertig), inkl. mind. 3 Jahre Support - File Server für Computing mit folgender Konfiguration oder höherwertig: 2HE Rack-Chassis mit redundanten 2000W Netzteilen (80Plus Platinum / 94%) und: 12x 2.5" HotSwap Einschub für NVMe 12x 2.5" HotSwap Einschub für SATA/SAS/NVMe 4x 2.5" HotSwap Einschub für SATA/SAS 3x M.2 NGFF Connector (PCI-E 3.0 x4 Slot: 22110) Motherboard System on Chip 24 DIMM Slots (max. 3072GB DDR5) 2x 10/100/1000Base TX GbE Ports (Intel i350 Dual-Port Gigabit Ethernet Controller) 12x SATA3 (6Gb/s) Ports PCI-E Slots: 2x PCI-E 5.0 x16 Slots (FHHL) Integrated IPMI 2.0 with Dedicated LAN Integrated Aspeed AST2600 BMC 4x USB 3.2 CPU 2x AMD EPYC 9124 16-Core CPU, 200W, 3.00GHz, 64MB L3 Cache, DDR5-4800, Turbo Core max. 3.70GHz, - RAM 768GB (24x 32GB) DDR5-4800 DIMM, REG, ECC, 2R Storage 24x SSD 30.6TB U.3 NVMe, 24x7, 1 DWPD, Micron 9400 PRO 2x SSD 960GB M.2 NVMe, 24x7, 1 DWPD, Micron 7450 PRO Network 1x Broadcom P2100G 100GbE HCA, 2-port, QSFP56 (Broadcom 57508 Dual-Port 100 Gigabit Ethernet Controller) 1x NVIDIA MCX75310AAS-NEAT NDR / 400GbE HCA, 1-port, OSFP (ConnectX-7 VPI Single-Port NDR / 400 Gigabit Ethernet Controller) Sonstiges Einbaukit für 19" Rack 48h Burn-In/Stresstest Gewährleistung: 3 Jahre Vorabaustausch von Teilen, in kritischen Fällen Vor-Ort-Einsatz am nächsten Arbeitstag - Adapter und Verkabelung für Verbindung von IB Switch und File Server (NVIDIA passive copper splitter cable, IB twin port NDR 800Gb/s to 2x400Gb/s, OSFP to 2xOSFP,1.5m, oder höherwertig) - Sinnvolle Adapter und Verkabelung für 2x DGX-H100, Switch und Speicherkonfiguration 2x NVIDIA passive copper splitter cable, IB twin port NDR 800Gb/s to 2x400Gb/s, OSFP to 2xQSFP112,1.5m oder höherwertig und 8x NVIDIA Active copper cable, IB twin port NDR, up to 800Gb/s, OSFP, 3m, flat to finned oder höherwertig - 19" Rack mit Stromverteilung passend für 2x DGX-H100 Knoten und Switch und Speicher. - Lieferung an die TU München, Standort 81675 München, inkl. Installation/Einrichtung vor Ort (kein Server Lift vorhanden) und Softwareübergabe - Max. Budget 858T EUR inkl. MwSt.

Beschreibung der Beschaffung

Postanschrift: Trogerstr. 18
Postleitzahl: 81675
Stadt: München
Titel
Los-Identifikationsnummer: LOT-0003

Verfahren
Art des Verfahrens
Offenes Verfahren ✅
Rechtsgrundlage: Richtlinie 2014/24/EU
Administrative Informationen
Frist für den Eingang von Angeboten oder Teilnahmeanträgen: 2024-01-03 12:00:00 📅
Bedingungen für die Öffnung der Angebote: 2024-01-03 12:01:00 📅
Sprachen, in denen Angebote oder Teilnahmeanträge eingereicht werden können: Deutsch 🗣️
Bedingungen für die Einreichung eines Angebots
Die Bieter können mehrere Angebote einreichen
Eröffnungstermin: 2024-01-03 12:01:00 📅
Elektronischer Katalog: Zulässig
Elektronische Rechnungsstellung: Erforderlich
Die elektronische Bestellung wird verwendet ✅
Elektronische Zahlung wird verwendet ✅
Zusätzliche Informationen:

Der öffentliche Auftraggeber kann den Bewerber oder Bieter unter Einhaltung der Grundsätze der Transparenz und der Gleichbehandlung auffordern, fehlende, unvollständige oder fehlerhafte unternehmensbezogene Unterlagen, insbesondere Eigenerklärungen, Angaben, Bescheinigungen oder sonstige Nachweise, nachzureichen, zu vervollständigen oder zu korrigieren, oder fehlende oder unvollständige leistungsbezogene Unterlagen nachzureichen oder zu vervollständigen.

Vergabekriterien
Gewichtungsart: Gewichtung (Prozentanteil, genau)
Bedingungen für die Einreichung eines Angebots
Der Vertrag enthält Bedingungen zur Vertragsausführung ✅

Rechtliche, wirtschaftliche, finanzielle und technische Informationen
Wirtschaftliche und finanzielle Leistungsfähigkeit
Liste und kurze Beschreibung der Auswahlkriterien:

Eigenerklärung über Gesamtumsatz: Eigenerklärung über den Gesamtumsatz des Bieters, jeweils der letzten drei (3) abgeschlossenen Geschäftsjahre (2020-2022), jeweils in EUR netto. Bei Bietergemeinschaften sind die jeweiligen Gesamtumsätze der Mitglieder pro Geschäftsjahr zu addieren und die Summe ist je Geschäftsjahr unter Gesamtumsatz anzugeben (siehe Vergabeunterlagen).

Bedingungen für den Vertrag
Bedingungen für die Vertragserfüllung:

1. Eigenerklärung zum Nichtvorliegen von Ausschlussgründen nach § 123 Abs. 1-3 GWB; 2. Eigenerklärung zum Nichtvorliegen von Ausschlussgründen nach § 123 Abs. 4 GWB; 3. Eigenerklärung zum Nichtvorliegen von Ausschlussgründen nach § 124 Abs. 1 Nrn. 1-4, 7 GWB; 4. Eigenerklärung zum Nichtvorliegen von Ausschlussgründen nach § 21 Arbeitnehmer-Entsendegesetz, § 98c Aufenthaltsgesetz, § 19 Mindestlohngesetz und § 21 Schwarzarbeitsgesetz

Bedingungen für die Teilnahme
Ausschlussgrund:

Beteiligung an einer kriminellen Vereinigung

Betrugsbekämpfung

Der Zahlungsunfähigkeit vergleichbare Lage gemäß nationaler Rechtsvorschriften

+ 20 weitere

Direkte oder indirekte Beteiligung an der Vorbereitung des Vergabeverfahrens

Einstellung der gewerblichen Tätigkeit

Entrichtung von Steuern

Falsche Angaben, verweigerte Informationen, die nicht in der Lage sind, die erforderlichen Unterlagen vorzulegen, und haben vertrauliche Informationen über dieses Verfahren erhalten.

Geldwäsche oder Terrorismusfinanzierung

Interessenkonflikt aufgrund seiner Teilnahme an dem Vergabeverfahren

Kinderarbeit und andere Formen des Menschenhandels

Konkurs

Korruption

Schwere Verfehlung im Rahmen der beruflichen Tätigkeit

Terroristische Straftaten oder Straftaten im Zusammenhang mit terroristischen Aktivitäten

Vereinbarungen mit anderen Wirtschaftsteilnehmern zur Verzerrung des Wettbewerbs

Vergleichsverfahren

Verstoß gegen arbeitsrechtliche Verpflichtungen

Verstoß gegen sozialrechtliche Verpflichtungen

Verstoß gegen umweltrechtliche Verpflichtungen

Verwaltung der Vermögenswerte durch einen Insolvenzverwalter

Vorzeitige Beendigung, Schadensersatz oder andere vergleichbare Sanktionen

Zahlung der Sozialversicherungsbeiträge

Zahlungsunfähigkeit

Beschreibung der Ausschlussgründe: Zwingende bzw. fakultative Ausschlussgründe nach §§ 123 bis 126 GWB

Öffentlicher Auftraggeber
Name und Adressen
Name: Technische Universität München
Nationale Registrierungsnummer: 09-1512011-61
Postanschrift: Trogerstraße 18
Postleitzahl: 81675
Postort: München
Region: München, Kreisfreie Stadt 🏙️
Land: Deutschland 🇩🇪
E-Mail: peter.schueffler@tum.de 📧
Telefon: +498941408500 📞
Art des öffentlichen Auftraggebers
Regional- oder Kommunalbehörde
Haupttätigkeit
Bildung
Kommunikation
Dokumente URL: https://www.dtvp.de/Satellite/notice/CXP4YK0HDD5/documents 🌏
Teilnahme-URL: https://www.dtvp.de/Satellite/notice/CXP4YK0HDD5 🌏
URL des Beschaffungsinstruments: https://www.dtvp.de/Satellite/notice/CXP4YK0HDD5 🌏
Sprache des Beschaffungsdokuments: Deutsch 🗣️
Elektronische Einreichung: Erforderlich
Elektronischer Katalog: Zulässig

Ergänzende Informationen
Zusätzliche Informationen
Bekanntmachungs-ID: CXP4YK0HDD5
Körper überprüfen
Name: Regierung von Oberbayern Vergabekammer Südbayern
Nationale Registrierungsnummer: 09-0318006-60
Postleitzahl: 80534
Postort: München
Region: München, Kreisfreie Stadt 🏙️
Land: Deutschland 🇩🇪
E-Mail: vergabekammer.suedbayern@reg-ob.bayern.de 📧
Telefon: +49 892176-2411 📞
Fax: +49 892176-2847 📠
Informationen über elektronische Arbeitsabläufe
Die elektronische Rechnungsstellung wird akzeptiert
Quelle: OJS 2023/S 233-734544 (2023-11-30)

Neue Beschaffungen in verwandten Kategorien 🆕

Maschinen, Material und Zubehör für Büro und Computer, außer Möbeln und Softwarepaketen (>20 neue Beschaffungen)

Computeranlagen und Zubehör (>20)

Datenverarbeitungsgeräte (Hardware) (>20)

Zentralrechner (3)