Projekt 464 TP 1: Sicherheit von KI-Systemen: Grundlagen — Teilprojekt 1: Adversarial Deep Learning

Bundesamt für Sicherheit in der Informationstechnik

Der Auftragsgegenstand ist die Erstellung einer Studie, in welcher die Sicherheitseigenschaften von konnektionistischen KI-Modellen (Neuronale künstliche Intelligenz) untersucht werden. In der Studie soll ein Überblick über den aktuellen Stand der Technik und Forschung für folgende Teilbereiche ausgearbeitet werden:
1. Techniken welche darauf abzielen die Funktion von Deep Learning-Systemen ganz oder teilweise einzuschränken oder zu missbrauchen (z. B. Adversarial Examples/Evasion Attacks, Data Poisoning),
2. Techniken die — über das gewünschte Maß hinaus — Informationen aus konnektionistischen KI-Systemen extrahieren (z. B. Model Extraction),
3. Verteidigungsmaßnahmen gegen Methoden aus 1. & 2. (z. B. Adversarial Training, Adversarial Examples Detection, Backdoor Detection),
4. Methoden, welche die Robustheit von Deep Learning-Modellen zertifizieren oder verifizieren (z. B. Certification of Model Robustness),
5. 1-4 soweit anwendbar mindestens in den Domänen Objekt Detektion, Image Segmentation, Natural Language Processing, Netzwerk/Malware und Speech Analysis
Konkrete Inhalte der Studie sollen sein:
Erfassung, Kategorisierung und Zusammenfassung der Forschung zum oben genannten Themenkomplex:
— Es sollen relevante Angriffsvektoren und Gegenmaßnahmen kategorisiert und hinsichtlich ihrer Wirksamkeit untersucht bzw. bewertet werden.
— Es soll erfasst werden, welche konkreten ungelösten Probleme derzeit in der KI-Sicherheit existieren. Insbesondere sollen Restrisiken, die derzeit nicht hinreichend mitigiert werden können, identifiziert und bewertet werden.
— In ausgewählten Bereichen soll eine tiefgehende Untersuchung stattfinden. Die Schwerpunkte werden unten aufgeführt.
Die Ergebnisse sollen geeignet sein, um:
— darauf basierend eine technische Richtlinie zum aktuellen Stand der Sicherheit in der KI zu erstellen (zumindest für die Schwerpunktbereiche);
— Kriterien zu definieren, die im Rahmen von Zertifizierungen oder Testierungen verwendet werden können;
— Best-Practices abzuleiten.

Deadline

Die Frist für den Eingang der Angebote war 2020-09-22. Die Ausschreibung wurde veröffentlicht am 2020-08-18.

Anbieter

Die folgenden Lieferanten werden in Vergabeentscheidungen oder anderen Beschaffungsunterlagen erwähnt:

• Fraunhofer Gesellschaft zur Förderung der angewandten Forschung e. V.

Wer?

• Bundesamt für Sicherheit in der Informationstechnik

Wie?

• IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung

Wo?

• Köln › Bonn, Kreisfreie Stadt

Geschichte der Beschaffung

Datum	Dokument
2020-08-18	Auftragsbekanntmachung
2021-01-20	Bekanntmachung über vergebene Aufträge

Auftragsbekanntmachung (2020-08-18)
Objekt
Umfang der Beschaffung
Titel: IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung
Referenznummer: P 464 TP 1
Kurze Beschreibung:

Der Auftragsgegenstand ist die Erstellung einer Studie, in welcher die Sicherheitseigenschaften von konnektionistischen KI-Modellen (Neuronale künstliche Intelligenz) untersucht werden. In der Studie soll ein Überblick über den aktuellen Stand der Technik und Forschung für folgende Teilbereiche ausgearbeitet werden: 1. Techniken welche darauf abzielen die Funktion von Deep Learning-Systemen ganz oder teilweise einzuschränken oder zu missbrauchen (z. B. Adversarial Examples/Evasion Attacks, Data Poisoning), 2. Techniken die — über das gewünschte Maß hinaus — Informationen aus konnektionistischen KI-Systemen extrahieren (z. B. Model Extraction), 3. Verteidigungsmaßnahmen gegen Methoden aus 1. & 2. (z. B. Adversarial Training, Adversarial Examples Detection, Backdoor Detection), 4. Methoden, welche die Robustheit von Deep Learning-Modellen zertifizieren oder verifizieren (z. B. Certification of Model Robustness), 5. 1-4 soweit anwendbar mindestens in den Domänen Objekt Detektion, Image Segmentation, Natural Language Processing, Netzwerk/Malware und Speech Analysis Konkrete Inhalte der Studie sollen sein: Erfassung, Kategorisierung und Zusammenfassung der Forschung zum oben genannten Themenkomplex: — Es sollen relevante Angriffsvektoren und Gegenmaßnahmen kategorisiert und hinsichtlich ihrer Wirksamkeit untersucht bzw. bewertet werden. — Es soll erfasst werden, welche konkreten ungelösten Probleme derzeit in der KI-Sicherheit existieren. Insbesondere sollen Restrisiken, die derzeit nicht hinreichend mitigiert werden können, identifiziert und bewertet werden. — In ausgewählten Bereichen soll eine tiefgehende Untersuchung stattfinden. Die Schwerpunkte werden unten aufgeführt. Die Ergebnisse sollen geeignet sein, um: — darauf basierend eine technische Richtlinie zum aktuellen Stand der Sicherheit in der KI zu erstellen (zumindest für die Schwerpunktbereiche); — Kriterien zu definieren, die im Rahmen von Zertifizierungen oder Testierungen verwendet werden können; — Best-Practices abzuleiten.

Kurze Beschreibung

Der Auftragsgegenstand ist die Erstellung einer Studie, in welcher die Sicherheitseigenschaften von konnektionistischen KI-Modellen (Neuronale künstliche Intelligenz) untersucht werden. In der Studie soll ein Überblick über den aktuellen Stand der Technik und Forschung für folgende Teilbereiche ausgearbeitet werden:

1. Techniken welche darauf abzielen die Funktion von Deep Learning-Systemen ganz oder teilweise einzuschränken oder zu missbrauchen (z. B. Adversarial Examples/Evasion Attacks, Data Poisoning),

2. Techniken die — über das gewünschte Maß hinaus — Informationen aus konnektionistischen KI-Systemen extrahieren (z. B. Model Extraction),

3. Verteidigungsmaßnahmen gegen Methoden aus 1. & 2. (z. B. Adversarial Training, Adversarial Examples Detection, Backdoor Detection),

4. Methoden, welche die Robustheit von Deep Learning-Modellen zertifizieren oder verifizieren (z. B. Certification of Model Robustness),

5. 1-4 soweit anwendbar mindestens in den Domänen Objekt Detektion, Image Segmentation, Natural Language Processing, Netzwerk/Malware und Speech Analysis

Konkrete Inhalte der Studie sollen sein:

Erfassung, Kategorisierung und Zusammenfassung der Forschung zum oben genannten Themenkomplex:

— Es sollen relevante Angriffsvektoren und Gegenmaßnahmen kategorisiert und hinsichtlich ihrer Wirksamkeit untersucht bzw. bewertet werden.

— Es soll erfasst werden, welche konkreten ungelösten Probleme derzeit in der KI-Sicherheit existieren. Insbesondere sollen Restrisiken, die derzeit nicht hinreichend mitigiert werden können, identifiziert und bewertet werden.

— In ausgewählten Bereichen soll eine tiefgehende Untersuchung stattfinden. Die Schwerpunkte werden unten aufgeführt.

Die Ergebnisse sollen geeignet sein, um:

— darauf basierend eine technische Richtlinie zum aktuellen Stand der Sicherheit in der KI zu erstellen (zumindest für die Schwerpunktbereiche);

— Kriterien zu definieren, die im Rahmen von Zertifizierungen oder Testierungen verwendet werden können;

— Best-Practices abzuleiten.

Metadaten der Bekanntmachung
Originalsprache: Deutsch 🗣️
Dokumenttyp: Auftragsbekanntmachung
Art des Auftrags: Dienstleistungen
Verordnung: Europäische Union
Gemeinsames Vokabular für öffentliche Aufträge (CPV)
Code: IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung 📦
Zusätzlicher CPV-Code: IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung 📦
Ort der Leistung
NUTS-Region: Bonn, Kreisfreie Stadt 🏙️

Verfahren
Verfahrensart: Offenes Verfahren
Angebotsart: Angebot für alle Lose
Vergabekriterien
Wirtschaftlichstes Angebot

Öffentlicher Auftraggeber
Identität
Land: Deutschland 🇩🇪
Art des öffentlichen Auftraggebers: Ministerium oder sonstige zentral- oder bundesstaatliche Behörde
Name des öffentlichen Auftraggebers: Bundesamt für Sicherheit in der Informationstechnik
Postanschrift: Postfach 200363
Postleitzahl: 53133
Postort: Bonn
Kontakt
Internetadresse: https://www.bsi.bund.de 🌏
E-Mail: vergabestelle@bsi.bund.de 📧
URL der Dokumente: https://www.evergabe-online.de/tenderdetails.html?id=346209 🌏
URL der Teilnahme: https://www.evergabe-online.de/tenderdetails.html?id=346209 🌏

Referenz
Daten
Absendedatum: 2020-08-18 📅
Einreichungsfrist: 2020-09-22 📅
Veröffentlichungsdatum: 2020-08-21 📅
Kennungen
Bekanntmachungsnummer: 2020/S 162-393482
ABl. S-Ausgabe: 162

Objekt
Umfang der Beschaffung
Kurze Beschreibung:

1. Techniken welche darauf abzielen die Funktion von Deep Learning-Systemen ganz oder teilweise einzuschränken oder zu missbrauchen (z. B. Adversarial Examples/Evasion Attacks, Data Poisoning),

2. Techniken die — über das gewünschte Maß hinaus — Informationen aus konnektionistischen KI-Systemen extrahieren (z. B. Model Extraction),

3. Verteidigungsmaßnahmen gegen Methoden aus 1. & 2. (z. B. Adversarial Training, Adversarial Examples Detection, Backdoor Detection),

4. Methoden, welche die Robustheit von Deep Learning-Modellen zertifizieren oder verifizieren (z. B. Certification of Model Robustness),

5. 1-4 soweit anwendbar mindestens in den Domänen Objekt Detektion, Image Segmentation, Natural Language Processing, Netzwerk/Malware und Speech Analysis

Konkrete Inhalte der Studie sollen sein:

Erfassung, Kategorisierung und Zusammenfassung der Forschung zum oben genannten Themenkomplex:

— Es sollen relevante Angriffsvektoren und Gegenmaßnahmen kategorisiert und hinsichtlich ihrer Wirksamkeit untersucht bzw. bewertet werden.

— Es soll erfasst werden, welche konkreten ungelösten Probleme derzeit in der KI-Sicherheit existieren. Insbesondere sollen Restrisiken, die derzeit nicht hinreichend mitigiert werden können, identifiziert und bewertet werden.

— In ausgewählten Bereichen soll eine tiefgehende Untersuchung stattfinden. Die Schwerpunkte werden unten aufgeführt.

Die Ergebnisse sollen geeignet sein, um:

— darauf basierend eine technische Richtlinie zum aktuellen Stand der Sicherheit in der KI zu erstellen (zumindest für die Schwerpunktbereiche);

— Kriterien zu definieren, die im Rahmen von Zertifizierungen oder Testierungen verwendet werden können;

— Best-Practices abzuleiten.

S. Punkt II 1.4.

Dauer: 14 Monate
Beschreibung der Optionen:

AP 3 – „Detail-Analyse“ ist eine optionale Leistung. Diese muss vom Bieter angeboten werden, der Auftraggeber verzichtet jedoch ggf. generell auf deren Beauftragung.

Die Beauftragung von AP3 kann bis spätestens 2 Wochen nach Abnahme von AP 2 erfolgen.

Ort der Leistung
Hauptstandort oder Erfüllungsort: Beim Auftragnehmer

Rechtliche, wirtschaftliche, finanzielle und technische Informationen
Bedingungen für die Teilnahme
Technische und berufliche Fähigkeiten:

1. Ausschluss eines Interessenskonflikts

Bestätigen Sie, dass weder Sie noch Ihre Partner im Fall einer Bietergemeinschaft noch ggf. Unterauftragnehmer Interessen haben, die mit der Ausführung der Leistungen dieses Projekts im Widerspruch stehen und die sich ggf. nachteilig auf das Projektergebnis auswirken könnten? Eingeschlossen von dieser Bestätigung ist das bei dem Projekt eingesetzte Personal.

Bitte mit „JA“ oder „NEIN“ beantworten.

Ein Interessenskonflikt liegt beispielsweise bei einer Verpflichtung gegenüber oder Kooperation mit dem Hersteller eines untersuchten Produkts oder durch eine sonstige wirtschaftliche Abhängigkeit vom genannten vor.

Mindestanforderung: Wurde die Frage mit „Nein“ beantwortet (= es besteht ein Interessenskonflikt), so erläutern Sie den Konflikt und stellen Sie dar, wie Sie ihn auflösen wollen. Das Angebot kann in diesem Fall nur berücksichtigt werden, wenn der beschriebene Lösungsansatz vom BSI als ausreichend beurteilt wird.

Führen Sie im Angebot lediglich den Titel des Kriteriums sowie Ihre Antwort auf. Verzichten Sie auf die wörtliche oder sinngemäße Zitierung des Kriteriums.

2. Referenzen

Benennen Sie die Beratungs- bzw. Untersuchungsprojekte im Bereich KI die in den letzten 3 Jahren von Ihrem Unternehmen, den Mitgliedern der Bietergemeinschaft und den Unterauftragnehmern durchgeführt wurden als Nachweis, dass KI ein wesentliches Arbeitsfeld der beteiligten Unternehmen ist.

Gehen Sie dabei auf folgende Punkte ein:

— Auftraggeber inkl. Fachbereich;

— (detaillierte) Darstellung des Auftragsgegenstands/der Tätigkeit;

— Umfang;

— Dauer;

— Auftragsvolumen.

Aus den Ausführungen müssen sich Rückschlüsse auf die Leistungsfähigkeit des Bieters/der Bietergemeinschaft (ggf. unter Einbeziehung eines Unterauftragnehmers (Eignungsleihe)) im oben genannten Bereich ziehen lassen. Die Darstellung sollte 2 DIN A4-Seiten pro Referenz nicht überschreiten. Es sollten nicht mehr als 5 Referenzen eingereicht werden.

Es werden keine Referenzschreiben früherer Auftraggeber benötigt.

Mindestanforderung: Benennung und Beschreibung von mindestens einer geeigneten Referenz.

Referenzen sind geeignet, wenn die der Referenz zu Grunde liegenden Projekte hinsichtlich der fachlichen und technischen Leistungsfähigkeit im Wesentlichen ähnliche Anforderungen an die Unternehmen gestellt haben wie die ausgeschriebene Leistung.

Sollte eine Referenz die Mindestanforderung von Nr. 2 und Nr. 3 erfüllen, ist diese für die Erfüllung beider Eignungskriterien ausreichend.

3. Referenzen: Sicherheit von KI-Mathoden

Weisen Sie mindestens ein Projekt mit Schwerpunkt „Sicherheit von KI-Methoden“ nach, das von Ihrem Unternehmen, den Mitgliedern der Bietergemeinschaft oder den Unterauftragnehmern innerhalb der letzten 3 Jahre erfolgreich durchgeführt wurde, und welches mit der hier zu vergebenden Leistung vergleichbar ist (Dauer, Umfang, Inhalt) oder darüber hinaus geht.

Aus den Ausführungen müssen sich Rückschlüsse auf die Leistungsfähigkeit des Bieters/der Bietergemeinschaft (ggf. unter Einbeziehung eines Unterauftragnehmers (Eignungsleihe)) bei Projekten mit oben genanntem Schwerpunkt ziehen lassen. Die Darstellung sollte eine DIN A4-Seite pro Referenzprojekt nicht überschreiten.

4. Technische Ausrüstung

Geben Sie einen kurzen Überblick über das technische Equipment, welches Ihnen zur Verfügung steht und von Ihnen zur Erbringung der hier ausgeschriebenen Leistung eingesetzt wird. Berücksichtigen Sie hierbei, dass im Rahmen von AP 2 & 3 auch praktische Implementierungen durchgeführt werden müssen. Für die digitale Abstimmung und Präsentationen zwischen AG und AN wird außerdem ein System für Telefon- und Videokonferenzen benötigt.

Mindestanforderung: Der Bieter ist aus Sicht des BSI in der Lage, die hier zu vergebende Leistung mit Hilfe der beschriebenen technischen Ausrüstung erfolgreich zu erbringen.

Auftragsausführung
Bedingungen für die Vertragserfüllung: Ausführungsbedingungen gemäß Auftragsunterlagen.

Verfahren
Rechtsgrundlage: 32014L0024
Zeitpunkt des Eingangs der Angebote: 14:00
Sprachen, in denen Angebote oder Teilnahmeanträge eingereicht werden können: Deutsch 🗣️
Gültigkeitsdauer des Angebots: 3 Monate
Datum der Angebotseröffnung: 2020-09-22 📅
Zeitpunkt der Angebotseröffnung: 14:00

Öffentlicher Auftraggeber
Kontakt
Dokumente URL: https://www.evergabe-online.de/tenderdetails.html?id=346209 🌏

Ergänzende Informationen
Körper überprüfen
Name: Vergabekammer des Bundes beim Bundeskartellamt
Postanschrift: Villemombler Str. 76
Postort: Bonn
Postleitzahl: 53123
Land: Deutschland 🇩🇪
Telefon: +49 228-94990 📞
E-Mail: info@bundeskartellamt.bund.de 📧
Fax: +49 228-9499400 📠
Internetadresse: http://www.bundeskartellamt.de 🌏
Informationen zu Fristen für Nachprüfungsverfahren:

Unternehmen haben Anspruch darauf, dass das BSI die Bestimmungen über das Vergabeverfahren einhält, vgl. § 97 Abs. 6 Gesetz gegen Wettbewerbsbeschränkungen (GWB). Rechte aus § 97 Abs. 6 GWB sowie sonstige Ansprüche gegen das BSI, die auf die Vornahme oder das Unterlassen einer Handlung in einem Vergabeverfahren gerichtet sind, können nur vor den Vergabekammern und dem Beschwerdegericht geltend gemacht werden, § 156 Abs. 2 GWB. Die Vergabekammer leitet ein Nachprüfungsverfahren nur auf Antrag ein, § 160 Abs. 1 GWB.

Es wird darüber belehrt, dass ein solcher Nachprüfungsantrag gemäß § 160 Abs. 3 Satz 1 GWB unzulässig ist, soweit:

1. Der Antragsteller den geltend gemachten Verstoß gegen Vergabevorschriften vor Einreichen des Nachprüfungsantrags erkannt und gegenüber dem BSI nicht innerhalb einer Frist von 10 Kalendertagen gerügt hat; der Ablauf der Frist nach § 134 Absatz 2 GWB bleibt unberührt,

2. Verstöße gegen Vergabevorschriften, die aufgrund der Bekanntmachung erkennbar sind, nicht spätestens bis zum Ablauf der in der Bekanntmachung benannten Frist zur Bewerbung oder zur Angebotsabgabe gegenüber dem BSI gerügt werden,

3. Verstöße gegen Vergabevorschriften, die erst in den Vergabeunterlagen erkennbar sind, nicht spätestens bis zum Ablauf der Frist zur Bewerbung oder zur Angebotsabgabe gegenüber dem BSI gerügt werden,

4. Mehr als 15 Kalendertage nach Eingang der Mitteilung des BSI, einer Rüge nicht abhelfen zu wollen, vergangen sind.

Die o. g. 4 Unzulässigkeitsgründe gelten gemäß § 160 Abs. 3 Satz 2 GWB nicht bei einem Antrag auf Feststellung der Unwirksamkeit des Vertrags nach § 135 Abs. 1 Nr. 2 GWB. § 134 Abs. 1 Satz 2 GWB bleibt unberührt.

Quelle: OJS 2020/S 162-393482 (2020-08-18)

Bekanntmachung über vergebene Aufträge (2021-01-20)
Objekt
Umfang der Beschaffung
Kurze Beschreibung:

Der Auftragsgegenstand ist die Erstellung einer Studie, in welcher die Sicherheitseigenschaften von konnektionistischen KI-Modellen (Neuronale künstliche Intelligenz) untersucht werden. In der Studie soll ein Überblick über den aktuellen Stand der Technik und Forschung für folgende Teilbereiche ausgearbeitet werden: 1. Techniken welche darauf abzielen die Funktion von Deep Learning-Systemen ganz oder teilweise einzuschränken oder zu missbrauchen (z. B. Adversarial Examples / Evasion Attacks, Data Poisoning), 2. Techniken die – über das gewünschte Maß hinaus – Informationen aus konnektionistischen KI-Systemen extrahieren (z. B. Model Extraction), 3. Verteidigungsmaßnahmen gegen Methoden aus 1. & 2. (z.B. Adversarial Training, Adversarial Examples Detection, Backdoor Detection), 4. Methoden, welche die Robustheit von Deep Learning-Modellen zertifizieren oder verifizieren (z.B. Certification of Model Robustness), 5. 1-4 soweit anwendbar mindestens in den Domänen Objekt Detektion, Image Segmentation, Natural Language Processing, Netzwerk/Malware und Speech Analysis. Konkrete Inhalte der Studie sollen sein: Erfassung, Kategorisierung und Zusammenfassung der Forschung zum oben genannten Themenkomplex — Es sollen relevante Angriffsvektoren und Gegenmaßnahmen kategorisiert und hinsichtlich ihrer Wirksamkeit untersucht bzw. bewertet werden, — Es soll erfasst werden, welche konkreten ungelösten Probleme derzeit in der KI-Sicherheit existieren. Insbesondere sollen Restrisiken, die derzeit nicht hinreichend mitigiert werden können, identifiziert und bewertet werden, — In ausgewählten Bereichen soll eine tiefgehende Untersuchung stattfinden. Die Schwerpunkte werden unten aufgeführt. Die Ergebnisse sollen geeignet sein, um — darauf basierend eine technische Richtlinie zum aktuellen Stand der Sicherheit in der KI zu erstellen (zumindest für die Schwerpunktbereiche), — Kriterien zu definieren, die im Rahmen von Zertifizierungen oder Testierungen verwendet werden können, — Best-Practices abzuleiten.

Kurze Beschreibung

Der Auftragsgegenstand ist die Erstellung einer Studie, in welcher die Sicherheitseigenschaften von konnektionistischen KI-Modellen (Neuronale künstliche Intelligenz) untersucht werden. In der Studie soll ein Überblick über den aktuellen Stand der Technik und Forschung für folgende Teilbereiche ausgearbeitet werden:

1. Techniken welche darauf abzielen die Funktion von Deep Learning-Systemen ganz oder teilweise einzuschränken oder zu missbrauchen (z. B. Adversarial Examples / Evasion Attacks, Data Poisoning),

2. Techniken die – über das gewünschte Maß hinaus – Informationen aus konnektionistischen KI-Systemen extrahieren (z. B. Model Extraction),

3. Verteidigungsmaßnahmen gegen Methoden aus 1. & 2. (z.B. Adversarial Training, Adversarial Examples Detection, Backdoor Detection),

4. Methoden, welche die Robustheit von Deep Learning-Modellen zertifizieren oder verifizieren (z.B. Certification of Model Robustness),

5. 1-4 soweit anwendbar mindestens in den Domänen Objekt Detektion, Image Segmentation, Natural Language Processing, Netzwerk/Malware und Speech Analysis.

Konkrete Inhalte der Studie sollen sein:

Erfassung, Kategorisierung und Zusammenfassung der Forschung zum oben genannten Themenkomplex

— Es sollen relevante Angriffsvektoren und Gegenmaßnahmen kategorisiert und hinsichtlich ihrer Wirksamkeit untersucht bzw. bewertet werden,

— Es soll erfasst werden, welche konkreten ungelösten Probleme derzeit in der KI-Sicherheit existieren. Insbesondere sollen Restrisiken, die derzeit nicht hinreichend mitigiert werden können, identifiziert und bewertet werden,

— In ausgewählten Bereichen soll eine tiefgehende Untersuchung stattfinden. Die Schwerpunkte werden unten aufgeführt.

Die Ergebnisse sollen geeignet sein, um

— darauf basierend eine technische Richtlinie zum aktuellen Stand der Sicherheit in der KI zu erstellen (zumindest für die Schwerpunktbereiche),

— Kriterien zu definieren, die im Rahmen von Zertifizierungen oder Testierungen verwendet werden können,

— Best-Practices abzuleiten.

Gesamtwert des Auftrags: 324 429 EUR 💰
Metadaten der Bekanntmachung
Dokumenttyp: Bekanntmachung über vergebene Aufträge

Verfahren
Angebotsart: Entfällt

Referenz
Daten
Absendedatum: 2021-01-20 📅
Veröffentlichungsdatum: 2021-01-25 📅
Kennungen
Bekanntmachungsnummer: 2021/S 016-037037
Verweist auf Bekanntmachung: 2020/S 162-393482
ABl. S-Ausgabe: 16

Objekt
Umfang der Beschaffung
Kurze Beschreibung:

1. Techniken welche darauf abzielen die Funktion von Deep Learning-Systemen ganz oder teilweise einzuschränken oder zu missbrauchen (z. B. Adversarial Examples / Evasion Attacks, Data Poisoning),

2. Techniken die – über das gewünschte Maß hinaus – Informationen aus konnektionistischen KI-Systemen extrahieren (z. B. Model Extraction),

3. Verteidigungsmaßnahmen gegen Methoden aus 1. & 2. (z.B. Adversarial Training, Adversarial Examples Detection, Backdoor Detection),

4. Methoden, welche die Robustheit von Deep Learning-Modellen zertifizieren oder verifizieren (z.B. Certification of Model Robustness),

5. 1-4 soweit anwendbar mindestens in den Domänen Objekt Detektion, Image Segmentation, Natural Language Processing, Netzwerk/Malware und Speech Analysis.

Erfassung, Kategorisierung und Zusammenfassung der Forschung zum oben genannten Themenkomplex

— Es sollen relevante Angriffsvektoren und Gegenmaßnahmen kategorisiert und hinsichtlich ihrer Wirksamkeit untersucht bzw. bewertet werden,

Die Ergebnisse sollen geeignet sein, um

— darauf basierend eine technische Richtlinie zum aktuellen Stand der Sicherheit in der KI zu erstellen (zumindest für die Schwerpunktbereiche),

— Kriterien zu definieren, die im Rahmen von Zertifizierungen oder Testierungen verwendet werden können,

s. Punkt II.1.4).

Beschreibung der Optionen:

AP 3 „Detail-Analyse“ ist eine optionale Leistung. Diese muss vom Bieter angeboten werden, der Auftraggeber verzichtet jedoch ggf. generell auf deren Beauftragung.

Verfahren
Vergabekriterien
Qualitätskriterium (Bezeichnung): s. Vergabeunterlagen
Qualitätskriterium (Gewichtung): 50
Preis (Gewichtung): 50

Auftragsvergabe
Datum des Vertragsabschlusses: 2020-11-23 📅
Name: Fraunhofer Gesellschaft zur Förderung der angewandten Forschung e. V.
Postanschrift: Hansastraße 27c
Postort: München
Postleitzahl: 80686
Land: Deutschland 🇩🇪
München, Kreisfreie Stadt 🏙️
Gesamtwert des Auftrags: 324 429 EUR 💰
Informationen über Ausschreibungen
Anzahl der eingegangenen Angebote: 3

Ergänzende Informationen
Körper überprüfen
Informationen zu Fristen für Nachprüfungsverfahren:

1) der Antragsteller den geltend gemachten Verstoß gegen Vergabevorschriften vor Einreichen des Nachprüfungsantrags erkannt und gegenüber dem BSI nicht innerhalb einer Frist von 10 Kalendertagen gerügt hat; der Ablauf der Frist nach § 134 Absatz 2 GWB bleibt unberührt,

2) Verstöße gegen Vergabevorschriften, die aufgrund der Bekanntmachung erkennbar sind, nicht spätestens bis zum Ablauf der in der Bekanntmachung benannten Frist zur Bewerbung oder zur Angebotsabgabe gegenüber dem BSI gerügt werden,

3) Verstöße gegen Vergabevorschriften, die erst in den Vergabeunterlagen erkennbar sind, nicht spätestens bis zum Ablauf der Frist zur Bewerbung oder zur Angebotsabgabe gegenüber dem BSI gerügt werden,

4) mehr als 15 Kalendertage nach Eingang der Mitteilung des BSI, einer Rüge nicht abhelfen zu wollen, vergangen sind.

Quelle: OJS 2021/S 016-037037 (2021-01-20)

Neue Beschaffungen in verwandten Kategorien 🆕

IT-Dienste: Beratung, Software-Entwicklung, Internet und Hilfestellung (>20 neue Beschaffungen)

Computer-Backup-Dienste und Katalogkonvertierung
Computernetze
Computerrevision und -prüfung (2)
Computerunterstützung und -beratung (4)
Datendienste (13)
Datenverarbeitungsdienste (3)
Hardwareberatung (1)
Internetdienste (7)
Softwareprogrammierung und -beratung (>20)