Flagship-Projekt ZERTIFIZIERTE KI

Informationen zum Projekt

Ziel des Projekts ist es, Prüfkriterien, -methoden und -werkzeuge für KI-Systeme zu entwickeln und zu standardisieren, und so eine vergleichbare Bewertung von KI-Systemen zu ermöglichen. Durch eine Überprüfbarkeit von technisch zugesicherten Eigenschaften soll das Vertrauen von Anwendern und Verbrauchern in KI-Technologien gesteigert werden.

Im Fokus stehen insbesondere die Entwicklung von Absicherungsmethoden und Prüfwerkzeugen sowie der Ergebnistransfer in konkrete Wirtschaftsangebote. Ein holistischer Projektansatz sieht neben der Erarbeitung und Entwicklung von Prüfwerkzeugen und der Erarbeitung eines Prüfframeworks zur Sicherstellung der Vergleichbarkeit von Prüfungen unterschiedlicher KI-Anwendungen, auch die Berücksichtigung von rechtlichen, philosophisch/ethischen und wirtschaftlichen Aspekten und Fragestellungen vor.

Laufzeit: 03/2021 – 02/2026

Projektpartner:

• Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
• Bundesamt für Sicherheit in der Informationstechnik (assoziierter Partner)
• Universität zu Köln
• Universität Bonn
• RWTH Aachen
• DIN e. V.

• Assoziierte Partner: bestehend aus DAX-30- und weiteren Unternehmen aus unterschiedlichen Branchen

Im Rahmen des Projektes sind verschiedene Aktivitäten geplant über die wir an dieser Stelle informieren möchten.

Anwenderkreise

Ziel der Anwenderkreise ZERTIFIZIERTE KI ist die breite Beteiligung von interessierten Experten und Organisationen am Austausch zu und an der Diskussion von Projektergebnissen.

Anwenderkreis Vertrauenswürdige cloudbasierte KI-Services

Inhaltliche Leitung:

• Bundesamt für Sicherheit in der Informationstechnik
• PricewaterhouseCoopers GmbH
• Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS

Eine aktive Mitwirkung von interessierten Experten ist erwünscht. Wir freuen uns über Ihre Kontaktaufnahme!

Alle Informationen zu Zielen und Mitwirkungsmöglichkeiten, Ansprechpartnern etc. finden Sie hier.

Anwenderkreis Transparenz in neuronalen Netzen

Inhaltliche Leitung:

• Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS

Eine aktive Mitwirkung von interessierten Experten ist erwünscht. Wir freuen uns über Ihre Kontaktaufnahme!

Alle Informationen zu Zielen und Mitwirkungsmöglichkeiten, Ansprechpartnern etc. finden Sie hier.

Anwenderkreis Foundation Models

Inhaltliche Leitung:

• Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS

Eine aktive Mitwirkung von interessierten Experten ist erwünscht. Wir freuen uns über Ihre Kontaktaufnahme!

Alle Informationen zu Zielen und Mitwirkungsmöglichkeiten, Ansprechpartnern etc. finden Sie hier.

Transfer in Normung und Standardisierung

Ergebnisse aus dem Projekt, insbesondere resultierend aus den Arbeiten der Anwenderkreise, sollen in Normungs- und Standardisierungsaktivitäten überführt werden.

Unter anderem erfolgt dazu eine enge thematische Abstimmung mit den Aktivitäten des DIN/DKE Gemeinschaftsausschuss Künstliche Intelligenz (NA 043-01-42 GA). Ebenso wurde im März 2022 ein Arbeitskreis "KI-Qualität und Prüfverfahren" im DIN/DKE Gemeinschaftsausschuss KI gegründet, um eine Beteiligung der interessierten Kreise an den im Kontext ZERTIFIZIERTE KI geplanten Standardisierungs- und Normungsaktivitäten sicherzustellen.

Workshops und weitere Formate

In unseren Anwenderkreisen zu Vertrauenswürdige cloudbasierte KI-Services und Transparenz in neuronalen Netzen finden regelmäßig Veranstaltungen statt. In Zukunft sollen auch Anwenderkreise zu weiteren Themen gestartet werden. Über Veranstaltungstermine können Sie sich auf den jeweiligen Seiten der Anwenderkreises informieren und anmelden.