Page History

Workshopreihe: Europäische KI-Verordnung und ihre Operationalisierung

Mit Verabschiedung der KI-Verordnung im Dezember kommen neue regulatorische Herausforderungen auf Unternehmen zu, die KI einsetzen. Während es nach Inkrafttreten Übergangsfristen zur Umsetzung der neuen Vorgaben geben wird, ist eine gute Vorbereitung wichtig, um die vielfältigen Chancen durch den Einsatz von KI-Modellen adäquat abzusichern und die Nutzung vertrauenswürdig zu gestalten.

In dieser Workshopreihe wollen wir gemeinsam mit Wissenschaft, Industrie und Anwender*innen Möglichkeiten zur technischen Umsetzung der KI-Verordnung erarbeiten und dabei auch darauf eingehen, wie man Compliance schon während der Anwendungsentwicklung adressieren kann.

Die Workshopreihe soll dabei drei verschiedene Thematiken beleuchten, die für die Umsetzung der KI-Verordnung essenziell sind. Im ersten Workshop werden Urheberrechtsverletzungen durch Generative KI mit Blick auf aktuelle Modelle thematisiert, weiter geht es mit der technischen Prüfung von rechtlichen Fairnessanforderungen im zweiten Workshop und die Reihe abschließen wird ein Workshop zur Entwicklung und Prüfung von Anwendungen mit generativer KI.  Die Workshopreihe richtet sich neben den Partnern und assoziierten Partnern des ZERTIFIZIERTE KI-Projektes an alle interessierten Expert*innen.

1. Workshop: Foundation Models – Chancen und Herausforderungen

Im ersten Workshop wird ein technischer Überblick über die Großen Sprachmodelle bezüglich der Sprachverarbeitung gegeben. Des weiteren werden ethische Anforderungen hinsichtlich der Vertrauenswürdigkeit, Absicherung und Zertifizierung diskutiert, sowohl aus wissenschaftlicher als auch aus Unternehmens- und Anwender*innenperspektive.  

Termin: 20. Juni 2023 

Generative KI und Urheberrecht

Foundation-Modelle erobern die KI-Welt im Sturm und finden in kürzester Zeit immer neue Weiterentwicklungen und Anwendungsmöglichkeiten. Gleichzeitig werden auch Probleme und Schwachstellen offenbar, die mit diesem Paradigmenwechsel einhergehen. Die Tendenz der riesigen Modelle, sich die Trainingsdaten zu merken und sie entsprechend reproduzieren zu können, kann beispielsweise zu Urheberrechtsverletzungen führen, wenn die Trainingsdaten auch urheberrechtlich geschütztes Material enthalten.
Dieser Workshop soll mit Blick auf die KI-Verordnung mögliche Urheberrechtsprobleme mit generativer KI zunächst aufzeigen und anschließend technisch beleuchten, was der aktuelle Stand der State-of-the-Art Modelle bezüglich Verwendung und Reproduktion von urheberrechtlich geschütztem Material ist. 

Termin: 10. April 2024 

2. Workshop: Technische Prüfung von Fairnessanforderungen

KI-Modelle übernehmen in Personalauswahl, Medizin und vielen weiteren Feldern zunehmend mehr Aufgaben, bei denen diskriminierende Entscheidungen der KI nicht nur moralisch fragwürdig sind, sondern auch rechtliche Konsequenzen nach sich ziehen können.
Mögliche Ungleichbehandlungen in Modellausgaben, die aus Verzerrungen in den Trainingsdaten oder Fehlern in den Modellen entstehen, machen Fairnessbetrachtungen somit zu einer maßgeblichen Säule der Vertrauenswürdigkeit aktueller und kommender Modelle.
In diesem Workshop soll aufgezeigt werden, wie sich die Fairnessanforderungen aus geltendem Recht und kommender KI-Verordnung technisch umsetzen lassen.

Termin: 19. Juni 2024

3. Workshop: Entwicklung und Prüfung von Anwendungen mit generativer KI

Der Aufstieg generativer Modelle bringt eine Vielzahl neuer regulatorischer und sicherheitstechnischer Herausforderungen mit sich, die bei Nutzung in eigenen Anwendungen wiederum neue Ansätze zur Prüfung und Methoden zur Anwendungsentwicklung erfordern. Auch von der KI-Verordnung werden diese Modelle als sogenannte „General Purpose AI“ gesondert behandelt.
Um Compliance mit der KI-Verordnung- zu gewährleisten, ist wichtig, Vertrauenswürdigkeit und Absicherung bereits früh im Entwicklungsprozess im Blick zu haben.
Dieser Workshop gibt dabei einen Überblick zu Herausforderungen, Prüfansätzen und Vertrauenswürdigkeitsaspekten für Anwendungen, die generative KI nutzen.

Termin: 11. September 2024

Multimodale Foundation Models sind große generative KI-Modelle, die nicht nur Sprache verarbeiten, sondern auch andere Datentypen wie beispielsweise Bilder. Durch einfache textuelle Anfragen lassen sich innerhalb von Sekunden überraschend spezifische und realistische Bilder generieren. Die dahintersteckende Technologie verspricht jedoch auch weitere Einsatzmöglichkeiten, bspw. zum semantischen Beschreiben von Metadaten, wiederum eine Grundlage zum effektiven Testen von neuronalen Netzen. In diesem Workshop wird aus wissenschaftlicher Perspektive in Methodik und Verfahren von multimodalen Foundation Models eingeführt und der Einsatz als Hilfestellung zum semantischen Testen neuronaler Netzwerke diskutiert.  

Termin: 27. September 2023

3. Workshop: Datenqualität – Grundlage für Vertrauenswürdigkeit verschiedenster KI-Systeme

Daten sind der essenzielle Rohstoff sowohl für KI-Systeme, die allein für eine spezifische Aufgabe trainiert werden, als auch für große Foundation Models, die riesige Mengen an Daten verarbeiten. Im Entwurf für den EU AI Act wird gefordert, dass die Trainings-, Eingabe- und Ausgabedaten von KI-Systemen relevant, repräsentativ, fehlerfrei und vollständig sein müssen. Ziel dieses Workshops ist es zu verstehen, welche die Merkmale von qualitativen Daten sind, wie Datenqualität verbessert werden kann und wie sie die Verlässlichkeit und Fairness von KI-Systemen beeinflusst.

Termin: 30. Oktober 2023

4. Prüfframeworks und Infrastruktur als allgemeine Basis zur Gestaltung von vertrauenswürdiger KI

Um KI-Anwendungen zu prüfen, werden neuartige und hochwertige technische Software-Werkzeuge und Testverfahren von verschiedenen Herstellern entwickelt und angeboten. Diese müssen anwendbar sein für eine Varianz von einfachen linearen Entscheidungsbäumen bis hin zu komplexen generativen DL-Modellen sowie für eine Vielzahl von verschiedenen Anwendungsbereichen mit spezifischen Anforderungen. Die Herausforderung besteht darin, die verschiedenen Prüftools zu kombinieren und einfache, reproduzierbare und nachvollziehbare Test zu ermöglichen. Dazu werden in diesem Workshop Werkzeuge, Schnittstellen sowie das Konzept für ein Prüfframework vorgestellt. 

Termin: 29. November 2023