Page History

...

📅 Letzte Aktualisierung: 18.03.2025 | ANP-Koordinationsteam

...

📌 2.8.6 Explainable AI

Was ist das?
Transparente KI-Modellentwicklung bedeutet, dass der Aufbau, die Funktionsweise und die Entscheidungswege von KI-Modellen für alle Beteiligten nachvollziehbar sind. Das neue "Periodensystem der Machine Learning-Algorithmen" des MIT bietet dafür ein anschauliches Framework: Es ordnet über 20 klassische KI-Algorithmen nach ihren mathematischen Grundprinzipien und zeigt, wie sie miteinander verwandt sind610. Das hilft Unternehmen, die richtigen Modelle für ihre Anwendungen auszuwählen, zu kombinieren und deren Verhalten besser zu verstehen.

Wie funktioniert das praktisch?

• Framework-Nutzung: Unternehmen können mithilfe des MIT-Frameworks gezielt KI-Modelle auswählen oder sogar neue Modelle entwickeln, indem sie bestehende Methoden kombinieren. Das Periodensystem macht die Zusammenhänge transparent und erleichtert die Dokumentation.

• Normenbezug: Die Struktur des Frameworks lässt sich mit Normen wie der DIN/TS 92004:2024 zur Risikobewertung von KI-Systemen verknüpfen7. Beispielsweise kann die Kategorie "Supervised Learning" mit den Anforderungen an Trainingsdaten-Dokumentation (Kap. 7.2) und "Reinforcement Learning" mit Echtzeit-Risikomanagement (Anhang C) abgeglichen werden.

• Praxisbeispiel: Ein Zulieferer der Automobilindustrie konnte mit dem Framework die Nachweisdokumentation für die KI-Sicherheitsnorm ISO 24089 um 70 % beschleunigen8.

Was ist zu beachten?

• Nachvollziehbarkeit: Transparente KI-Modelle erleichtern die Einhaltung regulatorischer Anforderungen und stärken das Vertrauen von Kunden, Mitarbeitenden und Aufsichtsbehörden.

• Standardisierte Dokumentation: Die Nutzung von Frameworks wie dem MIT-Periodensystem unterstützt eine strukturierte und nachvollziehbare Dokumentation, wie sie z.B. in DIN/TS 92004 gefordert wird.

• Implementierungshilfe: Für Entwickler gibt es bereits Beispiel-Code, der den Abgleich von KI-Modellen mit Normen automatisiert (siehe MIT News).

MITs Periodensystem der ML-Algorithmen
Das Framework strukturiert 120+ Algorithmen nach Komplexität und Anwendungsfeld – ein Game-Changer für die Normenpraxis:

...

• Nutzen Sie die KI-Ethik-Checkliste für Ihr Unternehmen

• Beteiligen Sie sich an der MIT-Framework-Adaption im Expertenforum

Wie kann ich das im eigenen Unternehmen nutzen?

• Nutzen Sie das MIT-Framework zur Auswahl und Dokumentation Ihrer KI-Modelle.

• Verknüpfen Sie Ihre KI-Entwicklung mit den Vorgaben der DIN/TS 92004:2024, um regulatorische Anforderungen effizient zu erfüllen.

• Schulen Sie Ihr Team in "Explainable AI" und nutzen Sie die neuen Tools, um die Qualität und Sicherheit Ihrer KI-Anwendungen zu erhöhen.

...

📌 2.8.7 KI-Agenten: Automatisierung komplexer Normungsaufgaben

Moderne KI-Systeme entwickeln sich von einfachen Chatbots zu spezialisierten KI-Agenten, die komplexe, mehrstufige Aufgaben autonom planen, zerlegen und mithilfe verschiedener Werkzeuge ausführen können2. Diese Agenten können die Effizienz im Normungsmanagement erheblich steigern, indem sie Routineaufgaben automatisieren und Wissensprozesse unterstützen.

Flowith als Beispiel für einen KI-Agenten

Flowith (insbesondere das „Oracle“ Agentensystem und Flowith 2.0) ist ein Beispiel für eine solche Plattform, die als „KI Creation Workspace“ konzipiert ist235. Kernfunktionen umfassen:

• Autonome Workflow-Planung: Zerlegung komplexer Anfragen (z.B. „Erstelle einen Konformitätsbericht für Produkt X gemäß EU AI Act“) in ausführbare Teilschritte2.

• Intelligente Werkzeugnutzung: Auswahl und Anwendung passender Tools (z.B. Datenbankabfragen, Web-Recherche, Dokumentenanalyse) für jeden Teilschritt2.

• Integration von Wissensbasen: Verbindung mit unternehmensinternem Wissen („Knowledge Garden“), um kontextbezogene und präzise Ergebnisse zu liefern5.

• Visuelle Workflow-Darstellung: Die Canvas-Oberfläche visualisiert komplexe Prozesse, was die Nachvollziehbarkeit erhöht5.

Anwendungsmöglichkeiten im DIN ANP Kontext:

• Automatisierung der Konformitätsvorbereitung: KI-Agenten können helfen, die Schritte zur Vorbereitung auf eine Anwendungsprüfung gemäß EU AI Act Art. 431 zu strukturieren, notwendige Dokumente (z.B. aus Anhang VIII1) zu identifizieren und zusammenzustellen.

• Optimierung des Risikomanagements: Unterstützung bei der Identifikation und Analyse von Risiken gemäß DIN/TS 920044 durch systematische Auswertung interner Dokumentationen und externer Datenquellen.

• Wissensmanagement für Normungsexperten: Strukturierung und Abfrage umfangreicher persönlicher oder unternehmensweiter Dokumentenarchive (PDFs, Präsentationen etc.), wie von Michael Broda im Forum angefragt. Die „Knowledge Garden“-Funktion von Flowith5 könnte hierfür eine Lösung bieten.

• Prozessvisualisierung: Darstellung komplexer Normungs- oder Compliance-Prozesse auf der visuellen Canvas zur besseren Verständlichkeit und Schulung von Mitarbeitern5.

Normative Relevanz und Herausforderungen:

• Transparenz (DIN/TS 92004): Die Visualisierung von Workflows durch Tools wie Flowith5 kann die Transparenzanforderungen für KI-Systeme unterstützen, indem die von der KI geplanten und ausgeführten Schritte nachvollziehbar gemacht werden2.

• Governance (ISO/IEC 38507): Der Einsatz autonomer Agenten erfordert klare Governance-Strukturen zur Überwachung, Risikobewertung und Verantwortung.

• Datenqualität (EU AI Act Art. 10): Die Qualität der Ergebnisse hängt stark von der Qualität der integrierten Wissensbasis und der genutzten Werkzeuge ab. Validierung bleibt unerlässlich (siehe Hub-Bereich Exaktheitsanspruch und KI-Unterstützung in der Normung).

• Lizenzfragen: Die Integration interner Dokumente und die Nutzung externer Datenquellen durch den Agenten müssen lizenzrechtlich geprüft werden (siehe Hub-Bereich KI-gestützte Normenauswertung & Lizenzfragen).

Praktische Schritte für ANP-Mitglieder:

1. Evaluieren Sie, welche wiederkehrenden, komplexen Prozesse im Normungsmanagement durch KI-Agenten unterstützt werden könnten (z.B. Recherche, Dokumentenanalyse, Berichterstellung).

2. Prüfen Sie Werkzeuge wie Flowith oder ähnliche Agentenplattformen (z.B. Cognite Atlas AI für industrielle Anwendungen6) auf ihre Eignung für Ihre spezifischen Anforderungen.

3. Beginnen Sie mit klar definierten, weniger kritischen Anwendungsfällen, um Erfahrungen zu sammeln.

4. Stellen Sie sicher, dass Datenschutz, Governance und Lizenzkonformität gewährleistet sind, bevor interne Wissensbasen angebunden werden.

...

👉 Nächste Schritte für die Community

...