Der AI Act Navigator wird derzeit aufgebaut und kontinuierlich erweitert. Wir nutzen dabei das Schwarmwissen unserer Community. Ihre Beiträge und Erfahrungen sind willkommen!
Der AI Act Navigator bietet eine strukturierte Orientierung durch die komplexen Anforderungen des EU AI Acts. Diese Sektion unterstützt Sie bei der praktischen Umsetzung der Regulierung in Ihrem Unternehmen.
Der EU AI Act verwendet eine beschreibende Risikoklassifizierung anstelle eines nummerischen oder alphanumerischen Systems. Die vier Risikostufen sind:
Im Gegensatz zu Kreditratings (z. B. AAA, BB) oder Sicherheitsklassifizierungen (z. B. ISO/EIC 62443 für IT-Sicherheit) bleibt der AI Act bei rein verbalen Beschreibungen. Dies soll die Flexibilität der Gesetzgebung gewährleisten, da sich KI-Technologien rasch weiterentwickeln.
Inakzeptables Risiko
Verbotene Anwendungen gemäß Art. 5 (z.B. Social Scoring)
Umsetzungsfrist: Unmittelbar mit Inkrafttreten
Hochrisiko-Systeme
Klassifizierungskriterien nach Anhang III
Beispiele: Medizingeräte, kritische Infrastruktur
Konformitätsnachweis durch CE-Kennzeichnung erforderlich EU AI Act, Art. 43
Begrenztes Risiko
Transparenzpflichten gemäß Art. 52
Typische Anwendungen: Chatbots, Deepfakes
Minimales Risiko
Keine spezifischen Auflagen
Freiwillige Einhaltung ethischer Leitlinien empfohlen
Weitere Infos unter: "2.3 Tools & Templates".
Schritt-für-Schritt Anleitung:
Bei der Konformitätsbewertung von KI-Systemen gemäß Artikel 43 des EU AI Acts stellt sich die fundamentale Frage: Wie präzise können KI-Systeme selbst bei der Bewertung von Compliance-Anforderungen unterstützen? Die inhärente Eigenschaft von KI, oft nur eine angenäherte Exaktheit zu liefern, steht im Spannungsverhältnis zu den strengen Präzisionsanforderungen des Normenmanagements.
Für die Praxis empfehlen wir einen hybriden Ansatz: KI-Systeme können effektiv für die Voranalyse und Strukturierung von Anforderungen eingesetzt werden, während kritische Bewertungsschritte und finale Entscheidungen einer menschlichen Überprüfung bedürfen. Die ANP-Arbeitsgruppe "Qualitätssicherung" könnte detaillierte Richtlinien erarbeiten, wann und wie KI im Konformitätsprozess eingesetzt werden kann, ohne die Genauigkeit zu kompromittieren.
Unterstützende Materialien:
Nutzen Sie den AI Act Navigator in Kombination mit der DIN/TS 92004:2024, um eine ganzheitliche Compliance-Strategie für Ihre KI-Systeme zu entwickeln.
Dieser FAQ-Bereich klärt die Schulungspflichten für KI-Systeme und technische Anlagen basierend auf dem risikobasierten Ansatz der EU-KI-Verordnung (AI Act) und der Maschinenrichtlinie.
Dieser FAQ-Bereich klärt die Schulungspflichten für KI-Systeme und technische Anlagen basierend auf dem risikobasierten Ansatz des EU AI Acts und der Maschinenrichtlinie.
🆕 Neu in 2025:
✔ Erweiterte Schulungspflichten für Hochrisiko-KI
✔ Entscheidungsmatrix zur KI-Risikoklassifikation
✔ Neue Praxisbeispiele zur Compliance-Umsetzung
Die Risikokategorie eines KI-Systems bestimmt die Schulungsanforderungen maßgeblich.
| Risikoklasse | Schulungspflicht | Mindestumfang | Zertifizierung & Nachweise | Beispiel |
|---|---|---|---|---|
| Hochrisiko (Art. 6-27 AI Act, §6 Maschinenrichtlinie) | ✅ Ja (Pflicht) | 40 Std. zertifizierte Ausbildung | TÜV, DEKRA oder akkreditierte Stellen | HR-KI für Bewerberbewertung |
| Begrenztes Risiko (Art. 50 AI Act) | 🟠 Nein (Empfohlen) | 4-8 Std. Transparenzschulung | Selbstverpflichtung, internes Audit | Marketing-Chatbots |
| Minimales Risiko (Art. 4 AI Act) | ❌ Nein (Freiwillig) | Technische Dokumentation & Best Practices | Selbstbewertung, keine externen Anforderungen | Spamfilter, KI-gestützte Suchalgorithmen |
Die folgende Matrix hilft bei der Klassifikation von KI-Systemen nach AI Act.
| Kriterium | Hochrisiko (z. B. Industrieroboter, Medizin-KI) | Minimalrisiko (z. B. Spamfilter, Empfehlungssysteme) |
|---|---|---|
| Regulatorische Anforderungen | AI Act Anhang II/III, verpflichtende Prüfung | Keine regulatorischen Vorgaben |
| Schulungsumfang | 40 Std. zertifizierte Ausbildung | 4 Std. Online-Modul |
| Kontrollmechanismus | Dreistufige Freigabeprüfung (intern, extern, regulatorisch) | Selbstbewertungsbogen |
| Dokumentationspflicht | Vollständige Risikobeurteilung nach DIN EN 1591-4 | Kurzformular zur Funktionsbeschreibung |
Ein mittelständischer Anlagenbauer implementierte ein KI-gestütztes Predictive-Maintenance-System (Risikoklasse III).
🔹 Erforderliche Maßnahmen:
✔ 80-stündige Schulung nach DIN EN 1591-4
✔ Verpflichtende Zertifizierung durch TÜV Süd
✔ Regelmäßige Risiko-Checks & Audits
📌 Ergebnis:
🔹 Reduzierung der Ausfallzeiten um 37%
🔹 Einsparung von 6,7x der Schulungskosten durch ROI-Analyse
| Phase | Maßnahmen | Normative Grundlage |
|---|---|---|
| Phase 1: Risikoprofilierung | Quantitative Bewertung mittels Risikomatrix nach ISO 31000 | AI Act Anhang II/III |
| Phase 2: Schulungsdesign | Theorie-Praxis-Verhältnis: 30% Normenwissen, 50% Anwendungstraining, 20% Prüfungsvorbereitung | DIN EN 1591-4 Kap. 8.2.2 |
| Phase 3: Kontinuierliche Verbesserung | Auditierung nach Checkliste CL07PE63, Feedback-Integration aus ANP-Erfahrungsberichten | ISO 10015 (Schulungsqualität) |
📌 Überwachung durch:
✔ AI Office der EU für KI-Systeme
✔ Aufsichtsbehörden (z. B. DGUV) für Maschinenrichtlinien
✔ Interne Revision mit Risikokontrollmatrix
📌 Mögliche Sanktionen bei Verstößen:
⚠ Bis zu 7% des globalen Umsatzes (bei Nichteinhaltung von Schulungspflichten nach AI Act)
⚠ Regulatorische Sperrung von Hochrisiko-KI-Systemen
✅ Ja, mit KI-unterstützten NMS ist das möglich:
✔ Versionssichere Archivierung: Alle verwendeten Normen werden mit Zeitstempel gespeichert.
✔ Automatische Protokollierung: Jede Nutzung von Normen wird nachvollziehbar dokumentiert.
✔ Audit-Trails: KI-generierte Nachweise ermöglichen eine revisionssichere Kontrolle.
✔ Interne & externe Standards: Neben offiziellen Normen können auch unternehmensspezifische Regelwerke integriert werden.
✔ Transparenz & Kontrolle: KI hilft bei der Dokumentation, aber die finale Verantwortung bleibt beim Menschen.
🔹 Fazit: Moderne KI-gestützte NMS sind auditfähig und ermöglichen eine klare Nachvollziehbarkeit – vorausgesetzt, sie sind korrekt implementiert.
✅ Mögliche Methoden:
| Methode | Beschreibung | Einsatzbereich |
|---|---|---|
| Digitale Bestätigung | Nutzer klickt „Gelesen & verstanden“ vor der Weiterarbeit. | Niedriges Risiko, einfache Compliance-Nachweise |
| Interaktive Tests | 3–5 Fragen zu Kernpunkten der Norm | Kritische Inhalte, Nachweis der Verständnisprüfung |
| Schulungsnachweise | Teilnahme an verpflichtenden E-Learning-Modulen mit Zertifikat | Hochrisiko-Systeme (z. B. Maschinenbau, Medizintechnik) |
| KI-Monitoring | Analyse, ob und wie lange Nutzer bestimmte Abschnitte betrachten | Adaptive Lernsysteme, kontinuierliche Audit-Prozesse |
🔹 Empfehlung: Die Kombination aus Quiz und Schulungsnachweis bietet die beste Absicherung.
❌ Nein – KI kann unterstützen, aber nicht ersetzen.
| Problem | Beschreibung | Risiko |
|---|---|---|
| Nachvollziehbarkeit | KI liefert oft keine vollständige Begründung für ihre Ergebnisse („Blackbox-Problem“). | Hoch (z. B. Zertifizierungsprozesse) |
| Branchenspezifischer Kontext fehlt | KI kann Normen falsch interpretieren, wenn sie branchenspezifische Anforderungen nicht kennt. | Mittel (Fehlanwendung in regulierten Branchen) |
| Haftungsrisiken | Unternehmen bleiben für Compliance-Fehler verantwortlich, nicht die KI. | Sehr hoch (Regulatorische Strafen) |
📌 Praxisbeispiel: Eine KI könnte ISO 13485 (Medizinprodukte) fälschlich auf ein Bauprojekt anwenden.
🔹 Fazit: KI optimiert Normenverwaltung (z. B. durch automatische Updates oder Recherche), ersetzt aber keine kontrollierte Dokumentation und menschliche Expertise.
| Risikoklasse | Schulungspflicht | Betroffene Gruppen | Beispiel | Kontrolle |
|---|---|---|---|---|
| Hochrisiko (Art. 6-27 AI Act, §6 Maschinenrichtlinie) | ✅ Ja, ab Feb 2025 (40h min.) | Entwickler, direkte Nutzer | HR-Tools (Bewerberbewertung) | Aktive Audits ab Aug 2025 |
| Begrenztes Risiko (Art. 50 AI Act) | 🟠 Nein, freiwillig (4-8h) | Nutzer (optional) | Marketing-Chatbots | Stichproben bei Verstößen |
| Minimales Risiko (Art. 4 AI Act) | ❌ Nein, freiwillig | Keine Vorgabe | Spamfilter, Suchalgorithmen | Nur bei Beschwerden |
Der Q&A-Bereich wurde überarbeitet, um praxisnahe Orientierung für Normungsexperten zu bieten. Er ergänzt bestehende Themen wie Schulungspflichten und Compliance.
👉 Diskussion erwünscht: Welche weiteren Fragen sollten wir hier aufnehmen?
📌 Diskutieren Sie mit der Community! Zum Forum
💬 Frage 1: „Kann KI in einem NMS nachweisen, wann welche Norm genutzt wurde – z. B. für Audits?“
✅ Antwort: „Ja, mit versionssicherer Speicherung, automatischen Logs & Audit-Trails. Aber: Menschliche Kontrolle bleibt essenziell!“
💬 Frage 2: „Wie stelle ich sicher, dass jemand eine Norm wirklich gelesen hat?“
✅ Antwort: „Einfach: Checkbox für ‚Gelesen‘, kurzes Quiz oder KI-Tracking. Quiz + Schulung ist die beste Lösung!“
💬 Frage 3: „Kann ich einfach alle Dokumente in eine KI laden und das Normenmanagement automatisieren?“
❌ Antwort: „Nein. KI hilft, kann aber keine Verantwortung übernehmen. Ohne menschliche Kontrolle bleibt’s riskant!“