2. STAFFEL /

KI Ethik News #4: Deutsche Praxis trifft EU-Regulierung – Der AI-Act ist jetzt Realität

Datum: 4. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 4) | Datum: 04.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 4 zeigt die zunehmende Polarisierung in der KI-Landschaft: Während deutsche Forschungsprojekte spezialisierte, nachvollziehbare Systeme entwickeln, kämpfen globale Konzerne mit Stabilität und Ethik. Der EU-AI-Act wurde Realität – ab Anfang 2025 gelten erste Verpflichtungen, ab August 2025 beginnen Kontrollprüfungen. Dies stellt Normenanwender vor zwei zentrale Aufgaben: (1) KI-Systeme evaluieren, (2) Führungskräfte zu KI-Kompetenz verpflichten.

Kernthemen und Implikationen für die Normenpraxis

1. Das deutsche Modell: Erklärbare & spezialisierte KI

Die Entwicklung:

Zwei Fallbeispiele illustrieren den deutschen Ansatz:

a) KITU 2.0 (Uni Mainz, Krebstherapie):

• Analysiert Patientendaten für Tumorboards (Spezialistenkonferenzen).

• Nicht als Arzterstatz, sondern als hochqualifizierte „Zweitmeinung".

• Entscheidend: Transparentes Dashboard, das Ärzte sieht, warum die KI eine Therapie empfiehlt.

• Genauigkeit: 70–90% beim Abgleich mit menschlichen Expertengremien.

• Verantwortung bleibt beim Menschen.

b) Optimization Chat (Uni Bielefeld, Logistik/Produktion):

• Übersetzt Geschäftsprobleme in mathematische Formeln.

• Beispiel: Lkw-Routing mit Kostenoptimierung automatisiert.

• Entscheidend: Spezialisiert, nicht generalistisch. Verhindert den „Alleskönner-Hype".

Bedeutung für Normenanwender (ANP):

• Erklärbarkeits-Standard (Explainable AI): Deutsche Forschung setzt auf Transparenz. Dies sollte in künftigen Normen zur KI-Anwendung als Best Practice verankert werden, nicht nur als optionales Feature.

• Hochspezialisierten Systeme bevorzugen: Der Trend weg von Generalisten-KI und hin zu fokussierten, überprüfbaren Systemen sollte in den Anforderungskatalog für KI in kritischen Bereichen (Medizin, Infrastruktur) aufgenommen werden.

• Praktischer Transfer: Normenanwender könnten diese Projekte als Vorlagen zur Evaluierung eigener KI-Einsätze heranziehen.

2. Die Silicon-Valley-Krise

Die Entwicklung:

a) OpenAI (Code Red):

• CEO Altman ruft intern Alarmstufe aus. Kernprodukt ChatGPT wackelt (Geschwindigkeit, Zuverlässigkeit).

• Konkurrenz (Google Gemini 3, Anthropic) holt auf.

• Alle Nebenprojekte (Shopping, Agenten) werden gestoppt.

• Fokus: Stabilität vor Innovation.

b) Anthropic & das „Seelendokument":

• Ein verstecktes 14.000-Token-Dokument wurde in Claude 4.5 gefunden.

• Inhalt: Anthropic versucht, der KI eine positive Persönlichkeit/einen ethischen Kompass einzupflanzen (nicht nur nachträgliche Sperren, wie OpenAI).

• Ziel: Claude soll ein „brillanter, fachkundiger Freund" sein.

• Riskant: Wirkt manipulativ; es ist unklar, ob das funktioniert.

c) Mistral (französisches Start-up):

• Strategie: Volle Open-Weight-Modelle (lokal installierbar, anpassbar).

• Vorteil: Datensouveränität (z.B. HSBC-Deal wegen Bankgeheimnis-Anforderungen).

• Position: Nicht Stabilität oder „gute Seele", sondern Kontrolle.

Bedeutung für Normenanwender (ANP):

• Philosophie der KI-Beschaffung: Drei Modelle konkurrieren – Stabilität, Identität, Souveränität. Normenanwender müssen bei der Auswahl von KI-Systemen entscheiden, welche dieser Dimensionen sie bevorzugen.

  • Stabilitäts-Modell: Gut für kurzfristige, zuverlässige Aufgaben (z. B. Dokumentprüfung).

  • Identitäts-Modell: Fraglich für regulatorische Kontexte (wer bestimmt die „Werte"?).

  • Souveränitäts-Modell: Ideal für sensitive Daten (Norm-Entwürfe, Compliance-Daten).

• Make-or-Buy-Entscheidung: Normenstellen könnten in Zukunft überlegen, ob lokale Open-Source-Modelle (wie Mistral) für interne Normungsprozesse sicherer sind als Cloud-Lösungen.

3. Der EU-AI-Act als neue Spielregel

Die Entwicklung (Timeline):

• August 2024: AI-Act tritt in Kraft.

• Februar 2025: Erste Dokumentations- und Transparenzpflichten aktiv.

• August 2025: Bundesnetzagentur startet Prüfungen.

• Strafen: Bis zu 35 Mio. EUR oder 7% weltweiten Jahresumsatzes.

Risikobasierte Kategorien:

1. Verbotene KI: Social Scoring durch Regierungen (kleiner Bereich).

2. Hochrisiko-KI: Personalwesen, Kreditvergabe, Justiz, kritische Infrastruktur → strenge Dokumentation & Auditpflichten.

3. Transparenzpflicht: Chatbots, generative KI (müssen kennzeichnen, dass sie KI sind).

Der Game Changer – Artikel 4:

• Pflicht zur KI-Kompetenz für Führungskräfte:

  • Jeder, der KI entwickelt, einsetzt oder über Einsatz entscheidet, muss „angemessenes KI-Wissen" haben.

  • Zielgruppe: Vorstände, Geschäftsführer, Abteilungsleiter, Projektverantwortliche in Normenkomitees.

  • Konsequenz: Die Ausrede „Das macht die IT-Abteilung, ich muss das nicht verstehen" ist rechtlich nicht mehr tragbar.

• Prüfungsdelikte: Wer ohne angemessene KI-Kompetenz entscheidet, handelt fahrlässig/grob fahrlässig.

Bedeutung für Normenanwender (ANP):

• Immediate Action: Alle ANP-Mitglieder, die KI-Projekte verantworten, müssen sich schulen (online-Kurse, Fachliteratur, interne Workshops).

• Due Diligence: Normenverantwortliche sollten ein KI-Audit durchführen:

  • Welche KI-Systeme nutzen wir intern?

  • Welche Risikoklasse fallen sie unter?

  • Dokumentieren wir die Entscheidungen?

• Hochrisiko-Normung: Falls die DIN TGKI Hochrisiko-KI-Normen entwickelt, müssen diese selbst ein AI-Act-konformes Audit durchlaufen.

Konflikt: Transparenz vs. Sicherheit durch Komplexität

Die zentrale Spannung (Schlussfrage der Folge):

Die deutsche Forschung strebt maximal erklärbare, nachvollziehbare KI an (KITU: Dashboard, Begründungen).

Jedoch könnten diese derselben Systeme anfälliger für Manipulationen werden, weil ihre Logik transparent ist. Im Gegensatz dazu haben Blackbox-Modelle „Sicherheit durch Undurchschaubarkeit" – niemand kann die innere Logik umgehen.

Normungs-Implikation:

• Sollten Normen Transparenz erzwingen (mit Manipulationsrisiko)?

• Oder sichere Blackbox-Systeme dulden (mit Vertrauensdefizit)?

• Der AI-Act sagt: Transparenz + Prüfung ist der europäische Weg.

Handlungsbedarf für die Normenpraxis

1. KI-Governance etablieren: Welche Systeme nutzen wir? Welche Regeln gelten dafür?

2. Führungskräfte schulen: Artikel 4 Compliance wird ernst.

3. Hochrisiko-Audit: Falls eure Normen KI-Systeme regeln, müssen diese selbst AI-Act-konform sein.

4. Transparenz-Standard pflegen: Die KITU-Forschung zeigt, dass erklärbare KI möglich und erwünscht ist.

Woche: 05.2026

EXECUTIVE SUMMARY

Die analysierten Inhalte markieren eine Verschiebung von „KI als Tool“ hin zu KI als gesellschaftlicher und wirtschaftlicher Steuerungsfaktor. Im Fokus stehen drei Risikodynamiken:

1. Kontrolle über digitale Öffentlichkeiten (Beispiel TikTok): Plattformmacht beeinflusst politische Meinungsbildung.

2. Erosion von Authentizität (Deepfakes, KI-Propaganda, KI-Avatare in Verwaltung): Sichtbarkeit verliert Beweisfunktion.

3. Spaltung in der Arbeitswelt (Produktivitäts-KI vs. Nicht-Nutzung): Risiko einer Kompetenz- und Wertschöpfungskluft.

Ergänzt wird dies durch eine zunehmende Bedrohungslage (Malicious LLMs wie WormGPT) sowie durch Qualitätsrisiken durch synthetische Datenrückkopplung („KI frisst sich selbst“).

Zielbild für ANP:
Prüfbarkeit, Kennzeichnung, Verantwortlichkeit und Security-by-Design als Mindestleitplanken für KI-Einsatz in Öffentlichkeit, Verwaltung und Unternehmen.

PROBLEMFELD 1: KONTROLLE ÜBER DIGITALE ÖFFENTLICHKEITEN

Beobachtung
Digitale Plattformen sind öffentliche Arenen mit hoher gesellschaftlicher Steuerungswirkung. Eine politisch beeinflusste Eigentümer- oder Kontrollstruktur kann Vielfalt reduzieren und Debattenräume verengen.

Normungs- und Regulierungsbedarf
– Transparenzanforderungen an Governance-Strukturen von Plattformen
– Nachweisbare Mechanismen zur Sicherung von Pluralität und Nicht-Diskriminierung in Distributionslogiken
– Prüfpfade für „politische Integrität“ algorithmischer Reichweitenmechanismen

Idee für ANP
– Kriterienkatalog für Plattform-Governance-Transparenz
– Mindestanforderungen für algorithmische Rechenschaft (Auditierbarkeit)

PROBLEMFELD 2: AUTHENTIZITÄT, DEEPFAKES UND KI-INTERAKTION IN VERWALTUNG

Beobachtung
Deepfakes und KI-Manipulationen wirken schneller als Aufklärung. Parallel entstehen KI-Avatare für Bürgerkommunikation („KI-Bürgermeister“), die Vertrauen und Verantwortungszuordnung beeinflussen.

Normungs- und Regulierungsbedarf
– Kennzeichnungspflicht für KI-generierte Inhalte: sichtbar und maschinenlesbar
– Mindestanforderungen an KI-gestützte Behördenkommunikation:
• klare Rollen- und Haftungsabgrenzung
• Grenzen rechtsverbindlicher Auskünfte
• Protokollierung und Nachvollziehbarkeit

Idee für ANP
– Standard „Maschinenlesbare KI-Kennzeichnung“ (Metadaten und UI-Label)
– Leitlinie „KI-Assistenz in Behörden“ (Haftung, Transparenz, Eskalation)

PROBLEMFELD 3: ARBEITSWELT-SPALTUNG DURCH UNGLEICHE KI-NUTZUNG

Beobachtung
KI-Integration in Standardsoftware steigert Produktivität. Gleichzeitig zeigen Daten eine breite Nicht-Nutzung von KI, was eine neue Wertschöpfungskluft erzeugt.

Normungs- und Regulierungsbedarf
– Anforderungen an organisationsweite Qualifizierungsstrategien („Capability Building“)
– Mindeststandards für Change- und Lernkultur in KI-Transformation
– Schutz vor struktureller Benachteiligung durch fehlende Kompetenzzugänge

Idee für ANP
– Musterprozess „KI-Kompetenzaufbau“ für KMU (schlank, umsetzbar)
– Kriterien für „faire Einführung“ (Zugang, Schulung, Begleitung)

PROBLEMFELD 4: BEDROHUNGSLAGE DURCH MALICIOUS LLMS UND UNSICHERES VIBE-CODING

Beobachtung
Neben missbrauchbaren Systemen entstehen gezielt kriminelle Modelle (z. B. WormGPT). Gleichzeitig erzeugt KI-gestützte Softwareentwicklung ohne Security-Kompetenz neue Angriffsflächen.

Normungs- und Regulierungsbedarf
– Mindestanforderungen an Security-by-Design für KI-Systeme und KI-generierten Code
– Prüfverfahren und Zertifizierung nach Risikoklassen (analog Sicherheitsprüfung)
– Klare Haftungszuordnung bei Datenabfluss und Sicherheitsmängeln

Idee für ANP
– Entwurf „KI-Sicherheits-TÜV“ nach Einsatzgebiet (Finanzen, Gesundheit, Verwaltung)
– Security-Checkliste für KI-generierte Softwareartefakte

PROBLEMFELD 5: QUALITÄTS- UND WAHRHEITSRISIKEN DURCH SYNTHETISCHE DATENRÜCKKOPPLUNG

Beobachtung
KI-Inhalte werden Teil zukünftiger Trainingsdaten („KI frisst sich selbst“). Risiko: Fehlerverstärkung, sinkende Originalität, Erosion überprüfbarer Quellen.

Normungs- und Regulierungsbedarf
– Standards für Quellentransparenz und Rückverfolgbarkeit
– Anforderungen an Datenvalidierung und Provenance (Herkunftsnachweis)
– Schutzmaßnahmen gegen Datenvergiftung (Training Data Security)

Idee für ANP
– Leitlinie „Provenance und Quellenkette“ für KI-Antwortsysteme
– Anschlussfähigkeit an Sicherheitsforschung (Training-Absicherung)

SCHLUSSFOLGERUNG / LEITMOTIV

KI verschiebt die Kontrollfrage von der Technik in die Governance.

Wer steuert Öffentlichkeit, Wahrheit und Wertschöpfung?

ANP kann die Brücke bauen zwischen
„KI nutzen“ und „KI verantwortbar nutzen“ – durch Kennzeichnung, Prüfbarkeit, Verantwortungslogik und Security-by-Design.

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.