2. STAFFEL / FOLGE: 4.12.2025

KI Ethik News #4: Deutsche Praxis trifft EU-Regulierung – Der AI-Act ist jetzt Realität

Datum: 4. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 4) | Datum: 04.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 4 zeigt die zunehmende Polarisierung in der KI-Landschaft: Während deutsche Forschungsprojekte spezialisierte, nachvollziehbare Systeme entwickeln, kämpfen globale Konzerne mit Stabilität und Ethik. Der EU-AI-Act wurde Realität – ab Anfang 2025 gelten erste Verpflichtungen, ab August 2025 beginnen Kontrollprüfungen. Dies stellt Normenanwender vor zwei zentrale Aufgaben: (1) KI-Systeme evaluieren, (2) Führungskräfte zu KI-Kompetenz verpflichten.

Kernthemen und Implikationen für die Normenpraxis

1. Das deutsche Modell: Erklärbare & spezialisierte KI

Die Entwicklung:

Zwei Fallbeispiele illustrieren den deutschen Ansatz:

a) KITU 2.0 (Uni Mainz, Krebstherapie):

• Analysiert Patientendaten für Tumorboards (Spezialistenkonferenzen).

• Nicht als Arzterstatz, sondern als hochqualifizierte „Zweitmeinung".

• Entscheidend: Transparentes Dashboard, das Ärzte sieht, warum die KI eine Therapie empfiehlt.

• Genauigkeit: 70–90% beim Abgleich mit menschlichen Expertengremien.

• Verantwortung bleibt beim Menschen.

b) Optimization Chat (Uni Bielefeld, Logistik/Produktion):

• Übersetzt Geschäftsprobleme in mathematische Formeln.

• Beispiel: Lkw-Routing mit Kostenoptimierung automatisiert.

• Entscheidend: Spezialisiert, nicht generalistisch. Verhindert den „Alleskönner-Hype".

Bedeutung für Normenanwender (ANP):

• Erklärbarkeits-Standard (Explainable AI): Deutsche Forschung setzt auf Transparenz. Dies sollte in künftigen Normen zur KI-Anwendung als Best Practice verankert werden, nicht nur als optionales Feature.

• Hochspezialisierten Systeme bevorzugen: Der Trend weg von Generalisten-KI und hin zu fokussierten, überprüfbaren Systemen sollte in den Anforderungskatalog für KI in kritischen Bereichen (Medizin, Infrastruktur) aufgenommen werden.

• Praktischer Transfer: Normenanwender könnten diese Projekte als Vorlagen zur Evaluierung eigener KI-Einsätze heranziehen.

2. Die Silicon-Valley-Krise

Die Entwicklung:

a) OpenAI (Code Red):

• CEO Altman ruft intern Alarmstufe aus. Kernprodukt ChatGPT wackelt (Geschwindigkeit, Zuverlässigkeit).

• Konkurrenz (Google Gemini 3, Anthropic) holt auf.

• Alle Nebenprojekte (Shopping, Agenten) werden gestoppt.

• Fokus: Stabilität vor Innovation.

b) Anthropic & das „Seelendokument":

• Ein verstecktes 14.000-Token-Dokument wurde in Claude 4.5 gefunden.

• Inhalt: Anthropic versucht, der KI eine positive Persönlichkeit/einen ethischen Kompass einzupflanzen (nicht nur nachträgliche Sperren, wie OpenAI).

• Ziel: Claude soll ein „brillanter, fachkundiger Freund" sein.

• Riskant: Wirkt manipulativ; es ist unklar, ob das funktioniert.

c) Mistral (französisches Start-up):

• Strategie: Volle Open-Weight-Modelle (lokal installierbar, anpassbar).

• Vorteil: Datensouveränität (z.B. HSBC-Deal wegen Bankgeheimnis-Anforderungen).

• Position: Nicht Stabilität oder „gute Seele", sondern Kontrolle.

Bedeutung für Normenanwender (ANP):

• Philosophie der KI-Beschaffung: Drei Modelle konkurrieren – Stabilität, Identität, Souveränität. Normenanwender müssen bei der Auswahl von KI-Systemen entscheiden, welche dieser Dimensionen sie bevorzugen.

  • Stabilitäts-Modell: Gut für kurzfristige, zuverlässige Aufgaben (z. B. Dokumentprüfung).

  • Identitäts-Modell: Fraglich für regulatorische Kontexte (wer bestimmt die „Werte"?).

  • Souveränitäts-Modell: Ideal für sensitive Daten (Norm-Entwürfe, Compliance-Daten).

• Make-or-Buy-Entscheidung: Normenstellen könnten in Zukunft überlegen, ob lokale Open-Source-Modelle (wie Mistral) für interne Normungsprozesse sicherer sind als Cloud-Lösungen.

3. Der EU-AI-Act als neue Spielregel

Die Entwicklung (Timeline):

• August 2024: AI-Act tritt in Kraft.

• Februar 2025: Erste Dokumentations- und Transparenzpflichten aktiv.

• August 2025: Bundesnetzagentur startet Prüfungen.

• Strafen: Bis zu 35 Mio. EUR oder 7% weltweiten Jahresumsatzes.

Risikobasierte Kategorien:

1. Verbotene KI: Social Scoring durch Regierungen (kleiner Bereich).

2. Hochrisiko-KI: Personalwesen, Kreditvergabe, Justiz, kritische Infrastruktur → strenge Dokumentation & Auditpflichten.

3. Transparenzpflicht: Chatbots, generative KI (müssen kennzeichnen, dass sie KI sind).

Der Game Changer – Artikel 4:

• Pflicht zur KI-Kompetenz für Führungskräfte:

  • Jeder, der KI entwickelt, einsetzt oder über Einsatz entscheidet, muss „angemessenes KI-Wissen" haben.

  • Zielgruppe: Vorstände, Geschäftsführer, Abteilungsleiter, Projektverantwortliche in Normenkomitees.

  • Konsequenz: Die Ausrede „Das macht die IT-Abteilung, ich muss das nicht verstehen" ist rechtlich nicht mehr tragbar.

• Prüfungsdelikte: Wer ohne angemessene KI-Kompetenz entscheidet, handelt fahrlässig/grob fahrlässig.

Bedeutung für Normenanwender (ANP):

• Immediate Action: Alle ANP-Mitglieder, die KI-Projekte verantworten, müssen sich schulen (online-Kurse, Fachliteratur, interne Workshops).

• Due Diligence: Normenverantwortliche sollten ein KI-Audit durchführen:

  • Welche KI-Systeme nutzen wir intern?

  • Welche Risikoklasse fallen sie unter?

  • Dokumentieren wir die Entscheidungen?

• Hochrisiko-Normung: Falls die DIN TGKI Hochrisiko-KI-Normen entwickelt, müssen diese selbst ein AI-Act-konformes Audit durchlaufen.

Konflikt: Transparenz vs. Sicherheit durch Komplexität

Die zentrale Spannung (Schlussfrage der Folge):

Die deutsche Forschung strebt maximal erklärbare, nachvollziehbare KI an (KITU: Dashboard, Begründungen).

Jedoch könnten diese derselben Systeme anfälliger für Manipulationen werden, weil ihre Logik transparent ist. Im Gegensatz dazu haben Blackbox-Modelle „Sicherheit durch Undurchschaubarkeit" – niemand kann die innere Logik umgehen.

Normungs-Implikation:

• Sollten Normen Transparenz erzwingen (mit Manipulationsrisiko)?

• Oder sichere Blackbox-Systeme dulden (mit Vertrauensdefizit)?

• Der AI-Act sagt: Transparenz + Prüfung ist der europäische Weg.

Handlungsbedarf für die Normenpraxis

1. KI-Governance etablieren: Welche Systeme nutzen wir? Welche Regeln gelten dafür?

2. Führungskräfte schulen: Artikel 4 Compliance wird ernst.

3. Hochrisiko-Audit: Falls eure Normen KI-Systeme regeln, müssen diese selbst AI-Act-konform sein.

4. Transparenz-Standard pflegen: Die KITU-Forschung zeigt, dass erklärbare KI möglich und erwünscht ist.

Hinweis: Diese Zusammenfassung basiert auf der Podcast-Analyse; sie ersetzt keine Rechtsberatung zum AI-Act. Die Bundesnetzagentur und das BSI veröffentlichen regelmäßig konkrete Leitfäden.

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.