2. STAFFEL / FOLGE:

4.12.2025

KI Ethik News

#4: Deutsche Praxis trifft EU-Regulierung – Der AI-Act ist jetzt Realität

Datum: 3 4. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 34) | Datum: 03 04.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 3 beleuchtet den Übergang von der „unschuldigen Experimentierphase“ in eine Ära harter wirtschaftlicher Realitäten für KI-Anbieter. Während US-Marktführer unter Kostendruck stehen und Werbung in Chatbots einführen, setzen neue Akteure auf radikale Effizienz und lokale Ausführung („Edge AI“). Für die Normung ergeben sich daraus neue Anforderungen an Transparenz und Datenschutz4 zeigt die zunehmende Polarisierung in der KI-Landschaft: Während deutsche Forschungsprojekte spezialisierte, nachvollziehbare Systeme entwickeln, kämpfen globale Konzerne mit Stabilität und Ethik. Der EU-AI-Act wurde Realität – ab Anfang 2025 gelten erste Verpflichtungen, ab August 2025 beginnen Kontrollprüfungen. Dies stellt Normenanwender vor zwei zentrale Aufgaben: (1) KI-Systeme evaluieren, (2) Führungskräfte zu KI-Kompetenz verpflichten.

Kernthemen und Implikationen für die Normenpraxis

1.

Das deutsche Modell: Erklärbare & spezialisierte KI

Die Entwicklung:
Interne Berichte deuten auf eine „Code Red“-Stimmung bei OpenAI hin. Hohe Betriebskosten zwingen zur Monetarisierung: In Beta-Versionen wurden Werbemodule entdeckt:

Zwei Fallbeispiele illustrieren den deutschen Ansatz:

a) KITU 2.0 (Uni Mainz, Krebstherapie):

• Analysiert Patientendaten für Tumorboards (Spezialistenkonferenzen).

• Nicht als Arzterstatz, sondern als hochqualifizierte „Zweitmeinung".

• Entscheidend: Transparentes Dashboard, das Ärzte sieht, warum die KI eine Therapie empfiehlt.

• Genauigkeit: 70–90% beim Abgleich mit menschlichen Expertengremien.

• Verantwortung bleibt beim Menschen.

b) Optimization Chat (Uni Bielefeld, Logistik/Produktion):

• Übersetzt Geschäftsprobleme in mathematische Formeln.

• Beispiel: Lkw-Routing mit Kostenoptimierung automatisiert.

• Entscheidend: Spezialisiert, nicht generalistisch. Verhindert den „Alleskönner-Hype".

Bedeutung für Normenanwender (ANP):

• Verlässlichkeit von Informationen: Wenn KI-Antworten durch Werbebuchungen beeinflusst werden, ist die Neutralität gefährdet. Normenanwender, die KI zur Recherche nutzen, müssen Antworten künftig stärker auf Bias prüfen.

• Kennzeichnungspflichten: Es entsteht Bedarf an Normen für die Kennzeichnung von „Sponsored Content“ in KI-generierten Antworten, ähnlich wie im Web, um Täuschung zu vermeiden.

2. Die Effizienz-Revolution (DeepSeek & Sparsame Architekturen)

Die Entwicklung:
Der chinesische Anbieter DeepSeek erreicht Spitzenleistung bei 70% geringerem Energieverbrauch. Technischer Schlüssel ist eine Architektur, die nur relevante Teile des neuronalen Netzes aktiviert („Mixture of Experts“).
Bedeutung für Normenanwender (ANP):

• Green AI & Nachhaltigkeit: Energieeffizienz wird zum entscheidenden Faktor. Zukünftige Normen (ISO/IEC) könnten Effizienzklassen für KI-Modelle definieren, ähnlich wie bei Haushaltsgeräten.

• Kosteneffizienz: Günstigere Modelle machen den Einsatz von KI in internen Normungsprozessen (z. B. automatische Prüfung von Dokumenten) auch für kleinere Organisationen wirtschaftlich tragbar.

3. Edge AI & Datensicherheit (Nvidia & Microsoft)

• Erklärbarkeits-Standard (Explainable AI): Deutsche Forschung setzt auf Transparenz. Dies sollte in künftigen Normen zur KI-Anwendung als Best Practice verankert werden, nicht nur als optionales Feature.

• Hochspezialisierten Systeme bevorzugen: Der Trend weg von Generalisten-KI und hin zu fokussierten, überprüfbaren Systemen sollte in den Anforderungskatalog für KI in kritischen Bereichen (Medizin, Infrastruktur) aufgenommen werden.

• Praktischer Transfer: Normenanwender könnten diese Projekte als Vorlagen zur Evaluierung eigener KI-Einsätze heranziehen.

2. Die Silicon-Valley-Krise

Die Entwicklung:

a) OpenAI (Code Red):

• CEO Altman ruft intern Alarmstufe aus. Kernprodukt ChatGPT wackelt (Geschwindigkeit, Zuverlässigkeit).

• Konkurrenz (Google Gemini 3, Anthropic) holt auf.

• Alle Nebenprojekte (Shopping, Agenten) werden gestoppt.

• Fokus: Stabilität vor Innovation.

b) Anthropic & das „Seelendokument":

• Ein verstecktes 14.000-Token-Dokument wurde in Claude 4.5 gefunden.

• Inhalt: Anthropic versucht, der KI eine positive Persönlichkeit/einen ethischen Kompass einzupflanzen (nicht nur nachträgliche Sperren, wie OpenAI).

• Ziel: Claude soll ein „brillanter, fachkundiger Freund" sein.

• Riskant: Wirkt manipulativ; es ist unklar, ob das funktioniert.

c) Mistral (französisches Start-up):

• Strategie: Volle Open-Weight-Modelle (lokal installierbar, anpassbar).

• Vorteil: Datensouveränität (z.B. HSBC-Deal wegen Bankgeheimnis-Anforderungen).

• Position: Nicht Stabilität oder „gute Seele", sondern Kontrolle.

Bedeutung für Normenanwender (ANP):

• Philosophie der KI-Beschaffung: Drei Modelle konkurrieren – Stabilität, Identität, Souveränität. Normenanwender müssen bei der Auswahl von KI-Systemen entscheiden, welche dieser Dimensionen sie bevorzugen.

  • Stabilitäts-Modell: Gut für kurzfristige, zuverlässige Aufgaben (z. B. Dokumentprüfung).

  • Identitäts-Modell: Fraglich für regulatorische Kontexte (wer bestimmt die „Werte"?).

  • Souveränitäts-Modell: Ideal für sensitive Daten (Norm-Entwürfe, Compliance-Daten).

• Make-or-Buy-Entscheidung: Normenstellen könnten in Zukunft überlegen, ob lokale Open-Source-Modelle (wie Mistral) für interne Normungsprozesse sicherer sind als Cloud-Lösungen.

3. Der EU-AI-Act als neue Spielregel

Die Entwicklung (Timeline):

• August 2024: AI-Act tritt in Kraft.

• Februar 2025: Erste Dokumentations- und Transparenzpflichten aktiv.

• August 2025: Bundesnetzagentur startet Prüfungen.

• Strafen: Bis zu 35 Mio. EUR oder 7% weltweiten Jahresumsatzes.

Risikobasierte Kategorien:

1. Verbotene KI: Social Scoring durch Regierungen (kleiner Bereich).

2. Hochrisiko-KI: Personalwesen, Kreditvergabe, Justiz, kritische Infrastruktur → strenge Dokumentation & Auditpflichten.

3. Transparenzpflicht: Chatbots, generative KI (müssen kennzeichnen, dass sie KI sind).

Der Game Changer – Artikel 4:

• Pflicht zur KI-Kompetenz für Führungskräfte:

  • Jeder, der KI entwickelt, einsetzt oder über Einsatz entscheidet, muss „angemessenes KI-Wissen" haben.

  • Zielgruppe: Vorstände, Geschäftsführer, Abteilungsleiter, Projektverantwortliche in Normenkomitees.

  • Konsequenz: Die Ausrede „Das macht die IT-Abteilung, ich muss das nicht verstehen" ist rechtlich nicht mehr tragbar.

• Prüfungsdelikte: Wer ohne angemessene KI-Kompetenz entscheidet, handelt fahrlässig/grob fahrlässig.

Bedeutung für Normenanwender (ANP):

Datenschutz durch Technik

• Immediate Action: 

Lokale KI-Modelle sind ideal für die Bearbeitung vertraulicher Norm-Entwürfe, da keine Daten die eigene Infrastruktur verlassen („Privacy by Design“).

• Praxis-Tipp: Die im Podcast vorgestellte „Methode der Abstraktion“ (Namen und genaue Summen durch Platzhalter ersetzen) sollte als Best Practice in interne KI-Richtlinien aufgenommen werden.

Fazit für die Normung

Die Ära der „kostenlosen Super-KI“ endet. Wir bewegen uns auf einen Markt zu, der sich aufspaltet:

1. Kommerzielle Cloud-Dienste (potenziell werbefinanziert, weniger privat).

2. Lokale, effiziente Modelle (datenschutzkonform, spezialisiert).

• Alle ANP-Mitglieder, die KI-Projekte verantworten, müssen sich schulen (online-Kurse, Fachliteratur, interne Workshops).

• Due Diligence: Normenverantwortliche sollten ein KI-Audit durchführen:

  • Welche KI-Systeme nutzen wir intern?

  • Welche Risikoklasse fallen sie unter?

  • Dokumentieren wir die Entscheidungen?

• Hochrisiko-Normung: Falls die DIN TGKI Hochrisiko-KI-Normen entwickelt, müssen diese selbst ein AI-Act-konformes Audit durchlaufen.

Konflikt: Transparenz vs. Sicherheit durch Komplexität

Die zentrale Spannung (Schlussfrage der Folge):

Die deutsche Forschung strebt maximal erklärbare, nachvollziehbare KI an (KITU: Dashboard, Begründungen).

Jedoch könnten diese derselben Systeme anfälliger für Manipulationen werden, weil ihre Logik transparent ist. Im Gegensatz dazu haben Blackbox-Modelle „Sicherheit durch Undurchschaubarkeit" – niemand kann die innere Logik umgehen.

Normungs-Implikation:

• Sollten Normen Transparenz erzwingen (mit Manipulationsrisiko)?

• Oder sichere Blackbox-Systeme dulden (mit Vertrauensdefizit)?

• Der AI-Act sagt: Transparenz + Prüfung ist der europäische Weg.

Handlungsbedarf für die Normenpraxis

1. KI-Governance etablieren: Welche Systeme nutzen wir? Welche Regeln gelten dafür?

2. Führungskräfte schulen: Artikel 4 Compliance wird ernst.

3. Hochrisiko-Audit: Falls eure Normen KI-Systeme regeln, müssen diese selbst AI-Act-konform sein.

4. Transparenz-Standard pflegen: Die KITU-Forschung zeigt, dass erklärbare KI möglich und erwünscht ist.

Hinweis: Diese Zusammenfassung basiert auf der Podcast-Analyse; sie ersetzt keine Rechtsberatung zum AI-Act. Die Bundesnetzagentur und das BSI veröffentlichen regelmäßig konkrete LeitfädenFür den ANP bedeutet das: Die Definition von Anforderungen an lokale KI-Systeme wird wichtiger als die reine Regulierung von Cloud-Anbietern.

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.