2. STAFFEL / FOLGE:

2.12.2025

KI Ethik News #2: China, Open-Source-KI und das „unsichtbare“ Automatisierungs-Erdbeben

Datum: 1 2. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 12) | Datum: 01 02.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Diese Woche beleuchtet der Podcast massive wirtschaftliche Defizite bei KI-Providern, Haftungsrisiken bei "halluzinierenden" Berichten und die Bildung von Monopolen durch Plattform-Sperren. Für den Ausschuss Normenpraxis ergeben sich daraus drei konkrete Handlungsfelder: Transparenzstandards, Interoperabilität und Governance in der Lieferkette.

1. Normungsbedarf: Transparenz und Qualitätssicherung (Fallbeispiel Deloitte)

Der aktuelle Fall, bei dem ein KI-generierter Bericht im kanadischen Gesundheitswesen nicht existente Studien zitierte, verdeutlicht eine kritische Lücke in der Qualitätssicherung.

• Das Problem: KI-Halluzinationen fließen ungeprüft in Entscheidungsprozesse ein, die Personal und Versorgung betreffen.

• Implikation für die Normung: Es besteht dringender Bedarf an Standards für Transparenz. Konkret wird eine Regelung diskutiert, die KI-generierte Inhalte kennzeichnungspflichtig macht.

• Lösungsansatz: Einführung eines "TÜV-Siegels" für KI-Recherchen, das zwingend eine menschliche Überprüfung ("Human-in-the-Loop") vorschreibt, um Vertrauen zu sichern.

2. Normungsbedarf: Interoperabilität vs. "Walled Gardens" (Fallbeispiel WhatsApp)

Die Ankündigung von Meta, ab 2026 externe KI-Chatbots (wie ChatGPT oder Copilot) in WhatsApp zu blockieren, schafft faktische Monopole.

• Das Problem: Nutzer werden in geschlossene Ökosysteme gedrängt; der Informationsfluss wird von einem Anbieter kontrolliert.

• Implikation für die Normung: Hier müssen Standards für Interoperabilität greifen. Normen müssen sicherstellen, dass verschiedene Systeme miteinander kommunizieren können, um digitale Monopole und "geschlossene Gärten" zu verhindern.

3. Normungsbedarf: Sicherheit in der Lieferkette (Fallbeispiel OpenAI/Mixpanel)

Ein Datenleck bei einem Analysepartner von OpenAI zeigt, dass der Fokus nicht nur auf dem KI-Modell selbst liegen darf.

• Das Problem: Die Sicherheit ist nur so stark wie das schwächste Glied. Sensible Nutzerdaten (Namen, E-Mails) wurden bei einem Drittanbieter geleakt.

• Implikation für die Normung: Sicherheitsnormen müssen die gesamte Lieferkette (Supply Chain Security) abdecken, nicht nur den Primäranbieter.

4. Governance & "Real-World"-Gap

Der AI Act ist verabschiedet, trifft aber auf praktische Hürden.

• Gap-Analyse: Beispiele aus Ecuador zeigen, dass ethische Richtlinien ohne Infrastruktur (Rechenzentren, Fachkräfte) wirkungslos bleiben.

• Governance-Standards: Normung ist der Schlüssel zur Demokratisierung. Sie muss sicherstellen, dass nicht nur Ingenieure Regelwerke erstellen, sondern ein Gremium aus Ethikern, Sozialwissenschaftlern und Bürgern involviert ist. Governance-Standards fungieren hier als "Leitplanken", um KI gemeinwohlorientiert auszurichten.

💡 Diskussion im Hub

Basierend auf diesen Entwicklungen stellen sich für unsere Ausschussarbeit folgende Fragen:

In dieser Folge analysieren wir drei seismische Verschiebungen im KI-Sektor, die direkte Auswirkungen auf internationale Standards, die Wettbewerbsfähigkeit europäischer Unternehmen und interne Normungsprozesse haben:

1. Geopolitik & Standards: China überholt die USA bei Open-Source-Modellen (Hugging Face Studie).

2. Arbeitswelt & Automatisierung: Das „Project Iceberg“ (MIT) zeigt, dass die technische Automatisierbarkeit (11,7% aller Jobs) weit über der wirtschaftlichen Umsetzung liegt – bis jetzt. Das „Model Context Protocol“ (MCP) ändert dies.

3. Technologie & Methodik: Neue KI-Modelle lösen jahrzehntealte mathematische Probleme („Aristotle“) und Nvidia setzt auf „Tool Orchestration“ statt nur auf immer größere Modelle.

Kernthemen und Implikationen für die Normenpraxis

1. Der Aufstieg chinesischer Open-Source-KI

Die Entwicklung:
Laut einer aktuellen Analyse stammen mittlerweile 17,1% der weltweiten Downloads von KI-Modellen aus China (DeepSeek, Alibaba), während der US-Anteil auf 15,8% gesunken ist. Chinesische Anbieter veröffentlichen leistungsfähige Modelle („V3.2“) als Open Source, während US-Firmen (OpenAI, Google) zunehmend auf geschlossene Systeme („Blackbox“) setzen.

Bedeutung für Normenanwender (ANP):

• Standardsetzung & Einfluss: Wenn chinesische Modelle die De-facto-Basis für Entwickler weltweit werden, wächst Chinas Einfluss auf technische Standards und Normen (z. B. in ISO/IEC JTC 1/SC 42). Normenanwender müssen beobachten, ob europäische Werte (Transparenz, Datenschutz) in diesen faktischen Standards abgebildet werden.

• Abhängigkeiten & Compliance: Der Einsatz chinesischer Open-Source-Modelle in deutschen Unternehmen erfordert eine strenge Prüfung hinsichtlich Datenabfluss und Lizenzkonformität. Für Normenverantwortliche bedeutet das: Interne Richtlinien für den Einsatz von Open-Source-KI („KI-Governance“) müssen geopolitische Risiken berücksichtigen.

• Vorteil Open Source: Für die Normenpraxis bietet Open Source die Chance, Modelle lokal (On-Premise) zu betreiben, was die Einhaltung von DSGVO und Geheimhaltungsschutz (z. B. bei der Analyse von Normentwürfen) erleichtert.

2. „Project Iceberg“ und das Model Context Protocol (MCP)

Die Entwicklung:
Die Studie „Project Iceberg“ zeigt eine massive Lücke zwischen technischer Machbarkeit der Automatisierung und realer Anwendung. Der Grund: Bisher fehlten Schnittstellen. Das neue Model Context Protocol (MCP) wirkt hier als „Universalschlüssel“: Es erlaubt KI-Agenten, direkt auf Bürosoftware, Kalender und Datenbanken zuzugreifen und aktiv zu handeln (nicht nur Text zu generieren).

Bedeutung für Normenanwender (ANP):

• Automatisierung des Normenmanagements: MCP ermöglicht es theoretisch, KI-Agenten direkten Lese- und Schreibzugriff auf Normen-Datenbanken und Compliance-Dashboards zu geben.

  • Szenario: Ein KI-Agent überwacht Änderungen im Amtsblatt der EU, gleicht diese mit dem internen Normenportfolio ab und aktualisiert automatisch die Konformitätsbewertung – ein massiver Effizienzgewinn für Normenstellen.

• Sicherheitsrisiko & Normung: Die Öffnung von Schnittstellen erhöht die Angriffsfläche (siehe „Phishing via Mixpanel“ im Podcast). Es bedarf neuer interner Standards für die Zugriffskontrolle von KI-Agenten. Normenanwender müssen definieren: Was darf ein KI-Agent autonom entscheiden? Wo liegt der „Human-in-the-Loop“?

3. Tool Orchestration & Vibe-Proving

Die Entwicklung:
Statt eines einzelnen riesigen Modells setzt sich der Trend zur „Orchestrierung“ durch: Ein kleines, effizientes Steuermodell („Dirigent“) koordiniert spezialisierte Tools (Rechner, Websuche, Datenbank). Zudem lösen KIs komplexe mathematische Probleme durch eine Kombination aus Intuition („Vibe“) und formaler Beweisführung.

Bedeutung für Normenanwender (ANP):

• Validierung von Normen: Die Fähigkeit von KI, formale mathematische Beweise zu führen, könnte künftig genutzt werden, um technische Normen auf innere Widerspruchsfreiheit und Logikfehler automatisiert zu prüfen (formale Verifikation).

• Prozess-Effizienz: Der „Tool Orchestra“-Ansatz ist kosteneffizienter als große Modelle. Für KMU im ANP bedeutet das: Leistungsfähige KI-Assistenz für die Normenrecherche und -anwendung wird erschwinglicher und muss nicht zwingend in der Cloud laufen.

Fazit & Handlungsbedarf für die Normung

Die Podcast-Folge verdeutlicht: Wir bewegen uns von einer Wissensökonomie hin zu einer Prompt- und Handlungsökonomie. Für den ANP und die Normenpraxis ergeben sich daraus konkrete Fragen für die nächste Sitzung:

1. Governance: Brauchen wir eine Betriebsnorm für den Einsatz von KI-Agenten im Normenmanagement?

2. Sicherheit: Wie sichern wir offene Schnittstellen (MCP), wenn KI-Agenten auf interne Normen-Datenbanken zugreifen?

3. Kompetenz: Wie schulen wir Normenanwender zu „Re-Inventors“ (Accenture-Beispiel), die KI-Werkzeuge orchestrieren können, statt nur Normen zu verwalten?

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.

Zusammenfassung erstellt auf Basis des Transkripts "KI Ethik News" S02E01.