2. STAFFEL / Woche: 04.2026

"Wem gehört die KI? Normungs-Lücken bei Kontrolle & Verantwortung"

Executive Summary

Die KI-Industrie zeigt vier kritische Normungs-Lücken:

1. Transparenz-Kontrolle: XAI öffnet den Code (Transparenz) vs. Anthropic versteckt innere Schalter (Manipulation)

2. Verantwortungs-Chaos: Ein britischer Polizeichef verliert seinen Job wegen falscher KI-Berichte – aber wer trägt die Verantwortung?

3. Digitale Souveränität: Deutsche Behörden steigen auf Open-Source um, weil geschlossene Systeme Abhängigkeit schaffen

4. Authentifizierungs-Lücke: KI-Emulatoren täuschen Menschen vor, wer sie sind – ohne klare Kennzeichnung

NORMUNGS-HANDLUNGSFELD 1: TRANSPARENZ-STANDARDS FÜR KI-SYSTEME

Das Problem: Transparenz vs. Black Box

Szenario A (XAI):

• Code ist öffentlich

• Jeder kann die Logik nachvollziehen

• Aber technisch komplex & schwer zugänglich

Szenario B (Anthropic):

• Innere Schalter ("Assistentenachse") sind versteckt

• System funktioniert, aber niemand weiß warum

• Manipulationen sind möglich, aber unerkannt

Die zentrale Frage: Nach wessen Regeln spielt dieses System?

Was die Normung braucht

Norm-Arbeitstitel: "Transparenz-Anforderungen für KI-Kontrollsysteme"

Die politische Dimension

Das ist nicht nur technisch. Das ist eine Frage von Demokratie & Manipulation.

Wer entscheidet, nach welchen Regeln eine KI funktioniert?

Zentral: Diese Entscheidungen dürfen nicht von privaten Unternehmen allein getroffen werden.

Für ANP: Arbeitsgruppen-Themen

•  Gruppe 1: Was ist "Transparenz" konkret in KI-Systemen?

•  Gruppe 2: Wie können externe Auditor unabhängig prüfen?

•  Gruppe 3: Welche Informationen sind öffentlich, welche schützenswert?

NORMUNGS-HANDLUNGSFELD 2: VERANTWORTUNGS-KLÄRUNG FÜR KI-OUTPUTS

Das Drama: Wer haftet für erfundene Polizeiberichte?

Der Fall:

• Polizeichef muss zurücktreten

• Grund: Behörde traf Entscheidung (Fußballfans aussperren) basierend auf Microsoft Copilot Bericht

• Der Bericht war komplett erfunden (KI-Halluzination)

Die Frage: Wer trägt die Verantwortung?

Das Norm-Prinzip: Handwerk als Analogie

Ein Meister bekommt eine Wasserwaage, die krumm ist.

Er baut trotzdem die Wand schief und sagt: "Die Wasserwaage ist schuld."

Niemand würde das akzeptieren. Der Meister trägt Verantwortung.

Genauso hier: "Die Verantwortung für eine Entscheidung kannst du nicht an ein Werkzeug delegieren."

Was die Normung braucht

Norm-Arbeitstitel: "Verantwortungs-Verteilung bei KI-assistierten Entscheidungen"

Die tiefere Frage: Haftungs-Pyramide

Wer trägt in welcher Reihenfolge Haftung?

1. Nutzer (hat die Entscheidung getroffen)

2. Organisationsleitung (hat das System eingeführt)

3. Hersteller (hat das System entwickelt)

Heute: Meist nur der Nutzer.
Morgen (Norm): Haftung sollte stärker beim Hersteller liegen, wenn das System als "professionell" vermarktet wird.

Für ANP: Normungs-Roadmap

•  Hochrisikoentscheidungen definieren (Liste)

•  Vier-Augen-Pflicht konkretisieren (Checklisten)

•  Haftungs-Szenarien durchspielen (Szenarien-Katalog)

NORMUNGS-HANDLUNGSFELD 3: DIGITALE SOUVERÄNITÄT & OPEN-SOURCE STANDARDS

Das Problem: Abhängigkeit von privaten Konzernen

Szenario:

• OpenAI verdoppelt die Preise morgen

• Eine Behörde kann nicht einfach wechseln

• Sie ist gefangen

Die deutsche Antwort: Behörden steigen auf Open-Source um.

Warum? Weil der EU-AI-Act klare Kontrollanforderungen hat.

Was die Normung braucht

Norm-Arbeitstitel: "Anforderungen an Open-Source-KI für öffentliche Institutionen"

Die politische Dimension

Das ist nicht nur technisch. Das ist digitale Souveränität.

Deutschland darf nicht abhängig sein von:

• OpenAI (USA)

• Anthropic (USA)

• Mistral (Frankreich)

Es muss eigene, kontrollierte KI-Infrastruktur geben.

Für ANP: Europäische Kooperation

•  Mit Frankreich, Niederlanden, Schweden kooperieren

•  Gemeinsame Open-Source-Standards setzen

•  Europäische KI-Infrastruktur-Initiative

NORMUNGS-HANDLUNGSFELD 4: AUTHENTIFIZIERUNGS-PFLICHT (MENSCH vs. MASCHINE)

Das Horror-Szenario: KI-Emulatoren ohne Kennzeichnung

Die Realität:

• XAI testet "menschliche Emulatoren"

• Das sind Agenten, die wie Angestellte arbeiten (Maus, Tastatur)

• Teilweise wussten die Kollegen nicht, dass sie mit einer Maschine sprachen

Das ist Täuschung.

Das Szenario

Du schreibst deinem Kollegen per Chat:

"Hey, kannst du die Präsentationen fertigmachen?"

Zurück kommt:

"Klar, gemacht!"

Aber: Der Kollege sitzt in der Kantine. Die Antwort kam von seinem digitalen Zwilling.

Die Fragen:

• Wer haftet, wenn der Zwilling einen Fehler macht?

• Wurde dein Kollege vorher gefragt?

• Wurde er kompensiert?

Was die Normung braucht

Norm-Arbeitstitel: "Kennzeichnungspflicht für KI-basierte Agenten und Emulatoren"

Die tiefere Frage: Digitale Identität

Ein Mensch hat das Recht zu wissen, ob er mit einem Menschen oder einer Maschine spricht.

Das ist nicht verhandelbar. Es ist eine Frage von Vertrauen und Transparenz.

Für ANP: Sofort-Maßnahmen

•  Verbot von unerkannten KI-Emulatoren (Betrug-Prävention)

•  ISO-Norm für Kennzeichnung (international harmonisiert)

•  Strafkatalog (Was passiert bei Verstoß?)

NORMUNGS-HANDLUNGSFELD 5: NACHHALTIGKEIT & TOTAL-COST-OF-OWNERSHIP

Das Problem: Versteckte Kosten

Die Realität:

• Der IWF macht Wachstumsprognosen abhängig von KI

• UNESCO fordert "grünere KI" wegen Energie-Explosion

• OpenAI testet Werbung, um Kosten zu decken

Die Frage: Wer zahlt den echten Preis?

Was ist der echte Preis?

Brauchen wir eine "Nährwerttabelle" für KI?

Ja.

Beispiel:

• 📊 Diese KI-Anfrage verbraucht 0.5 kWh

• 📊 Das entspricht 0.3 kg CO2

• 📊 Davon 0.2 kg aus erneuerbaren Energien

• 📊 2 der 5 Top-Ergebnisse sind gesponsert

• 📊 Deine Daten werden für Trainierung nicht genutzt (Private Modus)

Das ist echte Transparenz.

Was die Normung braucht

Norm-Arbeitstitel: "Transparentes Ressourcen-Labeling für KI-Services"

Die politische Dimension

Das ist nicht Greenwashing-Prävention.

Das ist Realität-Abbildung: Was kostet diese Technologie wirklich?

🎯 SOFORT-HANDLUNGSFELDER FÜR ANP

PRIORISIERUNG (Q1-Q2 2026):

KONKRETE SCHRITTE (Diese Woche – KW 3/2026):

•  Arbeitsgruppe "Emulatoren & Authentifizierung" gründen

•  Jurist für Haftungsfragen kontaktieren

•  Kontakt zu EU-Institutionen (für digitale Souveränität)

•  Umweltbundesamt einbeziehen (für Nachhaltigkeit)

Nächste 2 Wochen:

•  Draft "Kennzeichnungspflicht für KI-Agenten" verfassen

•  Haftungs-Szenarien durchspielen (Rechtsanwälte)

•  Best-Practices von Open-Source-Communities sammeln

Nächster Monat:

•  Norm-Entwürfe für Feedback-Runde vorbereiten

•  Stakeholder-Workshops (Tech, Behörden, Recht, Umwelt)

•  Roadmap bis Ende Q2 2026 finalisieren

DAS KERNBILD

"Die KI ist wie ein unglaublich fähiger, aber auch sehr naiver neuer Mitarbeiter. Sie kann erstaunliche Dinge, aber sie braucht glasklare Anweisungen, ständige Kontrolle durch Menschen und vor allem eine gute ethische Führung."

Diese ethische Führung ist Aufgabe der Normung.

Nicht der Tech-Giganten. Nicht der Gründer. Der Normung.

Status: Handlungsfelder identifiziert, Dringlichkeit SEHR HOCH
Nächste ANP-Sitzung: Sofort Kennzeichnungspflicht priorisieren
Kurator: Arno Schimmelpfennig
Datum: 22. Januar 2026

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.