2. STAFFEL /

KI Ethik News #9: Geopolitik, physische Risiken & der Vertrauensbruch

Datum: 12. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 9) | Datum: 12.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 9 analysiert KI als geopolitische Waffe, als physisches Risiko (Roboter) und als Datensauger (AR-Brille). Die zentrale Spannung: Während Deutschland und Europa versuchen, durch Standards (Hegemon, Emas KI) Vertrauen zu schaffen, bauen China und Tech-Giganten Systeme, die dieses Vertrauen zerstören. Für Normenanwender ergibt sich daraus ein doppelter Auftrag: (1) Internationale Standards trotz geopolitischer Spannungen; (2) Physische Sicherheit & Privatsphäre-Standards für Systeme, die in den Körper und die Umwelt eindringen.​

1. Geopolitik: Rechenleistung als Währung

Inhalte der Folge:​

• DeepSeek-Schmuggel: China importiert illegal tausende NVIDIA Blackwell-GPUs (Export verboten). Rechenleistung ist zur „härtesten Währung der Geopolitik" geworden.​

• Das Problem: Regeln allein halten nicht, wenn wirtschaftliche Anreize groß genug sind. Das untergräbt das Vertrauen zwischen Nationen und die Wirksamkeit von Sanktionen.

Relevanz für Normenanwender (ANP):

• Geopolitische Sicherheit in Normen: Deutsche und europäische Normen sollten adressieren, wie man KI-Systeme einsetzt, ohne von geschmuggelter oder sanktionierter Hardware abhängig zu sein.

• Lokale Infrastruktur-Norm: Standards sollten fördern, dass kritische KI-Systeme auf europäischer oder deutscher Hardware und Software laufen – auch wenn das weniger performant ist, für Souveränität notwendig.

2. Deutschlands Gegenmodell: Hegemon & Emas KI

Inhalte der Folge:​

Projekt Hegemon:​

• Nicht: „Lasst uns ein deutsches Supermodell bauen" (zu teuer, vergeblich).

• Stattdessen: „Lasst uns ein KI-TÜV bauen."

• Vier Forschungsteams (DFKI, Fraunhofer u.a.) entwickeln Testmethoden und Validierungsstandards.

• Ziel: Internationale Basismodelle transparent prüfbar und vertrauenswürdig für Sicherheitsbehörden (Bundeswehr, BSI) machen.

• Anwendungsbeispiele: Satellitenbildanalyse, Karten-Chatbots mit verlässlichen Antworten.

• Ansatz: Aus Blackbox eine Graybox machen – nicht vollständige Transparenz, aber standardisierte, neutrale Tests und öffentliche Rankings.

Projekt Emas KI:​

• Forensische Methoden für KI-Systeme.

• Szenario: Ein KI-System wird durch Data Poisoning sabotiert (z. B. Flughafen-Scanner erkennt bestimmte Waffen nicht mehr). Wie weist man das später nach und gerichtsfest nach?​

• Ziel: Forensic Readiness – KI-Systeme von Anfang an so bauen, dass Manipulation nachweisbar ist.

Relevanz für Normenanwender (ANP):

• Validierungs-Standard: Hegemon zeigt, wie ein Validierungsstandard aussieht – neutral, transparent, vergleichbar. Die ANP könnte dieses Modell internationalisieren (ISO-Level).

• Cyber-Sicherheit-Norm: Emas KI fordert auf, dass KI-Systeme in kritischen Bereichen mit Audit-Trails und Tamper-Detection ausgestattet sein müssen. Das sollte Norm-Anforderung werden.

• Trust-by-Design: Nicht erst nach Sicherheitsproblemen prüfen, sondern Standards setzen, die Prüfbarkeit von Anfang an einbauen.

3. Humanoide Roboter: Dual-Use-Technologie mit Handlungs-Gap

Inhalte der Folge:​

• Marktentwicklung: 200+ Firmen in China. €12+ Mrd. Markt bis 2030. Massenproduktion 2026. Staatliche Regulierung zur Beschleunigung.​

• Die Two Faces:

  • Helfer: Altenpflege, Rettungseinsätze, Fabrik-Automatisierung.

  • Kontrolleur: Walker S2 an Grenzen, Spionageroboter, autonome Gewalt.​

• Das kritische Problem: Hardware macht schnelle Fortschritte (Bewegungen sehen immer echter aus). Aber die Software – die autonome Entscheidungslogik – hängt massiv hinterher. Das ist wie ein hochmodernes Auto mit instabilen Bremsen.​

• Psychologisches Risiko: Ein menschenähnlicher Roboter wird als Autorität wahrgenommen (nicht nur als Werkzeug). Das öffnet Tür für Manipulation und unkritische Akzeptanz.​

Relevanz für Normenanwender (ANP):

• Physische Sicherheits-Normen: Standards für humanoide Roboter sollten erzwingen:

  • Haftungsklarheit (wer haftet für Fehlentscheidungen?).

  • Hardware-Software-Kongruenz (keine instabile Software in leistungsstarken Körpern).

  • Autonomie-Limits (wo darf der Roboter eigenständig entscheiden, wo muss der Mensch eingreifen?).

• Transparenz-Kennzeichnung: Roboter sollten klar erkennbar als „Maschine, nicht Mensch" gekennzeichnet sein – optisch, auditiv (z. B. standardisierte Warnsignale).

• Dual-Use-Kontrolle: Standards sollten definieren, welche Anwendungen (z. B. Militär, Polizei) reguliert sind und welche offen verfügbar sein können.

• Grenzschutz-Szenario: Wenn humanoide Roboter an Grenzen Entscheidungsgewalt haben (Festnahme, Durchsuchung), muss es menschliche Überprüfung und klare Eskalations-Protokolle geben.

4. Die zwei Extreme: Vertrauen durch Transparenz vs. Privatspähren-Tsunami

Inhalte der Folge:​

Gigatime (Microsoft – das Positive):​

• KI für Krebsanalyse aus 10-Dollar-Gewebeproben.

• Open Source veröffentlicht.

• Klarer Nutzen, klare Grenze (Gewebeprobe ↔ Diagnose).

• Vertrauen wird durch Transparenz und nachweisbarem Nutzen aufgebaut.

Project Aura (Google – das Negative):​

• XR-Brille mit Gemini, ständige Videoaufzeichnung der gesamten Realität.

• Analyse durch KI: Mimik-Erkennung, emotionale Zustände, Objekt-Tracking.

• Winzige Aufnahmeleuchten, die übersehen werden könnten.

• Nicht nur deine Privatsphäre, sondern die von allen um dich herum wird zu Daten.

• Einseitiger Vertrauensvertrag: Du gibst Google einen permanenten Datenstrom; Google verpflichtet sich zu ... nichts Greifbarem.

Relevanz für Normenanwender (ANP):

• Consent-Norm für AR/XR-Systeme: Standards sollten fordern:

  • Sichtbare Aufnahme-Indikatoren (nicht nur winzige LEDs).

  • Umgebungs-Consent: Du kannst nicht einfach andere ohne Zustimmung aufnehmen/analysieren.

  • Data-Minimization: Nur das aufzeichnen/analysieren, was für die Kernfunktion nötig ist. Keine Blanko-Datensammlung.

• Ambient Computing-Regulierung: Wenn KI in den Hintergrund verschwindet und zur „alltäglichen Wahrnehmung" wird, braucht es verstärkte Schutzmaßnahmen, nicht weniger.

• Haftungsumkehr: Wenn eine AR-Brille ohne klare Consent dich/deine Umgebung aufzeichnet und analysiert, sollte der Anbieter (nicht der Nutzer) haftbar sein.

• Gigatime-Standard als Benchmark: Standards sollten das Transparenz- & Nutzen-Modell von Gigatime als Best Practice für KI-Vertrauenssysteme übernehmen.

5. Die zentrale Normungs-Frage

Folge 9 stellt klar:​

Können wir noch auf internationale Standards bauen, wenn Geopolitik KI zur Waffe macht?

Antwort: Ja, aber nur wenn Standards:

1. Unabhängig sind (nicht von Konzernen oder Staaten kontrolliert wie AAIF).

2. Überprüfbar sind (wie Hegemon zeigt – neutrale Tests, öffentliche Rankings).

3. Physische Risiken adressieren (nicht nur Software, auch Roboter, AR-Brillen, physische Auswirkungen).

4. Asymmetrische Machtlagen anerkennen (wenn Google oder China Standards schreiben, denen müssen wir Standards-Gegner entgegenstellen).

Handlungsbedarf für ANP

Unmittelbar:

1. Hegemon-Ansatz internationalisieren: Das deutsche KI-TÜV-Modell sollte zur ISO/IEC-Norm ausgebaut werden.

2. Forensic-Readiness-Standard: Emas KI's Ansatz zur Norm erheben.

Mittelfristig:

1. XR/AR-Brille-Norm: Consent, Aufnahme-Indikatoren, Umgebungsschutz.

2. Robotik-Dual-Use-Kontrolle: Standards für Haftung, Autonomie-Limits, Transparenz-Kennzeichnung.

3. Geopolitische Souveränität-Norm: Hardware-Anforderungen für kritische Systeme.

Langfristig:

Woche: 05.2026

EXECUTIVE SUMMARY

Die analysierten Inhalte markieren eine Verschiebung von „KI als Tool“ hin zu KI als gesellschaftlicher und wirtschaftlicher Steuerungsfaktor. Im Fokus stehen drei Risikodynamiken:

1. Kontrolle über digitale Öffentlichkeiten (Beispiel TikTok): Plattformmacht beeinflusst politische Meinungsbildung.

2. Erosion von Authentizität (Deepfakes, KI-Propaganda, KI-Avatare in Verwaltung): Sichtbarkeit verliert Beweisfunktion.

3. Spaltung in der Arbeitswelt (Produktivitäts-KI vs. Nicht-Nutzung): Risiko einer Kompetenz- und Wertschöpfungskluft.

Ergänzt wird dies durch eine zunehmende Bedrohungslage (Malicious LLMs wie WormGPT) sowie durch Qualitätsrisiken durch synthetische Datenrückkopplung („KI frisst sich selbst“).

Zielbild für ANP:
Prüfbarkeit, Kennzeichnung, Verantwortlichkeit und Security-by-Design als Mindestleitplanken für KI-Einsatz in Öffentlichkeit, Verwaltung und Unternehmen.

PROBLEMFELD 1: KONTROLLE ÜBER DIGITALE ÖFFENTLICHKEITEN

Beobachtung
Digitale Plattformen sind öffentliche Arenen mit hoher gesellschaftlicher Steuerungswirkung. Eine politisch beeinflusste Eigentümer- oder Kontrollstruktur kann Vielfalt reduzieren und Debattenräume verengen.

Normungs- und Regulierungsbedarf
– Transparenzanforderungen an Governance-Strukturen von Plattformen
– Nachweisbare Mechanismen zur Sicherung von Pluralität und Nicht-Diskriminierung in Distributionslogiken
– Prüfpfade für „politische Integrität“ algorithmischer Reichweitenmechanismen

Idee für ANP
– Kriterienkatalog für Plattform-Governance-Transparenz
– Mindestanforderungen für algorithmische Rechenschaft (Auditierbarkeit)

PROBLEMFELD 2: AUTHENTIZITÄT, DEEPFAKES UND KI-INTERAKTION IN VERWALTUNG

Beobachtung
Deepfakes und KI-Manipulationen wirken schneller als Aufklärung. Parallel entstehen KI-Avatare für Bürgerkommunikation („KI-Bürgermeister“), die Vertrauen und Verantwortungszuordnung beeinflussen.

Normungs- und Regulierungsbedarf
– Kennzeichnungspflicht für KI-generierte Inhalte: sichtbar und maschinenlesbar
– Mindestanforderungen an KI-gestützte Behördenkommunikation:
• klare Rollen- und Haftungsabgrenzung
• Grenzen rechtsverbindlicher Auskünfte
• Protokollierung und Nachvollziehbarkeit

Idee für ANP
– Standard „Maschinenlesbare KI-Kennzeichnung“ (Metadaten und UI-Label)
– Leitlinie „KI-Assistenz in Behörden“ (Haftung, Transparenz, Eskalation)

PROBLEMFELD 3: ARBEITSWELT-SPALTUNG DURCH UNGLEICHE KI-NUTZUNG

Beobachtung
KI-Integration in Standardsoftware steigert Produktivität. Gleichzeitig zeigen Daten eine breite Nicht-Nutzung von KI, was eine neue Wertschöpfungskluft erzeugt.

Normungs- und Regulierungsbedarf
– Anforderungen an organisationsweite Qualifizierungsstrategien („Capability Building“)
– Mindeststandards für Change- und Lernkultur in KI-Transformation
– Schutz vor struktureller Benachteiligung durch fehlende Kompetenzzugänge

Idee für ANP
– Musterprozess „KI-Kompetenzaufbau“ für KMU (schlank, umsetzbar)
– Kriterien für „faire Einführung“ (Zugang, Schulung, Begleitung)

PROBLEMFELD 4: BEDROHUNGSLAGE DURCH MALICIOUS LLMS UND UNSICHERES VIBE-CODING

Beobachtung
Neben missbrauchbaren Systemen entstehen gezielt kriminelle Modelle (z. B. WormGPT). Gleichzeitig erzeugt KI-gestützte Softwareentwicklung ohne Security-Kompetenz neue Angriffsflächen.

Normungs- und Regulierungsbedarf
– Mindestanforderungen an Security-by-Design für KI-Systeme und KI-generierten Code
– Prüfverfahren und Zertifizierung nach Risikoklassen (analog Sicherheitsprüfung)
– Klare Haftungszuordnung bei Datenabfluss und Sicherheitsmängeln

Idee für ANP
– Entwurf „KI-Sicherheits-TÜV“ nach Einsatzgebiet (Finanzen, Gesundheit, Verwaltung)
– Security-Checkliste für KI-generierte Softwareartefakte

PROBLEMFELD 5: QUALITÄTS- UND WAHRHEITSRISIKEN DURCH SYNTHETISCHE DATENRÜCKKOPPLUNG

Beobachtung
KI-Inhalte werden Teil zukünftiger Trainingsdaten („KI frisst sich selbst“). Risiko: Fehlerverstärkung, sinkende Originalität, Erosion überprüfbarer Quellen.

Normungs- und Regulierungsbedarf
– Standards für Quellentransparenz und Rückverfolgbarkeit
– Anforderungen an Datenvalidierung und Provenance (Herkunftsnachweis)
– Schutzmaßnahmen gegen Datenvergiftung (Training Data Security)

Idee für ANP
– Leitlinie „Provenance und Quellenkette“ für KI-Antwortsysteme
– Anschlussfähigkeit an Sicherheitsforschung (Training-Absicherung)

SCHLUSSFOLGERUNG / LEITMOTIV

KI verschiebt die Kontrollfrage von der Technik in die Governance.

Wer steuert Öffentlichkeit, Wahrheit und Wertschöpfung?

ANP kann die Brücke bauen zwischen
„KI nutzen“ und „KI verantwortbar nutzen“ – durch Kennzeichnung, Prüfbarkeit, Verantwortungslogik und Security-by-Design.

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.