2. STAFFEL / FOLGE:

12.12.2025

KI Ethik News

#9:

Geopolitik,

physische Risiken & der Vertrauensbruch

Datum: 1012. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 89) |  Datum: 10 12.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 8 deckt auf, was hinter den glänzenden PR-Fassaden der KI-Industrie tatsächlich passiert: (1) Kartellbildung durch „Standards" (AAIF); (2) Militarisierung von Ziviltech (Pentagon-Google); (3) fundamentale Sicherheitsmängel, die systematisch versteckt werden. Für Normenanwender bedeutet das: Wir können nicht auf Industrie-geführte Standards vertrauen – die DIN/ANP muss unabhängige, überprüfbare Standards setzen, die alle schützen.​

9 analysiert KI als geopolitische Waffe, als physisches Risiko (Roboter) und als Datensauger (AR-Brille). Die zentrale Spannung: Während Deutschland und Europa versuchen, durch Standards (Hegemon, Emas KI) Vertrauen zu schaffen, bauen China und Tech-Giganten Systeme, die dieses Vertrauen zerstören. Für Normenanwender ergibt sich daraus ein doppelter Auftrag: (1) Internationale Standards trotz geopolitischer Spannungen; (2) Physische Sicherheit & Privatsphäre-Standards für Systeme, die in den Körper und die Umwelt eindringen.​

1. Geopolitik: Rechenleistung als Währung

Inhalte der Folge:​

• DeepSeek-Schmuggel: China importiert illegal tausende NVIDIA Blackwell-GPUs (Export verboten). Rechenleistung ist zur „härtesten Währung der Geopolitik" geworden.​

• Das Problem: Regeln allein halten nicht, wenn wirtschaftliche Anreize groß genug sind. Das untergräbt das Vertrauen zwischen Nationen und die Wirksamkeit von Sanktionen.

Relevanz für Normenanwender (ANP):

• Geopolitische Sicherheit in Normen: Deutsche und europäische Normen sollten adressieren, wie man KI-Systeme einsetzt, ohne von geschmuggelter oder sanktionierter Hardware abhängig zu sein.

• Lokale Infrastruktur-Norm: Standards sollten fördern, dass kritische KI-Systeme auf europäischer oder deutscher Hardware und Software laufen – auch wenn das weniger performant ist, für Souveränität notwendig.

2. Deutschlands Gegenmodell: Hegemon & Emas KI

Inhalte der Folge:​

Projekt Hegemon:​

• Nicht: „Lasst uns ein deutsches Supermodell bauen" (zu teuer, vergeblich).

• Stattdessen: „Lasst uns ein KI-TÜV bauen."

• Vier Forschungsteams (DFKI, Fraunhofer u.a.) entwickeln Testmethoden und Validierungsstandards.

• Ziel: Internationale Basismodelle transparent prüfbar und vertrauenswürdig für Sicherheitsbehörden (Bundeswehr, BSI) machen.

• Anwendungsbeispiele: Satellitenbildanalyse, Karten-Chatbots mit verlässlichen Antworten.

• Ansatz: Aus Blackbox eine Graybox machen – nicht vollständige Transparenz, aber standardisierte, neutrale Tests und öffentliche Rankings.

Projekt Emas KI:​

• Forensische Methoden für KI-Systeme.

• Szenario: Ein KI-System wird durch Data Poisoning sabotiert (z. B. Flughafen-Scanner erkennt bestimmte Waffen nicht mehr). Wie weist man das später nach und gerichtsfest nach?​

• Ziel: Forensic Readiness – KI-Systeme von Anfang an so bauen, dass Manipulation nachweisbar ist.

• Gründung: Agentic AI Foundation – OpenAI, Anthropic, Block etc. mit Ziel „Gemeinsame Standards für KI-Agenten".

• Oberflächlich: Endlich können Kalender mit Arztbuchungssystemen reden, ohne Umwege.

• Darunter: Ein strategischer Schachzug zur Machtkonsolidierung. Die Konzerne legen nicht nur Standards, sondern auch das Schienennetz, die Fahrpläne und die Ticketpreise fest.​

• Der Markt: KI-Agenten explodiert 2025 von $550 Mio. auf $4 Milliarden – und wer die Standards kontrolliert, kontrolliert die Zukunft.​

Das Ausschluss-Problem: Kleine Start-ups, Open-Source-Projekte und unabhängige Erfinder sitzen nicht am Tisch. Ihre Innovationen sind später wertlos, wenn sie nicht auf die vordefinierten Protokolle passen.​

Relevanz für Normenanwender (ANP):

Kartell

• Validierungs-

Warnung: Industrie-Standards sollen Interoperabilität fördern, nicht Macht zementieren. Hier passiert das Gegenteil.

• Normungs-Auftrag: Die ANP/DIN sollte unabhängige, neutrale Standards für KI-Agenten-Interoperabilität setzen – nicht als „Spenden" von Konzernen, sondern als offene Prozesse mit Beteiligung von Start-ups, Forschung und Zivilgesellschaft.

• Wettbewerbsrecht: Dies könnte auch kartellrechtliche Fragen werfen (wenn die Gründer zusammen die Standards schreiben, von denen sie selbst profitieren).

• Standard: Hegemon zeigt, wie ein Validierungsstandard aussieht – neutral, transparent, vergleichbar. Die ANP könnte dieses Modell internationalisieren (ISO-Level).

• Cyber-Sicherheit-Norm: Emas KI fordert auf, dass KI-Systeme in kritischen Bereichen mit Audit-Trails und Tamper-Detection ausgestattet sein müssen. Das sollte Norm-Anforderung werden.

• Trust-by-Design: Nicht erst nach Sicherheitsproblemen prüfen, sondern Standards setzen, die Prüfbarkeit von Anfang an einbauen.

3. Humanoide Roboter: Dual-Use-Technologie mit Handlungs-Gap

Inhalte der Folge:​

• Marktentwicklung: 200+ Firmen in China. €12+ Mrd. Markt bis 2030. Massenproduktion 2026. Staatliche Regulierung zur Beschleunigung.​

• Die Two Faces:

  • Helfer: Altenpflege, Rettungseinsätze, Fabrik-Automatisierung.

  • Kontrolleur: Walker S2 an Grenzen, Spionageroboter, autonome Gewalt.​

• Das kritische Problem: Hardware macht schnelle Fortschritte (Bewegungen sehen immer echter aus). Aber die Software – die autonome Entscheidungslogik – hängt massiv hinterher. Das ist wie ein hochmodernes Auto mit instabilen Bremsen.​

• PR vs. Realität:

  • Sam Altman öffentlich: ChatGPT hilft bei Babywindeln (niedlich, harmlos).

  • Parallel: Pentagon + Google Partnership zur „Effizienzsteigerung der Streitkräfte".​

• Googles Abwehr: „Es geht nur um Papierkram, Datenanalyse auf unklassifizierten Daten." Aber: Project Maven-Debatten zeigen, dass diese Grenze dünn und verschiebbar ist.

• Politische Zentralisierung:

  • USA: Trump plant, 50 Bundes-KI-Gesetze durch eine zentrale Regelung zu ersetzen → Föderale Struktur unter Druck.

  • Australien: Social-Media-Verbot für U16 klingt ethisch, führt aber zu massiver Überwachung (Altersverifikation, Biometrie).​

Aktivisten-Position: Markus Beckedahl: „Don't fix the users, fix the platforms" – statt Nutzer zu gängeln, sollte man die Plattformen regulieren (z. B. DSGVO konsequent durchsetzen).

• Psychologisches Risiko: Ein menschenähnlicher Roboter wird als Autorität wahrgenommen (nicht nur als Werkzeug). Das öffnet Tür für Manipulation und unkritische Akzeptanz.

• ​

Relevanz für Normenanwender (ANP):

• Doppelte Bedrohung: Nicht nur Industrie-Kartelle sind ein Problem, sondern auch politische Zentralisierung um KI-Kontrolle.

• Normungs-Prinzipien: Standards sollten neutral, transparent und inklusiv sein – nicht Ergebnis von Regierungs-Deals mit einzelnen Konzernen.

• Ethisches Verbot: Standards sollten verhindern, dass KI in militärischen Kontexten zur Optimierung von Tötungshandlungen eingesetzt wird – eine klare rote Linie.

• Datenschutz statt Überwachung: Statt pauschale Verbote (z. B. U16-Bans), sollten Standards DSGVO, Transparenz und Plattform-Verantwortung erzwingen.

• Physische Sicherheits-Normen: Standards für humanoide Roboter sollten erzwingen:

  • Haftungsklarheit (wer haftet für Fehlentscheidungen?).

  • Hardware-Software-Kongruenz (keine instabile Software in leistungsstarken Körpern).

  • Autonomie-Limits (wo darf der Roboter eigenständig entscheiden, wo muss der Mensch eingreifen?).

• Transparenz-Kennzeichnung: Roboter sollten klar erkennbar als „Maschine, nicht Mensch" gekennzeichnet sein – optisch, auditiv (z. B. standardisierte Warnsignale).

• Dual-Use-Kontrolle: Standards sollten definieren, welche Anwendungen (z. B. Militär, Polizei) reguliert sind und welche offen verfügbar sein können.

• Grenzschutz-Szenario: Wenn humanoide Roboter an Grenzen Entscheidungsgewalt haben (Festnahme, Durchsuchung), muss es menschliche Überprüfung und klare Eskalations-Protokolle geben.

4. Die zwei Extreme: Vertrauen durch Transparenz vs. Privatspähren-Tsunami

Inhalte der Folge:​

Gigatime (Microsoft – das Positive):​

Komplexe

• KI

-Sicherheitsfilter können mit simplen Gedichten umgangen werden.

• Erfolgsquote: >60% quer durch alle großen Anbieter.

• Beispiel: KI, die keine Bomben-Anleitungen geben soll, gibt sie nach einem Goethe-Gedicht preis.​

• Materialforschungs-Fehler (Uni Bayreuth):

  • KI trainiert auf perfekten Computermodellen (perfekte Kristallgitter).

  • Reale Materialien haben Unordnung, Fehler, Chaos.

  • Resultat: 80% der KI-Vorschläge für neue Materialien sind fehlerhaft.

  • Praktisches Beispiel: E-Bike-Rahmen sieht am Computer stabil aus, bricht unter Belastung.​

• für Krebsanalyse aus 10-Dollar-Gewebeproben.

• Open Source veröffentlicht.

• Klarer Nutzen, klare Grenze (Gewebeprobe ↔ Diagnose).

• Vertrauen wird durch Transparenz und nachweisbarem Nutzen aufgebaut.

Project Aura (Google – das Negative):​

• XR-Brille mit Gemini, ständige Videoaufzeichnung der gesamten Realität.

• Analyse durch KI: Mimik-Erkennung, emotionale Zustände, Objekt-Tracking.

• Winzige Aufnahmeleuchten, die übersehen werden könnten.

• Nicht nur deine Privatsphäre, sondern die von allen um dich herum wird zu Daten.

• Einseitiger Vertrauensvertrag: Du gibst Google einen permanenten Datenstrom; Google verpflichtet sich zu ... nichts Greifbarem.

OpenAI intern: Trotz Code Red wird GPT 5.2 überstürzt veröffentlicht, um Stabilitätsprobleme zu "beheben".​

Relevanz für Normenanwender (ANP):

• Vertrauens-Krise: Wenn KI-Sicherheitsmaßnahmen durch Gedichte austrickbar und Material-Vorhersagen zu 80% falsch sind, kann man KI-Empfehlungen in kritischen Bereichen nicht blind vertrauen.

• Normen für Transparenz & Validation:

  • Beipackzettel-Norm: Jedes KI-Modell sollte ein „Datenblatt" haben, das klar macht:

    • Welche Trainingsdaten wurden verwendet?

    • Wo sind bekannte Schwächen (z. B. poetische Jailbreaks, Ignoration von Chaos/Unordnung)?

    • Auf welche realen Szenarien wurde getestet?

  • Validierungs-Standard: KI-Modelle, die in kritischen Bereichen (Medizin, Materialwissenschaft, Infrastruktur) eingesetzt werden, müssen unabhängig validiert sein – wie Medizinprodukte heute.

  • Praxis-Szenarios: Nicht nur akademische Benchmarks, sondern Tests mit echtem Chaos, echten Fehlern und echten Risiken.

• Zuverlässigkeits-Grenze: Standards sollten klar machen, wo die Grenzen liegen:

  • "Diese KI darf nur als Assistent, nicht als autonomer Entscheider eingesetzt werden."

  • "Ergebnisse müssen von Fachmenschen validiert werden."

  • "Haftung liegt bei Nutzer, nicht bei Anbieter."

• Consent-Norm für AR/XR-Systeme: Standards sollten fordern:

  • Sichtbare Aufnahme-Indikatoren (nicht nur winzige LEDs).

  • Umgebungs-Consent: Du kannst nicht einfach andere ohne Zustimmung aufnehmen/analysieren.

  • Data-Minimization: Nur das aufzeichnen/analysieren, was für die Kernfunktion nötig ist. Keine Blanko-Datensammlung.

• Ambient Computing-Regulierung: Wenn KI in den Hintergrund verschwindet und zur „alltäglichen Wahrnehmung" wird, braucht es verstärkte Schutzmaßnahmen, nicht weniger.

• Haftungsumkehr: Wenn eine AR-Brille ohne klare Consent dich/deine Umgebung aufzeichnet und analysiert, sollte der Anbieter (nicht der Nutzer) haftbar sein.

• Gigatime-Standard als Benchmark: Standards sollten das Transparenz- & Nutzen-Modell von Gigatime als Best Practice für KI-Vertrauenssysteme übernehmen.

5.

Die zentrale Normungs-Frage

Folge 8 9 stellt die Frage unmissverständlichklar:​

Wem trauen wir die Standards an – der Industrie, dem Staat, oder unabhängigen Normungs-Gremien?

Die Antwort sollte sein: Unabhängige, transparente Normen mit Beteiligung aller Stakeholder (Industrie, Forschung, Start-ups, Zivilgesellschaft, Nutzer).

Können wir noch auf internationale Standards bauen, wenn Geopolitik KI zur Waffe macht?

Antwort: Ja, aber nur wenn Standards:

1. Unabhängig sind (nicht von Konzernen oder Staaten kontrolliert wie AAIF).

2. Überprüfbar sind (wie Hegemon zeigt – neutrale Tests, öffentliche Rankings).

3. Physische Risiken adressieren (nicht nur Software, auch Roboter, AR-Brillen, physische Auswirkungen).

4. Asymmetrische Machtlagen anerkennen (wenn Google oder China Standards schreiben, denen müssen wir Standards-Gegner entgegenstellen).

Handlungsbedarf

für ANP

Unmittelbar:

1. Hegemon-Ansatz internationalisieren: Das deutsche KI-TÜV-Modell sollte zur ISO/IEC-Norm ausgebaut werden.

2. Forensic-Readiness-Standard: Emas KI's Ansatz zur Norm erheben

3. Warnung vor Industrie-Standards: Die ANP sollte eine Stellungnahme veröffentlichen, dass „Industrie-gesteuerte Standards" (wie AAIF) allein nicht ausreichend sind. Unabhängige Standardisierung ist notwendig.

Transparenz-Norm für KI-Modelle: Ein Standard, der vorschreibt, dass jedes KI-Modell ein Datenblatt (Trainingsdaten, bekannte Schwächen, Testszenarien) hat

4. .

Mittelfristig:

Validierungs-Standard

1. XR/AR-Brille-Norm: 

KI-Systeme für kritische Anwendungen müssen unabhängig getestet und zertifiziert sein.

2. Militär-Verbot in Normen: Ein klares Prinzip: KI zur Optimierung von Tötungshandlungen ist nicht zugelassen.

Datenschutz-Standard: Statt Nutzerbeschränkungen (wie U16-Bans) sollten Standards Plattformen zu Transparenz und Datenschutz verpflichten

3. Consent, Aufnahme-Indikatoren, Umgebungsschutz.

4. Robotik-Dual-Use-Kontrolle: Standards für Haftung, Autonomie-Limits, Transparenz-Kennzeichnung.

5. Geopolitische Souveränität-Norm: Hardware-Anforderungen für kritische Systeme.

Langfristig:

Kartell

1. Internationale Validierungs-

Prävention

2. Infrastruktur: 

Standards sollten verhindern, dass wenige Konzerne die Spielregeln schreiben.Demokratische KI-Governance: Standards sollten inklusiv sein und auch Minderheitenpositionen schützen

3. Hegemon-ähnliche Modelle in Europa, Nordamerika, Asia-Pacific koordinieren.

4. Menschenrechts-Verankering: Standards sollten verhindern, dass KI-Systeme (Roboter, Überwachung) Menschenrechte untergraben.

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.