2. STAFFEL / FOLGE:

10.12.2025

KI Ethik News

#8: Kartelle, Militarisierung & das brüchige Fundament

Datum: 910. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 78) | Datum: 09 10.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 7 analysiert drei Ebenen des globalen KI-Wettrennens8 deckt auf, was hinter den glänzenden PR-Fassaden der KI-Industrie tatsächlich passiert: (1) Das Technologie-Rennen (Benchmarks, SicherheitsmängelKartellbildung durch „Standards" (AAIF); (2) die Spaltung des Arbeitsmarktes in KI-Könner und AbgehängteMilitarisierung von Ziviltech (Pentagon-Google); (3) Europas strategische Antwort durch Normen und Standards statt bloße Rechenkraft. Die zentrale These: Normen sind keine bürokratische Bremse, sondern die offensive Strategie für technologische Souveränität und ethische KI-Nutzungfundamentale Sicherheitsmängel, die systematisch versteckt werden. Für Normenanwender bedeutet das: Wir können nicht auf Industrie-geführte Standards vertrauen – die DIN/ANP muss unabhängige, überprüfbare Standards setzen, die alle schützen.​

1.

Die AAIF: Kartellbildung als „Standard"

Inhalte der Folge:​

• Gründung: Agentic AI Foundation – OpenAI, Anthropic, Block etc. mit Ziel „Gemeinsame Standards für KI-Agenten".

• Oberflächlich: Endlich können Kalender mit Arztbuchungssystemen reden, ohne Umwege.

• Darunter: Ein strategischer Schachzug zur Machtkonsolidierung. Die Konzerne legen nicht nur Standards, sondern auch das Schienennetz, die Fahrpläne und die Ticketpreise fest.​

• Der Markt: KI-Agenten explodiert 2025 von $550 Mio. auf $4 Milliarden – und wer die Standards kontrolliert, kontrolliert die Zukunft.​

• Das Ausschluss-Problem: Kleine Start-ups, Open-Source-Projekte und unabhängige Erfinder sitzen nicht am Tisch. Ihre Innovationen sind später wertlos, wenn sie nicht auf die vordefinierten Protokolle passen

• Code Red bei OpenAI: Sam Altman zieht Notbremse wegen Googles Gemini 3.

• GPT 5.2 wird überstürzt veröffentlicht – obwohl Sicherheitsvalidierung unvollständig.

• Benchmark-Krieg: Die „Scores" sind oft synthetische Tests, die akademische Probleme lösen, aber wenig über Robustheit in der echten Welt aussagen.

• AI-Safety-Index-Ergebnis: Sogar die Top-Firmen bekommen nur Note C+ (befriedigend) – das ist für eine so mächtige Technologie inakzeptabel.​

Hardware-Risse: Anthropic investiert massiv in Googles TPU-Chips → First Break in Nvidias Monopol. DeepSeek 22× billiger im Betrieb (aber: Robustheit unklar)

• .​

Relevanz für Normenanwender (ANP):

Benchmark

• Kartell-

Objektivität

• Warnung: 

Normen könnten verbindliche Testszenarien definieren, die nicht nur akademische Leistung, sondern auch echte Robustheit, Sicherheit gegen Manipulation, Bias-Freiheit prüfen.​

• Sicherheits-Baseline: Ein Standard für „minimale Sicherheitsanforderungen bei KI-Veröffentlichung" würde verhindern, dass pressgetriebene Release-Zyklen über Sicherheit entscheiden.​

• Praxis-Szenario: Ähnlich wie Crash-Tests beim Autobau vor Marktfreigabe obligatorisch sind, sollten „echte Welt-Tests" für kritische KI-Systeme Standard sein.

• Industrie-Standards sollen Interoperabilität fördern, nicht Macht zementieren. Hier passiert das Gegenteil.

• Normungs-Auftrag: Die ANP/DIN sollte unabhängige, neutrale Standards für KI-Agenten-Interoperabilität setzen – nicht als „Spenden" von Konzernen, sondern als offene Prozesse mit Beteiligung von Start-ups, Forschung und Zivilgesellschaft.

• Wettbewerbsrecht: Dies könnte auch kartellrechtliche Fragen werfen (wenn die Gründer zusammen die Standards schreiben, von denen sie selbst profitieren).

2. Militarisierung & der Staat als Regulierer

Inhalte der Folge:​

• Frontier-Firmen: Power-User sparen 10+ Stunden/Woche, 75% erledigen Aufgaben weit über ihrer ursprünglichen Qualifikation (Marketing macht Python-Skripte, Controller macht Data Science).​

• Der Rest: Viele Firmen haben KI noch gar nicht angefasst → gigantische Produktivitätslücke quer durch die Wirtschaft.​

• Das eigentliche Problem: Nicht die Technologie ist das Hindernis, sondern die Governance und Befähigung durch Führungskräfte.​

• Der Begriff: „Führungsbruch" (Beate Freuding) – die Verantwortung liegt nicht beim Einzelnen, sondern bei der GL.

Relevanz für Normenanwender (ANP):

• Governance-Standard: Es braucht einen Norm-Standard für „KI-Governance in Unternehmen", der klare Spielregeln definiert:

  • Wer darf welche KI für was nutzen?

  • Welche Daten sind freigegeben?

  • Wie werden Ergebnisse validiert?

  • Dokumentation & Audit.​

• Befähigungs-Standard: Ein „KI-Kompetenz-Standard" oder „KI-Leadership-Standard" sollte verbindlich vorgeben:

  • Alle Führungskräfte müssen grundlegende KI-Kenntnisse haben (Stärken, Grenzen, Risiken, Halluzinationen, Bias).

  • Unternehmen müssen ein strukturiertes Trainings- & Lernprogramm für alle Mitarbeiter bereitstellen.

  • Transparente Kultur, keine KI-Magier-Kaste vs. Angstmacher.​

• Fairness: Ein solcher Standard würde Chancengleichheit schaffen: Nicht nur großen US-Tech-Konzernen ist KI-Mastery vorbehalten, sondern auch deutscher Mittelstand profitiert.​

• Praxis-Beispiel: Eine Norm könnten vorgeben: „Wenn KI in der Personalverwertung oder Performance-Bewertung eingesetzt wird, muss es einen Validierungs- und Audit-Prozess geben, um Diskriminierung auszuschließen."

3. Europas Strategie: Regeln statt Rechenpower

Inhalte der Folge:​

• PR vs. Realität:

  • Sam Altman öffentlich: ChatGPT hilft bei Babywindeln (niedlich, harmlos).

  • Parallel: Pentagon + Google Partnership zur „Effizienzsteigerung der Streitkräfte".​

• Googles Abwehr: „Es geht nur um Papierkram, Datenanalyse auf unklassifizierten Daten." Aber: Project Maven-Debatten zeigen, dass diese Grenze dünn und verschiebbar ist.

• Politische Zentralisierung:

  • USA: Trump plant, 50 Bundes-KI-Gesetze durch eine zentrale Regelung zu ersetzen → Föderale Struktur unter Druck.

  • Australien: Social-Media-Verbot für U16 klingt ethisch, führt aber zu massiver Überwachung (Altersverifikation, Biometrie).​

• Aktivisten-Position: Markus Beckedahl: „Don't fix the users, fix the platforms" – statt Nutzer zu gängeln, sollte man die Plattformen regulieren (z. B. DSGVO konsequent durchsetzen).​

Relevanz für Normenanwender (ANP):

• Doppelte Bedrohung: Nicht nur Industrie-Kartelle sind ein Problem, sondern auch politische Zentralisierung um KI-Kontrolle.

• Normungs-Prinzipien: Standards sollten neutral, transparent und inklusiv sein – nicht Ergebnis von Regierungs-Deals mit einzelnen Konzernen.

• Ethisches Verbot: Standards sollten verhindern, dass KI in militärischen Kontexten zur Optimierung von Tötungshandlungen eingesetzt wird – eine klare rote Linie.

• Datenschutz statt Überwachung: Statt pauschale Verbote (z. B. U16-Bans), sollten Standards DSGVO, Transparenz und Plattform-Verantwortung erzwingen.

3. Das brüchige Fundament: Sicherheitsmängel als System

Inhalte der Folge:​

• Poetische Jailbreaks (Italien-Studie):

  • Komplexe KI-Sicherheitsfilter können mit simplen Gedichten umgangen werden.

  • Erfolgsquote: >60% quer durch alle großen Anbieter.

  • Beispiel: KI, die keine Bomben-Anleitungen geben soll, gibt sie nach einem Goethe-Gedicht preis.​

• Materialforschungs-Fehler (Uni Bayreuth):

  • KI trainiert auf perfekten Computermodellen (perfekte Kristallgitter).

  • Reale Materialien haben Unordnung, Fehler, Chaos.

  • Resultat: 80% der KI-Vorschläge für neue Materialien sind fehlerhaft.

  • Praktisches Beispiel: E-Bike-Rahmen sieht am Computer stabil aus, bricht unter Belastung.​

• OpenAI intern: Trotz Code Red wird GPT 5.2 überstürzt veröffentlicht, um Stabilitätsprobleme zu "beheben"

• Die Realität: 20 Mio. EUR für SuFi (europäisches KI-Modell) vs. Milliarden in den USA/China – Europa gewinnt das Rechenpower-Rennen nicht.​

• Unser Hebel: Der AI-Act, Sicherheitsnormen, Interoperabilitäts-Standards, digitale Souveränität → der „Brüssel-Effekt".​

• Die Analogie: Nicht das schnellste Hypercar bauen, sondern den Airbag, Sicherheitsgurt, ABS und die Straßenverkehrsordnung erfinden.​

Praktisches Beispiel: UL-Zertifikation für Industrie-Komponenten oder ISO-Sicherheitsnormen für Roboter – alle Ingenieure der Welt vertrauen diesen Siegeln

• .​

Relevanz für Normenanwender (ANP):

• Strategische Position: Die ANP/DIN ist nicht in der Position, die schnellsten KI-Modelle zu bauen. Aber darin, die Spielregeln für sichere, ethische KI zu schreiben, die weltweit gelten.

• Konkrete Hebel:

  • Interoperabilitäts-Normen: KI-Modelle sollten auf unterschiedlichen Hardware-Plattformen laufen können (nicht nur Nvidia) → echte Souveränität.

  • Vertrauensanker-Normen: Ein europäisches Siegel für „ethische KI" (Transparenz, Datenschutz, Robustheit, Bias-Freiheit) wird überall gefordert.

  • Sichere Ökosysteme: Statt Monokultur (z. B. eine dominante KI-Plattform) fördern Normen Vielfalt: spezialisierte, sichere, rechtskonforme Lösungen.

• Die Wirkung: Kleine europäische Firmen können sichere, spezialisierte KI-Lösungen entwickeln, die weltweit akzeptiert werden, weil sie DIN/ISO-zertifiziert sind. Das ist ein enormer wirtschaftlicher Vorteil ohne Milliarden-Budgets.

• Governance für Digitale Souveränität: Normen stellen sicher, dass europäische Daten, Werte und Prozesse bei europäischen Entscheidungsträgern bleiben – nicht bei US- oder China-Tech-Konzernen.

4. Die zentrale Frage für ANP

Aus Folge 7 ergibt sich für die Normung eine strategische Aufgabe:​

„Setzen wir die Spielregeln für ethische KI oder werden wir von US/China-Technologie überrollt?"

Die Antwort ist nicht: „Bessere Modelle bauen" (das gewinnen wir nicht).

Die Antwort ist: „Bessere Standards schreiben – und die ganze Welt muss sie einhalten."​

Konkrete Handlungsempfehlungen für ANP

Kurzfristig:

1. AI-Act-Compliance-Norm: Ein Standard, der Unternehmen zeigt, wie sie den AI-Act praktisch umsetzen.

2. KI-Governance-Leitfaden: Vorlage für Unternehmen, um Spielregeln zu setzen.

Mittelfristig:

1. KI-Kompetenz-Standard: Definition der „KI-Grundkenntnisse" für Führungskräfte und Mitarbeiter.

2. Benchmark-Validierungs-Norm: Echte Tests statt akademische Benchmarks.

Langfristig:

• Vertrauens-Krise: Wenn KI-Sicherheitsmaßnahmen durch Gedichte austrickbar und Material-Vorhersagen zu 80% falsch sind, kann man KI-Empfehlungen in kritischen Bereichen nicht blind vertrauen.

• Normen für Transparenz & Validation:

  • Beipackzettel-Norm: Jedes KI-Modell sollte ein „Datenblatt" haben, das klar macht:

    • Welche Trainingsdaten wurden verwendet?

    • Wo sind bekannte Schwächen (z. B. poetische Jailbreaks, Ignoration von Chaos/Unordnung)?

    • Auf welche realen Szenarien wurde getestet?

  • Validierungs-Standard: KI-Modelle, die in kritischen Bereichen (Medizin, Materialwissenschaft, Infrastruktur) eingesetzt werden, müssen unabhängig validiert sein – wie Medizinprodukte heute.

  • Praxis-Szenarios: Nicht nur akademische Benchmarks, sondern Tests mit echtem Chaos, echten Fehlern und echten Risiken.

• Zuverlässigkeits-Grenze: Standards sollten klar machen, wo die Grenzen liegen:

  • "Diese KI darf nur als Assistent, nicht als autonomer Entscheider eingesetzt werden."

  • "Ergebnisse müssen von Fachmenschen validiert werden."

  • "Haftung liegt bei Nutzer, nicht bei Anbieter."

4. Die zentrale Normungs-Frage

Folge 8 stellt die Frage unmissverständlich:​

Wem trauen wir die Standards an – der Industrie, dem Staat, oder unabhängigen Normungs-Gremien?

Die Antwort sollte sein: Unabhängige, transparente Normen mit Beteiligung aller Stakeholder (Industrie, Forschung, Start-ups, Zivilgesellschaft, Nutzer).

Handlungsempfehlungen für ANP

Unmittelbar:

1. Warnung vor Industrie-Standards: Die ANP sollte eine Stellungnahme veröffentlichen, dass „Industrie-gesteuerte Standards" (wie AAIF) allein nicht ausreichend sind. Unabhängige Standardisierung ist notwendig.

2. Transparenz-Norm für KI-Modelle: Ein Standard, der vorschreibt, dass jedes KI-Modell ein Datenblatt (Trainingsdaten, bekannte Schwächen, Testszenarien) hat.

Mittelfristig:

1. Validierungs-Standard: KI-Systeme für kritische Anwendungen müssen unabhängig getestet und zertifiziert sein.

2. Militär-Verbot in Normen: Ein klares Prinzip: KI zur Optimierung von Tötungshandlungen ist nicht zugelassen.

3. Datenschutz-Standard: Statt Nutzerbeschränkungen (wie U16-Bans) sollten Standards Plattformen zu Transparenz und Datenschutz verpflichten.

Langfristig:

1. Kartell-Prävention: Standards sollten verhindern, dass wenige Konzerne die Spielregeln schreiben.

2. Demokratische KI-Governance: Standards sollten inklusiv sein und auch Minderheitenpositionen schützen

3. Europäischer KI-Vertrauenssiegel: Ein DIN/ISO-Standard für „ethische, sichere, transparente KI".

Interoperabilitäts-Roadmap: Hardware-unabhängige KI-Standards

4. .

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.