2. STAFFEL / FOLGE: 10.12.2025

KI Ethik News #8: Kartelle, Militarisierung & das brüchige Fundament

Datum: 10. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 8) | Datum: 10.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 8 deckt auf, was hinter den glänzenden PR-Fassaden der KI-Industrie tatsächlich passiert: (1) Kartellbildung durch „Standards" (AAIF); (2) Militarisierung von Ziviltech (Pentagon-Google); (3) fundamentale Sicherheitsmängel, die systematisch versteckt werden. Für Normenanwender bedeutet das: Wir können nicht auf Industrie-geführte Standards vertrauen – die DIN/ANP muss unabhängige, überprüfbare Standards setzen, die alle schützen.​

1. Die AAIF: Kartellbildung als „Standard"

Inhalte der Folge:​

• Gründung: Agentic AI Foundation – OpenAI, Anthropic, Block etc. mit Ziel „Gemeinsame Standards für KI-Agenten".

• Oberflächlich: Endlich können Kalender mit Arztbuchungssystemen reden, ohne Umwege.

• Darunter: Ein strategischer Schachzug zur Machtkonsolidierung. Die Konzerne legen nicht nur Standards, sondern auch das Schienennetz, die Fahrpläne und die Ticketpreise fest.​

• Der Markt: KI-Agenten explodiert 2025 von $550 Mio. auf $4 Milliarden – und wer die Standards kontrolliert, kontrolliert die Zukunft.​

• Das Ausschluss-Problem: Kleine Start-ups, Open-Source-Projekte und unabhängige Erfinder sitzen nicht am Tisch. Ihre Innovationen sind später wertlos, wenn sie nicht auf die vordefinierten Protokolle passen.​

Relevanz für Normenanwender (ANP):

• Kartell-Warnung: Industrie-Standards sollen Interoperabilität fördern, nicht Macht zementieren. Hier passiert das Gegenteil.

• Normungs-Auftrag: Die ANP/DIN sollte unabhängige, neutrale Standards für KI-Agenten-Interoperabilität setzen – nicht als „Spenden" von Konzernen, sondern als offene Prozesse mit Beteiligung von Start-ups, Forschung und Zivilgesellschaft.

• Wettbewerbsrecht: Dies könnte auch kartellrechtliche Fragen werfen (wenn die Gründer zusammen die Standards schreiben, von denen sie selbst profitieren).

2. Militarisierung & der Staat als Regulierer

Inhalte der Folge:​

• PR vs. Realität:

  • Sam Altman öffentlich: ChatGPT hilft bei Babywindeln (niedlich, harmlos).

  • Parallel: Pentagon + Google Partnership zur „Effizienzsteigerung der Streitkräfte".​

• Googles Abwehr: „Es geht nur um Papierkram, Datenanalyse auf unklassifizierten Daten." Aber: Project Maven-Debatten zeigen, dass diese Grenze dünn und verschiebbar ist.

• Politische Zentralisierung:

  • USA: Trump plant, 50 Bundes-KI-Gesetze durch eine zentrale Regelung zu ersetzen → Föderale Struktur unter Druck.

  • Australien: Social-Media-Verbot für U16 klingt ethisch, führt aber zu massiver Überwachung (Altersverifikation, Biometrie).​

• Aktivisten-Position: Markus Beckedahl: „Don't fix the users, fix the platforms" – statt Nutzer zu gängeln, sollte man die Plattformen regulieren (z. B. DSGVO konsequent durchsetzen).​

Relevanz für Normenanwender (ANP):

• Doppelte Bedrohung: Nicht nur Industrie-Kartelle sind ein Problem, sondern auch politische Zentralisierung um KI-Kontrolle.

• Normungs-Prinzipien: Standards sollten neutral, transparent und inklusiv sein – nicht Ergebnis von Regierungs-Deals mit einzelnen Konzernen.

• Ethisches Verbot: Standards sollten verhindern, dass KI in militärischen Kontexten zur Optimierung von Tötungshandlungen eingesetzt wird – eine klare rote Linie.

• Datenschutz statt Überwachung: Statt pauschale Verbote (z. B. U16-Bans), sollten Standards DSGVO, Transparenz und Plattform-Verantwortung erzwingen.

3. Das brüchige Fundament: Sicherheitsmängel als System

Inhalte der Folge:​

• Poetische Jailbreaks (Italien-Studie):

  • Komplexe KI-Sicherheitsfilter können mit simplen Gedichten umgangen werden.

  • Erfolgsquote: >60% quer durch alle großen Anbieter.

  • Beispiel: KI, die keine Bomben-Anleitungen geben soll, gibt sie nach einem Goethe-Gedicht preis.​

• Materialforschungs-Fehler (Uni Bayreuth):

  • KI trainiert auf perfekten Computermodellen (perfekte Kristallgitter).

  • Reale Materialien haben Unordnung, Fehler, Chaos.

  • Resultat: 80% der KI-Vorschläge für neue Materialien sind fehlerhaft.

  • Praktisches Beispiel: E-Bike-Rahmen sieht am Computer stabil aus, bricht unter Belastung.​

• OpenAI intern: Trotz Code Red wird GPT 5.2 überstürzt veröffentlicht, um Stabilitätsprobleme zu "beheben".​

Relevanz für Normenanwender (ANP):

• Vertrauens-Krise: Wenn KI-Sicherheitsmaßnahmen durch Gedichte austrickbar und Material-Vorhersagen zu 80% falsch sind, kann man KI-Empfehlungen in kritischen Bereichen nicht blind vertrauen.

• Normen für Transparenz & Validation:

  • Beipackzettel-Norm: Jedes KI-Modell sollte ein „Datenblatt" haben, das klar macht:

    • Welche Trainingsdaten wurden verwendet?

    • Wo sind bekannte Schwächen (z. B. poetische Jailbreaks, Ignoration von Chaos/Unordnung)?

    • Auf welche realen Szenarien wurde getestet?

  • Validierungs-Standard: KI-Modelle, die in kritischen Bereichen (Medizin, Materialwissenschaft, Infrastruktur) eingesetzt werden, müssen unabhängig validiert sein – wie Medizinprodukte heute.

  • Praxis-Szenarios: Nicht nur akademische Benchmarks, sondern Tests mit echtem Chaos, echten Fehlern und echten Risiken.

• Zuverlässigkeits-Grenze: Standards sollten klar machen, wo die Grenzen liegen:

  • "Diese KI darf nur als Assistent, nicht als autonomer Entscheider eingesetzt werden."

  • "Ergebnisse müssen von Fachmenschen validiert werden."

  • "Haftung liegt bei Nutzer, nicht bei Anbieter."

4. Die zentrale Normungs-Frage

Folge 8 stellt die Frage unmissverständlich:​

Wem trauen wir die Standards an – der Industrie, dem Staat, oder unabhängigen Normungs-Gremien?

Die Antwort sollte sein: Unabhängige, transparente Normen mit Beteiligung aller Stakeholder (Industrie, Forschung, Start-ups, Zivilgesellschaft, Nutzer).

Handlungsempfehlungen für ANP

Unmittelbar:

1. Warnung vor Industrie-Standards: Die ANP sollte eine Stellungnahme veröffentlichen, dass „Industrie-gesteuerte Standards" (wie AAIF) allein nicht ausreichend sind. Unabhängige Standardisierung ist notwendig.

2. Transparenz-Norm für KI-Modelle: Ein Standard, der vorschreibt, dass jedes KI-Modell ein Datenblatt (Trainingsdaten, bekannte Schwächen, Testszenarien) hat.

Mittelfristig:

1. Validierungs-Standard: KI-Systeme für kritische Anwendungen müssen unabhängig getestet und zertifiziert sein.

2. Militär-Verbot in Normen: Ein klares Prinzip: KI zur Optimierung von Tötungshandlungen ist nicht zugelassen.

3. Datenschutz-Standard: Statt Nutzerbeschränkungen (wie U16-Bans) sollten Standards Plattformen zu Transparenz und Datenschutz verpflichten.

Langfristig:

1. Kartell-Prävention: Standards sollten verhindern, dass wenige Konzerne die Spielregeln schreiben.

2. Demokratische KI-Governance: Standards sollten inklusiv sein und auch Minderheitenpositionen schützen.

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.