2. STAFFEL /

KI Ethik News #8: Kartelle, Militarisierung & das brüchige Fundament

Datum: 10. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 8) | Datum: 10.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 8 deckt auf, was hinter den glänzenden PR-Fassaden der KI-Industrie tatsächlich passiert: (1) Kartellbildung durch „Standards" (AAIF); (2) Militarisierung von Ziviltech (Pentagon-Google); (3) fundamentale Sicherheitsmängel, die systematisch versteckt werden. Für Normenanwender bedeutet das: Wir können nicht auf Industrie-geführte Standards vertrauen – die DIN/ANP muss unabhängige, überprüfbare Standards setzen, die alle schützen.​

1. Die AAIF: Kartellbildung als „Standard"

Inhalte der Folge:​

• Gründung: Agentic AI Foundation – OpenAI, Anthropic, Block etc. mit Ziel „Gemeinsame Standards für KI-Agenten".

• Oberflächlich: Endlich können Kalender mit Arztbuchungssystemen reden, ohne Umwege.

• Darunter: Ein strategischer Schachzug zur Machtkonsolidierung. Die Konzerne legen nicht nur Standards, sondern auch das Schienennetz, die Fahrpläne und die Ticketpreise fest.​

• Der Markt: KI-Agenten explodiert 2025 von $550 Mio. auf $4 Milliarden – und wer die Standards kontrolliert, kontrolliert die Zukunft.​

• Das Ausschluss-Problem: Kleine Start-ups, Open-Source-Projekte und unabhängige Erfinder sitzen nicht am Tisch. Ihre Innovationen sind später wertlos, wenn sie nicht auf die vordefinierten Protokolle passen.​

Relevanz für Normenanwender (ANP):

• Kartell-Warnung: Industrie-Standards sollen Interoperabilität fördern, nicht Macht zementieren. Hier passiert das Gegenteil.

• Normungs-Auftrag: Die ANP/DIN sollte unabhängige, neutrale Standards für KI-Agenten-Interoperabilität setzen – nicht als „Spenden" von Konzernen, sondern als offene Prozesse mit Beteiligung von Start-ups, Forschung und Zivilgesellschaft.

• Wettbewerbsrecht: Dies könnte auch kartellrechtliche Fragen werfen (wenn die Gründer zusammen die Standards schreiben, von denen sie selbst profitieren).

2. Militarisierung & der Staat als Regulierer

Inhalte der Folge:​

• PR vs. Realität:

  • Sam Altman öffentlich: ChatGPT hilft bei Babywindeln (niedlich, harmlos).

  • Parallel: Pentagon + Google Partnership zur „Effizienzsteigerung der Streitkräfte".​

• Googles Abwehr: „Es geht nur um Papierkram, Datenanalyse auf unklassifizierten Daten." Aber: Project Maven-Debatten zeigen, dass diese Grenze dünn und verschiebbar ist.

• Politische Zentralisierung:

  • USA: Trump plant, 50 Bundes-KI-Gesetze durch eine zentrale Regelung zu ersetzen → Föderale Struktur unter Druck.

  • Australien: Social-Media-Verbot für U16 klingt ethisch, führt aber zu massiver Überwachung (Altersverifikation, Biometrie).​

• Aktivisten-Position: Markus Beckedahl: „Don't fix the users, fix the platforms" – statt Nutzer zu gängeln, sollte man die Plattformen regulieren (z. B. DSGVO konsequent durchsetzen).​

Relevanz für Normenanwender (ANP):

• Doppelte Bedrohung: Nicht nur Industrie-Kartelle sind ein Problem, sondern auch politische Zentralisierung um KI-Kontrolle.

• Normungs-Prinzipien: Standards sollten neutral, transparent und inklusiv sein – nicht Ergebnis von Regierungs-Deals mit einzelnen Konzernen.

• Ethisches Verbot: Standards sollten verhindern, dass KI in militärischen Kontexten zur Optimierung von Tötungshandlungen eingesetzt wird – eine klare rote Linie.

• Datenschutz statt Überwachung: Statt pauschale Verbote (z. B. U16-Bans), sollten Standards DSGVO, Transparenz und Plattform-Verantwortung erzwingen.

3. Das brüchige Fundament: Sicherheitsmängel als System

Inhalte der Folge:​

• Poetische Jailbreaks (Italien-Studie):

  • Komplexe KI-Sicherheitsfilter können mit simplen Gedichten umgangen werden.

  • Erfolgsquote: >60% quer durch alle großen Anbieter.

  • Beispiel: KI, die keine Bomben-Anleitungen geben soll, gibt sie nach einem Goethe-Gedicht preis.​

• Materialforschungs-Fehler (Uni Bayreuth):

  • KI trainiert auf perfekten Computermodellen (perfekte Kristallgitter).

  • Reale Materialien haben Unordnung, Fehler, Chaos.

  • Resultat: 80% der KI-Vorschläge für neue Materialien sind fehlerhaft.

  • Praktisches Beispiel: E-Bike-Rahmen sieht am Computer stabil aus, bricht unter Belastung.​

• OpenAI intern: Trotz Code Red wird GPT 5.2 überstürzt veröffentlicht, um Stabilitätsprobleme zu "beheben".​

Relevanz für Normenanwender (ANP):

• Vertrauens-Krise: Wenn KI-Sicherheitsmaßnahmen durch Gedichte austrickbar und Material-Vorhersagen zu 80% falsch sind, kann man KI-Empfehlungen in kritischen Bereichen nicht blind vertrauen.

• Normen für Transparenz & Validation:

  • Beipackzettel-Norm: Jedes KI-Modell sollte ein „Datenblatt" haben, das klar macht:

    • Welche Trainingsdaten wurden verwendet?

    • Wo sind bekannte Schwächen (z. B. poetische Jailbreaks, Ignoration von Chaos/Unordnung)?

    • Auf welche realen Szenarien wurde getestet?

  • Validierungs-Standard: KI-Modelle, die in kritischen Bereichen (Medizin, Materialwissenschaft, Infrastruktur) eingesetzt werden, müssen unabhängig validiert sein – wie Medizinprodukte heute.

  • Praxis-Szenarios: Nicht nur akademische Benchmarks, sondern Tests mit echtem Chaos, echten Fehlern und echten Risiken.

• Zuverlässigkeits-Grenze: Standards sollten klar machen, wo die Grenzen liegen:

  • "Diese KI darf nur als Assistent, nicht als autonomer Entscheider eingesetzt werden."

  • "Ergebnisse müssen von Fachmenschen validiert werden."

  • "Haftung liegt bei Nutzer, nicht bei Anbieter."

4. Die zentrale Normungs-Frage

Folge 8 stellt die Frage unmissverständlich:​

Wem trauen wir die Standards an – der Industrie, dem Staat, oder unabhängigen Normungs-Gremien?

Die Antwort sollte sein: Unabhängige, transparente Normen mit Beteiligung aller Stakeholder (Industrie, Forschung, Start-ups, Zivilgesellschaft, Nutzer).

Handlungsempfehlungen für ANP

Unmittelbar:

1. Warnung vor Industrie-Standards: Die ANP sollte eine Stellungnahme veröffentlichen, dass „Industrie-gesteuerte Standards" (wie AAIF) allein nicht ausreichend sind. Unabhängige Standardisierung ist notwendig.

2. Transparenz-Norm für KI-Modelle: Ein Standard, der vorschreibt, dass jedes KI-Modell ein Datenblatt (Trainingsdaten, bekannte Schwächen, Testszenarien) hat.

Mittelfristig:

1. Validierungs-Standard: KI-Systeme für kritische Anwendungen müssen unabhängig getestet und zertifiziert sein.

2. Militär-Verbot in Normen: Ein klares Prinzip: KI zur Optimierung von Tötungshandlungen ist nicht zugelassen.

3. Datenschutz-Standard: Statt Nutzerbeschränkungen (wie U16-Bans) sollten Standards Plattformen zu Transparenz und Datenschutz verpflichten.

Langfristig:

Woche: 05.2026

EXECUTIVE SUMMARY

Die analysierten Inhalte markieren eine Verschiebung von „KI als Tool“ hin zu KI als gesellschaftlicher und wirtschaftlicher Steuerungsfaktor. Im Fokus stehen drei Risikodynamiken:

1. Kontrolle über digitale Öffentlichkeiten (Beispiel TikTok): Plattformmacht beeinflusst politische Meinungsbildung.

2. Erosion von Authentizität (Deepfakes, KI-Propaganda, KI-Avatare in Verwaltung): Sichtbarkeit verliert Beweisfunktion.

3. Spaltung in der Arbeitswelt (Produktivitäts-KI vs. Nicht-Nutzung): Risiko einer Kompetenz- und Wertschöpfungskluft.

Ergänzt wird dies durch eine zunehmende Bedrohungslage (Malicious LLMs wie WormGPT) sowie durch Qualitätsrisiken durch synthetische Datenrückkopplung („KI frisst sich selbst“).

Zielbild für ANP:
Prüfbarkeit, Kennzeichnung, Verantwortlichkeit und Security-by-Design als Mindestleitplanken für KI-Einsatz in Öffentlichkeit, Verwaltung und Unternehmen.

PROBLEMFELD 1: KONTROLLE ÜBER DIGITALE ÖFFENTLICHKEITEN

Beobachtung
Digitale Plattformen sind öffentliche Arenen mit hoher gesellschaftlicher Steuerungswirkung. Eine politisch beeinflusste Eigentümer- oder Kontrollstruktur kann Vielfalt reduzieren und Debattenräume verengen.

Normungs- und Regulierungsbedarf
– Transparenzanforderungen an Governance-Strukturen von Plattformen
– Nachweisbare Mechanismen zur Sicherung von Pluralität und Nicht-Diskriminierung in Distributionslogiken
– Prüfpfade für „politische Integrität“ algorithmischer Reichweitenmechanismen

Idee für ANP
– Kriterienkatalog für Plattform-Governance-Transparenz
– Mindestanforderungen für algorithmische Rechenschaft (Auditierbarkeit)

PROBLEMFELD 2: AUTHENTIZITÄT, DEEPFAKES UND KI-INTERAKTION IN VERWALTUNG

Beobachtung
Deepfakes und KI-Manipulationen wirken schneller als Aufklärung. Parallel entstehen KI-Avatare für Bürgerkommunikation („KI-Bürgermeister“), die Vertrauen und Verantwortungszuordnung beeinflussen.

Normungs- und Regulierungsbedarf
– Kennzeichnungspflicht für KI-generierte Inhalte: sichtbar und maschinenlesbar
– Mindestanforderungen an KI-gestützte Behördenkommunikation:
• klare Rollen- und Haftungsabgrenzung
• Grenzen rechtsverbindlicher Auskünfte
• Protokollierung und Nachvollziehbarkeit

Idee für ANP
– Standard „Maschinenlesbare KI-Kennzeichnung“ (Metadaten und UI-Label)
– Leitlinie „KI-Assistenz in Behörden“ (Haftung, Transparenz, Eskalation)

PROBLEMFELD 3: ARBEITSWELT-SPALTUNG DURCH UNGLEICHE KI-NUTZUNG

Beobachtung
KI-Integration in Standardsoftware steigert Produktivität. Gleichzeitig zeigen Daten eine breite Nicht-Nutzung von KI, was eine neue Wertschöpfungskluft erzeugt.

Normungs- und Regulierungsbedarf
– Anforderungen an organisationsweite Qualifizierungsstrategien („Capability Building“)
– Mindeststandards für Change- und Lernkultur in KI-Transformation
– Schutz vor struktureller Benachteiligung durch fehlende Kompetenzzugänge

Idee für ANP
– Musterprozess „KI-Kompetenzaufbau“ für KMU (schlank, umsetzbar)
– Kriterien für „faire Einführung“ (Zugang, Schulung, Begleitung)

PROBLEMFELD 4: BEDROHUNGSLAGE DURCH MALICIOUS LLMS UND UNSICHERES VIBE-CODING

Beobachtung
Neben missbrauchbaren Systemen entstehen gezielt kriminelle Modelle (z. B. WormGPT). Gleichzeitig erzeugt KI-gestützte Softwareentwicklung ohne Security-Kompetenz neue Angriffsflächen.

Normungs- und Regulierungsbedarf
– Mindestanforderungen an Security-by-Design für KI-Systeme und KI-generierten Code
– Prüfverfahren und Zertifizierung nach Risikoklassen (analog Sicherheitsprüfung)
– Klare Haftungszuordnung bei Datenabfluss und Sicherheitsmängeln

Idee für ANP
– Entwurf „KI-Sicherheits-TÜV“ nach Einsatzgebiet (Finanzen, Gesundheit, Verwaltung)
– Security-Checkliste für KI-generierte Softwareartefakte

PROBLEMFELD 5: QUALITÄTS- UND WAHRHEITSRISIKEN DURCH SYNTHETISCHE DATENRÜCKKOPPLUNG

Beobachtung
KI-Inhalte werden Teil zukünftiger Trainingsdaten („KI frisst sich selbst“). Risiko: Fehlerverstärkung, sinkende Originalität, Erosion überprüfbarer Quellen.

Normungs- und Regulierungsbedarf
– Standards für Quellentransparenz und Rückverfolgbarkeit
– Anforderungen an Datenvalidierung und Provenance (Herkunftsnachweis)
– Schutzmaßnahmen gegen Datenvergiftung (Training Data Security)

Idee für ANP
– Leitlinie „Provenance und Quellenkette“ für KI-Antwortsysteme
– Anschlussfähigkeit an Sicherheitsforschung (Training-Absicherung)

SCHLUSSFOLGERUNG / LEITMOTIV

KI verschiebt die Kontrollfrage von der Technik in die Governance.

Wer steuert Öffentlichkeit, Wahrheit und Wertschöpfung?

ANP kann die Brücke bauen zwischen
„KI nutzen“ und „KI verantwortbar nutzen“ – durch Kennzeichnung, Prüfbarkeit, Verantwortungslogik und Security-by-Design

.

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.