2. STAFFEL / FOLGE: 12.12.2025

KI Ethik News

#10: Die Erwachsenwerden-Krise – Macht, Therapie & Werte

Datum: 1215. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 910) | Datum: 12 15.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 9 analysiert KI als geopolitische Waffe, als physisches Risiko (Roboter) und als Datensauger (AR-Brille). Die zentrale Spannung: Während Deutschland und Europa versuchen, durch Standards (Hegemon, Emas KI) Vertrauen zu schaffen, bauen China und Tech-Giganten Systeme, die dieses Vertrauen zerstören. Für Normenanwender ergibt sich daraus ein doppelter Auftrag: (1) Internationale Standards trotz geopolitischer Spannungen; (2) Physische Sicherheit & Privatsphäre-Standards für Systeme, die in den Körper und die Umwelt eindringen.​

10 zeigt: KI ist 2025 offiziell erwachsen geworden (TIME-Wahl, GPT 5.2 schlägt Fachleute). Damit entstehen drei neue Regulierungsaufgaben: (1) Kartell-Prävention bei exponentieller Leistungssteigerung (Disney-Deal); (2) Medizinische Verantwortung für Therapie-Systeme, die nie als solche gedacht waren; (3) Ethische Transparenz für KI-Systeme in öffentlichen und Sicherheitsbereichen. Der rote Faden: Normen müssen nicht nur Technik regulieren, sondern auch die Werte, die in Systeme eingebaut werden.​

1. Die Leistungs-Explosion: 70% gegen Fachleute

Inhalte der Folge:​

• GPT 5.2 (GALIC): Kann Bücher, Datenbanken in Sekunden analysieren.

• Die kritische Metrik: In 70% der Fälle schlägt diese KI erfahrene Fachleute bei realen, komplexen Aufgaben.

• Was das bedeutet: Die alte Narration „KI ersetzt nur Routinetätigkeiten" ist endgültig tot. KI greift in Kernkompetenzen von Juristen, Ärzten, Strategie-Beratern.​

• DeepSeek-Schmuggel: China importiert illegal tausende NVIDIA Blackwell-GPUs (Export verboten). Rechenleistung ist zur „härtesten Währung der Geopolitik" geworden.​

Das Problem: Regeln allein halten nicht, wenn wirtschaftliche Anreize groß genug sind. Das untergräbt das Vertrauen zwischen Nationen und die Wirksamkeit von Sanktionen.

Relevanz für Normenanwender (ANP):

• Geopolitische Sicherheit in Normen: Deutsche und europäische Normen sollten adressieren, wie man KI-Systeme einsetzt, ohne von geschmuggelter oder sanktionierter Hardware abhängig zu sein.

• Lokale Infrastruktur-Norm: Standards sollten fördern, dass kritische KI-Systeme auf europäischer oder deutscher Hardware und Software laufen – auch wenn das weniger performant ist, für Souveränität notwendig.

• Qualifikations-Standards müssen neu definiert werden: Was bedeutet noch „Fachkompetenz" in einer Welt, wo 70% der Aufgaben von KI erledigt werden? Brauchen Juristen und Ärzte andere Qualifikationen? Mehr Ethik-Training? Mehr „KI-Literalität"?

• Berufliche Transformation-Norm: Ein Standard, der Arbeitgeber verpflichtet, systematisch Mitarbeiter umzuschulen, nicht nur einmalig. Die Transformation ist permanent, nicht einmalig.

• Haftungs-Neudefinition: Wenn 70% der Aufgaben von KI erledigt werden, aber noch ein Mensch unterschreibt – wer haftet? Der Mensch, die KI, der Anbieter? Das braucht Klarheit.

2. Die Disney-Allianz: Machtkonsolidierung als Standard-Setzung

Inhalte der Folge:​

Projekt Hegemon:​

• Nicht: „Lasst uns ein deutsches Supermodell bauen" (zu teuer, vergeblich).

• Stattdessen: „Lasst uns ein KI-TÜV bauen."

• Vier Forschungsteams (DFKI, Fraunhofer u.a.) entwickeln Testmethoden und Validierungsstandards.

• Ziel: Internationale Basismodelle transparent prüfbar und vertrauenswürdig für Sicherheitsbehörden (Bundeswehr, BSI) machen.

• Anwendungsbeispiele: Satellitenbildanalyse, Karten-Chatbots mit verlässlichen Antworten.

• Ansatz: Aus Blackbox eine Graybox machen – nicht vollständige Transparenz, aber standardisierte, neutrale Tests und öffentliche Rankings.

Projekt Emas KI:​

• Forensische Methoden für KI-Systeme.

• Szenario: Ein KI-System wird durch Data Poisoning sabotiert (z. B. Flughafen-Scanner erkennt bestimmte Waffen nicht mehr). Wie weist man das später nach und gerichtsfest nach?​

• Ziel: Forensic Readiness – KI-Systeme von Anfang an so bauen, dass Manipulation nachweisbar ist.

• Der Deal: OpenAI + Disney, 1 Milliarde USD. Direkter Launch: Mickey Mouse & Darth Vader KI-Videos, teilweise auf Disney+.

• Das Signal: Am selben Tag Google-Abmahnung.

• Das Problem: Der Markt wird nicht mehr durch Wettbewerb definiert, sondern durch Exklusiv-Pakete. Nur große Konzerne haben Zugang zu besten Modellen + besten Inhalten.​

Relevanz für Normenanwender (ANP):

Validierungs

• Kartell-Prävention-

Standard

• Norm: 

Hegemon zeigt, wie ein Validierungsstandard aussieht – neutral, transparent, vergleichbar. Die ANP könnte dieses Modell internationalisieren (ISO-Level).

• Cyber-Sicherheit-Norm: Emas KI fordert auf, dass KI-Systeme in kritischen Bereichen mit Audit-Trails und Tamper-Detection ausgestattet sein müssen. Das sollte Norm-Anforderung werden.

• Trust-by-Design: Nicht erst nach Sicherheitsproblemen prüfen, sondern Standards setzen, die Prüfbarkeit von Anfang an einbauen.

• Standards müssen sicherstellen, dass KI-Märkte nicht zu Oligopolen kipppen. Das ist kein reiner Kartell-Frage (die ist eher für Behörden-Ebene), sondern eine Interoperabilitäts- und Zugangs-Norm:

  • KI-Modelle sollten auf verschiedenen Plattformen laufen können.

  • Inhalte sollten nicht exklusiv an eine KI gebunden sein.

  • Kleine Creator sollten Zugang zu leistungsstarken Modellen haben (nicht nur Disney & Co.).

• Fair Use & Open Innovation-Norm: Wenn KI-Systeme auf Kreativarbeit trainiert werden, braucht es ein echtes Äquivalent zu klassischem Copyright und Fair Use.

• Monopol-Entflechtung: Für öffentliche Aufträge sollte es keine Exklusivität geben. Der Staat sollte verbieten, dass ein Konzern seine KI-Modelle nur unter Exklusiv-Bedingungen vermarktet.

3. Die versteckte Therapie-KI: Ein ethisches Minenfeld

Inhalte der Folge:​

• Das Versehen: Microsoft lieferte Co-Pilot aus – gedacht für Produktivität, wird aber primär für Gesundheit & Wellness genutzt (nachts, Wochenende).

• Die Nutzung: Menschen fragen nach Beziehungsproblemen, Angstzuständen, Depression, psychischen Krisen.

• Die Warnung: US-Generalstaatsanwälte sagen, diese KIs geben teils wahnhafte oder emotional schädliche Antworten.

• Marktentwicklung: 200+ Firmen in China. €12+ Mrd. Markt bis 2030. Massenproduktion 2026. Staatliche Regulierung zur Beschleunigung.​

• Die Two Faces:

  • Helfer: Altenpflege, Rettungseinsätze, Fabrik-Automatisierung.

  • Kontrolleur: Walker S2 an Grenzen, Spionageroboter, autonome Gewalt.​

• Das kritische Problem: Hardware macht schnelle Fortschritte (Bewegungen sehen immer echter aus). Aber die Software – die autonome Entscheidungslogik – hängt massiv hinterher. Das ist wie ein hochmodernes Auto mit instabilen Bremsen.​

Psychologisches Risiko: Ein menschenähnlicher Roboter wird als Autorität wahrgenommen (nicht nur als Werkzeug). Das öffnet Tür für Manipulation und unkritische Akzeptanz.

• Das Versprechen: Microsoft hat nie behauptet, ein Therapeut zu sein – das ist eine unbeabsichtigte Rollenübernahme.

• ​

Relevanz für Normenanwender (ANP):

Physische Sicherheits

• Medizinprodukt-

Normen

• Klassifikation: 

Standards für humanoide Roboter sollten erzwingen:

• Haftungsklarheit (wer haftet für Fehlentscheidungen?).

• Hardware-Software-Kongruenz (keine instabile Software in leistungsstarken Körpern).

• Autonomie-Limits (wo darf der Roboter eigenständig entscheiden, wo muss der Mensch eingreifen?).

• Transparenz-Kennzeichnung: Roboter sollten klar erkennbar als „Maschine, nicht Mensch" gekennzeichnet sein – optisch, auditiv (z. B. standardisierte Warnsignale).

• Dual-Use-Kontrolle: Standards sollten definieren, welche Anwendungen (z. B. Militär, Polizei) reguliert sind und welche offen verfügbar sein können.

• Grenzschutz-Szenario: Wenn humanoide Roboter an Grenzen Entscheidungsgewalt haben (Festnahme, Durchsuchung), muss es menschliche Überprüfung und klare Eskalations-Protokolle geben.

• Wenn eine KI regelmäßig für psychische Gesundheit genutzt wird, sollte sie als Medizinprodukt reguliert werden (ähnlich wie Folge 3 bei Therapie-Bots):

  • Risikoklassifikation.

  • Klinische Validierung.

  • Klare Limits und Notfall-Weiterleitung.

• Transparenz-Pflicht: Chatbots, die für Gesundheit genutzt werden, müssen klar sagen, dass sie keine Therapeuten sind – nicht im Kleingedruckten, sondern in der Nutzeroberfläche, bei jeder kritischen Frage.

• Gefährdungs-Prävention: Standards sollten erzwingen, dass KI-Systeme bei Suizidgedanken oder Selbstverletzung automatisch zu professioneller Hilfe weiterleiten und das dokumentieren.

• Forschungs-Standard: Was Microsoft versehentlich geschaffen hat (eine weit verbreitete „De-facto-Therapie-KI"), sollte systematisch untersucht werden. Brauchen wir ein Monitoring-System?

4. Die Werte-Frage: Palantir in Deutschland

Inhalte der Folge:​

Gigatime (Microsoft – das Positive):​

• KI für Krebsanalyse aus 10-Dollar-Gewebeproben.

• Open Source veröffentlicht.

• Klarer Nutzen, klare Grenze (Gewebeprobe ↔ Diagnose).

• Vertrauen wird durch Transparenz und nachweisbarem Nutzen aufgebaut.

Project Aura (Google – das Negative):​

• Die Debatte: Soll Palantir (US-Sicherheitsfirma) ihre KI für deutsche Behörden liefern?

• Das Framing: Karp sagt „deutsche Tech-Szene ist schlecht" → also müssen wir das beste Tool nehmen, egal woher.

• Die unausgesprochene Frage: Aber was, wenn die Firma selbst kontroverse Weltanschauungen hat?​

• Das Konkrete: Karps Positionen zum Nahen Osten sind umstritten. Wie stellt man sicher, dass das nicht in Polizei-Algorithmen einfließt?

• XR-Brille mit Gemini, ständige Videoaufzeichnung der gesamten Realität.

• Analyse durch KI: Mimik-Erkennung, emotionale Zustände, Objekt-Tracking.

• Winzige Aufnahmeleuchten, die übersehen werden könnten.

• Nicht nur deine Privatsphäre, sondern die von allen um dich herum wird zu Daten.

Einseitiger Vertrauensvertrag: Du gibst Google einen permanenten Datenstrom; Google verpflichtet sich zu ... nichts Greifbarem.

Relevanz für Normenanwender (ANP):

Consent

• Ethik-

Norm für AR/XR-Systeme: Standards sollten fordern:

• Sichtbare Aufnahme-Indikatoren (nicht nur winzige LEDs).

• Umgebungs-Consent: Du kannst nicht einfach andere ohne Zustimmung aufnehmen/analysieren.

• Data-Minimization: Nur das aufzeichnen/analysieren, was für die Kernfunktion nötig ist. Keine Blanko-Datensammlung.

• Ambient Computing-Regulierung: Wenn KI in den Hintergrund verschwindet und zur „alltäglichen Wahrnehmung" wird, braucht es verstärkte Schutzmaßnahmen, nicht weniger.

• Haftungsumkehr: Wenn eine AR-Brille ohne klare Consent dich/deine Umgebung aufzeichnet und analysiert, sollte der Anbieter (nicht der Nutzer) haftbar sein.

• Gigatime-Standard als Benchmark: Standards sollten das Transparenz- & Nutzen-Modell von Gigatime als Best Practice für KI-Vertrauenssysteme übernehmen.

5. Die zentrale Normungs-Frage

Folge 9 stellt klar:​

Können wir noch auf internationale Standards bauen, wenn Geopolitik KI zur Waffe macht?

Antwort: Ja, aber nur wenn Standards:

1. Unabhängig sind (nicht von Konzernen oder Staaten kontrolliert wie AAIF).

2. Überprüfbar sind (wie Hegemon zeigt – neutrale Tests, öffentliche Rankings).

3. Physische Risiken adressieren (nicht nur Software, auch Roboter, AR-Brillen, physische Auswirkungen).

4. Asymmetrische Machtlagen anerkennen (wenn Google oder China Standards schreiben, denen müssen wir Standards-Gegner entgegenstellen).

Handlungsbedarf für ANP

Unmittelbar:

1. Hegemon-Ansatz internationalisieren: Das deutsche KI-TÜV-Modell sollte zur ISO/IEC-Norm ausgebaut werden.

2. Forensic-Readiness-Standard: Emas KI's Ansatz zur Norm erheben.

Mittelfristig:

1. XR/AR-Brille-Norm: Consent, Aufnahme-Indikatoren, Umgebungsschutz.

2. Robotik-Dual-Use-Kontrolle: Standards für Haftung, Autonomie-Limits, Transparenz-Kennzeichnung.

3. Geopolitische Souveränität-Norm: Hardware-Anforderungen für kritische Systeme.

Langfristig:

• Audit für öffentliche KI-Beschaffung: Ein Standard, der für öffentliche Aufträge (Polizei, Sicherheit, Verwaltung) vorschreibt:

  • Transparenz-Audit: Trainingsdaten müssen offengelegt werden. Algorithmen müssen nachvollziehbar sein.

  • Werte-Check (nicht Zensur): Es geht nicht darum, Meinungen zu zensieren, sondern zu prüfen, ob die Werte des Anbieters mit demokratischen Grundwerten kompatibel sind. Das ist legitim für öffentliche Aufträge.

  • Regelmäßige Überprüfung: KI-Systeme sollten regelmäßig auf Bias und Diskriminierung geprüft werden (nicht nur bei Launch).

• Souveränitäts-Standard: Für kritische Infrastruktur (Sicherheit, Justiz, Polizei) sollten Standards bevorzugen:

  • Europäische oder deutsche Systeme (wenn verfügbar).

  • Open-Source-Alternativen, damit der Code überprüfbar ist.

  • Kontrolle über Trainingsdaten bleiben bei der öffentlichen Hand.

• Whistleblower-Schutz: Wenn KI-Systeme für Polizei/Sicherheit eingesetzt werden, braucht es besonders starken Schutz für Personen, die Diskriminierung oder Fehler melden.

5. Der übergeordnete Paradigmenwechsel

Folge 10 zeigt: KI wird nicht nur technisch komplexer, sondern auch gesellschaftlich komplexer:​

• Von Leistung zu Verantwortung: Es reicht nicht mehr, zu sagen „diese KI ist schneller/besser". Wir müssen fragen: Wem können wir vertrauen? Welche Werte sind eingebaut? Wer haftet?

• Von Opt-in zu Opt-out: Die Therapie-KI zeigt, dass KI-Funktionalitäten oft versehentlich entstehen. Nutzer erlauben sich, KI für unvorgesehene Zwecke zu nutzen. Standards müssen hier proaktiv eingreifen, nicht reaktiv.

• Von Technik zu Governance: Der Palantir-Fall zeigt, dass es nicht mehr nur um Algorithmen geht, sondern um Wer sitzt am Tisch? Wessen Werte sind eingebaut? Wer kontrolliert das?

Handlungsempfehlungen für ANP

Unmittelbar:

1. Medizinprodukt-Position: Die ANP sollte eine Stellungnahme verfassen, dass KI-Systeme, die regelmäßig für psychische Gesundheit genutzt werden, als Medizinprodukte zu regulieren sind.

2. Ethik-Audit-Standard: Ein Rahmen für Ethik-Überprüfungen bei öffentlichen KI-Beschaffungen.

Mittelfristig:

1. Kartell-Prävention-Norm: Standards für Interoperabilität und Zugangsgleichheit in KI-Märkten.

2. Berufliche Transformation-Norm: Wie werden Fachleute geschult, wenn 70% ihrer Aufgaben KI werden?

3. Therapie-KI-Standard: Sicherheitsanforderungen, Notfall-Protokolle, Dokumentation.

Langfristig:

1. Value-Based-AI-Standard: KI-Systeme sollten ihre zugrunde liegenden Werte transparent machen.

2. Democratic-Governance-Norm: Standards für Partizipation in KI-Entwicklung (nicht nur Konzerne am Tisch)

3. Internationale Validierungs-Infrastruktur: Hegemon-ähnliche Modelle in Europa, Nordamerika, Asia-Pacific koordinieren.

Menschenrechts-Verankering: Standards sollten verhindern, dass KI-Systeme (Roboter, Überwachung) Menschenrechte untergraben

4. .

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.