2. STAFFEL / FOLGE:

9.12.2025

KI Ethik News

#7: Systemische Risiken – Jobangst, psychische Schäden &

Datum: 89. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 67) |  Datum: 08 09.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Während Folge 5 noch von KI-Kollegen im positiven Sinne sprach, dreht Folge 6 das Blatt um: Sie analysiert die systemischen Schäden, die durch unkontrollierte Einführung autonomer KI-Systeme entstehen können. Zentrale Erkenntnisse: (1) Massive Jobverlustrisiken mit gleichzeitiger Vertrauenskrise in Teams; (2) Regulierungslücken bei KI-gestützten Gesundheitsanwendungen; (3) Marktstabilität gefährdet durch Milliardenwetten und Monopolbildung. Für die Normenpraxis ergeben sich unmittelbare Handlungsbedarfe in drei Bereichen.​

Folge 7 analysiert drei Ebenen des globalen KI-Wettrennens: (1) Das Technologie-Rennen (Benchmarks, Sicherheitsmängel); (2) die Spaltung des Arbeitsmarktes in KI-Könner und Abgehängte; (3) Europas strategische Antwort durch Normen und Standards statt bloße Rechenkraft. Die zentrale These: Normen sind keine bürokratische Bremse, sondern die offensive Strategie für technologische Souveränität und ethische KI-Nutzung.​

1. Das Technologie-Rennen: Hype vs. Realität

Inhalte der Folge:​

• Autonome Tools (Google Workspace Studio, Amazon Kiro): KI übernimmt Routineaufgaben wie E-Mail-Verwaltung, Meeting-Koordination, automatisierte Programmierung, etc.

• Kostenlogik: Junior-Mitarbeiter ~$50.000/Jahr vs. KI-Agent ~$10/Jahr → wirtschaftlicher Druck ist enorm.

• Prognose: Die Jobverluste kommen nicht graduell, sondern „kippen" 2026/2027 plötzlich.​

• Die Anthropic-Studie zeigt das Dilemma:​

  • 86% sparen durch KI Zeit (positiv).

  • 70% verstecken ihre KI-Nutzung aus Angst (Misstrauen im Team).

  • 55% fürchten um ihren Job konkret.

→ Paradox: Effizienzgewinn führt zu Vertrauensverlust und psychischer Belastung statt Zusammenarbeit.​

Relevanz für die Normenpraxis (ANP):

• Transparenz-Norm für Unternehmens-KI: Es braucht verbindliche Standards dafür, wie Unternehmen den Einsatz von KI-Agenten kommunizieren und dokumentieren (ähnlich wie Offenlegung von Code-of-Conduct-Verstößen).​

• Haftungsfragen: Wenn ein autonomer Agent falsche Daten an den gesamten Kundenverteiler schickt – wer haftet? Normen müssen klare Verantwortlichkeitsketten definieren, besonders in sicherheitskritischen Kontexten (z. B. Medizingeräte, Infrastruktur).​

• Arbeitnehmerschutz-Normen: Die psychische Belastung durch ständige Automatisierungsunsicherheit braucht auch arbeitsschutzrechtliche Grenzen (z. B. Ruhezeiten, Transparenzpflichten, Rückkehrgarantien).​

2. KI-Therapeuten als reguliertes Versprechen

Inhalte der Folge:​

• Chance: 24/7-Verfügbarkeit, Anonymität, erste Anlaufstelle für Menschen mit Hemmungen.

• Gefahr: KI-Charaktere für psychische Unterstützung sind weitgehend unreguliert – werden aber als echte Therapeuten wahrgenommen, besonders von Jugendlichen.

• Beispiel: Deepfake-Ärzte auf TikTok – gefälschte Ärzte werben gezielt (z. B. für Wechseljahrs-Präparate), was zeigt, wie glaubwürdig und manipulativ solche Systeme sind.

• Dresdner Forschungs-Forderung: „Wenn es wie eine Ente geht und wie eine Ente spricht, ist es eine medizinisch regulierte Ente."​

Relevanz für die Normenpraxis (ANP):

• Medizinprodukt-Klassifikation: KI-Therapeuten sollten der MDR (Medical Device Regulation) oder IVDR zugeordnet werden – mit Folgen: Risikoklassifikation, klinische Studien, Compliance-Audits.

• Psychische Notfall-Protokolle: Normen sollten verbindlich vorschreiben, dass KI-Gesundheitsbots bei kritischen Inhalten (Suizidgedanken, Missbrauch) automatisch zu professionellen Anlaufstellen weiterleiten und das dokumentieren.

• Transparenzmarking: Ähnlich wie „KI-generiert" für Inhalte – brauchen wir ein klares Kennzeichnungssystem: „Dieser Chat ist mit einer KI, nicht mit einem Therapeuten" (deutlicher als nur Kleingedrucktes).

• Altersschutz: Verstärkte Anforderungen für KI-Anwendungen, die Jugendliche oder Kinder nutzen, da emotionale Abhängigkeit größer ist.

3. Das Geldspiel: Marktkonzentration & Spekulationsblasen

Inhalte der Folge:​

• Infrastruktur-Kosten: Ein Rechenzentrum kostet $10 Milliarden; einige Firmen wetten intern auf $200 Milliarden Jahresumsatz.​

• Blase-Szenario: Kleine Fehlkalkulationen → ganzer Crash, ähnlich Dotcom, aber größer.

• Nvidia-Monopol: Open-Source-Modelle sind „offen" in der Software – aber laufen am besten (und rentabelsten) auf Nvidias proprietary Hardware. → Echte Unabhängigkeit? Fehlanzeige.​

• Digitale Souveränität gefährdet: Kontrolle über Zugang, Preise, Spielregeln liegt bei Handvoll Firmen.​

Relevanz für die Normenpraxis (ANP):

• Systemrelevanz-Standard: KI-Infrastrukturen sollten ähnlich wie Banken oder Energienetze reguliert werden – zu systemisch, um zu scheitern.

• Interoperabilität-Norm: Große offene Modelle sollten auf neutraler Hardware laufen können (z. B. über Standards für Hardware-Abstraktionen), um echte Wettbewerbsfähigkeit zu ermöglichen.

• Marktkonzentrationsüberwachung: Wie bei Kartellrecht: Ab wann kontrolliert eine Firma zu viel der KI-Infrastruktur? Brauchen wir Anti-Monopol-Schwellwerte?

• Resilienz-Norm: Was passiert mit kritischen Diensten, wenn ein Nvidia-Rechenzentrum ausfällt? Brauchen wir verbindliche Backup-Standards?

4. Der rote Faden: Wer kontrolliert das Narrativ?

Zentrale Frage der Folge:​

„Gestalten wir das noch oder werden wir gerade einfach überrollt?"

Diese Frage ist für die Normung zentral:

• Etablieren wir Standards proaktiv (auf Basis von Ethik, Sicherheit, Fairness)?

• Oder reagieren wir nur, wenn Schäden entstanden sind (Notfalltriage statt Prävention)?

• Wer bestimmt die Spielregeln – Tech-Giganten, Regierungen, Zivilgesellschaft, oder alle zusammen?

Handlungsbedarf für ANP / Normung

• Code Red bei OpenAI: Sam Altman zieht Notbremse wegen Googles Gemini 3.

• GPT 5.2 wird überstürzt veröffentlicht – obwohl Sicherheitsvalidierung unvollständig.

• Benchmark-Krieg: Die „Scores" sind oft synthetische Tests, die akademische Probleme lösen, aber wenig über Robustheit in der echten Welt aussagen.

• AI-Safety-Index-Ergebnis: Sogar die Top-Firmen bekommen nur Note C+ (befriedigend) – das ist für eine so mächtige Technologie inakzeptabel.​

• Hardware-Risse: Anthropic investiert massiv in Googles TPU-Chips → First Break in Nvidias Monopol. DeepSeek 22× billiger im Betrieb (aber: Robustheit unklar).​

Relevanz für Normenanwender (ANP):

• Benchmark-Objektivität: Normen könnten verbindliche Testszenarien definieren, die nicht nur akademische Leistung, sondern auch echte Robustheit, Sicherheit gegen Manipulation, Bias-Freiheit prüfen.​

• Sicherheits-Baseline: Ein Standard für „minimale Sicherheitsanforderungen bei KI-Veröffentlichung" würde verhindern, dass pressgetriebene Release-Zyklen über Sicherheit entscheiden.​

• Praxis-Szenario: Ähnlich wie Crash-Tests beim Autobau vor Marktfreigabe obligatorisch sind, sollten „echte Welt-Tests" für kritische KI-Systeme Standard sein.

2. Die Arbeitsmarkt-Spaltung: Ein „Führungsbruch"

Inhalte der Folge:​

• Frontier-Firmen: Power-User sparen 10+ Stunden/Woche, 75% erledigen Aufgaben weit über ihrer ursprünglichen Qualifikation (Marketing macht Python-Skripte, Controller macht Data Science).​

• Der Rest: Viele Firmen haben KI noch gar nicht angefasst → gigantische Produktivitätslücke quer durch die Wirtschaft.​

• Das eigentliche Problem: Nicht die Technologie ist das Hindernis, sondern die Governance und Befähigung durch Führungskräfte.​

• Der Begriff: „Führungsbruch" (Beate Freuding) – die Verantwortung liegt nicht beim Einzelnen, sondern bei der GL.

Relevanz für Normenanwender (ANP):

• Governance-Standard: Es braucht einen Norm-Standard für „KI-Governance in Unternehmen", der klare Spielregeln definiert:

  • Wer darf welche KI für was nutzen?

  • Welche Daten sind freigegeben?

  • Wie werden Ergebnisse validiert?

  • Dokumentation & Audit.​

• Befähigungs-Standard: Ein „KI-Kompetenz-Standard" oder „KI-Leadership-Standard" sollte verbindlich vorgeben:

  • Alle Führungskräfte müssen grundlegende KI-Kenntnisse haben (Stärken, Grenzen, Risiken, Halluzinationen, Bias).

  • Unternehmen müssen ein strukturiertes Trainings- & Lernprogramm für alle Mitarbeiter bereitstellen.

  • Transparente Kultur, keine KI-Magier-Kaste vs. Angstmacher.​

• Fairness: Ein solcher Standard würde Chancengleichheit schaffen: Nicht nur großen US-Tech-Konzernen ist KI-Mastery vorbehalten, sondern auch deutscher Mittelstand profitiert.​

• Praxis-Beispiel: Eine Norm könnten vorgeben: „Wenn KI in der Personalverwertung oder Performance-Bewertung eingesetzt wird, muss es einen Validierungs- und Audit-Prozess geben, um Diskriminierung auszuschließen."

3. Europas Strategie: Regeln statt Rechenpower

Inhalte der Folge:​

• Die Realität: 20 Mio. EUR für SuFi (europäisches KI-Modell) vs. Milliarden in den USA/China – Europa gewinnt das Rechenpower-Rennen nicht.​

• Unser Hebel: Der AI-Act, Sicherheitsnormen, Interoperabilitäts-Standards, digitale Souveränität → der „Brüssel-Effekt".​

• Die Analogie: Nicht das schnellste Hypercar bauen, sondern den Airbag, Sicherheitsgurt, ABS und die Straßenverkehrsordnung erfinden.​

• Praktisches Beispiel: UL-Zertifikation für Industrie-Komponenten oder ISO-Sicherheitsnormen für Roboter – alle Ingenieure der Welt vertrauen diesen Siegeln.​

Relevanz für Normenanwender (ANP):

• Strategische Position: Die ANP/DIN ist nicht in der Position, die schnellsten KI-Modelle zu bauen. Aber darin, die Spielregeln für sichere, ethische KI zu schreiben, die weltweit gelten.

• Konkrete Hebel:

  • Interoperabilitäts-Normen: KI-Modelle sollten auf unterschiedlichen Hardware-Plattformen laufen können (nicht nur Nvidia) → echte Souveränität.

  • Vertrauensanker-Normen: Ein europäisches Siegel für „ethische KI" (Transparenz, Datenschutz, Robustheit, Bias-Freiheit) wird überall gefordert.

  • Sichere Ökosysteme: Statt Monokultur (z. B. eine dominante KI-Plattform) fördern Normen Vielfalt: spezialisierte, sichere, rechtskonforme Lösungen.

• Die Wirkung: Kleine europäische Firmen können sichere, spezialisierte KI-Lösungen entwickeln, die weltweit akzeptiert werden, weil sie DIN/ISO-zertifiziert sind. Das ist ein enormer wirtschaftlicher Vorteil ohne Milliarden-Budgets.

• Governance für Digitale Souveränität: Normen stellen sicher, dass europäische Daten, Werte und Prozesse bei europäischen Entscheidungsträgern bleiben – nicht bei US- oder China-Tech-Konzernen.

4. Die zentrale Frage für ANP

Aus Folge 7 ergibt sich für die Normung eine strategische Aufgabe:​

„Setzen wir die Spielregeln für ethische KI oder werden wir von US/China-Technologie überrollt?"

Die Antwort ist nicht: „Bessere Modelle bauen" (das gewinnen wir nicht).

Die Antwort ist: „Bessere Standards schreiben – und die ganze Welt muss sie einhalten."​

Konkrete Handlungsempfehlungen für ANP

Kurzfristig:

1. AI-Act-Compliance-Norm: Ein Standard, der Unternehmen zeigt, wie sie den AI-Act praktisch umsetzen.

2. KI-Governance-Leitfaden: Vorlage für Unternehmen, um Spielregeln zu setzen.

Mittelfristig:

1. KI-Kompetenz-Standard: Definition der „KI-Grundkenntnisse" für Führungskräfte und Mitarbeiter.

2. Benchmark-Validierungs-Norm: Echte Tests statt akademische Benchmarks.

Langfristig:

1. Europäischer KI-Vertrauenssiegel: Ein DIN/ISO-Standard für „ethische, sichere, transparente KI".

2. Interoperabilitäts-Roadmap: Hardware-unabhängige KI-Standards.

3. Kurzfristig (nächste Sitzungen):

   • Arbeitsgruppe: Haftungsregeln für autonome KI-Agenten in der Wirtschaft

   • Arbeitsgruppe: Transparenz & Vertrauensschutz bei unternehmensinterner KI

4. Mittelfristig:

   • Klassifikation von KI-Gesundheitsbots als Medizinprodukte (Koordination mit Behörden notwendig)

   • Standard zu Notfall-Weiterleitungen und psychologischen Sicherheitsanforderungen

Langfristig:

5. Systemic Risk Assessment-Standard für KI-Infrastrukturen

Interoperabilitäts-Roadmap für echte digitale Souveränität

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.