2. STAFFEL / FOLGE:

8.12.2025

KI Ethik News

#6: Systemische Risiken – Jobangst, psychische Schäden &

Datum: 5 8. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 56) | Datum: 05 08.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Während Folge 5 analysiert noch von KI-Systeme, die nicht mehr nur Werkzeuge, sondern faktische „Kollegen“ im Büroalltag werden: Assistenten, die Kalender, E-Mails, Onboarding, HR-Anfragen und Wissensarbeit übernehmen. Neben beeindruckenden Effizienzgewinnen (z. B. 75% Beschleunigung in technischen Kernprozessen bei Blue Origin) rücken zwei Fragen in den Vordergrund: Wer setzt die Regeln für diese digitalen Kollegen, und wie schützen Normen sowohl vor Fehlentscheidungen als auch vor Überforderung der Beschäftigten?​​

1. KI als Produktivitätsbooster im Arbeitsalltag

Inhalte der Folge:

Kollegen im positiven Sinne sprach, dreht Folge 6 das Blatt um: Sie analysiert die systemischen Schäden, die durch unkontrollierte Einführung autonomer KI-Systeme entstehen können. Zentrale Erkenntnisse: (1) Massive Jobverlustrisiken mit gleichzeitiger Vertrauenskrise in Teams; (2) Regulierungslücken bei KI-gestützten Gesundheitsanwendungen; (3) Marktstabilität gefährdet durch Milliardenwetten und Monopolbildung. Für die Normenpraxis ergeben sich unmittelbare Handlungsbedarfe in drei Bereichen.​

1. KI-Agenten im Workspace: Effizienz auf Kosten von Vertrauen

Inhalte der Folge:​

• Autonome Tools (Google Workspace Studio, Amazon Kiro): KI übernimmt Routineaufgaben wie E-Mail-Verwaltung, Meeting-Koordination, automatisierte Programmierung, etc.

• Kostenlogik: Junior-Mitarbeiter ~$50.000/Jahr vs. KI-Agent ~$10/Jahr → wirtschaftlicher Druck ist enorm.

• Prognose: Die Jobverluste kommen nicht graduell, sondern „kippen" 2026/2027 plötzlich.​

• Die Anthropic-Studie zeigt das Dilemma:​

  • 86% sparen durch KI Zeit (positiv).

  • 70% verstecken ihre KI-Nutzung aus Angst (Misstrauen im Team).

  • 55% fürchten um ihren Job konkret.

→ Paradox: Effizienzgewinn führt zu Vertrauensverlust und psychischer Belastung statt Zusammenarbeit.​

Relevanz für die Normenpraxis (ANP):

• Solche Systeme fallen perspektivisch in den Anwendungsbereich von Normen zu Human-Centred AI, Mensch-Maschine-Interaktion und ergonomischer Gestaltung von Informationsarbeit.​

• Normen sollten klare Anforderungen an Transparenz (wer entscheidet was?), Eingriffsmöglichkeiten des Menschen und Dokumentation von KI-Entscheidungen im HR-Kontext definieren, insbesondere bei Bewertungs- oder Karriereempfehlungen.​

2. „Timeline-Arbitrage“ und extreme Effizienzgewinne

Inhalte der Folge:

• Beispiel Blue Origin: Interne KI („BlueGPT“) unterstützt Ingenieurteams bei Analyse, Fehlersuche und Berichtszusammenfassungen; zentrale Prozesse der Raketenentwicklung werden um rund 75% beschleunigt.​

• Der Begriff „Timeline-Arbitrage“ beschreibt, dass Unternehmen sich durch KI einen massiven Zeitvorsprung gegenüber Wettbewerbern verschaffen.​

Relevanz für die Normenpraxis:

• Solche Effizienzsprünge erhöhen den Druck auf andere Organisationen, ebenfalls KI einzusetzen, um wettbewerbsfähig zu bleiben – auch in normrelevanten Bereichen (z. B. technische Dokumentation, Konformitätsbewertungen).​

• Hier entsteht Bedarf an Normen zu Qualitätssicherung und Validierung von KI-Unterstützung in sicherheitskritischen Bereichen: Wie wird geprüft, dass durch die Beschleunigung keine systematischen Fehler in sicherheitsrelevante Entscheidungen eindringen?​

3. Kontrolle, Überwachung und psychische Belastung

Inhalte der Folge:

• Die Episode stellt der Produktivitäts-Story bewusst die Schattenseite gegenüber: KI könnte nicht nur Kollegin, sondern potenziell „Kontrolleurin“ oder gar Jobkiller werden.​

• Am Ende steht die Leitfrage: Nicht nur „Was kann KI uns abnehmen?“, sondern „Wie viel Veränderung und Beschleunigung kann der Mensch überhaupt noch aushalten?“ – Stichwort Überforderung und Dauertransformation.​

Relevanz für die Normenpraxis:

• Normen müssen psychosoziale Folgen des KI-Einsatzes berücksichtigen, z. B. im Rahmen von Arbeits- und Gesundheitsschutz (Belastungsgrenzen, Transparenz bei Leistungsmonitoring, Mitbestimmung).​

• Es braucht Leitlinien, wie „KI-Kollegen“ gestaltet werden, damit sie unterstützend wirken und nicht als permanente Überwachungs- oder Rationalisierungsinstrumente wahrgenommen werden (z. B. klare Trennung von Supportfunktionen vs. Performance-Messung).​

4. Offene Fragen an die Normung

Aus der Folge ergeben sich für den ANP u. a. folgende Leitfragen:​​

• Transparenz-Norm für Unternehmens-KI: Es braucht verbindliche Standards dafür, wie Unternehmen den Einsatz von KI-Agenten kommunizieren und dokumentieren (ähnlich wie Offenlegung von Code-of-Conduct-Verstößen).​

• Haftungsfragen: Wenn ein autonomer Agent falsche Daten an den gesamten Kundenverteiler schickt – wer haftet? Normen müssen klare Verantwortlichkeitsketten definieren, besonders in sicherheitskritischen Kontexten (z. B. Medizingeräte, Infrastruktur).​

• Arbeitnehmerschutz-Normen: Die psychische Belastung durch ständige Automatisierungsunsicherheit braucht auch arbeitsschutzrechtliche Grenzen (z. B. Ruhezeiten, Transparenzpflichten, Rückkehrgarantien).​

2. KI-Therapeuten als reguliertes Versprechen

Inhalte der Folge:​

• Chance: 24/7-Verfügbarkeit, Anonymität, erste Anlaufstelle für Menschen mit Hemmungen.

• Gefahr: KI-Charaktere für psychische Unterstützung sind weitgehend unreguliert – werden aber als echte Therapeuten wahrgenommen, besonders von Jugendlichen.

• Beispiel: Deepfake-Ärzte auf TikTok – gefälschte Ärzte werben gezielt (z. B. für Wechseljahrs-Präparate), was zeigt, wie glaubwürdig und manipulativ solche Systeme sind.

• Dresdner Forschungs-Forderung: „Wenn es wie eine Ente geht und wie eine Ente spricht, ist es eine medizinisch regulierte Ente."​

Relevanz für die Normenpraxis (ANP):

• Medizinprodukt-Klassifikation: KI-Therapeuten sollten der MDR (Medical Device Regulation) oder IVDR zugeordnet werden – mit Folgen: Risikoklassifikation, klinische Studien, Compliance-Audits.

• Psychische Notfall-Protokolle: Normen sollten verbindlich vorschreiben, dass KI-Gesundheitsbots bei kritischen Inhalten (Suizidgedanken, Missbrauch) automatisch zu professionellen Anlaufstellen weiterleiten und das dokumentieren.

• Transparenzmarking: Ähnlich wie „KI-generiert" für Inhalte – brauchen wir ein klares Kennzeichnungssystem: „Dieser Chat ist mit einer KI, nicht mit einem Therapeuten" (deutlicher als nur Kleingedrucktes).

• Altersschutz: Verstärkte Anforderungen für KI-Anwendungen, die Jugendliche oder Kinder nutzen, da emotionale Abhängigkeit größer ist.

3. Das Geldspiel: Marktkonzentration & Spekulationsblasen

Inhalte der Folge:​

• Infrastruktur-Kosten: Ein Rechenzentrum kostet $10 Milliarden; einige Firmen wetten intern auf $200 Milliarden Jahresumsatz.​

• Blase-Szenario: Kleine Fehlkalkulationen → ganzer Crash, ähnlich Dotcom, aber größer.

• Nvidia-Monopol: Open-Source-Modelle sind „offen" in der Software – aber laufen am besten (und rentabelsten) auf Nvidias proprietary Hardware. → Echte Unabhängigkeit? Fehlanzeige.​

• Digitale Souveränität gefährdet: Kontrolle über Zugang, Preise, Spielregeln liegt bei Handvoll Firmen.​

Relevanz für die Normenpraxis (ANP):

• Systemrelevanz-Standard: KI-Infrastrukturen sollten ähnlich wie Banken oder Energienetze reguliert werden – zu systemisch, um zu scheitern.

• Interoperabilität-Norm: Große offene Modelle sollten auf neutraler Hardware laufen können (z. B. über Standards für Hardware-Abstraktionen), um echte Wettbewerbsfähigkeit zu ermöglichen.

• Marktkonzentrationsüberwachung: Wie bei Kartellrecht: Ab wann kontrolliert eine Firma zu viel der KI-Infrastruktur? Brauchen wir Anti-Monopol-Schwellwerte?

• Resilienz-Norm: Was passiert mit kritischen Diensten, wenn ein Nvidia-Rechenzentrum ausfällt? Brauchen wir verbindliche Backup-Standards?

4. Der rote Faden: Wer kontrolliert das Narrativ?

Zentrale Frage der Folge:​

„Gestalten wir das noch oder werden wir gerade einfach überrollt?"

Diese Frage ist für die Normung zentral:

• Etablieren wir Standards proaktiv (auf Basis von Ethik, Sicherheit, Fairness)?

• Oder reagieren wir nur, wenn Schäden entstanden sind (Notfalltriage statt Prävention)?

• Wer bestimmt die Spielregeln – Tech-Giganten, Regierungen, Zivilgesellschaft, oder alle zusammen?

Handlungsbedarf für ANP / Normung

1. Kurzfristig (nächste Sitzungen):

   • Arbeitsgruppe: Haftungsregeln für autonome KI-Agenten in der Wirtschaft

   • Arbeitsgruppe: Transparenz & Vertrauensschutz bei unternehmensinterner KI

2. Mittelfristig:

   • Klassifikation von KI-Gesundheitsbots als Medizinprodukte (Koordination mit Behörden notwendig)

   • Standard zu Notfall-Weiterleitungen und psychologischen Sicherheitsanforderungen

3. Langfristig:

   • Systemic Risk Assessment-Standard für KI-Infrastrukturen

   • Interoperabilitäts-Roadmap für echte digitale Souveränität

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.