2. STAFFEL / FOLGE:

5.12.2025

KI Ethik News

#5: KI als Kollege – Produktivität, Kontrolle und Belastungsgrenzen

Datum: 4 5. Dezember 2025
Zielgruppe: Normenanwender:innen, Arbeitskreise im DIN-Umfeld, Fachverantwortliche für KI-Governance

Titel:  Quelle: KI Ethik News (Staffel 2, Folge 45) |  Datum: 04 05.12.2025 Kurator: Arno Schimmelpfennig

Executive Summary

Folge 4 zeigt die zunehmende Polarisierung in der KI-Landschaft: Während deutsche Forschungsprojekte spezialisierte, nachvollziehbare Systeme entwickeln, kämpfen globale Konzerne mit Stabilität und Ethik. Der EU-AI-Act wurde Realität – ab Anfang 2025 gelten erste Verpflichtungen, ab August 2025 beginnen Kontrollprüfungen. Dies stellt Normenanwender vor zwei zentrale Aufgaben: (1) KI-Systeme evaluieren, (2) Führungskräfte zu KI-Kompetenz verpflichten.

Kernthemen und Implikationen für die Normenpraxis

1. Das deutsche Modell: Erklärbare & spezialisierte KI

Die Entwicklung:

Zwei Fallbeispiele illustrieren den deutschen Ansatz:

a) KITU 2.0 (Uni Mainz, Krebstherapie):

• Analysiert Patientendaten für Tumorboards (Spezialistenkonferenzen).

• Nicht als Arzterstatz, sondern als hochqualifizierte „Zweitmeinung".

• Entscheidend: Transparentes Dashboard, das Ärzte sieht, warum die KI eine Therapie empfiehlt.

• Genauigkeit: 70–90% beim Abgleich mit menschlichen Expertengremien.

• Verantwortung bleibt beim Menschen.

b) Optimization Chat (Uni Bielefeld, Logistik/Produktion):

• Übersetzt Geschäftsprobleme in mathematische Formeln.

• Beispiel: Lkw-Routing mit Kostenoptimierung automatisiert.

• Entscheidend: Spezialisiert, nicht generalistisch. Verhindert den „Alleskönner-Hype".

Bedeutung für Normenanwender (ANP):

• Erklärbarkeits-Standard (Explainable AI): Deutsche Forschung setzt auf Transparenz. Dies sollte in künftigen Normen zur KI-Anwendung als Best Practice verankert werden, nicht nur als optionales Feature.

• Hochspezialisierten Systeme bevorzugen: Der Trend weg von Generalisten-KI und hin zu fokussierten, überprüfbaren Systemen sollte in den Anforderungskatalog für KI in kritischen Bereichen (Medizin, Infrastruktur) aufgenommen werden.

• Praktischer Transfer: Normenanwender könnten diese Projekte als Vorlagen zur Evaluierung eigener KI-Einsätze heranziehen.

2. Die Silicon-Valley-Krise

Die Entwicklung:

a) OpenAI (Code Red):

• CEO Altman ruft intern Alarmstufe aus. Kernprodukt ChatGPT wackelt (Geschwindigkeit, Zuverlässigkeit).

• Konkurrenz (Google Gemini 3, Anthropic) holt auf.

• Alle Nebenprojekte (Shopping, Agenten) werden gestoppt.

• Fokus: Stabilität vor Innovation.

b) Anthropic & das „Seelendokument":

• Ein verstecktes 14.000-Token-Dokument wurde in Claude 4.5 gefunden.

• Inhalt: Anthropic versucht, der KI eine positive Persönlichkeit/einen ethischen Kompass einzupflanzen (nicht nur nachträgliche Sperren, wie OpenAI).

• Ziel: Claude soll ein „brillanter, fachkundiger Freund" sein.

• Riskant: Wirkt manipulativ; es ist unklar, ob das funktioniert.

c) Mistral (französisches Start-up):

• Strategie: Volle Open-Weight-Modelle (lokal installierbar, anpassbar).

• Vorteil: Datensouveränität (z.B. HSBC-Deal wegen Bankgeheimnis-Anforderungen).

• Position: Nicht Stabilität oder „gute Seele", sondern Kontrolle.

Bedeutung für Normenanwender (ANP):

• Philosophie der KI-Beschaffung: Drei Modelle konkurrieren – Stabilität, Identität, Souveränität. Normenanwender müssen bei der Auswahl von KI-Systemen entscheiden, welche dieser Dimensionen sie bevorzugen.

  • Stabilitäts-Modell: Gut für kurzfristige, zuverlässige Aufgaben (z. B. Dokumentprüfung).

  • Identitäts-Modell: Fraglich für regulatorische Kontexte (wer bestimmt die „Werte"?).

  • Souveränitäts-Modell: Ideal für sensitive Daten (Norm-Entwürfe, Compliance-Daten).

• Make-or-Buy-Entscheidung: Normenstellen könnten in Zukunft überlegen, ob lokale Open-Source-Modelle (wie Mistral) für interne Normungsprozesse sicherer sind als Cloud-Lösungen.

3. Der EU-AI-Act als neue Spielregel

Die Entwicklung (Timeline):

• August 2024: AI-Act tritt in Kraft.

• Februar 2025: Erste Dokumentations- und Transparenzpflichten aktiv.

• August 2025: Bundesnetzagentur startet Prüfungen.

• Strafen: Bis zu 35 Mio. EUR oder 7% weltweiten Jahresumsatzes.

Risikobasierte Kategorien:

1. Verbotene KI: Social Scoring durch Regierungen (kleiner Bereich).

2. Hochrisiko-KI: Personalwesen, Kreditvergabe, Justiz, kritische Infrastruktur → strenge Dokumentation & Auditpflichten.

3. Transparenzpflicht: Chatbots, generative KI (müssen kennzeichnen, dass sie KI sind).

Der Game Changer – Artikel 4:

• Pflicht zur KI-Kompetenz für Führungskräfte:

  • Jeder, der KI entwickelt, einsetzt oder über Einsatz entscheidet, muss „angemessenes KI-Wissen" haben.

  • Zielgruppe: Vorstände, Geschäftsführer, Abteilungsleiter, Projektverantwortliche in Normenkomitees.

  • Konsequenz: Die Ausrede „Das macht die IT-Abteilung, ich muss das nicht verstehen" ist rechtlich nicht mehr tragbar.

• Prüfungsdelikte: Wer ohne angemessene KI-Kompetenz entscheidet, handelt fahrlässig/grob fahrlässig.

Bedeutung für Normenanwender (ANP):

• Immediate Action: Alle ANP-Mitglieder, die KI-Projekte verantworten, müssen sich schulen (online-Kurse, Fachliteratur, interne Workshops).

• Due Diligence: Normenverantwortliche sollten ein KI-Audit durchführen:

  • Welche KI-Systeme nutzen wir intern?

  • Welche Risikoklasse fallen sie unter?

  • Dokumentieren wir die Entscheidungen?

• Hochrisiko-Normung: Falls die DIN TGKI Hochrisiko-KI-Normen entwickelt, müssen diese selbst ein AI-Act-konformes Audit durchlaufen.

Konflikt: Transparenz vs. Sicherheit durch Komplexität

Die zentrale Spannung (Schlussfrage der Folge):

Die deutsche Forschung strebt maximal erklärbare, nachvollziehbare KI an (KITU: Dashboard, Begründungen).

Jedoch könnten diese derselben Systeme anfälliger für Manipulationen werden, weil ihre Logik transparent ist. Im Gegensatz dazu haben Blackbox-Modelle „Sicherheit durch Undurchschaubarkeit" – niemand kann die innere Logik umgehen.

Normungs-Implikation:

• Sollten Normen Transparenz erzwingen (mit Manipulationsrisiko)?

• Oder sichere Blackbox-Systeme dulden (mit Vertrauensdefizit)?

• Der AI-Act sagt: Transparenz + Prüfung ist der europäische Weg.

Handlungsbedarf für die Normenpraxis

1. KI-Governance etablieren: Welche Systeme nutzen wir? Welche Regeln gelten dafür?

2. Führungskräfte schulen: Artikel 4 Compliance wird ernst.

3. Hochrisiko-Audit: Falls eure Normen KI-Systeme regeln, müssen diese selbst AI-Act-konform sein.

4. Transparenz-Standard pflegen: Die KITU-Forschung zeigt, dass erklärbare KI möglich und erwünscht ist.

5 analysiert KI-Systeme, die nicht mehr nur Werkzeuge, sondern faktische „Kollegen“ im Büroalltag werden: Assistenten, die Kalender, E-Mails, Onboarding, HR-Anfragen und Wissensarbeit übernehmen. Neben beeindruckenden Effizienzgewinnen (z. B. 75% Beschleunigung in technischen Kernprozessen bei Blue Origin) rücken zwei Fragen in den Vordergrund: Wer setzt die Regeln für diese digitalen Kollegen, und wie schützen Normen sowohl vor Fehlentscheidungen als auch vor Überforderung der Beschäftigten?​​

1. KI als Produktivitätsbooster im Arbeitsalltag

Inhalte der Folge:

• KI-gestützte HR-Assistenz: Beantwortung von Standardfragen (Urlaubsregelungen, Reisekosten, Onboarding), Self-Service-Portale und „Skills Intelligence“ zur Kompetenzanalyse von Mitarbeitenden.​

• Führungskräfte erwarten deutliche Produktivitätssteigerungen und teilweise sogar weniger Stress und Burnout durch Entlastung von Routinetätigkeiten.​

Relevanz für die Normenpraxis (ANP):

• Solche Systeme fallen perspektivisch in den Anwendungsbereich von Normen zu Human-Centred AI, Mensch-Maschine-Interaktion und ergonomischer Gestaltung von Informationsarbeit.​

• Normen sollten klare Anforderungen an Transparenz (wer entscheidet was?), Eingriffsmöglichkeiten des Menschen und Dokumentation von KI-Entscheidungen im HR-Kontext definieren, insbesondere bei Bewertungs- oder Karriereempfehlungen.​

2. „Timeline-Arbitrage“ und extreme Effizienzgewinne

Inhalte der Folge:

• Beispiel Blue Origin: Interne KI („BlueGPT“) unterstützt Ingenieurteams bei Analyse, Fehlersuche und Berichtszusammenfassungen; zentrale Prozesse der Raketenentwicklung werden um rund 75% beschleunigt.​

• Der Begriff „Timeline-Arbitrage“ beschreibt, dass Unternehmen sich durch KI einen massiven Zeitvorsprung gegenüber Wettbewerbern verschaffen.​

Relevanz für die Normenpraxis:

• Solche Effizienzsprünge erhöhen den Druck auf andere Organisationen, ebenfalls KI einzusetzen, um wettbewerbsfähig zu bleiben – auch in normrelevanten Bereichen (z. B. technische Dokumentation, Konformitätsbewertungen).​

• Hier entsteht Bedarf an Normen zu Qualitätssicherung und Validierung von KI-Unterstützung in sicherheitskritischen Bereichen: Wie wird geprüft, dass durch die Beschleunigung keine systematischen Fehler in sicherheitsrelevante Entscheidungen eindringen?​

3. Kontrolle, Überwachung und psychische Belastung

Inhalte der Folge:

• Die Episode stellt der Produktivitäts-Story bewusst die Schattenseite gegenüber: KI könnte nicht nur Kollegin, sondern potenziell „Kontrolleurin“ oder gar Jobkiller werden.​

• Am Ende steht die Leitfrage: Nicht nur „Was kann KI uns abnehmen?“, sondern „Wie viel Veränderung und Beschleunigung kann der Mensch überhaupt noch aushalten?“ – Stichwort Überforderung und Dauertransformation.​

Relevanz für die Normenpraxis:

• Normen müssen psychosoziale Folgen des KI-Einsatzes berücksichtigen, z. B. im Rahmen von Arbeits- und Gesundheitsschutz (Belastungsgrenzen, Transparenz bei Leistungsmonitoring, Mitbestimmung).​

• Es braucht Leitlinien, wie „KI-Kollegen“ gestaltet werden, damit sie unterstützend wirken und nicht als permanente Überwachungs- oder Rationalisierungsinstrumente wahrgenommen werden (z. B. klare Trennung von Supportfunktionen vs. Performance-Messung).​

4. Offene Fragen an die Normung

Aus der Folge ergeben sich für den ANP u. a. folgende Leitfragen:​​

• Welche Mindestanforderungen an Transparenz, Eingriffsmöglichkeit und Protokollierung sollten für KI-Systeme gelten, die im Arbeitsalltag als „Kollegen“ agieren?

• Wie können Normen dazu beitragen, dass KI-Einführung nicht nur Produktivität, sondern auch Schutz vor Überforderung adressiert (z. B. Pausen, Informationslast, Veränderungszyklen)?

• Welche branchenspezifischen Besonderheiten (z. B. Hochrisiko-Branchen nach EU-AI-Act) müssen bei „KI-Kollegen“ besonders beachtet werden?

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.