Image RemovedImage Added

NEUE FOLGE: 26.7.2025

KI-Entwicklungen mit Relevanz für die Normung

Datum: 25. Juli 2025
Zielgruppe: Normenanwender:innen, Gremienmitglieder, Fachkreise im Bereich KI & Digitalisierung

1. Intel zieht sich aus Magdeburg zurück – strategische Risiken für technologische Souveränität

Der US-Konzern Intel hat die geplante Investition von 30 Milliarden Euro in den Standort Magdeburg gestoppt. Der Rückzug bedeutet nicht nur das Aus für 3.000 potenzielle Arbeitsplätze, sondern auch einen Rückschlag für die deutsche Halbleiterstrategie.

Normungsrelevanz:
– Die weiterhin bestehende Abhängigkeit von nicht-europäischen Chip-Herstellern birgt Risiken für die Verfügbarkeit KI-fähiger Hardware
– Normen, die auf bestimmte Hardwareplattformen angewiesen sind, müssen flexibler und herstellerneutral ausgelegt sein
– Die langfristige Standardisierung KI-relevanter Infrastrukturen (z. B. für Edge Computing oder spezialisierte KI-Beschleuniger) erfordert belastbare europäische Lieferketten

Implikation für Arbeitskreise:
Gremien, die sich mit Anwendungsnormen für KI beschäftigen, sollten bei der Ausgestaltung technischer Anforderungen mögliche Versorgungsengpässe einplanen und Interoperabilität zwischen Hardwarearchitekturen absichern.

2. KI bleibt im Pilotmodus – mangelnde Umsetzungskompetenz als Standardisierungshemmnis

Laut einer aktuellen Erhebung der Computerwoche verbleiben fast die Hälfte aller KI-Projekte in deutschen Unternehmen in der Pilotphase. Gründe sind vor allem Sicherheitsbedenken, unklare Rechtslagen und fehlende Kompetenzen in den Fachabteilungen.

Normungsrelevanz:
– Fehlen klarer Umsetzungsrichtlinien und validierter Best Practices erschwert den Transfer von PoCs in den Produktivbetrieb
– Bestehende Normen zur Einführung von KI-Systemen (z. B. ISO/IEC 42001) sind bislang nur unzureichend in die betriebliche Praxis übersetzt worden
– Die Sicherheitsanforderungen an KI-Systeme werden häufig nicht standardisiert dokumentiert

Implikation für Arbeitskreise:
Es braucht handlungsorientierte Normeninhalte zur Einführungsunterstützung von KI in KMU. Praxisnahe Transferleitfäden und normgerechte Checklisten könnten die Umsetzung erleichtern und Vertrauen bei IT-Verantwortlichen stärken.

3. C3.ai vor möglicher Übernahme – Risiken durch Personenabhängigkeit

Der Rücktritt von Thomas Siebel als CEO von C3.ai aus gesundheitlichen Gründen hat unmittelbare Auswirkungen auf das Unternehmen und seine Bewertung. Analysten spekulieren über eine bevorstehende Übernahme. C3.ai gilt als Anbieter komplexer KI-Systeme für kritische Infrastrukturen.

Normungsrelevanz:
– Personenabhängigkeit bei Technologieanbietern kann mittelbar die Stabilität von Zulieferketten für KI-Anwendungen gefährden
– Auswahl- und Bewertungsverfahren für KI-Zulieferer (z. B. in Form von Eignungsprüfungen oder Anforderungsprofilen) sind bisher nicht normativ abgesichert
– Der Fall unterstreicht die Bedeutung organisationsbezogener Risikobewertung bei der KI-Integration

2. STAFFEL / Woche: 05.2026

EXECUTIVE SUMMARY

Die analysierten Inhalte markieren eine Verschiebung von „KI als Tool“ hin zu KI als gesellschaftlicher und wirtschaftlicher Steuerungsfaktor. Im Fokus stehen drei Risikodynamiken:

1. Kontrolle über digitale Öffentlichkeiten (Beispiel TikTok): Plattformmacht beeinflusst politische Meinungsbildung.

2. Erosion von Authentizität (Deepfakes, KI-Propaganda, KI-Avatare in Verwaltung): Sichtbarkeit verliert Beweisfunktion.

3. Spaltung in der Arbeitswelt (Produktivitäts-KI vs. Nicht-Nutzung): Risiko einer Kompetenz- und Wertschöpfungskluft.

Ergänzt wird dies durch eine zunehmende Bedrohungslage (Malicious LLMs wie WormGPT) sowie durch Qualitätsrisiken durch synthetische Datenrückkopplung („KI frisst sich selbst“).

Zielbild für ANP:
Prüfbarkeit, Kennzeichnung, Verantwortlichkeit und Security-by-Design als Mindestleitplanken für KI-Einsatz in Öffentlichkeit, Verwaltung und Unternehmen.

PROBLEMFELD 1: KONTROLLE ÜBER DIGITALE ÖFFENTLICHKEITEN

Beobachtung
Digitale Plattformen sind öffentliche Arenen mit hoher gesellschaftlicher Steuerungswirkung. Eine politisch beeinflusste Eigentümer- oder Kontrollstruktur kann Vielfalt reduzieren und Debattenräume verengen.

Normungs- und Regulierungsbedarf
– Transparenzanforderungen an Governance-Strukturen von Plattformen
– Nachweisbare Mechanismen zur Sicherung von Pluralität und Nicht-Diskriminierung in Distributionslogiken
– Prüfpfade für „politische Integrität“ algorithmischer Reichweitenmechanismen

Idee für ANP
– Kriterienkatalog für Plattform-Governance-Transparenz
– Mindestanforderungen für algorithmische Rechenschaft (Auditierbarkeit)

PROBLEMFELD 2: AUTHENTIZITÄT, DEEPFAKES UND KI-INTERAKTION IN VERWALTUNG

Beobachtung
Deepfakes und KI-Manipulationen wirken schneller als Aufklärung. Parallel entstehen KI-Avatare für Bürgerkommunikation („KI-Bürgermeister“), die Vertrauen und Verantwortungszuordnung beeinflussen.

Normungs- und Regulierungsbedarf
– Kennzeichnungspflicht für KI-generierte Inhalte: sichtbar und maschinenlesbar
– Mindestanforderungen an KI-gestützte Behördenkommunikation:
• klare Rollen- und Haftungsabgrenzung
• Grenzen rechtsverbindlicher Auskünfte
• Protokollierung und Nachvollziehbarkeit

Idee für ANP
– Standard „Maschinenlesbare KI-Kennzeichnung“ (Metadaten und UI-Label)
– Leitlinie „KI-Assistenz in Behörden“ (Haftung, Transparenz, Eskalation)

PROBLEMFELD 3: ARBEITSWELT-SPALTUNG DURCH UNGLEICHE KI-NUTZUNG

Beobachtung
KI-Integration in Standardsoftware steigert Produktivität. Gleichzeitig zeigen Daten eine breite Nicht-Nutzung von KI, was eine neue Wertschöpfungskluft erzeugt.

Normungs- und Regulierungsbedarf
– Anforderungen an organisationsweite Qualifizierungsstrategien („Capability Building“)
– Mindeststandards für Change- und Lernkultur in KI-Transformation
– Schutz vor struktureller Benachteiligung durch fehlende Kompetenzzugänge

Idee für ANP
– Musterprozess „KI-Kompetenzaufbau“ für KMU (schlank, umsetzbar)
– Kriterien für „faire Einführung“ (Zugang, Schulung, Begleitung)

PROBLEMFELD 4: BEDROHUNGSLAGE DURCH MALICIOUS LLMS UND UNSICHERES VIBE-CODING

Beobachtung
Neben missbrauchbaren Systemen entstehen gezielt kriminelle Modelle (z. B. WormGPT). Gleichzeitig erzeugt KI-gestützte Softwareentwicklung ohne Security-Kompetenz neue Angriffsflächen.

Normungs- und Regulierungsbedarf
– Mindestanforderungen an Security-by-Design für KI-Systeme und KI-generierten Code
– Prüfverfahren und Zertifizierung nach Risikoklassen (analog Sicherheitsprüfung)
– Klare Haftungszuordnung bei Datenabfluss und Sicherheitsmängeln

Idee für ANP
– Entwurf „KI-Sicherheits-TÜV“ nach Einsatzgebiet (Finanzen, Gesundheit, Verwaltung)
– Security-Checkliste für KI-generierte Softwareartefakte

PROBLEMFELD 5: QUALITÄTS- UND WAHRHEITSRISIKEN DURCH SYNTHETISCHE DATENRÜCKKOPPLUNG

Beobachtung
KI-Inhalte werden Teil zukünftiger Trainingsdaten („KI frisst sich selbst“). Risiko: Fehlerverstärkung, sinkende Originalität, Erosion überprüfbarer Quellen.

Normungs- und Regulierungsbedarf
– Standards für Quellentransparenz und Rückverfolgbarkeit
– Anforderungen an Datenvalidierung und Provenance (Herkunftsnachweis)
– Schutzmaßnahmen gegen Datenvergiftung (Training Data Security)

Idee für ANP
– Leitlinie „Provenance und Quellenkette“ für KI-Antwortsysteme
– Anschlussfähigkeit an Sicherheitsforschung (Training-Absicherung)

SCHLUSSFOLGERUNG / LEITMOTIV

KI verschiebt die Kontrollfrage von der Technik in die Governance.

Wer steuert Öffentlichkeit, Wahrheit und Wertschöpfung?

ANP kann die Brücke bauen zwischen
„KI nutzen“ und „KI verantwortbar nutzen“ – durch Kennzeichnung, Prüfbarkeit, Verantwortungslogik und Security-by-Design.

Hinweis: Diese Zusammenfassung wurde auf Basis der Podcast-Transkripte erstellt und für die Zielgruppe der Normenanwender kontextualisiert. Die Inhalte dienen der Information und ersetzen keine Rechtsberatung.