Normungsroadmap KI (Ausgabe 2)

1. GRUNDLAGEN

Als Querschnittstechnologie bietet Künstliche Intelligenz großes Potenzial in vielen Branchen und Bereichen. Die Basis hierfür ist eine zuverlässige, funktionale und vor allem sichere KI. Die Normungsroadmap betrachtet Terminologien und bedeutsame Anwendungsgebiete wie Sprachtechnologien, bildgebende Sensorik, Quanten-KI und beschreibt KI-Methoden und -Fähigkeiten. Zudem werden ethische Prinzipien, Datenqualität und weitere Kriterien behandelt. All diese Themen sind die Grundlage für ein einheitliches Verständnis Künstlicher Intelligenz und lassen sich in Normen und Standards abbilden. Das fördert die Interoperabilität und das Zusammenwirken unterschiedlicher Systeme.

2. SICHERHEIT

KI-Systeme müssen mehrfach sicher sein: Menschen, die mit einem KI-System interagieren, müssen geschützt sein (Safety). Außerdem dürfen die verwendeten Daten nicht missbraucht werden (Security). Nur eine tiefergehende Betrachtung der Sicherheit von KI-basierten Technologien und Anwendungen ermöglicht es, diese umfassend in Wirtschaft und Gesellschaft einzusetzen. Derzeit besteht bei autonomen KI-Systemen noch die Herausforderung, Sicherheit für Leib und Leben nachweisen zu können. Die Normungsroadmap beschreibt eine Herangehensweise, um das Marktpotenzial entsprechender Anwendungen auszuschöpfen und die notwendige Risikoreduktion zu erreichen. Außerdem trägt sie dazu bei, das Marktpotential entsprechender Anwendungen auszuschöpfen und insbesondere die Schnittstellen zwischen Ethik, Recht und Technik bei Safety zu gestalten. KI braucht zudem Vertrauen in Cybersecurity und Privacy. Prüfungen und Zertifizierungen können dazu beitragen, Normen und Standards sind wiederum Grundlage für Prüfungen und Zertifizierungen: Hier steht der Lebenszyklus der verwendeten Daten oder Algorithmen für KI-Systeme im Fokus.

3. PRÜFUNG UND ZERTIFIZIERUNG

KI-Systeme unterscheiden sich in vielerlei Hinsicht von herkömmlicher Software - Daten und Algorithmen nehmen eine viel zentralere Rolle ein. So sieht der geplante AI Act Prüfungen für KI-Anwendungen vor, die ein hohes Risiko für Gesundheit, Sicherheit oder Persönlichkeitsrechte haben können. Insbesondere der Qualitätsanspruch beispielsweise an die technische Zuverlässigkeit sowie die Erklärbarkeit und Nachvollziehbarkeit der KI-Anwendungen ist hier ganz zentral. Um das Vertrauen in KI-Anwendungen zu stärken, sind Qualitätskriterien und Prüfverfahren notwendig, die KI-Systeme technisch beschreiben und messbar machen. Normen und Standards beschreiben Anforderungen an Kriterien und Verfahren (etwa hinsichtlich der Qualität, der Sicherheit und Transparenz) und sind damit Grundlage für die Zertifizierung von KI-Anwendungen. Zertifizierungen können so auch die Etablierung einer vertrauenswürdigen Marke „KI made in Europe“ voranbringen und damit die internationale Wettbewerbsfähigkeit Europas im Bereich KI stärken. Die Normungsroadmap empfiehlt, hierfür einen horizontalen KI-Qualitätsstandard zu entwickeln, der die Basis für weitere branchenspezifische Prüfungen und Zertifizierungen sein kann.

4. SOZIOTECHNISCHE SYSTEME

KI steht immer im Kontext zum Menschen und zum organisatorischen Umfeld. Für erfolgreiche KI-Lösungen darf es deshalb nicht nur den Blick auf die Technologie geben. Vielmehr ist auch das soziotechnische System zu betrachten, in dem Künstliche Intelligenz eingesetzt wird und mit dem Menschen in Wechselwirkung steht. Ziel ist es, die Bedürfnisse der Nutzer*innen zu erkennen und die KI so zu gestalten, dass sie die Nutzer*innen bestmöglich bei ihren Aufgaben unterstützt. Insbesondere kleinen und mittelständischen Unternehmen sowie Start-ups soll es ermöglicht werden, KI-Technologien in ihre Geschäftsmodelle zu integrieren. Aufgabe der Normung ist es, alle relevanten Personengruppen und Blickwinkel unter Berücksichtigung soziotechnischer Aspekte einzubeziehen. Im Verordnungsentwurf des AI Act spielen unter anderem die menschliche Aufsicht und Eingriffsmöglichkeit sowie die Transparenz in KI-Systemen bedeutende Rollen. Technische und soziale Komponenten sind deshalb vom Menschen aus zu denken und bei der Entwicklung darauf auszurichten.

5. INDUSTRIELLE AUTOMATION

Künstliche Intelligenz ist eine Schlüsseltechnologie, wenn es um die digitale Transformation des produzierenden Gewerbes geht. Eine wichtige Funktion wird dabei der digitalen Abbildung der physischen Realität zugeschrieben, dem digitalen Zwilling. Die Normungsroadmap stellt aktuelle Herausforderungen im Zusammenhang mit Datenmodellen für den Einsatz von KI in der industriellen Automation dar. Die Roadmap befasst sich außerdem damit, wie Mensch und Maschine interagieren und wie sich KI-Systeme integrieren lassen. In der industriellen Automation sind Normen und Standards essenziell: Sie fördern die unternehmensübergreifende Interoperabilität und helfen dabei, regulatorische Rahmenbedingungen umzusetzen.

6. MOBILITÄT

Im Mobilitätssektor bietet der Einsatz Künstlicher Intelligenzviele Vorteile – beispielsweise, wenn selbstlernende Systeme komplexe automatisierte Steuerungsfunktionen übernehmen sowie Verkehrsströme oder Mobilitätsketten optimieren. Normen und Standards für den Mobilitätsbereich können unter anderem: 1) eine Grundlage zur Operationalisierung des geplanten AI Acts bilden, in dem sie objektive Methoden zur prüfbaren Entwicklung nach „Trustworthiness-by-Design“ ermöglichen 2) die dynamische, kontinuierliche (Re-)Zertifizierung beziehungsweise Typzulassung im Sinne einer kontinuierlichen Systementwicklung unterstützen 3)Schnittstellen und Mindestanforderungen für die Interoperabilität, den Datenaustausch sowie die Trustworthiness und Safety bei automatisierten Mobilitätssytemen festlegen.

7. MEDIZIN

Aus der Medizin der Zukunft wird KI nicht mehr wegzudenke sein – ob bei Diagnose, Therapie, Früherkennung oder im Pflegealltag. Zugleich ist der Einsatz der Technologie in diesem Bereich herausfordernd: Es geht nicht nur um die Gesundheit und persönliche Daten, sondern auch darum, Menschen schnell und sicher am medizinischen Fortschritt teilhaben zu lassen. Normen und Standards können helfen: 1) die Nutzbarkeit und Verwertbarkeit von Daten für KI-basierte Systeme in der Medizin zu erhöhen 2) die Leistungsfähigkeit und Sicherheit KI- basierter Medizinprodukte zu überprüfen 3) Vertrauen und Akzeptanz bei Anwender*innen und Patient*innen zu schaffen 4) die Qualitätsinfrastruktur regulatorischer Rahmenbedingungen für KI in Medizinprodukten effizient umzusetzen.

8. FINANZDIENSTLEISTUNGEN

Money makes the world go round: Finanzdienstleistungen sichern soziale Teilhabe für alle und sind zugleich anspruchsvolle und hoch sensible Produkte – besonders in einer digitalisierten Welt. Bargeld wird schon seit langem durch reine Datenströme ersetzt, wie geschaffen für die Nutzung Künstlicher Intelligenz. Wie lassen sich die neuen Möglichkeiten verantwortungsvoll nutzen, ohne die Risiken zu übersehen? Können Modelle für das Kundenverhalten zu Datenlecks werden? Welche Daten dürfen für Entscheidungsmodelle verwendet werden, und wie bestimmt man, wann genügend Informationen für faire Entscheidungen verfügbar sind? Wie finden sich KI-Modelle im klassischen Risikomanagement der Banken wieder? Das zu beantworten, wird durch Normen und Standards wesentlich vereinfacht.

9. ENERGIE UND UMWELT

Energie ist Teil der kritischen Infrastruktur, insbesondere die Energiewende ist ein wichtiges politisches Thema. Wirtschaftlichkeit, Versorgungssicherheit, Klimaschutz und die Umstellung auf erneuerbare Energien stehen zugleich auf der Agenda. Künftig werden intelligente Stromnetze – Smart Grids – immer wichtiger. Sie verbinden Energietechnik mit Informations- und Kommunikationstechnologien. In dieses System aus Datenmodellen und Systemarchitekturen muss sich Künstliche Intelligenz integrieren. KI ist darüber hinaus ein bedeutendes Instrument, um die von den Vereinten Nationen definierten 17 Ziele für nachhaltige Entwicklung zu erreichen. KI bietet Nutzungspotenziale im Kontext des European Green Deal. Mithilfe Künstlicher Intelligenz lassen sich beispielsweise sektorübergreifend Verhaltensempfehlungen für Marktakteur*innen und Verbraucher*innen entwickeln, um den ökologischen Fußabdruck zu minimieren. KI kann im Umweltbereich zudem ein Werkzeug für mehr Ressourceneffizienz in der Industrie sowie zur Verarbeitung großer Datenmengen in verschiedenen Wirtschaftssektoren sein. Normung leistet dabei einen Beitrag zum Umbau Deutschlands hin zum klimaneutralen Industrieland.