Standards für Künstliche Intelligenz (KI)

Die Zertifizierungen geben Antworten auf eine Reihe wichtiger Fragen: Halten Anwendungen, was sie versprechen? Wie sicher und verlässlich ist ihr Einsatz? Wie transparent die Ergebnisse? Inwieweit lassen sich Systeme miteinander vergleichen? 

Die Entwicklung entsprechender Leitlinien, Standards und Normierungsverfahren für KI-Zertifizierungen steht derzeit allerdings noch am Anfang. Und nicht alle teilen die damit verbundenen Hoffnungen. Befürchtet werden unter anderem eine Überregulierung sowie eine Benachteiligung kleiner und mittlerer Unternehmen durch die zu erwartenden hohen Kosten. Zugleich gilt aber auch: Wer Standards setzt, schreibt Werte fest und sichert sich Märkte. Zertifizierbare KI ist daher ein zunehmend wichtiges Thema, dass uns als Menschen betrifft als auch übergeordnete Fragen für Wirtschaft, Gesellschaft und Politik aufwirft.

Wie kann KI sicher, schnell und praktisch in Unternehmen eingesetzt werden?

Im Alltag treffen wir bereits häufig auf Anwendungen mit Künstlicher Intelligenz. KI ist beteiligt bei Suchanfragen im Internet, sichert Email-Accounts durch Spamfilter, entsperrt das Smartphone durch Gesichtserkennung, navigiert den Staubsaugroboter durch unsere Wohnung und vieles mehr. Auch in Unternehmen ist Künstliche Intelligenz auf unterschiedlichen Ebenen bereits im Einsatz. Algorithmische Systeme automatisieren Prozesse in der Logistik, Wartung oder Qualitätskontrolle. Mithilfe von KI werden so etwa Lagerbestände klein gehalten, Warenflüsse optimiert oder Produktionsprozesse flexibilisiert. So überzeugend all diese Vorteile auch sind, stehen Unternehmen bei der Einführung von KI-Systemen jedoch noch immer vor großen Herausforderungen. 

Das beginnt schon mit der Auswahl passender KI-Anwendungen. Zumal der Begriff Künstliche Intelligenz im Grunde nur ein Sammelbecken für eine Vielzahl unterschiedlicher Technologien ist, wie etwa Machine Learning (ML), Mustererkennung, Natural Language Processing (NLP), Reinforcement Learning, Robotik, robotergesteuerte Prozessautomatik (RPA) und vieles mehr. Diese Technologien werden in KI-Anwendungen sowohl einzeln als auch kombiniert verwendet. Hinzu kommen hybride KI-Systeme, bei denen auch noch klassische Software eingesetzt wird. Der Grund für diese Vielfalt ist naheliegend: Jedes Unternehmen ist einzigartig und benötigt individuelle Lösungen.

Entsprechend aufwändig ist es daher, KI-Systeme miteinander zu vergleichen. Das zieht weitere drängende Fragen nach sich: Sind die Lösungen robust genug für die Anforderungen im Fertigungsprozess? Wie steht es um die Interoperabilität– können die Daten der KI-Anwendung auch aus anderen Systemen stammen bzw. in diesen verwendet werden? Wichtig hierbei ist auch die Erklärbarkeit von KI-Lösungen. Geschäftskritische Entscheidungen etwa müssen sich jederzeit transparent nachvollziehen und autonom von Menschen revidieren lassen. Eine weiterer Aspekt ist der sichere Einsatz von KI-Technologien mit Blick auf Datenschutz und Cyber-Risiken. Welche Haftungsrisiken bestehen? Wie wird sichergestellt, dass KI-Anwendungen Gesetze beachten, aber auch Werte wie Fairness berücksichtigen? Nicht zuletzt muss auch die Belegschaft von Sinn und Nutzen der KI-Systeme überzeugt werden, was weitere rechtliche und ethische Fragen aufwirft. Antworten auf diese und weitere Fragen soll künftig die Zertifizierung von KI-Anwendungen bieten. Die Entwicklung auf diesem Gebiet steht derzeit allerdings noch am Anfang.

Zertifizierungen  als Schlüssel für den Einsatz von KI-Systemen 

Zertifizierungen finden sich bereits in vielen wirtschaftlichen Prozessen. Geläufig sind beispielsweise die ISO 9001 für Qualitätsmanagementsysteme oder die ISO 14001 für Umweltmanagementsysteme. Die Idee dahinter ist, dass sich Unternehmen an definierte Standards und Normen halten. Normen geben dabei Regeln vor, wie etwa Prozesse oder Anwendungen von Technologien zu gestalten sind, um Standards zu gewährleisten. Die Einhaltung von Normen erfolgt häufig freiwillig, weil sie im Streitfall Rechtssicherheit bieten und Kooperationen über Unternehmens-, Branchen- und Ländergrenzen erleichtern. Mitunter sind sie aber auch verbindlich, da Gesetze und Rechtsverordnungen auf sie verweisen. 

Der Nachweis zur Einhaltung von Normen kann auf unterschiedliche Weise erfolgen. Die einfachste Stufe ist dabei die Selbsterklärung von Unternehmen. Die nächsthöhere Stufe ist die Prüfung und Bestätigung durch Vertragspartner. Am vertrauenswürdigsten ist jedoch die Bewertung durch eine unabhängige, dritte Partei. Das kann eine öffentliche Organisation wie beispielsweise die Bundesnetzagentur oder eine Zertifizierungsstelle wie TÜV, DEKRA oder DQS sein. In einer sogenannten Konformitätsbewertung prüfen diese unabhängigen Stellen, ob die festgelegten Anforderungen erfüllt sind und stellen eine entsprechende Zertifizierung aus, die meist zeitlich befristet ist. 

Initiativen und Projekte zur Etablierung von KI-Zertifizierungen

Außerhalb Europas beschränken sich die Bemühungen, gemeinsame Standards zu setzen, auf lose Partnerschaften wie etwa die „Partnership on AI“, an der sich vor allem multinationale Unternehmen wie Google, Amazon und Facebook beteiligen. Die Einhaltung der Richtlinien geht dabei kaum über die Stufe der Selbsterklärung hinaus. Aktiver sind hier europäische Staaten sowie die Europäische Kommission. Als bislang einziges Land hat Malta eine freiwillige KI-Zertifizierung auf den Weg gebracht. Diese ist jedoch vor dem Hintergrund von Maltas Versuch zu sehen, sich als „Blockchain Island“ zu positionieren. Die KI-Zertifizierung zielt daher auf die Kombination von KI und Blockchain. Eine Blockchain ist eine kontinuierlich erweiterbare Liste von Datensätzen, „Blöcke“ genannt, die mittels kryptographischer Verfahren miteinander verkettet sind. Mit Blick auf die deutsche und europäische Industrie sind die Herausforderungen für KI-Zertifizierungen weitaus komplexer. 

Auf europäischer Ebene liegt mit dem „Weißbuch zur künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen“ bereits eine KI-Strategie sowie ein Gesetzesvorschlag für „harmonisierte Vorschriften für Künstliche Intelligenz“ vor. Ziel der europäischen Bemühungen ist es, durch gemeinsame Vorschriften eine vertrauenswürdige KI zu schaffen. Dafür sollen KI-Anwendungen europäischen Leitlinien folgen. Die zentralen Kernanforderungen sind: 

• Vorrang menschlichen Handelns und menschlicher Aufsicht
• Technische Robustheit und Sicherheit
• Privatsphäre und Datenqualitätsmanagement
• Transparenz 
• Vielfalt, Nichtdiskriminierung und Fairness
• Gesellschaftliches und ökologische Wohlergehen
• Rechenschaftspflicht. 

Diesen Werten und Anforderungen verpflichtet sieht sich auch das Projekt KI-Zertifizierung „made in Germany“. Die Kooperation zwischen Fraunhofer IAIS und dem Bundesamt für Sicherheit in der Informationstechnik BSI entwickelt auf Basis auf der europäischen Leitlinien sowie der Empfehlungen der Datenethikkommission der Bundesregierung die Voraussetzungen für die Einführung eines KI-Zertifizierungssystems. Im engen Austausch mit Unternehmen und Organisationen werden dabei Bedarfe ermittelt, KI-Prüfkriterien und -grundlagen entwickelt sowie Businessmodelle für KI-Prüfungen und -Zertifizierungen untersucht. Das Projekt bezieht auch rechtliche und ethische Fragen mit ein. 

Hemmnisse und Nachteile der KI-Zertifizierung 

Die Diversität der Technologien, die unter dem Label KI zusammengefasst werden, macht es schwer, allgemeingültige Zertifizierungs- und Prüfkriterien zu definieren. Das aber ist notwendig, wenn die Zertifizierungen über verschiedene Anwendungsbereiche hinweg gültig sein sollen. Mittel- und langfristig wird es auch nicht zu halten sein, dass Kriterien wie Fairness, Verlässlichkeit oder Sicherheit nur für KI-Algorithmen, nicht aber auch für andere Software gelten sollen. Was zugleich die Frage aufwirft, warum die KI-Zertifizierung nicht innerhalb bereits bewährter Zertifizierungsverfahren einzelner Branchen erfolgen kann. 

Damit ließe sich sicher auch manche Überregulierung vermeiden. Das käme besonders dem Mittelstandes zugute. Denn vor allem bei kleinen und mittleren Unternehmen fällt die Kosten-Nutzen-Abwägung eines Zertifizierungsverfahrens bereits heute oft negativ aus. Nicht auszuschließen ist auch, dass sich eine KI-Zertifizierung als Innovationhemmnis erweist. Zeit- und kostenaufwändige Verfahren könnten beispielsweise für Start-ups ein Hemmnis für den Markteintritt sein. Nicht zuletzt sind auch ethische Fragen kaum in allgemeingültige Zertifizierungskriterien zu bringen, wenn sie in einer offenen Gesellschaft weiter diskutierbar bleiben sollen.

Vorteile einer KI-Zertifizierung für Entwickler, Produzenten und Anwender

Zertifizierungen schaffen Maßstäbe, an denen sich Produkte und Prozesse messen lassen. Bezogen auf KI-Anwendungen ergibt sich für Unternehmen daraus der Vorteil, dass sich KI-Systeme leichter miteinander vergleichen lassen bzw. klar ist, welchen Leitlinien sie zu folgen haben. Zugleich schafft eine KI-Zertifizierung auch Rechtssicherheit. Gerichte können sich an den Zertifizierungen zugrunde liegenden Normen orientieren. Das gibt Entwickler:innen, Produzent:innen und Anwender:innen Rechtsicherheit im Schadensfall, klärt Haftungs- und Entschädigungsfragen. Das Vertrauen in KI wird aber nicht nur durch diese rechtlichen Aspekte erhöht, sondern auch durch die zertifizierbare Güte von KI-Anwendungen. Die damit verbundene höhere Akzeptanz von KI, fördert weitere Innovationen.

Ob es eine KI-Zertifizierung geben wird, wie sie aussehen kann und wie sie umzusetzen ist, wird sich in den kommenden Jahren erweisen. Historisch betrachtet, war es schon oft so, dass Märkte von denen beherrscht werden, die Normen und Standards setzen. Vor diesem Hintergrund entscheidet sich an der Frage der KI-Zertifizierungen auch die künftige Wettbewerbsfähigkeit deutscher und europäischer Unternehmen.