Mit 91% gibt eine überwältigende Mehrheit von Organisationen an, für die Nutzung von KI gut gerüstet zu sein, so eine Studie von McKinsey zum Status Quo von generativer KI (genAI) 2024. Befragt wurden Manager und Führungskräfte aus einem weltweiten Pool tausender Unternehmensvertreter. Doch den Potenzialen stehen auch erhebliche Sorgen gegenüber. 40% der Befragten gaben an, dass die Erklärbarkeit der Daten als entscheidender Risikofaktor gesehen wird. Damit verbunden sind Bemühungen, diese Risiken zu minimieren.
XAI, also erklärbare KI, ist ein wachsendes Forschungsfeld, das darauf abzielt, Modelle und Algorithmen der KI so zu gestalten, dass ihre Entscheidungen und Handlungen für Menschen verständlich und nachvollziehbar sind. Da viele moderne KI-Modelle, wie tiefes Lernen (Deep Learning), oft als "Black Boxes" bezeichnet werden, weil es schwierig ist, nachzuvollziehen, wie sie zu ihren Ergebnissen kommen, versucht XAI, diese Transparenz zu verbessern.
Das Ziel von XAI ist es somit, das Vertrauen und die Akzeptanz von KI-Systemen zu erhöhen, indem es Erklärungen liefert, die für den Menschen sinnvoll und verständlich sind. Die ExpertInnen von McKinsey sehen besonders in den folgenden Feldern Chancen, wie XAI gewinnbringend eingesetzt werden kann:
- Minderung des Betriebsrisikos: Durch die frühzeitige Erkennung und Abmilderung potenzieller Probleme wie Verzerrungen oder Ungenauigkeiten werden Betriebsausfälle und daraus folgende Schäden minimiert.
- Einhaltung gesetzlicher Vorschriften und Sicherheit: XAI stellt sicher, dass KI-Systeme innerhalb des branchenüblichen, ethischen und gesetzlichen Rahmens arbeiten, wodurch das Risiko von Strafen und sonstigen Schäden daraus sinkt.
- Kontinuierliche Verbesserung: XAI unterstützt die kontinuierliche Verbesserung von KI-Systemen, indem sie Einblicke in die Funktionsweise der Systeme gewährt und gezielte Fehlersuche und iterative Verbesserungen fördert.
- Vertrauen der Stakeholder in KI: Durch den Versuch, KI-Systeme verständlich zu machen, verlagert XAI den Schwerpunkt von der technischen Funktionsweise der Modelle auf die Nutzer dieser Modelle und fördert einen auf den Menschen ausgerichteten Ansatz, der Verständnis und Akzeptanz fördert.
- Benutzerakzeptanz: XAI hilft Unternehmen, die Übereinstimmung zwischen den Ergebnissen eines Modells und den Erwartungen der Benutzer zu überwachen und bessere Abstimmung zu erzielen, was sich positiv auf das Unternehmensergebnis auswirkt.
Weitere Beispiele für XAI sind Methoden, die dazu verwendet werden, die Entscheidungsprozesse von Modellen zu visualisieren, wichtige Merkmale zu identifizieren, die das Modell beeinflussen, oder aufzuzeigen, welche Eingabedaten zu bestimmten Ausgaben führen.