Digitalisierung und Diversität

Am 14. Mai ist wieder bundesweiter Diversity Tag. Viele Unternehmen werben mit Veranstaltungen, geben Einblick in ihre Strategien und stellen vor, was Vielfalt für sie bedeutet. Die meisten denken dabei direkt an HR und Gleichstellungsprojekte. Doch Diversität meint noch viel mehr. Was dabei häufig vergessen wird: Digitalisierung kann nicht ohne Diversitätsbewusstsein vorangetrieben werden. Gleichzeitig steht gerade die Entwicklung von KI bei diesem Thema vor schwierigen Aufgaben.

Zum Begriff: Soziale Diversität im Kontext der Digitalisierung

Soziale Diversität meint allgemein die Vielfalt von Menschen in all ihren Ausprägungen, darunter Alter, Geschlecht, kultureller Hintergrund, Religion, sexuelle Orientierung, physische oder psychische Besonderheiten, etc. Sie beeinflusst die Digitalisierung auf eine ambivalente, aber zentrale Weise, weil sie bestimmt, wer digitale Technologien wie nutzen kann, mitgestaltet und von ihnen profitiert.

Diversität führt dazu, dass Menschen auch in Unternehmen sehr ungleiche Voraussetzungen im Umgang mit Technologien haben. Ein Teil der Mitarbeitenden verfügt über hohe digitale Kompetenzen, stabile Zugänge und die Fähigkeit, neue Tools schnell zu adaptieren, während andere Schwierigkeiten haben, grundlegende Anwendungen zu nutzen oder überhaupt Zugang zu entsprechender Infrastruktur zu erhalten. Dadurch entsteht Ungleichheit, die häufig als digitale Kluft (Digital Divide) beschrieben wird und bestehende Disparitäten oft noch verstärkt.

Gleichzeitig prägt Diversität auch die Art und Weise, wie digitale Lösungen entwickelt werden. Wenn Entwicklungsteams, Institutionen oder Plattformbetreiber nicht selbst divers aufgestellt sind, besteht die Gefahr, dass Technologien implizite Annahmen über „typische“ Nutzer reproduzieren und bestimmte Gruppen systematisch benachteiligen. Das zeigt sich etwa in schwer zugänglichen Benutzeroberflächen, algorithmischen Verzerrungen oder Angeboten, die an den Lebensrealitäten vieler Menschen vorbeigehen. Somit kann mangelnde Berücksichtigung von Diversität zu Exklusion durch Design führen.

Auf der anderen Seite birgt soziale Vielfalt auch ein erhebliches Potenzial für die Digitalisierung. Unterschiedliche Perspektiven, Erfahrungen und Problemlagen können Innovation fördern, weil sie zu vielfältigeren Lösungsansätzen führen und die Entwicklung robusterer, inklusiver Technologien ermöglichen. Voraussetzung dafür ist allerdings, dass diese Diversität nicht nur existiert, sondern aktiv in digitale Prozesse integriert wird, etwa durch partizipative Ansätze, inklusive Gestaltung oder gezielte Kompetenzförderung.

Insgesamt wirkt soziale Diversität in der Digitalisierung also nicht per se hemmend oder fördernd, sondern stellt ein Spannungsfeld dar: Ohne geeignete Ausgleichs- und Integrationsmechanismen verstärkt sie Ungleichheiten und erschwert Teilhabe; wird sie jedoch bewusst adressiert und eingebunden, kann sie zu einem entscheidenden Treiber für Innovation, Resilienz und gesellschaftlich breit getragene digitale Transformation werden.

Lernerfahrungen: KI ist noch nicht bunt genug

Es gibt einige gut dokumentierte Fälle aus der Wirtschaft, die zeigen, wie problematisch es wird, wenn KI-Systeme ohne ausreichendes Diversitätsbewusstsein entwickelt werden. Diese Beispiele sind deshalb so aufschlussreich, weil die Probleme nicht aus „böser Absicht“ entstanden sind, sondern aus einseitigen Daten, homogenen Entwicklungsteams oder fehlender Reflexion über unterschiedliche Nutzergruppen.

• Recruiting Tools: Ein internationaler Online-Gigant machte damit Schlagzeilen, dass er ein KI-System zur automatisierten Bewertung von Bewerbungen entwickelte, das auf historischen Einstellungsdaten trainiert wurde. Da diese Daten stark männlich geprägt waren (typisch für die Tech-Branche), begann das System systematisch, Bewerbungen von Frauen schlechter zu bewerten. Begriffe wie „women’s“ (z. B. in „women’s chess club“) wurden negativ gewichtet. Das Projekt wurde schließlich eingestellt, weil sich der Bias nicht zuverlässig korrigieren ließ.
• Gesichtserkennung: Weltweit eingesetzte Software-Systeme von Unternehmen zeigten in Studien deutlich höhere Fehlerquoten bei Menschen mit dunkler Hautfarbe, insbesondere bei Frauen. Ursache war hier vor allem, dass die Trainingsdatensätze überwiegend aus Bildern hellhäutiger Personen bestanden. In der Praxis kann das zu gravierenden Problemen führen, etwa bei Sicherheitsanwendungen oder Identitätsprüfungen.
• Algorithmen im Finanzsektor: Auch beim Kreditkartensystem von Technologiefirmen in Kooperation mit Banken kam es zu unvorhergesehenen Konsequenzen. Kunden berichteten, dass Frauen trotz vergleichbarer finanzieller Situation deutlich niedrigere Kreditlimits erhielten als Männer. Die genaue Funktionsweise des Algorithmus war intransparent, aber der Fall löste eine breite Debatte über algorithmische Diskriminierung und mangelnde Nachvollziehbarkeit aus.

Diese Fälle zeigen ein gemeinsames Muster: KI-Systeme reproduzieren bestehende gesellschaftliche Ungleichheiten, wenn Diversität in Daten, Entwicklung und Anwendung nicht berücksichtigt wird. Die Probleme entstehen dabei selten auf der Oberfläche, sondern tief in den Annahmen darüber, was als „normal“ gilt. Genau deshalb wird Diversitätsbewusstsein heute zunehmend als zentrale Voraussetzung für verantwortungsvolle KI-Entwicklung gesehen.

Präventionsmaßnahmen für bessere KI

In Deutschland wird versucht, Diversität in der KI-Entwicklung über ein Zusammenspiel aus Regulierung, Leitlinien, Förderung und institutionellen Strukturen sicherzustellen. Der Grund ist simpel: Diversität lässt sich nicht „einbauen“, sondern muss entlang des gesamten Entwicklungsprozesses berücksichtigt werden – von den Daten bis zur Anwendung.

Ein zentraler Rahmen ist die europäische Regulierung, insbesondere der AI Act. Dieses Gesetz verpflichtet Unternehmen dazu, Risiken von KI-Systemen systematisch zu bewerten, insbesondere bei sogenannten Hochrisiko-Anwendungen wie Recruiting, Kreditvergabe oder Gesundheitswesen. Dazu gehört auch, dass Trainingsdaten möglichst verzerrungsfrei sein müssen und dass Diskriminierungsrisiken geprüft werden. Diversität wird hier also indirekt abgesichert, indem Bias reduziert und Fairness eingefordert wird.

Auf nationaler Ebene setzt die KI-Strategie der Bundesregierung einen wichtigen Rahmen. Sie betont explizit, dass KI „menschenzentriert“ und „gemeinwohlorientiert“ gestaltet werden soll. Daraus folgen Förderprogramme, die interdisziplinäre Teams, gesellschaftliche Perspektiven und ethische Reflexion in der Entwicklung stärken – also genau die Faktoren, die Diversität praktisch verankern.

Ein weiterer wichtiger Baustein sind ethische Leitlinien, etwa von der Datenethikkommission. Diese hat konkrete Empfehlungen formuliert, wie algorithmische Systeme gestaltet werden sollten, darunter Transparenz, Nachvollziehbarkeit und Nicht-Diskriminierung. Solche Leitlinien haben zwar oft keinen direkten Gesetzescharakter, beeinflussen aber Standards, Zertifizierungen und Unternehmenspraxis erheblich.

Auch Institutionen wie das Deutsches Forschungszentrum für Künstliche Intelligenz oder die Fraunhofer-Gesellschaft spielen eine Rolle, indem sie Forschung zu „Fair AI“, erklärbarer KI und inklusiven Datensätzen vorantreiben. Hier wird Diversität technisch operationalisiert, etwa durch Methoden zur Bias-Erkennung oder durch bewusst vielfältigere Trainingsdaten.

Ergänzt wird das durch konkrete Maßnahmen in der Praxis: Unternehmen sind zunehmend angehalten, diverse Entwicklungsteams aufzubauen, externe Audits durchzuführen und sogenannte „Ethics-by-Design“-Ansätze zu verfolgen. Dazu gehört auch, verschiedene Nutzergruppen frühzeitig einzubeziehen, etwa durch partizipative Entwicklung oder Testphasen mit heterogenen Zielgruppen.

Trotz dieser Ansätze muss man realistisch bleiben: Die Maßnahmen schaffen Rahmenbedingungen und Anreize, aber sie garantieren keine perfekte Umsetzung. Gerade weil Diversität ein gesellschaftliches Thema ist, bleibt es eine dauerhafte Herausforderung, sie in technische Systeme zu übersetzen. Deutschland setzt daher weniger auf eine einzelne „Lösung“, sondern auf ein Governance-Modell, das Regulierung, Forschung und Praxis miteinander verzahnt, um Verzerrungen möglichst früh zu erkennen und zu begrenzen.

Diversitätsbewusste Digitalisierung und Digital Literacy in KMU

Für KMU ist die unbequeme Wahrheit: Diskriminierung durch KI entsteht selten erst im fertigen System, sondern fast immer schon in Daten, Annahmen und mangelnder Kompetenz im Umgang mit den Ergebnissen. Genau deshalb liegt der wirksamste Hebel nicht nur in Technik, sondern stark in Organisation und digitaler Kompetenz (Digital Literacy).

Ein sinnvoller Ansatz ist, das Thema entlang von drei Ebenen zu denken:

1. Digitale Kompetenz als Grundlage (Digital Literacy)
   Mitarbeitende müssen verstehen, was KI kann – und was nicht. Ohne dieses Verständnis werden Ergebnisse schnell „blind“ übernommen. Konkret bedeutet das: Grundverständnis für Trainingsdaten aufbauen, KI-Ergebnisse kritisch hinterfragen, Sensibilität für Diskriminierungsrisiken entwickeln – und zwar bei allen Mitarbeitenden, nicht nur in IT-Teams.
    
2. Daten bewusst auswählen und prüfen
   Viele Probleme entstehen durch verzerrte Daten. KMU können hier mehr tun, als oft gedacht, indem sie Datensätze auf Einseitigkeiten prüfen (z. B. nur bestimmte Kundengruppen), Proxy-Variablen hinterfragen (z. B. Postleitzahl als indirekter Indikator für Einkommen oder Herkunft), Stichproben manuell prüfen. 
    
3. Prozesse statt nur Technik denken
   Diskriminierung entsteht oft durch unkontrollierte Nutzung, nicht nur durch das Modell selbst. KMU sollten deshalb klare Einsatzregeln definieren (wo darf KI entscheiden, wo nicht?), „Human-in-the-loop“ einbauen (Menschen überprüfen kritische Entscheidungen), Entscheidungsfindungen dokumentieren.
    
4. Perspektivenvielfalt einbeziehen
   Auch ohne große Teams können KMU Diversität berücksichtigen, indem unterschiedliche Mitarbeitende in Entwicklung/Einführung einbezogen werden, Feedback von unterschiedlichen Nutzergruppen eingeholt wird und externe Perspektiven einbezogen werden. Damit verringert sich das Risiko für blinde Flecken massiv.
    

5. Orientierung an Leitlinien
   Auch KMU sollten sich an bestehenden Leitlinien wie dem AI Act orientieren und zusätzlich eigene Leitlinien entwickeln, deren Einhaltung kontrolliert werden muss.

    

Insgesamt wird somit deutlich, dass Diversität kein Add-On beim Thema Digitalisierung und KI-Entwicklung ist. Menschliche Vielfalt ist Grundvoraussetzung dafür, dass KI nicht basierend auf sozialen Verzerrungen entwickelt wird und diese in der Konsequenz verstärkt. Faire KI entsteht nicht durch bessere Algorithmen allein, sondern durch kompetente Menschen, bewusste Daten und klare Regeln.