Längst prägt Künstliche Intelligenz (KI) unseren Alltag: Algorithmen verwenden zum Beispiel Daten zu unseren Kaufvorlieben oder unserem Musikgeschmack, um bei Suchen passende Ergebnisse zu erzielen. Aber auch an Stellen, wo wir sie nicht vermuten, sind sie im Einsatz, zum Beispiel in Bewerbungsverfahren. Diese Entwicklung kann spürbare Auswirkungen haben. Das Problem: Manche Menschen werden durch Künstliche Intelligenz diskriminiert. So zeigte sich in der Vergangenheit, dass Frauen in männerdominierten Branchen durch KI öfter das Nachsehen haben. In einem Tech-Konzern etwa sortierte der digitale Bewerbungsassistent kategorisch die Unterlagen von Frauen aus und schlug den Personaler*innen ausschließlich Männer als potenzielle Neuzugänge vor. Der Grund: Die ausgeschriebenen Positionen waren in der Vergangenheit vor allem von Männern besetzt gewesen – die KI folgerte daraus, dass Frauen dafür nicht in Frage kamen. KI kann also Diversität und Gleichstellung in Unternehmen ausbremsen, wenn sie auf veraltete Datensätze zurückgreift.

INQA-Experimentierraum KIDD – KI im Dienste der Diversität

Klar ist: Eine diskriminierungsfrei agierende KI benötigt vertrauenswürdige Datensätze ohne Stereotypen. Seit Oktober 2020 erforscht der INQA-Experimentierraum „KIDD – KI im Dienste der Diversität“ wie sich dieses Ziel erreichen lässt. Mit den Experimentierräumen fördert die Initiative Neue Qualität der Arbeit Projekte, die innovative Lösungsansätze für die betriebliche Praxis erproben. Die acht Partner*innen des Förderprojekts KIDD etwa erarbeiten gemeinsam den sogenannten KIDD-Prozess, den auch andere Unternehmen später einsetzen können. Um die KI, und letztlich auch unseren betrieblichen Alltag, von Vorurteilen und Stereotypen zu befreien, liegt ein besonderes Augenmerk auf den Aspekten Diversität und Ethik. Input hierfür liefert maßgeblich der gemeinnützige Verein female.vision e.V., der sich für ein vorurteilsfreies Miteinander auf Augenhöhe einsetzt.

Diskriminierungsfreie Technologie für eine gleichberechtigte digitalisierte Lebens- und Arbeitswelt

Vorständin Annette von Wedel und ihre Stellvertreterin Katja Anclam gehören zu den Initiatorinnen des INQA-Experimentierraums KIDD. Ihr 2019 gegründeter Verein female.vision e.V. setzt sich für eine gleichberechtigte Lebens- und Arbeitswelt ein: „Es besteht die Gefahr, dass sich Vorurteile, Stereotypen und auch die Ungleichheit, die wir jetzt in der realen Welt haben, in die digitale Welt und damit in die Zukunft übertragen. Und das wollten wir verhindern“, erklärt Anclam. Mittlerweile ist das Projekt auf der Zielgeraden: Im Herbst 2023 soll KIDD abgeschlossen werden.

Drei Fragen an Katja Anclam von female.vision e.V., Mitglied im Konsortium von KIDD

Inwiefern werden Frauen durch KI benachteiligt?

Ein sehr eindrückliches Beispiel für Diskriminierung mit System kommt aus dem Bankwesen: Dort hat sich gezeigt, dass Frauen bei der Kreditvergabe von KI oft schlechter bewertet werden als Männer. Künstliche Intelligenz kann aber auch nur mit den Daten arbeiten, die man ihr gibt. Nutzt sie Daten aus der Vergangenheit, kommt sie häufig zu einer besseren Bewertung von Männern, weil diese früher in der Regel besser verdienten. Diese Diskriminierung auszugleichen und die Daten an die Realitäten unserer Gesellschaft anzupassen, ist eine wichtige Aufgabe.

Wie lassen sich Diskriminierungen durch KI vermeiden?

Wir versuchen, möglichst viele Akteur*innen eines Unternehmens im „Panel der Vielfalt“ zusammenzubringen. Je diverser das Panel ist, desto mehr Perspektiven bildet es ab. Die Mitglieder werden zunächst durch Schulungen befähigt und sensibilisiert und setzen sich dann mit relevanten Fragen auseinander: Welche Bereiche sind in unserem Unternehmen von der Einführung der KI betroffen? Wo könnte es Diskriminierung geben? Wo müssen die Daten angepasst, wo die Software nachgebessert werden? Letztlich führt der Austausch im „Panel der Vielfalt“ zu mehr Transparenz – und die ist notwendig, denn da wo es in der Vergangenheit Diskriminierung gab, hat es zuvor oft an Offenheit gefehlt.

Welche Vorteile bietet der KIDD-Prozess für KMU?

Unternehmen können nach innen wie außen zeigen, dass sie sich mit Transparenz und Diversität auseinandersetzen, die Auswirkungen von KI im Blick haben und gleichzeitig die Digitalisierung aktiv mitgestalten. Daneben eröffnet sich damit eine gute Möglichkeit, betriebsinterne Prozesse zu durchleuchten und alle Beschäftigten an einen Tisch zu holen. Das fördert den betrieblichen Zusammenhalt. Natürlich bedeutet es Aufwand, diesen Prozess zu durchlaufen. Aber der lohnt sich – schließlich geht es um Wettbewerbsfähigkeit und nicht zuletzt die Gestaltung unserer Zukunft.

Mehr zum Thema Künstliche Intelligenz, den Entwicklungen, Auswirkungen und Potenzialen im betrieblichen Alltag finden Sie im INQA-Schwerpunkt KI.