Wie diskriminierend ist künstliche Intelligenz?

Herausforderungen und Lösungsansätze

von Prof. Dr. Susanne Beck

Computersysteme treffen bereits heute in vielen Lebensbereichen Entscheidungen für uns Menschen auf der Basis von Daten, die mithilfe von künstlicher Intelligenz verarbeitet werden. Insbesondere das maschinelle Lernen ist ein effizientes Werkzeug, um große, unstrukturierte Datenmengen zu durchforsten, darin Muster zu erkennen und anhand der gewonnenen Erkenntnisse selbstständig weiter zu lernen. Es ermöglicht Datenauswertungen, wie sie kein Mensch in derselben Geschwindigkeit vornehmen könnte. Nicht immer offensichtlich ist: Die scheinbar faktenbasierten Ergebnisse sind nicht per se neutral und wertungsfrei. Dazu zwei reale Beispiele.

Beispiel 1: Passende Bewerber identifizieren

Die Personalverantwortlichen einer großen Firma sortierten mithilfe eines Algorithmus die eingegangenen Bewerbungen mit Blick auf die Passfähigkeit auf die ausgeschriebene Stelle vor. Was sie nicht wussten: Bewerbungen von Frauen bewertete der Algorithmus systematisch schlechter als jene von Männern. Denn die Datenbasis, mit der der Algorithmus trainiert wurde, beinhaltete die Daten der in den letzten zehn Jahren erfolgreich eingestellten Beschäftigten. Da diese überwiegend männlich waren, hatte der Algorithmus gelernt, die Eigenschaft „männlich“ als positiv zu bewerten.

Beispiel 2: Rückfallwahrscheinlichkeit von Straftätern bestimmen

In den USA wurden Algorithmen genutzt, um die Rückfallwahrscheinlichkeit von verurteilten Straftätern zu bestimmen. Anhand verschiedener Daten ermittelten sie einen Wert, der Richterinnen und Richtern eine Einschätzung darüber geben sollte, mit welcher Wahrscheinlichkeit die Angeklagten erneut eine Straftat begehen. Es zeigte sich, dass dunkelhäutige Angeklagte schlechtere Prognosen erhielten als hellhäutige. Das ist unter anderem darauf zurückzuführen, dass das System mit historischen Kriminalitätsdaten trainiert wurde, die auf statistischen Korrelationen beruhen und die bestimmte gesellschaftliche Vorprägungen spiegeln…