Künstliche Intelligenz in der Verbrechensbekämpfung

Varoon Bashyakarla: „Unser Job war es  dem Department dabei zu helfen seine Modelle zu verbessern um Gewaltverbrechen vorherzusagen. Das Chicago Police Department weiß, dass manche Nachbarschaften eine höhere Kriminalitätsrate haben als andere. Und das Department weiß auch, dass Kriminalität vom Faktor Zeit abhängt: Die Kriminalität in Chicago ist im Sommer viel schlimmer als im Winter. Wir entschieden uns auf das Phänomen der Schnittmenge von Ort und Zeit zu schauen. Wir haben folgendes herausgefunden: wenn wegen Gewalt Verurteilte aus dem Gefängnis wieder entlassen wurden und an ihre alte Meldeadresse zurückkehrten, dann stieg in manchen Nachbarschaften nach einer Zeit die Gewaltrate wieder an.“

Varoon Bashyakarla: „Pred Pol basiert auf der Routine-Activity-Theorie: Es wird angenommen, das unser Alltag von Routine geleitet ist. Wenn ich mit meinem Fahrrad von der Arbeit nach Hause fahre, dann nehme ich stets den selben Weg. Die Annahme ist, dass dies für alle zutrifft: Für Kriminelle und Nicht-Kriminelle. Und wir können dieses Verhaltensmuster benutzen um vorherzusagen wo Menschen hingehen werden.“  

Varoon Bashyakarla: „Die Idee basiert auf geographischen Eigenschaften eines Ortes. Es wird angenommen, dass manche Gegenden einer Stadt aus bestimmten Gründen mehr zu Kriminalität neigen als andere. Wenn es einen Anstieg von Kriminalität in einer Gegend gibt, dann könnte das zu mehr Kriminalität führen. So wie ein Erdbeben auch Nachbeben auslösen kann. Das ist kontrovers und darum ist die Heatlist in Chicago kontrovers. Denn die identifizierten Menschen scheinen manchmal einfach nicht auf diese Liste zu gehören. Menschen die scheinbar völlig unschuldig sind, aber möglicherweise Opfer von Gewalt werden könnten. Soziale Netzwerke spielen bei diesem vorausschauenden System auch eine Rolle.“

Yvonne Hofstetter:​ „Weil sie – wenn sie in Bezug auf den Menschen eingesetzt wird – massiv gegen Grundrechte verstößt. Standard-Aufgabe der KI ist die Klassifizierung. Klassifizierer nimmt sich eine Gruppe von Objekten – in diesem Fall vielleicht Menschen, und segmentiert die. Also diese KIs die haben sogenannte Diskriminierungsfähigkeit. Diese KIs müssen diese Gruppe beispielsweise aufteilen in kriminelle, nicht Kriminelle, Terroristen, nicht Terroristen, guter Bürger, schlechter Bürger. Das heißt: Wir kommen hier über diese KIs, über diese Mechanismen zu einem Selektionsmechanismus, zu einer Selektionsmethode. Und dadurch, dass diese selektionsmethodisch statistisch arbeitet, sind hier inherent auch Fehler die passieren. Also kann es sein, dass Sie der Gruppe schlechter Bürger zugeordnet werden, aber eigentlich sind Sie guter Bürger.

Yvonne Hofstetter: „Es kann sein dass sie einfach auf eine Liste kommen. No Fly-List, Terroristen- Liste, was auch immer, strategische Liste die schlimmsten Kriminellen in Chicago. Und dann kommen Sie von dieser Liste nicht mehr. Eine Maschine hat sie dort oben drauf getan, wenn Sie so wollen. Das ist schon ein Risiko für die Menschen, weil wir im Grunde genommen überhaupt keine Transparenz haben wie diese Mechanismen funktionieren, wie die Modelle ausschauen die dahinter liegen ob die Daten auch richtig, vollständig, neu, sauber sind auf denen diese Entscheidungen getroffen werden.“

Varoon Bashyakarla: „Pred Pol ist ein kommerzielles Produkt. Sein Algorithmus ist Eigentum und der Öffentlichkeit nicht zugänglich. Eigentlich kennt niemand seine Formel. Niemand weiß mit welchen Rohdaten es gefüttert wird, wie diese evaluiert werden und wie sie das individuelle Kriminalitätsrisiko einschätzen. Wir können nicht sehen wie die inneren Abläufe sind, wir können sie nicht kritisieren und nicht verbessern. Selbst wenn wir es wollten.“

Yvonne Hofstetter: „Die größte Kritik die ich als gelernte Juristin habe, ist: da landen Leute auf einer Liste, die überhaupt kein Verbrechen begangen haben oder kein Vergehen begangen haben. Das ist völlig gegen das Rechtsstaatsgebot. Zumindest nach unserem europäischen Verständnis. Der Rechtsstaat setzt voraus, dass jemand ein Verbrechen, ein Vergehen begangen haben muss, und dann wird dieses entsprechend strafrechtlich verfolgt und bestraft. Und wenn sie diese Heatlists aufbauen und die Menschen die auf dieser Liste stehen bedrohen über die Polizei, und sagen: „Okay wenn du dich nicht komform (verhältst) in den nächsten drei Monaten, dann wird dich der Arm des Gesetzes mit voller Wucht treffen.“ Dann ist das überhaupt nicht mit unserem Rechtsstaatgebot zu vereinbaren.“

Yvonne Hofstetter: „… ein sehr schönes Beispiel für technologischen Rassismus dieses Beispiel der Polizei in Chicago. Wir wissen in Chicago ist es so dass die weißen weniger oft verhaftet werden als Schwarze. Und natürlich schlägt sich nieder in den normalen Datenbanken der Polizeibehörden. Da steht drin 80 Prozent der Schwarzen sind kriminell. Nur 20 Prozent Weiße sind kriminell. Aber vielleicht ist es ja anders. Vielleicht ist es das nicht das Abbild der Realität. Sie haben also schon in den Roddaten dieses Vorurteil mit enthalten. Und dieses Vorurteil dass wir eigentlich durch die KI noch verschärft, weil sie diskriminiert. Wir haben keine Lösung dafür als Technologen. Wir wissen nicht wie wir diese Vorurteile aus den Rohdaten rauskriegen sollen.“

Varoon Bashyakarla: „Wenn es in Nachbarschaften in denen Minderheiten leben, eine erhöhte Polizeipräsenz gibt, dann werden dort auch mehr Straftaten registriert. Wenn diese Informationen ins System eingespeist werden, dann heißt es: Schau: Diese Nachbarschaft neigt zu erhöhter Kriminalität. Wir müssen dort mehr in unsere Ressourcen investieren. In diesem Kontext kann das algorithmische System sich selbst reproduzierenden Feedback-Schleifen schaffen. Aber sie basieren auf systematischer Ungleichbehandlung. Darum sagen viele Kritiker, dass Systeme wie Pred Pol gar nicht vorhersagen wo Verbrechen passieren werden. Sie sagen nur vorher wo Verbrechen gemeldet werden. Wenn algorithmische Systeme mit historischen Daten gefüttert werden, dann sagen sie eine Zukunft voraus die auf Trends aus der Vergangenheit basiert.“

Yvonne Hofstetter: „In Deutschland wird nicht mit personenbezogenen Daten gearbeitet, dort gibt es nur einen bestimmten Einsatzbereich von Precrime. Und zwar ist es die Vorhersage oder Erstellung von Heat-Maps in Bezug auf Einbrüche. Und dann geht die Polizei auf öffentlich verfügbare Daten beispielsweise des Statistischen Bundesamts zurück und schaut sich an: Wo sind denn in München gehobene Wohngegenden wo besonders viele Rentner leben oder besonders viele verrentete Juweliere leben. Man zeigt ihm auf der Map wo diese Gebiete sind. Diese Information geht an den Analyst der hier die Einsatzplanung macht. Für die Bestreifung dieser Wohngegenden wird es hier vielleicht mehr Streifen einsetzen. Das ist alles.“

Konstantin von Notz: „Ein Mensch der beobachtet wird, ist nicht frei. Insofern muss man das im Hinblick auf diese Möglichkeit dass alle Verhaltensweisen und bis hin zu unseren Gedanken und Erwägungen und Entscheidungsprozessen eben alles digitale Spuren erzeugt, muss man schon gucken wohin die Reise geht. Ich selbst bin fest davon überzeugt, dass man eigentlich nicht mehr unterscheiden kann zwischen privatem und staatlichem Datensammeln. Zumindest solange der Staat keine eisenharte Linie zieht zwischen diesen zwei Bereichen. In den letzten Jahren hat er das Gegenteil getan. Er hat diese Mauern eingerissen. Er hat durch die Vorratsdatenspeicherung von Kommunikationsdaten Unternehmen verpflichtet für ihn Daten vorzuhalten.“

Yvonne Hofstetter: „Die Totalüberwachung ist mit dem Demokratieverständnis nicht vereinbar. Die Idee dass ein Staat ein Sicherheitsparadies herstellen will, wird zum totalen Staat. Sie sehen schon die ersten Schritte in die totale Überwachung. Ein Problem ist, dass wir eigentlich gar nicht mehr klar trennen können zwischen Privaten die uns überwachen und dem Staat der uns überwacht: die Daten konvergieren nämlich, das heißt sie kommen in einem Platz zusammen. Und ich sag mal so: Wenn Herr Trump ein Dekret unterschreibt Google und Facebook mir immer alle Daten an die NSA oder die CIA zu übertragen, dann wird das passieren.“

Yvonne Hofstetter: „Citizen Score in China ist durchaus auch eine globale Bedrohung. China ist wie ein Pulverfass oder wie ein Dampf-Kochtopf: da ist der Deckel feste drauf und jetzt ist es eben so dass der mächtigste Mann Chinas sagt, er möchte nicht den Deckel lüften, sondern er möchte den Deckel fester drauf halten und zwar unter Einsatz von Künstlichen Intelligenzen, die Menschen kontrollieren und kleinhalten, aussteuern. Ich halte das für eine ganz gefährliche Sache.“

Yvonne Hofstetter: „Und hat dann eben über dieses Data-Analytics- Programm klassifiziert wer Terrorist ist und wer nicht und hat dann Drohnen in den Einsatz gebracht um diese Ziele zu neutralisieren. Darunter waren sehr viele unschuldige Menschen. Das heißt hier entscheiden Maschinen über Leben und Tod. Das ist eine ähnliche Frage wie bei Pre-Crime: Die Maschinen kommen hier auf eine Liste als kriminell. Oder komme ich da nicht hin. Das entscheidet eine Maschine und das ist tatsächlich schon Fakt. Da sind wir noch nicht soweit gegangen dass die Drohne selbst entscheidet ob sie schießt oder nicht. Aber dieser Schritt ist natürlich klein. Aus technologischer Sicht ist natürlich auch bereits heute möglich.“