Vorausschauende Polizeiarbeit mit KI: eine Herausforderung für die Justiz

Was wäre, wenn man ein Verbrechen verhindern könnte, bevor es geschieht? Das ist sowohl Versprechen als auch Gefahr der KI-basierten sogenannten vorausschauenden Polizeiarbeit. Sie verspricht eine effizientere, proaktive statt nur reaktive Polizeiarbeit und infolgedessen eine niedrigere Kriminalitätsrate und mehr Sicherheit für die Gesellschaft. Gleichzeitig ist sie aber auch mit einer Reihe von ernsthaften Bedenken verbunden. Im schlimmsten Fall kann sie stellvertretend für eine diskriminierende oder voreingenommene Polizeiarbeit in bereits übermässig überwachten Gegenden sorgen und zu verstärkten Spannungen zwischen Polizei und Bürger:innen führen.

Unter vorausschauender Polizeiarbeit versteht man die Verwendung statistischer Vorhersagen, um wahrscheinliche Ziele für polizeiliche Massnahmen zu ermitteln und so Straftaten zu verhindern. Der Versuch, vorherzusagen, wo und wann Straftaten begangen werden, ist nicht neu. Konventionelle Strategien zur Verbrechensverhütung beinhalten routinemässig die Analyse von Mustern, Trends und Wiederholungstätern.

Bei der KI-basierten vorausschauenden Polizeiarbeit im Speziellen werden grosse, mit herkömmlichen Mitteln kaum auswertbare Datenmengen mittel Algorithmen analysiert, um Muster zu erkennen und Risikoprofile zu erstellen, auf deren Grundlage gezielte Präventionsmassnahmen erfolgen.

Personenbezogene, algorithmische, vorausschauende Polizeiarbeit ist der Versuch, Personen zu identifizieren, die wahrscheinlich Verbrechen begehen oder Opfer von Verbrechen werden. Dabei werden Faktoren wie frühere Verhaftungen, Muster darüber, wer Opfer eines Verbrechens werden könnte, soziale Netzwerke usw. analysiert.

Beispiele hierfür sind die 2019 eingestellte Chicago Strategic Subject List; automatisierte Echtzeit-Gesichtserkennungstechnologie, die etwa zur Überwachung von «Personen von Interesse» im öffentlichen Raum eingesetzt wird; «DyRiAS-Intimpartner», ein computergestütztes Instrument, welches das Gewaltrisiko durch (Ex-)Intimpartner einschätzt; sowie der weitverbreitete Einsatz von ortsbezogener vorausschauender Polizeiarbeit, bei der Daten analysiert werden, um vorherzusagen, wann und wo Straftaten zu erwarten sind, so dass die Polizei gezielte Patrouillen entsenden kann (z.B. Precobs, PredPol oder Hunchlab).

Frühe Methoden der analytischen statistischen Modellierung, wie das auf Einbruchsdiebstähle und ähnliche Delikte spezialisierte Prognosetool «Precobs», sind aus kriminologischer Sicht «theoriegesteuert». Die Ergebnisse dieser Modelle sind kriminologisch erklärbar und zeichnen sich durch Nachvollziehbarkeit sowie eine gewisse Rechenschaftsfähigkeit aus. Dies unterscheidet sie von anderen komplexen algorithmischen Prognosemodellen. PredPol war Precobs zwar insofern ähnlich, als es darauf abzielte, der Polizei mitzuteilen, dass sie an bestimmten Orten auf bestimmte Verbrechen (z. B. Einbrüche oder Autodiebstähle) achten sollte.

PredPol basiert jedoch nicht auf einer kriminologischen Theorie, sondern auf einem von der Seismologie inspirierten Algorithmus, der auf der Annahme beruht, dass bestimmte Verbrechensmuster vorhersehbar sind. Ähnlich wie bei Erdbeben und deren erwartbaren Nachbeben. Das Verständnis dafür, wie die Ergebnisse des Algorithmus zustande kommen, ist begrenzt. Neuere Algorithmen beruhen auf maschinellem Lernen (ML), das den Algorithmen ermöglicht, aus Daten zu lernen und ihre Leistung kontinuierlich zu verbessern.

Die ML-Algorithmen sind nicht nach einer bestimmten Theorie aufgebaut, sondern dienen der Analyse von Daten im Hinblick auf Korrelationen. Diese Verbrechensmuster lassen sich nicht mit Hilfe vorhandener theoretischer Kenntnisse erklären. Die beträchtliche Anzahl von Variablen macht es unmöglich, die Grundlage zu kennen, auf der die Vorhersage getroffen wurde.

Es wird behauptet, dass komplexe und ML-Algorithmen «genaue Vorhersagen» erzeugen, aber es wird nicht versucht zu erklären, warum bestimmte Variablen oder Prädikatoren die Genauigkeit verbessern. Sie können sinnvoll sein oder auch nicht. Dies wird durch die Aussage des Kriminologen Richard Berk gut veranschaulicht: «Wenn die Schuhgrösse bei ansonsten gleichen Bedingungen ein nützlicher Prädiktor für Rückfälligkeit ist, kann sie als Prädiktor einbezogen werden. Warum die Schuhgrösse eine Rolle spielt, ist unerheblich».

Dies ist jedoch in einem juristischen Kontext problematisch. Verallgemeinerungen (oder Stereotypen) ohne jegliche empirische Grundlage sind unzutreffend. Die in Berks Verallgemeinerung implizit enthaltene Behauptung ist mit ziemlich grosser Sicherheit unwahr. In der juristischen Beweisführung würden wir Behauptungen, die offensichtlich einer empirischen Grundlage entbehren, einfach als irrelevant betrachten.

Die Frage ist jedoch von tieferer moralischer und politischer Relevanz, da sich die Verallgemeinerungen hier nicht einfach auf die Schuhgrösse beziehen, sondern auf die Erstellung von Profilen auf der Grundlage von Ethnie, Geschlecht, Gender und so weiter. Sie werfen somit wichtige Fragen der Gleichheit, der Nichtdiskriminierung und des Bekenntnisses zur Rechtsstaatlichkeit auf. Selbst wenn das System eine «richtige Entscheidung» trifft, bleibt die Frage, ob diese erklärt oder gerechtfertigt werden kann.

Diese Herausforderungen machen deutlich, wie wichtig eine rechtliche Regelung ist. Die EU ist in dieser Hinsicht führend und hat ein KI-Gesetz verabschiedet, das die Polizeiarbeit stark einschränkt. In liberalen Demokratien ist das Bekenntnis zur Rechtsstaatlichkeit und zu der Vorstellung, dass der Staat bei der Verhütung, Untersuchung und Bestrafung von Straftaten bestimmte Verfahren einhalten muss, von zentraler Bedeutung.

Es kommt nicht nur auf die Richtigkeit der getroffenen Entscheidungen an, sondern auch darauf, wie sie getroffen werden. Wenn wir über eine wirksame Verbrechensverhütung nachdenken, müssen wir Werten wie Würde, Sicherheit der Gesellschaft und der Förderung eines demokratischen Polizeisystems, das rechenschaftspflichtig, zugänglich und bürgernah ist, genügend Gewicht beimessen