Kontroversiel analyse-software anklages for racistisk heksejagt i USA

Illustration: Das Büro
Softwaren fra Palantir skal forebygge kriminalitet, men ender faktisk bare med at bekræfte de fordomme, politifolk fodrer systemet med. Også dansk politi anvender Palantir.

Politiet i Los Angeles (LAPD) benytter sig af Palantir-software til at identificere ‘mulige lovovertrædere’ i bestemte områder. Nu anklages systemet for at have en alvorlig slagside til ulempe for den sorte befolkning.

Softwaren fungerer på baggrund af data fra politirapporter, gadetjek og arrestationer, hvorefter de muligt kriminelle udpeges - det kaldes såkaldt predictive policing.

Politiet i L.A. selv siger, at det at gå efter ‘kroniske lovovertrædere’ på denne måde hjælper med at nedbringe kriminaliteten, mens det er minimalt invasivt.

Identifikationen af potentielle ‘mål’ begynder med, at en LAPD-analytiker leder efter ’mulige lovovertrædere’ ved at gennemgå politirapporter.

Profiler af 'persons of interest'

Analytikerne benytter sig af Palantirs software til at skabe profiler (eng.: ‘work-ups’) af 'interessante personer' - specifikt leder politibetjentene efter noget, der lægger point til disse personers risikoscore.

Pointene er baseret på faktorer såsom, hvorvidt personerne er prøveløsladt, og hvor meget de har haft kontakt med politiet de seneste to år.

Som der fremgår af dokumentet herunder, er disse personer på indeværende tidspunkt rent juridisk ‘ikke mistænkte, men interessante personer’.

En ‘person of interest’ er ikke som sådan nogen definition rent juridisk, men kan blot betyde en, der har viden om noget kriminelt, selvom personen ikke selv har været involveret i noget kriminelt for nylig.

Illustration: injusticetoday.com

Men interesseorganisationen Stop LAPD Spying Coalition kalder det ‘et racistisk feedback-loop’, hvor politiet holder øje med bestemte mennesker baseret på data genereret af deres egne race-fordomsfulde opførsel i politiøjemed, og at det kun skaber mere monitorering og dermed flere arrestationer.

Anklagen er særligt interessant for Danmark, fordi op imod 15.000 brugere hos dansk politi siden efteråret 2016 også har benyttet værktøjer fra Palantir at analysere de data, som politiet allerede har indsamlet.

»Det styrker vores mulighed for at efterforske og se kriminalitetsmønstre,« lød det dengang fra det danske politi.

Læs også: Danmark køber kontroversielt overvågningssystem hos NSA-leverandør

Læs også: Avanceret software skal hjælpe politi og PET med at forudsige bandeopgør og indbrud

Gadetjek skaber og bekræfter fordomme

Stop LAPD Spying Coalition peger som argument for mistanken om racistiske udpegninger for eksempel på de gadetjek, som politiet udfører, og som danner basis for en del af de data, softwaren indsamler.

Det fortæller Jamie Garcia, hovedorganisatoren bag Predictive Policing-kampagnen, som arbejder sammen med Stop LAPD Spying Coalition:

»Når vi ser på de personer, LAPD stopper på gaden, er den sorte befolkning meget overrepræsenteret,« siger Garcia.

Politibetjente instrueres i at »finde de her mennesker og faktisk chikanere dem … Hvis man konstant bliver overvåget og chikaneret, er risikoen for, at noget, går galt, større … En dag ender man på jorden med en kridtstreg rundt om sig.«

Forskere har påvist, at brugen af ‘risikoformularer’ som LAPD’s ‘kroniske lovovertrædere’-liste kan forværre de eksisterende diskriminationsmønstre ved i overdreven grad at udvælge dem, der allerede diskrimineres, hvilket genererer endnu mere fordomsfuld data, der retfærdiggør endnu mere diskriminering.

Læs mere på injusticetoday.com.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (5)
Bjarke Jørgensen

Når sætningen 'du er fordomsfuld' om få år bliver umulig er det fordi systemer præsenterer disse fordomme som sandhed. Vi MÅ ikke komme dertil hvor sådanne resultater opfanges som naturlov, for så har vi tabt. Jeg er altid på tærsklen mellem at tænke 'mennesker er fornuftige, de konkluderer ikke på baggrund af tvivlsomt grundlag' og 'mennesker gør hvad der bliver sagt'

https://openscholarship.wustl.edu/cgi/viewcontent.cgi?article=6265&conte...
^PRIVACY, POVERTY, AND BIG DATA: A MATRIX
OF VULNERABILITIES FOR POOR AMERICANS

Log ind eller Opret konto for at kommentere
Pressemeddelelser

Welcome to the Cloud Integration Enablement Day (Bring your own laptop)

On this track, we will give you the chance to become a "Cloud First" data integration specialist.
15. nov 2017

Silicom i Søborg har fået stærk vind i sejlene…

Silicom Denmark arbejder med cutting-edge teknologier og er helt fremme hvad angår FPGA teknologien, som har eksisteret i over 20 år.
22. sep 2017

Conference: How AI and Machine Learning can accelerate your business growth

Can Artificial Intelligence (AI) and Machine Learning bring actual value to your business? Will it supercharge growth? How do other businesses leverage AI and Machine Learning?
13. sep 2017