Politi-algoritme til voldsforebyggelse i total-flop

Knap 500 borgere er med en særlig algoritme blevet udpeget til at være disponeret for at begå voldskriminalitet. Men i stedet for at blive anvendt til forebyggelse forværrede det bare problemet.

Et forsøg hos politiet i Chicago med at anvende intelligent software til at forebygge voldskriminalitet er slået totalt fejl.

Forsøget, der har stået på siden 2013 i samarbejde med Illinois Institute of Technology, gør brug af en algoritme til at rangere og identificere de borgere, som er i størst risiko for at begå kriminalitet af voldelig art.

Algoritmen baserer sig på data om tidligere narkorelaterede anholdelser, tilhørsforhold til bander og alder under sidste anholdelse.

Læs også: Amerikansk politi udpeger voldsbetjente med machine learning

Eksperimentet er kendt som 'forebyggende politiarbejde,' og har i første omgang identificeret 426 mennesker, som politiet skulle målrette en kriminalitetsforebyggende social indsats imod.

Forsøget har været under kritik fra bl.a. American Civil Liberties Union for manglende gennemsigtighed i forhold til, hvilke personer der ender på listen, og hvordan listen bliver anvendt.

Og gruppen for Digitale rettigheder, Electronic Frontier Foundation, mener, at forsøget øger overvågningen.

Nu har en undersøgelse konkluderet, at systemet ikke virker.

En undersøgelse fra tænketanken RAND Corporation, som bedriver forskning inden for videnskab og uddannelse, fastslår, at listen ikke som forventet understøtter Chicago Police i arbejdet med at holde de udsatte borgere væk fra voldskriminaliteten.

Tværtimod.

Den mest iøjenfaldende effekt var, at personer på listen oftere end andre blev anholdt.

»Pilottesten har ikke været en succes i forhold til at forhindre vold,« lyder det i en afrapportering.

Listen sætter søgelyset på borgerne

Forskerne har ikke endegyldigt kunnet fastslå, hvorfor borgerne på listen oftere bliver anholdt, men de mange interviews i undersøgelsen af teknologien giver et hint.

»I hvert fald i nogle tilfælde af skyderier tjekkede politifolkene listen for, om den indeholdt navne fra det ramte område - og så startede man der,« siger Jessica Saunders, der er ledende forfatter på undersøgelsen.

Med andre ord anvendte politiet listen til at målrette deres efterforskning mod borgerne på listen i stedet for at målrette en forebyggende indsats.

Det vil sige, at borgerrettighedsgrupperne har haft ret i deres bekymring:

»Den nye undersøgelse er ekstremt bekymrende. Den konkluderer, at vi koncentrerer vores indsats på de sædvanlige emner,« siger David Robinson, leder af teknologifirmaet Upturn.

En talsmand for Chicago Police Department har i en e-mail til Mic.com udtalt, at listen 'ikke anvendes som en 'heat liste' eller anholdelsesliste,' og anfører i øvrigt, at man nu vil evaluere undersøgelsesresultaterne.

Studiet af metoden konkluderer i øvrigt, at der ikke er evidens for, at det hjælper at kontakte folk, som er i en større risiko for at blive involveret i vold - især ikke når der ingen yderligere vejledning er om, hvad man skal sige til dem, eller hvordan man skal følge en henvendelse op.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (11)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Andy Fischer

Det er et interessant sammentræf (og intet andet, jeg er ikke konspirationsteoretiker ;-) ), at denne artikel, som er et glimrende eksempel på hvordan machine learning, big data og kunstig intelligens ikke altid virker efter hensigten, overhovedet ikke nævner nogle af disse begreber. Havde forsøget været en succes, havde der næppe været en sætning uden.

Lars Simonsen

"ikke er evidens for, at det hjælper at kontakte folk, som er i en større risiko for at blive involveret i vold - især ikke når der ingen yderligere vejledning er om, hvad man skal sige til dem"

De har vist sendt politibetjente ud til folk?
Socialarbejdere, pædagoger etd. ville nok have gjort større gavn.

Log ind eller Opret konto for at kommentere