Politi-algoritme til voldsforebyggelse i total-flop
Et forsøg hos politiet i Chicago med at anvende intelligent software til at forebygge voldskriminalitet er slået totalt fejl.
Forsøget, der har stået på siden 2013 i samarbejde med Illinois Institute of Technology, gør brug af en algoritme til at rangere og identificere de borgere, som er i størst risiko for at begå kriminalitet af voldelig art.
Algoritmen baserer sig på data om tidligere narkorelaterede anholdelser, tilhørsforhold til bander og alder under sidste anholdelse.
Eksperimentet er kendt som 'forebyggende politiarbejde,' og har i første omgang identificeret 426 mennesker, som politiet skulle målrette en kriminalitetsforebyggende social indsats imod.
Forsøget har været under kritik fra bl.a. American Civil Liberties Union for manglende gennemsigtighed i forhold til, hvilke personer der ender på listen, og hvordan listen bliver anvendt.
Og gruppen for Digitale rettigheder, Electronic Frontier Foundation, mener, at forsøget øger overvågningen.
Nu har en undersøgelse konkluderet, at systemet ikke virker.
En undersøgelse fra tænketanken RAND Corporation, som bedriver forskning inden for videnskab og uddannelse, fastslår, at listen ikke som forventet understøtter Chicago Police i arbejdet med at holde de udsatte borgere væk fra voldskriminaliteten.
Tværtimod.
Den mest iøjenfaldende effekt var, at personer på listen oftere end andre blev anholdt.
»Pilottesten har ikke været en succes i forhold til at forhindre vold,« lyder det i en afrapportering.
Listen sætter søgelyset på borgerne
Forskerne har ikke endegyldigt kunnet fastslå, hvorfor borgerne på listen oftere bliver anholdt, men de mange interviews i undersøgelsen af teknologien giver et hint.
»I hvert fald i nogle tilfælde af skyderier tjekkede politifolkene listen for, om den indeholdt navne fra det ramte område - og så startede man der,« siger Jessica Saunders, der er ledende forfatter på undersøgelsen.
Med andre ord anvendte politiet listen til at målrette deres efterforskning mod borgerne på listen i stedet for at målrette en forebyggende indsats.
Det vil sige, at borgerrettighedsgrupperne har haft ret i deres bekymring:
»Den nye undersøgelse er ekstremt bekymrende. Den konkluderer, at vi koncentrerer vores indsats på de sædvanlige emner,« siger David Robinson, leder af teknologifirmaet Upturn.
En talsmand for Chicago Police Department har i en e-mail til Mic.com udtalt, at listen 'ikke anvendes som en 'heat liste' eller anholdelsesliste,' og anfører i øvrigt, at man nu vil evaluere undersøgelsesresultaterne.
Studiet af metoden konkluderer i øvrigt, at der ikke er evidens for, at det hjælper at kontakte folk, som er i en større risiko for at blive involveret i vold - især ikke når der ingen yderligere vejledning er om, hvad man skal sige til dem, eller hvordan man skal følge en henvendelse op.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
