Politi-algoritme til voldsforebyggelse i total-flop

18. august 2016 kl. 13:0511
Knap 500 borgere er med en særlig algoritme blevet udpeget til at være disponeret for at begå voldskriminalitet. Men i stedet for at blive anvendt til forebyggelse forværrede det bare problemet.
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Et forsøg hos politiet i Chicago med at anvende intelligent software til at forebygge voldskriminalitet er slået totalt fejl.

Forsøget, der har stået på siden 2013 i samarbejde med Illinois Institute of Technology, gør brug af en algoritme til at rangere og identificere de borgere, som er i størst risiko for at begå kriminalitet af voldelig art.

Algoritmen baserer sig på data om tidligere narkorelaterede anholdelser, tilhørsforhold til bander og alder under sidste anholdelse.

Eksperimentet er kendt som 'forebyggende politiarbejde,' og har i første omgang identificeret 426 mennesker, som politiet skulle målrette en kriminalitetsforebyggende social indsats imod.

Artiklen fortsætter efter annoncen

Forsøget har været under kritik fra bl.a. American Civil Liberties Union for manglende gennemsigtighed i forhold til, hvilke personer der ender på listen, og hvordan listen bliver anvendt.

Og gruppen for Digitale rettigheder, Electronic Frontier Foundation, mener, at forsøget øger overvågningen.

Nu har en undersøgelse konkluderet, at systemet ikke virker.

En undersøgelse fra tænketanken RAND Corporation, som bedriver forskning inden for videnskab og uddannelse, fastslår, at listen ikke som forventet understøtter Chicago Police i arbejdet med at holde de udsatte borgere væk fra voldskriminaliteten.

Tværtimod.

Den mest iøjenfaldende effekt var, at personer på listen oftere end andre blev anholdt.

»Pilottesten har ikke været en succes i forhold til at forhindre vold,« lyder det i en afrapportering.

Listen sætter søgelyset på borgerne

Forskerne har ikke endegyldigt kunnet fastslå, hvorfor borgerne på listen oftere bliver anholdt, men de mange interviews i undersøgelsen af teknologien giver et hint.

»I hvert fald i nogle tilfælde af skyderier tjekkede politifolkene listen for, om den indeholdt navne fra det ramte område - og så startede man der,« siger Jessica Saunders, der er ledende forfatter på undersøgelsen.

Med andre ord anvendte politiet listen til at målrette deres efterforskning mod borgerne på listen i stedet for at målrette en forebyggende indsats.

Det vil sige, at borgerrettighedsgrupperne har haft ret i deres bekymring:

»Den nye undersøgelse er ekstremt bekymrende. Den konkluderer, at vi koncentrerer vores indsats på de sædvanlige emner,« siger David Robinson, leder af teknologifirmaet Upturn.

En talsmand for Chicago Police Department har i en e-mail til Mic.com udtalt, at listen 'ikke anvendes som en 'heat liste' eller anholdelsesliste,' og anfører i øvrigt, at man nu vil evaluere undersøgelsesresultaterne.

Studiet af metoden konkluderer i øvrigt, at der ikke er evidens for, at det hjælper at kontakte folk, som er i en større risiko for at blive involveret i vold - især ikke når der ingen yderligere vejledning er om, hvad man skal sige til dem, eller hvordan man skal følge en henvendelse op.

11 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
9
19. august 2016 kl. 11:58

"Hr. Betjent, her er en liste over folk, som vi tror er voldelige".

2 min senere...: "Hr. Betjent, nogen er blevet udsat for vold; find ud af hvem det kunne være".

Nu er jeg ikke politi-uddannet, men jeg ved godt, hvad jeg først ville gøre.

8
19. august 2016 kl. 11:42

Man skal nok passe lidt på med information fra det britiske politi. Feks. er det svært at finde målbar effekt af den massive videoovervågning, som politiet besynger så højt.

7
19. august 2016 kl. 11:11

Jeg mener at vide, at Prevent-delen af UK's antiterror-halløj har haft reel succes med at opsøge dem, man mente kunne komme i problemer, men jeg ved det kun fra en veninde, der besøgte Politiet derovre og en artikel fra The Economist.

Mvh. Mogens.

6
18. august 2016 kl. 20:38

For 'Precrime' afdelingen kommer først rigtig op at stå i 2054. Og "næsten-forbrydernes" navne bliver indprentet i trækugler til de overraskende hotte politifolk ;)

5
18. august 2016 kl. 16:31

"ikke er evidens for, at det hjælper at kontakte folk, som er i en større risiko for at blive involveret i vold - især ikke når der ingen yderligere vejledning er om, hvad man skal sige til dem"

De har vist sendt politibetjente ud til folk? Socialarbejdere, pædagoger etd. ville nok have gjort større gavn.

4
18. august 2016 kl. 15:53

Det lyder da som om algoritmen virker fint, men at den forebyggende indsats har manglet eller er fejlet.

3
18. august 2016 kl. 14:37

De skal bare hyre ham der matematikeren fra tv-serien Numbers. Han kunne altid finde den korrekte ligning til at fange den rigtige mand.

2
18. august 2016 kl. 13:50

Det er et interessant sammentræf (og intet andet, jeg er ikke konspirationsteoretiker ;-) ), at denne artikel, som er et glimrende eksempel på hvordan machine learning, big data og kunstig intelligens ikke altid virker efter hensigten, overhovedet ikke nævner nogle af disse begreber. Havde forsøget været en succes, havde der næppe været en sætning uden.

1
18. august 2016 kl. 13:12

Mon disse uheldige bivirkninger af registrering af "risikopersoner" også vil gøre sig gældende mht. diverse "terroristlister", som man arbejder på herhjemme?