Politiet: Predictive policing er interessant - men datagrundlaget er for småt

Illustration: Das Büro
Dansk politi har brugt analysesoftwaren Palantir siden 2016. I USA bruges den til at udpege interessante personer, inden de har gjort noget, men herhjemme er der indtil videre ikke tilstrækkelige datasæt, siger politiet.

Dansk politi ville potentielt gerne bruge den kontroversielle overvågningssoftware Pol-Intel endnu mere vidtrækkende, end man gør i dag. Men der er desværre ikke nok data på dansk kriminalitet.

Det forklarede vicepolitimester Ole Andersen fra Rigspolitiet på konferencen 'Gode Offentlige It-projekter 2018' på Københavns Universitet i sidste uge.

Pol-Intel er et navn, som dansk politi har valgt til systemet, og det dækker over et produkt fra den CIA-støttede virksomhed Palantir.

I Los Angeles bruger politiet (LAPD) Palantir til at identificere potentielle forbrydere, inden de har gjort noget, på baggrund af blandt andet politirapporter, gadetjek og tidligere arrestationer. Såkaldt ‘Predictive Policing’.

Men det er der altså indtil videre ikke mulighed for i Danmark.

»Predictive Policing kunne være interessant. Men datagrundlaget i dansk kriminalitet er simpelthen for småt til, at det giver mening,« sagde Ole Andersen.

Læs også: Kontroversiel analyse-software anklages for racistisk heksejagt i USA

Palantir har i USA været genstand for kras kritik, og LAPD blev tidligere på året beskyldt for at have skabt et såkaldt racistisk feedback loop. Når en person i Los Angeles får en høj score på den såkaldte ‘chronic offender’-skala, opfordres betjente til at holde særligt øje med vedkommende.

Men ifølge kritikerne har LAPD historisk set arresteret og visiteret flest sorte personer, og derfor er det også primært sorte, der dukker op i Palantir. Og så fortsætter det samme mønster.

Ifølge en spørgeskemaundersøgelse oplever to procent af befolkningen i Los Angeles, at de bliver tilfældigt stoppet på gaden af politiet mere end 10 gange om ugen, mens 76 procent aldrig er blevet stoppet.

Står ikke alene

Herhjemme bruger politiet blandt andet Palantir til det, der kaldes analytisk patruljering.

Begrebet dækker kort fortalt over, at systemet baseret på historiske data kan fortælle politiet, hvor der sandsynligvis vil være mest brug for betjente på et givent tidspunkt. Og så kan man prioritere sin patruljering derefter.

Version2 spurgte til konferencen Ole Andersen, om dansk politi har overvejet risikoen for et feedback loop i denne sammenhæng.

Altså: Systemet analyserer sig frem til, at der ofte er kriminalitet på Nørrebro, så politiet sender flere betjente til Nørrebro. Politiet opklarer mere kriminalitet på Nørrebro, mens anden kriminalitet overses, og dermed styrkes en statistik, der ikke nødvendigvis er retvisende.

Ole Andersen kalder problemstillingen for »filosofisk«, men han medgiver, det en risiko.

»Det er selvfølgelig en fare. Men systemet står jo ikke alene, så vi må korrigere for det med andre midler. Al kriminalitet skal selvfølgelig opklares.«

Amerikanske data holdt som gidsel

Også politiet i New York (NYPD) har tidligere været kunde hos Palantir, og her har det vist sig, at det kan være problematisk at opsige samarbejdet med softwarevirksomheden.

NYPD ønskede sidste år flytte fra Palantir og over på en egenudviklet platform til samme formål. Men da politiet bad om at få sine data og analyser tilbage, så de kunne fodres ind i den nye platform, gik samarbejdet i hårdknude.

Palantir ville gerne levere filerne, men de var i et format, der ikke var kompatibelt den nye platform, som NYPD havde udviklet sammen med IBM.

Og ifølge amerikanske medier var Palantir ikke umiddelbart villig til at hjælpe politiet med at få oversat filerne til en form, der kunne bruges.

Læs også: NYPD kritiserer leverandør af kontroversiel analyse-software - dansk politi melder pas

Tilbage på Københavns Universitet og konferencen om offentlige it-projekter,forsikrer vicepolitimester Ole Andersen dog, at man ikke frygter et lignende scenarie, hvis politiet i Danmark på et tidspunkt opsiger samarbejdet med Palantir.

»Jeg har godt læst om det,« sagde han til Version2.

»Men vi har en kontrakt, der siger, at Palantir skal hjælpe os, hvis vi opsiger samarbejdet.«

Omkring 15.000 brugere i politiet benytter værktøjer fra Palantir.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (21)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

... at der skal en lovændring til, inden politiet må bruge Palantir til predictive policing. For der kan vist ikke være tvivl om, at man samler data til det formål.

"Ole Andersen kalder problemstillingen for »filosofisk«, "
Her bliver jeg meget bekymret og får lyst til at sige noget grimt.....

Thomas Jensen

"Ole Andersen kalder problemstillingen for »filosofisk«, "
Her bliver jeg meget bekymret og får lyst til at sige noget grimt.....

Jeg tror godt vi kan være sikre på, at dem der arbejder med det i dagligdagen har et mere nuanceret syn på tingene. Men det er et problem, at de med "analytisk patruljering" kan skabe et selvbekræftende indtryk af, at der er behov for patruljering i bestemte områder. Det kræver høj moral ikke at at gå efter de lavthængende frugter for at pynte på sine statistikker.

Thomas Jensen

Men det er alligevel bekymrende med denne bemærkning, for i så fald lyser den langt væk af, at det skal vi andre ikke blande os i - det skal politiet nok selv finde ud af.....

Jeg er ikke i tvivl om, at det er den holdning der ligger bag udtalelsen - men jeg har også tillid til at dem der arbejder med det, kender alt til risikoen for feedback loops. Problemet er bare, at det er som at sælge elastik i metermål - man bestemmer lidt selv om man vil strække den eller ej.

Bjarne Nielsen

Jeg har opdraget mine drenge til, at politiet er til for vores skyld, og at politiets virke naturligvis også er underlagt kontrol og regler, ja, måske endda mere kontrol og flere regler, fordi de udfører et arbejde, som er så vigtigt for os alle.

Og derfor vil jeg i al ydmyghed bede om at vi får en mulighed for at tage en god og reel og oplyst og mest af alt demonkratisk debat, hvis politiet grundlæggende ønsker at lave om på den måde, som de arbejder på. Og det gerne inden at de gør det, tak!

Jeg ønsker ikke at blande mig i den enkelte betjents arbejde, og heller ikke mærket på patrujlevogne eller tjenestepistoler. Men jeg er meget bekymret over, hvordan man opfører sig i forhold til masseovervågning gennem sessionslogning og med overvågningsfly, og hvordan teknologier med vidtrækkende konsekvenser som ANPG og Palantir bliver lusket ind på falske forudsætninger og ad bagdøren. Og hvad med IMSI-catchers, som andre har erkendt kan være problematiske på mange måder, f.eks. helt konkret for nødopkald?

Når man så samtidig, på det seneste illustreret igennem Tibetsagen, ser en politiledelse, som aktivt modarbejder indsigt og demokratisk kontrol, og som ikke er villige til at stå til ansvar for den myndighed og den tillid, som de er givet, så må jeg sige at det begynder at virke helt forkert. Hvad er det, der er ved at ske for vores politi og vores samfund?

Og det er ikke bare et filosofisk problem. Det er vores demokrati, som her er på spil. Har jeg vildledt mine drenge?

Anne-Marie Krogsbøll

Og det er ikke bare et filosofisk problem. Det er vores demokrati, som her er på spil. Har jeg vildledt mine drenge?


Du har ret, Bjarne Nielsen, det er demokratiet, der er på spil. Om du har vildledt dine drenge? Svært at vide - Der er garanteret mange gode og fornuftige og modige betjente i dagligdagen, som vi skal være taknemmelige over. Et eksempel var betjenten, som gav sig tid til at lege med flygtningepigen på motorvejen for et par år siden - et billede, man kan leve højt på i lang tid mht. i det store og hele at bevare tilliden.

Hvordan det ser ud i toppen - tja, der kan man, som du også beskriver, efterhånden godt blive ret bekymret.

René Nielsen

Jeg tror ikke at vicepolitimester Ole Andersen fra Rigspolitiet er ond, men han ved ikke bedre. I hans søgen efter det som han opfatter som bedre værktøjer for politiet laver han den største fejl. Han tror at hans system er unikt og at ingen før ham har lavet et sådan system.

Hvis vi sammenligner profitabilitets- og segmentanalyser i datawarehouses med Palantir, så har jeg vanskeligt ved at finde forskellen udover at jeg håber at Palantir har flere standard interfaces til politifagligesystemer. Der må være et eller andet der retfærdiggør den meget høje merpris for Palantir ift. standard datawarehousing.

For den uvidende Ole Andersen er der sikkert stor forskel, men det er over 20 år siden at geografi blev indbygget profitabilitetsanalyser og forecasting skete på segmentniveau. Det er mere end 10 år siden at håndholdte terminaler blev indført. Lad os tage et eksempel.

I Danmark er der normalt omkring 30 solskinsdage (med en temperatur på plus 25 grader) på et år. Sådan hårdt skåret, så sælges der kun is de dage hvor solen skinner!

For en isproducent er det vitalt at hans salgsvogne er fyldt op og kører på solskinsdage. Det er forskellen på overskud/underskud vi snakker om.

Isproducenten indlæser lokale vejrudsigter og disponerer sine salgsvogne ift. vejrudsigten men lasten på salgsvognen udregnes på baggrund af tidligere salg (segementanalyse) i netop det område som salgsvognen skal besøge.

Hvad er forskellen i disponeringen af en salgsvogn fra en isproducent og en patruljevogn? Jeg har svært ved at se forskellen. For vejrudsigten fra politiet hedder sikkert bare ”Roskildefestival” i stedet for ”lokal tordenvejr i Roskilde”.

Men det sværeste ved sådanne systemer er ikke at få data ind eller ud - det sværeste er at sikre ”Compliance”.

Hvordan vil politiet sikre sig, at politifolks adgang logges, at der ikke gives adgang til data som ikke er relevant for betjenten, at en betjent ikke ”stalker” en tidligere kæreste eller lignende, at de data som gives adgang til – matcher mistankegrundlaget osv. osv.

Problemet med vicepolitimester Ole Andersen fra Rigspolitiet er, at jeg ikke har tillid til ham. Han er sikkert fremragende som parkeringsvagt, men de ting som han er citeret for i pressen igennem de sidste par år, efterlader et indtryk af et demokratisk ”løsgående missil”. Han har stået i spidsen for ANPG og flere andre grænseoverskridende projekter der ville have gjort Stasi stolt.

Det vicepolitimester Ole Andersen ikke forstår, er at der skal være en effektiv demokratisk kontrol med sådanne systemer og at ”politiets behov” altid er uvæsenligt ift. den demokratiske kontrol. Altså det vi andre kalder Grundloven.

Niels-Arne Nørgaard Knudsen

predictive policing er helt klart en fare. og den fare består i at politiet allokerer ressourcer til et område systemet udpeger som højrisiko... på bekostning af andet.

den gamle joke om at det er menneskeligt at fejle men for at lave virkelig l*rt i den skal man bruge en computer bliver mere og mere aktuel.

big data drevne AI'ere kan blive en sovepude for menneskelig selvstændig tankegang. det ordner computerne jo for os.

Denny Christensen

Undskyld en midaldrende mands brug af teenage sprog men det er ulækkert at teknologiske muligheder så hurtigt bliver anvendt som løsning på noget der ikke reelt er et større problem.

AI, RPA, anden form for såkaldt intelligens, er umodent og træffer beslutninger der ikke tager højde for al den sociale og empatiske vægt der også lægges på afgørelser når mennesker er involveret - der er ikke tale om at det er ok at vejrudsigten ikke lige rammer og at Vejle fik 4 mm isf 2 mm regn, der er tale om at mennesker bliver ramt socialt, økonomisk, på renommé etc og det er bare for vigtigt til at en maskine i umoden tilstand skal styre det.

Vores såkaldte justitsminister er jo ganske vild med at kaste socialt bedrageri og pædofili ind i alle sætninger for at retfærdiggøre snart sagt hvad som helst, det er også ulækkert (undskyld igen) for respekten for de mennesker der rammes forsvinder.

Alle os der arbejder med IT ved også hvor vigtigt datakvalitet og datamængder er for at ramme (nogen gange gætte...) rigtigt og eksemplet med borgere i USA der flere gange om ugen standses 'fordi en maskine har sagt det' er mere end skræmmende.

Den udvikling mennesket har taget socialt og mht intelligens har taget mange år, nu tror man så på at maskiner kan accellere og styre processen fremover - det er altså ulækkert.

Christian Nobel

der er tale om at mennesker bliver ramt socialt, økonomisk, på renommé etc og det er bare for vigtigt til at en maskine i umoden tilstand skal styre det.

Det tragiske er, at det kun gør Kafkas Processen endnu mere aktuel.

Vores såkaldte justitsminister...

... er et glimrende eksempel på at der ikke er lighed for loven her i landet.

Hans kæreste kan ikke holde sine pilfingre for sig selv, hvorefter det ender i klammeri, og modparten får en fængselsstraf og udvisning - gad lige at vide hvor mange andre der får tilsvarende straf efter et værtshusslagsmål?

Michael Cederberg

Predictive policing er bare at automatisere indsamling af viden om kriminalitet og analyse af samme.

Politiet har altid valgt at prioritere patruljering der hvor de forventer kriminalitet. Alt andet vil være idiotisk. Men hvis man ikke tænker sig om så ender man med forkerte resultater. Hvis fx. politiet kun valgte at patruljere bestemte veje, så ville det være forkert at tro at der ingen færdselsovertrædelser var andre steder.

Det er i den forbindelse ligegyldigt hvor viden kommer fra eller hvilket tool de bruger. Uanset hvad skal man bruge sin sunde fornuft og vide hvad det er man ikke ved.

Bjarne Nielsen

Predictive policing er bare at automatisere indsamling af viden om kriminalitet og analyse af samme.

Politiet har altid valgt at prioritere patruljering der hvor de forventer kriminalitet. Alt andet vil være idiotisk.

...med den væsentlige forskel, at du frakobler al form for sund fornuft, når du automatiserer. Man ser kun resultatet, man får ingen fornemmelse for mellemregningerne.

Michael Cederberg

...med den væsentlige forskel, at du frakobler al form for sund fornuft, når du automatiserer. Man ser kun resultatet, man får ingen fornemmelse for mellemregningerne.

Min pointe er at man behøver ikke frakoble sund fornuft og man bør selvfølgeligt kigge på og forstå mellemregningerne. Politifolk (og alle andre) må ikke være slaver af deres computere eller tro at computeren er klogere end dem selv.

Hvis man bruger disse tools klogt, så ender man med at bruge politiets ressourcer mere effektivt. Til glæde for os alle. På samme måde som da politiet fik biler, radioer, skrivemaskiner, computere (har de alle fået dem endnu?), droner, etc.

Niels-Arne Nørgaard Knudsen

faren består i at man lægger for meget vægt på en algoritme og sætter sin sunde fornuft i baggrunden. der er jo allerede tegn på at de algoritmer har det med at være biased. de har det med at pumpe tendenser større op end de er. det ligger lidt i at meget af det også bygger på lineær regression og statistisk gennemsnit (meget forsimplet grundet eksemplets magt).

der skal større åbenhed om de algoritmer der bruges.

Jesper Frimann

NYPD ønskede sidste år flytte fra Palantir og over på en egenudviklet platform til samme formål. Men da politiet bad om at få sine data og analyser tilbage, så de kunne fodres ind i den nye platform, gik samarbejdet i hårdknude.

Palantir ville gerne levere filerne, men de var i et format, der ikke var kompatibelt den nye platform, som NYPD havde udviklet sammen med IBM.

Altså hele salgs pitchen med ‘en google oven på eksisterende systemer’ er simpelt hen ikke sand. Der er tale om et seperat system med sin egen database, hvor data fra forskellige systemer med vidt forskellige data med vidt forskellige dataklasificering , der er indsamlet til/med vidt forskellige formål. Det må simpelt hen være på grænsen til at være direkte ulovligt...

// Jesper

Per Hansen

At Ole Andersen tilsyneladende slet ikke forstår, at problemet med feedback-løkken er et reelt problem, er stærkt problematisk. Han burde have lært om det allerede i sin uddannelse, og han bør forstå den slags som del af det at være i politiet. Hvis han betragter det som et "filosofisk" problem, så har han slet ingen overordnet forståelse af politiets rolle i retssamfundet.

For det er et alvorligt problem, hvis man overvåger bestemte personer mere, blot fordi de tidligere er blevet taget i kriminalitet. Det er jo selve feedback-problemet, og det eksisterer uanset om man har AI-systemer eller ej. Problemet er jo, at når man overvåger folk mere, så bliver de også fanget i flere overtrædelser. Men havde man i stedet overvåget andre, så ville det være de andre, der blev fanget i overtrædelser. Der er jo forskel på, hvad der faktisk bliver begået af kriminalitet, og så hvem politiet fanger i det. De klogeste og mest effektive lovovertrædere bliver jo fx næppe fanget, og så vil dette system sørge for at de også bliver overvåget mindre, ud fra den fejlagtige antagelse, at de så må være lovlydige og ikke behøver overvåges.

Ideelt burde vi alle i et retssamfund blive overvåget nøjagtig lige meget, hvis der overhovedet skal overvåges, uanset hvor mange lovovertrædelser vi tidligere er blevet fanget i. Så snart man overvåger nogle mere end andre, det være sig bygget på fordomme, såsom racisme, eller et system som dette, så har man skævvridningen og et alvorligt problem for retssikkerheden.

Men det er jo allerede beskrevet i artiklen. Det er virkelig skræmmende, at vicepolitimesteren i Rigspolitiet ikke tager det alvorligt.

Log ind eller Opret konto for at kommentere