Politiet: Predictive policing er interessant - men datagrundlaget er for småt

Ulovligt og ulovligt, når nu man kan fange pædofile og sociale snydere så...

<\end sarcasm>

At Ole Andersen tilsyneladende slet ikke forstår, at problemet med feedback-løkken er et reelt problem, er stærkt problematisk. Han burde have lært om det allerede i sin uddannelse, og han bør forstå den slags som del af det at være i politiet. Hvis han betragter det som et "filosofisk" problem, så har han slet ingen overordnet forståelse af politiets rolle i retssamfundet.

For det er et alvorligt problem, hvis man overvåger bestemte personer mere, blot fordi de tidligere er blevet taget i kriminalitet. Det er jo selve feedback-problemet, og det eksisterer uanset om man har AI-systemer eller ej. Problemet er jo, at når man overvåger folk mere, så bliver de også fanget i flere overtrædelser. Men havde man i stedet overvåget andre, så ville det være de andre, der blev fanget i overtrædelser. Der er jo forskel på, hvad der faktisk bliver begået af kriminalitet, og så hvem politiet fanger i det. De klogeste og mest effektive lovovertrædere bliver jo fx næppe fanget, og så vil dette system sørge for at de også bliver overvåget mindre, ud fra den fejlagtige antagelse, at de så må være lovlydige og ikke behøver overvåges.

Ideelt burde vi alle i et retssamfund blive overvåget nøjagtig lige meget, hvis der overhovedet skal overvåges, uanset hvor mange lovovertrædelser vi tidligere er blevet fanget i. Så snart man overvåger nogle mere end andre, det være sig bygget på fordomme, såsom racisme, eller et system som dette, så har man skævvridningen og et alvorligt problem for retssikkerheden.

Men det er jo allerede beskrevet i artiklen. Det er virkelig skræmmende, at vicepolitimesteren i Rigspolitiet ikke tager det alvorligt.

NYPD ønskede sidste år flytte fra Palantir og over på en egenudviklet platform til samme formål. Men da politiet bad om at få sine data og analyser tilbage, så de kunne fodres ind i den nye platform, gik samarbejdet i hårdknude.</p>
<p>Palantir ville gerne levere filerne, men de var i et format, der ikke var kompatibelt den nye platform, som NYPD havde udviklet sammen med IBM.

// Jesper

faren består i at man lægger for meget vægt på en algoritme og sætter sin sunde fornuft i baggrunden. der er jo allerede tegn på at de algoritmer har det med at være biased. de har det med at pumpe tendenser større op end de er. det ligger lidt i at meget af det også bygger på lineær regression og statistisk gennemsnit (meget forsimplet grundet eksemplets magt).

der skal større åbenhed om de algoritmer der bruges.

...med den væsentlige forskel, at du frakobler al form for sund fornuft, når du automatiserer. Man ser kun resultatet, man får ingen fornemmelse for mellemregningerne.

Min pointe er at man behøver ikke frakoble sund fornuft og man bør selvfølgeligt kigge på og forstå mellemregningerne. Politifolk (og alle andre) må ikke være slaver af deres computere eller tro at computeren er klogere end dem selv.

Hvis man bruger disse tools klogt, så ender man med at bruge politiets ressourcer mere effektivt. Til glæde for os alle. På samme måde som da politiet fik biler, radioer, skrivemaskiner, computere (har de alle fået dem endnu?), droner, etc.

Predictive policing er bare at automatisere indsamling af viden om kriminalitet og analyse af samme.</p>
<p>Politiet har altid valgt at prioritere patruljering der hvor de forventer kriminalitet. Alt andet vil være idiotisk.

...med den væsentlige forskel, at du frakobler al form for sund fornuft, når du automatiserer. Man ser kun resultatet, man får ingen fornemmelse for mellemregningerne.

Predictive policing er bare at automatisere indsamling af viden om kriminalitet og analyse af samme.

Politiet har altid valgt at prioritere patruljering der hvor de forventer kriminalitet. Alt andet vil være idiotisk. Men hvis man ikke tænker sig om så ender man med forkerte resultater. Hvis fx. politiet kun valgte at patruljere bestemte veje, så ville det være forkert at tro at der ingen færdselsovertrædelser var andre steder.

Det er i den forbindelse ligegyldigt hvor viden kommer fra eller hvilket tool de bruger. Uanset hvad skal man bruge sin sunde fornuft og vide hvad det er man ikke ved.

Jeg tror ikke at vicepolitimester Ole Andersen fra Rigspolitiet er ond

Om personer i systemet er er onde eller gode, har jo ingen betydning for den person som oplever systemet!

der er tale om at mennesker bliver ramt socialt, økonomisk, på renommé etc og det er bare for vigtigt til at en maskine i umoden tilstand skal styre det.

Vores såkaldte justitsminister...

Hans kæreste kan ikke holde sine pilfingre for sig selv, hvorefter det ender i klammeri, og modparten får en fængselsstraf og udvisning - gad lige at vide hvor mange andre der får tilsvarende straf efter et værtshusslagsmål?

Undskyld en midaldrende mands brug af teenage sprog men det er ulækkert at teknologiske muligheder så hurtigt bliver anvendt som løsning på noget der ikke reelt er et større problem.

AI, RPA, anden form for såkaldt intelligens, er umodent og træffer beslutninger der ikke tager højde for al den sociale og empatiske vægt der også lægges på afgørelser når mennesker er involveret - der er ikke tale om at det er ok at vejrudsigten ikke lige rammer og at Vejle fik 4 mm isf 2 mm regn, der er tale om at mennesker bliver ramt socialt, økonomisk, på renommé etc og det er bare for vigtigt til at en maskine i umoden tilstand skal styre det.

Vores såkaldte justitsminister er jo ganske vild med at kaste socialt bedrageri og pædofili ind i alle sætninger for at retfærdiggøre snart sagt hvad som helst, det er også ulækkert (undskyld igen) for respekten for de mennesker der rammes forsvinder.

Alle os der arbejder med IT ved også hvor vigtigt datakvalitet og datamængder er for at ramme (nogen gange gætte...) rigtigt og eksemplet med borgere i USA der flere gange om ugen standses 'fordi en maskine har sagt det' er mere end skræmmende.

Den udvikling mennesket har taget socialt og mht intelligens har taget mange år, nu tror man så på at maskiner kan accellere og styre processen fremover - det er altså ulækkert.

predictive policing er helt klart en fare. og den fare består i at politiet allokerer ressourcer til et område systemet udpeger som højrisiko... på bekostning af andet.

den gamle joke om at det er menneskeligt at fejle men for at lave virkelig l*rt i den skal man bruge en computer bliver mere og mere aktuel.

big data drevne AI'ere kan blive en sovepude for menneskelig selvstændig tankegang. det ordner computerne jo for os.

Hvad med lovgrundlaget?

Det gik jo meget godt med NemID, telelogning, nummerpladescanning, elmålere og hvad har vi, så mon ikke vi sagtens kan finde ud af en løsningen i mørkelygtens skær.

Hvad med lovgrundlaget?

Jeg tror ikke at vicepolitimester Ole Andersen fra Rigspolitiet er ond, men han ved ikke bedre. I hans søgen efter det som han opfatter som bedre værktøjer for politiet laver han den største fejl. Han tror at hans system er unikt og at ingen før ham har lavet et sådan system.

Hvis vi sammenligner profitabilitets- og segmentanalyser i datawarehouses med Palantir, så har jeg vanskeligt ved at finde forskellen udover at jeg håber at Palantir har flere standard interfaces til politifagligesystemer. Der må være et eller andet der retfærdiggør den meget høje merpris for Palantir ift. standard datawarehousing.

For den uvidende Ole Andersen er der sikkert stor forskel, men det er over 20 år siden at geografi blev indbygget profitabilitetsanalyser og forecasting skete på segmentniveau. Det er mere end 10 år siden at håndholdte terminaler blev indført. Lad os tage et eksempel.

I Danmark er der normalt omkring 30 solskinsdage (med en temperatur på plus 25 grader) på et år. Sådan hårdt skåret, så sælges der kun is de dage hvor solen skinner!

For en isproducent er det vitalt at hans salgsvogne er fyldt op og kører på solskinsdage. Det er forskellen på overskud/underskud vi snakker om.

Isproducenten indlæser lokale vejrudsigter og disponerer sine salgsvogne ift. vejrudsigten men lasten på salgsvognen udregnes på baggrund af tidligere salg (segementanalyse) i netop det område som salgsvognen skal besøge.

Hvad er forskellen i disponeringen af en salgsvogn fra en isproducent og en patruljevogn? Jeg har svært ved at se forskellen. For vejrudsigten fra politiet hedder sikkert bare ”Roskildefestival” i stedet for ”lokal tordenvejr i Roskilde”.

Men det sværeste ved sådanne systemer er ikke at få data ind eller ud - det sværeste er at sikre ”Compliance”.

Hvordan vil politiet sikre sig, at politifolks adgang logges, at der ikke gives adgang til data som ikke er relevant for betjenten, at en betjent ikke ”stalker” en tidligere kæreste eller lignende, at de data som gives adgang til – matcher mistankegrundlaget osv. osv.

Problemet med vicepolitimester Ole Andersen fra Rigspolitiet er, at jeg ikke har tillid til ham. Han er sikkert fremragende som parkeringsvagt, men de ting som han er citeret for i pressen igennem de sidste par år, efterlader et indtryk af et demokratisk ”løsgående missil”. Han har stået i spidsen for ANPG og flere andre grænseoverskridende projekter der ville have gjort Stasi stolt.

Det vicepolitimester Ole Andersen ikke forstår, er at der skal være en effektiv demokratisk kontrol med sådanne systemer og at ”politiets behov” altid er uvæsenligt ift. den demokratiske kontrol. Altså det vi andre kalder Grundloven.

Og det er ikke bare et filosofisk problem. Det er vores demokrati, som her er på spil. Har jeg vildledt mine drenge?

Hvordan det ser ud i toppen - tja, der kan man, som du også beskriver, efterhånden godt blive ret bekymret.

men jeg har også tillid til at dem der arbejder med det, kender alt til risikoen for feedback loops. Problemet er bare, at det er som at sælge elastik i metermål - man bestemmer lidt selv om man vil strække den eller ej.

Jeg har opdraget mine drenge til, at politiet er til for vores skyld, og at politiets virke naturligvis også er underlagt kontrol og regler, ja, måske endda mere kontrol og flere regler, fordi de udfører et arbejde, som er så vigtigt for os alle.

Og derfor vil jeg i al ydmyghed bede om at vi får en mulighed for at tage en god og reel og oplyst og mest af alt demonkratisk debat, hvis politiet grundlæggende ønsker at lave om på den måde, som de arbejder på. Og det gerne inden at de gør det, tak!

Jeg ønsker ikke at blande mig i den enkelte betjents arbejde, og heller ikke mærket på patrujlevogne eller tjenestepistoler. Men jeg er meget bekymret over, hvordan man opfører sig i forhold til masseovervågning gennem sessionslogning og med overvågningsfly, og hvordan teknologier med vidtrækkende konsekvenser som ANPG og Palantir bliver lusket ind på falske forudsætninger og ad bagdøren. Og hvad med IMSI-catchers, som andre har erkendt kan være problematiske på mange måder, f.eks. helt konkret for nødopkald?

Når man så samtidig, på det seneste illustreret igennem Tibetsagen, ser en politiledelse, som aktivt modarbejder indsigt og demokratisk kontrol, og som ikke er villige til at stå til ansvar for den myndighed og den tillid, som de er givet, så må jeg sige at det begynder at virke helt forkert. Hvad er det, der er ved at ske for vores politi og vores samfund?

Og det er ikke bare et filosofisk problem. Det er vores demokrati, som her er på spil. Har jeg vildledt mine drenge?

Men det er alligevel bekymrende med denne bemærkning, for i så fald lyser den langt væk af, at det skal vi andre ikke blande os i - det skal politiet nok selv finde ud af.....

Jeg er ikke i tvivl om, at det er den holdning der ligger bag udtalelsen - men jeg har også tillid til at dem der arbejder med det, kender alt til risikoen for feedback loops. Problemet er bare, at det er som at sælge elastik i metermål - man bestemmer lidt selv om man vil strække den eller ej.

Jeg tror godt vi kan være sikre på, at dem der arbejder med det i dagligdagen har et mere nuanceret syn på tingene

"Ole Andersen kalder problemstillingen for »filosofisk«, "
Her bliver jeg meget bekymret og får lyst til at sige noget grimt.....

Jeg tror godt vi kan være sikre på, at dem der arbejder med det i dagligdagen har et mere nuanceret syn på tingene. Men det er et problem, at de med "analytisk patruljering" kan skabe et selvbekræftende indtryk af, at der er behov for patruljering i bestemte områder. Det kræver høj moral ikke at at gå efter de lavthængende frugter for at pynte på sine statistikker.

... at der skal en lovændring til, inden politiet må bruge Palantir til predictive policing. For der kan vist ikke være tvivl om, at man samler data til det formål.

"Ole Andersen kalder problemstillingen for »filosofisk«, "Her bliver jeg meget bekymret og får lyst til at sige noget grimt.....