Rød, gul eller grøn: Ny politi-software udregner dit personlige trusselsniveau

Politiet i en by i Californien har taget en særlig software i brug, der inddeler borgerne i forskellige trusselsniveauer baseret på data fra en omfattende række datakilder, heriblandt sociale medier.

Det danske politi har netop fået grønt lys til at påbegynde masseovervågningen af bilisterne med et system til at automatisk nummepladegenkendelse.

Men trods protester fra privacy-fortalere, er systemet det rene vand i forhold til det, som politiet nu er begyndt at bruge i byen Fresno i Californien.

Her har ordensmagten taget en særlig overvågningssoftware ved navn Beware i brug. Softwaren inddeler borgerne i forskellige kategorier - rød, gul eller grøn - alt efter deres personlige trusselsniveau, fremgår det i en artikel i Washington Post.

Det bruger politiet blandt andet, når de får opkald fra 911 - det amerikanske svar på 112 - og skal forberede sig på den ‘trussel’, de går i møde.

Da politiet eksempelvis fik et opkald omkring en kvinde, der blev truet af sin kæreste, kunne betjentene ved at køre hans navn igennem programmet konstatere, at han lå på det højeste, røde, trusselsniveau. På baggrund af den vurdering indkaldte politiet en forhandler og fik manden til at overgive sig.

Beware er udviklet af Intrado og benytter sig af millioner af datakilder, heriblandt politirapporter, ejendomsregistre, kommercielle databaser, web-søgninger og indlæg på sociale medier.

Formålet er ifølge politiet at give betjentene et bedre indblik i, hvem der er på den anden side af døren.

Læs også: Hitachi-chefudvikler om it-system, der forudsiger forbrydelser: »Vi er færdige med privatlivet« (podcast)

Hemmelig algoritme afgør dit trusselsniveau

Siden politiet i Fresno er begyndt at kategorisere befolkningen efter trafiklysets tre farver, er det kommet under heftig kritik fra både lokalpolitikere og borgerrettighedsadvokater.

Da et byrådsmedlem adspurgte politiet om, hvilken farve systemet ville give ham, returnerede det ‘grønt’. Til gengæld indikerede systemet, at hans hus havde en ‘gul’ mærkat påklistret - ifølge politiets forklaringer sandsynligvis på grund af de tidligere beboere.

»Selvom jeg ikke er den ‘gule’ fyr, så vil betjentene behandle enhver der kommer ud af huset i sine bokser-shorts som den ‘gule’ fyr. Det er ikke fair over for mig,« siger politikeren Clinton J. Olivier til Washington Post.

Netop denne upålidelighed er et af de centrale problemer i systemet. For hverken offentligheden eller politiet har indsigt i, hvordan systemets algoritmer udregner trusselsniveauet. Det er kun selskabet Intrado, der har adgang til denne information.
Det er bekymrende ifølge borgerrettighedsadvokaten Rob Navarro, som påpeger, at systemet måske vil kunne fejlvurdere en uskyldig persons trusselsniveau, hvis vedkommende eksempelvis skriver noget kritisk om politiet på de sociale medier. Resultatet kan være, at politiet reagerer hårdere over for vedkommende.

Lokale amerikanske medier har tidligere beskrevet, hvordan en kvindes trusselsniveau var blevet hævet ved en fejl, fordi hun havde tweetet omkring et kortspil kaldet ‘Rage’ - dermed antydende, at Beware-systemet betragter ordet ‘vrede’ mistænkeligt.

Politiet i Fresno arbejder i kølvandet på kritikken på at skille sig af med farve-kodningen og muligvis også overvågningen af de sociale medier.

Følg forløbet

Kommentarer (13)

Anne-Marie Krogsbøll

"Da politiet eksempelvis fik et opkald omkring en kvinde, der blev truet af sin kæreste, kunne betjentene ved at køre hans navn igennem programmet konstatere, at han lå på det højeste, røde, trusselsniveau."

Hvad nu, hvis den pågældende mand kun havde grøn faremærkning? Ville han så have grønt lys til at tæske kvinden, fordi politiet ikke ville prioritere kvindens opkald?? Eller hvad skal man ellers bruge denne kodning til?

Mogens Hansen

Eller hvad skal man ellers bruge denne kodning til?


Den kan bruges til at lave en indledende vurdering af, om man til at starte med skal sende 2 mand med pistolerne siddende i hylstret og forvente at man kan tale manden til ro inden tingene spidser til - eller om man med det samme skal aktivere SWAT-teamet med en professionel forhandler og vække alle babyerne inden for 100m radius, når man kommer kørende med fuld udrykning.

Hvis det virker, er det ikke en dum måde at styre sine ressourcer på.

Cristian Ambæk

Lad os vende den om og sige en mand ved fejl bliver placeret i det røde felt selvom at han burde være grøn. Tilkalder vi så SWAT, giver ham lidt peber spray og kaldet det en succes?

Der er så mange eksempler på data fejl men denne er jo ny så
http://www.version2.dk/blog/computere-regner-forkert-549634

Det er naturligvis heller aldrig sket at kvinder bliver en... lille smule hysteriske og unødvendigt ringer til ordensmagten. Så lad os koble det sammen med overstående og så har vi en fest

Re: Person of interest.
Der må vi da allerede være efter Prism med mere.

Anne-Marie Krogsbøll

Mogens Hansen og Christian Ambæk:

Jeg kan sagtens se begge jeres pointer. Hvis et sådant system altid bruges efter hensigten, og uden at man lægger den sunde fornuft og ansvarlighed på hylden, så kan det sikkert være en hjælp i nogle (ret sjældne?) situationer - men også med nogle gevaldigt store og farlige fejlkilder og faldgruber, efter min mening.

Det næste bliver vel, at "offeret" også udstyres med farekode (troværdighedskode), og derefter er et let offer, hvis politiet ukritisk læner sig op ad denne kode, når man ringer ind for hjælp.

Jeg må indrømme, at jeg mest er utryg ved det system - det vil nemt blive en sovepude, og det vil være uundgåeligt, at der opstår rigtigt mange fejl.

Bjarke Jørgensen

Siden oplysningstiden har den logiske positivisme , koblet med den teknologiske udvikling og den rendyrkede kapitalisme 'sået' jorden for en 'optimeringsrationalitet'. Nuancering passer ikke ind i denne rationalitet, og alt hvad der ikke kan kategoriseres eksisterer så at sige slet ikke.

Data fejl, usikkerhed, præcision af system, datasikkerhed osv. er alle ting vi diskuterer når noget nyt kommer frem, hvilket legitimerer systemet i sig selv. Med andre ord er vi nået forbi en diskussion om systemet overhovedet er etisk forsvarligt men diskuterer nu kun tekniske finesser ved det.

En oversimplificering af det autonome individ har konsekvenser - det er blot svært at se klart hvad disse konsekvenser er...

Anne-Marie Krogsbøll

Du har helt ret, Bjarke Jørgensen. "Rangordning" af mennesker på denne måde (jeg går ud fra, det er det, du mener?) er udtryk for et menneskesyn, som man må være meget på vagt overfor - og som desværre allerede har invaderet beslutningsprocesser alle steder i (konkurrence) - samfundet.

Bjarke Jørgensen

Ja, med andre ord muliggør de her tiltag ekstrem sekularisering i samfundende.

Lige pludselig falder en bydels boligpriser fordi der er overflod af 'røde' mennesker og de 'grønne' mennesker tør så heller ikke færdes der. Hvis man kigger statistisk på det, så er det måske mest ikke-hvide mennesker der præger de røde bjælker. Så kan man sige; jamen det er jo bare en fremlægning af virkeligheden - du kan jo ikke have noget imod fakta. Det er sandt det er en fremlægning af en bestemt virkelighed, men ikke den eneste. Dog den eneste der er gyldig i det prototypiske vestlige samfund.

Jeg er vis på at sådanne tiltag, effektive som de er, er med til at cementere bestemte fordomme og ensrette befolkninger.

Anne-Marie Krogsbøll

Gert Madsen:
Det har jeg ikke tænkt på - at det kan forstås på den måde. Måske har du ret. Jeg så for mig, at man brugte koden til at tage stilling til, hvor vigtigt det er at rykke ud til en given anmeldelse, men det kan jeg have misforstået.

I det skjulte har politiet jo allerede tilsyneladende en slags "koder", der prioriterer, hvem man vil komme til assistance - der har jo f.eks. været sager, hvor syge grønlændere har svært ved at få hjælp. Men den slags er jo forkasteligt, og må bekæmpes, det må ikke ligefrem gøres til anerkendt procedure.

Så jeg håber, at du har ret i din tolkning af dette.

Mogens Hansen

Jeg tror roligt at du kan regne med at rangeringen sker i forhold til venlighed/fjentlighed overfor politiet - ikke overfor offeret.


Det kommer sandelig an på omstændighederne. Med eller uden algoritmer, så foretager politiet* allerede i dag en vurdering, så snart de får adressen. Mange af de som ringer er jo desværre gengangere - og du kan tro, at betjentene med den viden i baghovedet har en holdning til, hvem det er på adressen, der er skør.

*De danske gør i hvert fald, ved jeg fra den seneste familie-komsammen. Mon ikke det samme gælder andre steder i verden?

Log ind eller opret en konto for at skrive kommentarer

JobfinderJob i it-branchen