Borgerrettighedsaktivister: Ansigtsgenkendelse førte til arrestation af uskyldig

Illustration: Bigstock
Politiet anholde en uskyldig mand i Detroit. Borgerrettighedsaktivister mener, at anholdelsen skete på baggrund af et fejlagtigt match i ansigtsgenkendelses software.

En gruppe borgerrettighedsaktivister fra The American Civil Liberties Union anklager politiet i Detroit for at have arresteret den forkerte mand, på baggrund af et fejlagtigt match i politiets ansigtsgenkendelse software. Det skriver Ars Technica.

Manden blev anholdt i forbindelse med efterforskningen af tyveri af fem ure. Politiet satte deres software til at scanne for billeder det matchede med de overvågningsbilleder der blev optaget af gerningsmanden. Ifølge softwaren matchede overvågningsbillederne med den billedet i den arresteredes kørekort.

Under afhøringen blev det imidlertid klart, at manden ikke var den skyldige.

Den seneste tid har ansigtsgenkendelse været diskuteret i USA ivrigt i forbindelse med Black Lives Matter demonstrationerne. Det er dokumenteret at teknologien oftere tager fejl, når det handler om ikke-hvide personer. Manden fra Detroit er sort.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (16)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#1 Kenneth Schack Banner

Det handler vel om at softwaren ikker er optimeret til andet end 1 type hud farve.. Alting har en begyndelse, men som jeg også læser, så fandt de jo ud af det under afhøringen.. På sigt kan ansigtsgenkendelse jo være en stor fordel, men der kommer fejl undervejs og det er nok også sket før uden brug af ansigtsgenkendelse..

  • 6
  • 17
#5 Jørgen L. Sørensen

Sker der virkelig aldrig forkerte anholdelser på baggrund af vidneudsagn?

Dette er ikke et forsvar for digital ansigtsgenkendelse --- jeg er også træt af alle de kameraer og andre tiltag som gør at man ikke kan bevæge sig frit, hverken fysisk eller digitalt uden det hele skal overvåges ...

  • 5
  • 0
#6 Bjarne Nielsen

Der er klart et åbenlyst og teknisk relateret problem med, hvordan ansigtsgenkendelse virker. Men det egentlige problem her er vel, at politiet helt glemte at tilsætte sund fornuft!

Nu virker det til at artiklen hos Ars i høj grad tager udgangspunkt i den forudrettes klage, så der skal vi passe på, men vi har jo også herhjemme set vores politi have en overdreven og uberettiget tillid til deres tekniske systemers ufejlbarlighed, så det lyder ikke usandsynligt.

Og det i virkeligheden min største bekymring i det hele taget. Ikke bare for ansigtgenkendelse og ikke bare for ordensmagten, men i det hele taget: når systemerne initieres/leveres/implementere/ibrugstages, så er det altid med en forsikring om, at de ikke vil erstatte menneskelig rutine, viden og ekspertise, men udelukkende agere som et ekstra sæt øjne. Men virkeligheden er, at det ofte glemmes i praksis, og systemernes dom ofte kommer til at stå uimodsagt; om det skyldes de-skillling, dovenskab, arbejdspres eller andre meget menneskelige faktorer, som f.eks. "den plejer at have ret", er ikke til at sige, men det er super farligt.

Når det kombineres med, at det sikre valg vil være at gå med på det dyre systems konklusion, egne meninger til trods - og at en eventuel opposition vil kræve mod nok til at man udfordrer et system lavet af de bedste hjerner og trænet med millioner af praktiske eksempler - et system der sandsynligvis er bundet megen ledelsesmæssig prestige i at gøre til en succes - så er det næsten givet at systemets svar ikke bare bliver en "2nd opinion"; det bliver afgørelsen. "Nu noterer jeg her, at jeg synes at det ser mærkeligt ud, men så går vi for en sikkerheds skyld videre..."

Hvis man så efterfølgende bliver udfordret på beslutningen alligevel, så er det sjældent at systemet er til nogen hjælp, og så kan der i stedet bliver tale om efterrationalisering. "Der går sjældent røg af en brand uden ild", etc. For hvis man indrømmer at systemet tog fejl her, hvor kunne det så ellers have taget fejl? Det kan pludselige blive en skandale på linje med teleoplysningerne.

Hatten af for politiet i denne sag for trods alt at erkende, at hvis kort og terræn ikke passer, så er det som oftest terrænnet som er korrekt (citat fra Ars artiklen):

During an interrogation the next day, it became clear that Williams was not, in fact, the man from the security camera footage, according to the complaint, and a confused officer told him, "the computer must have gotten it wrong."

Det var bare heldigt, at han ikke havde en mobiltelefon i lommen eller på anden vis opførte sig mistænkeligt, da han blev anholdt. Og vi må håbe at hans arbejdsgiver er forstående.

  • 12
  • 1
#7 Ole Tange Blogger

Det er trist, at man fokuserer på, at teknologien ikke er perfekt. For det sender det implicitte signal om, at hvis den var perfekt, så ville det være helt i orden at bruge ansigtsgenkendelse.

Jeg vil nødt have, at jeg ikke kan gå på gaden og være anonym, men jeg istedet er tracket alene fordi jeg ikke dækker mit ansigt.

Last Week Tonight har et afsnit om ansigtgenkendelse: https://www.dailymotion.com/video/x7uh9x3

Det er et af de IT-våben, som er for farlige.

  • 18
  • 0
#8 Albert Nielsen

vi har jo også herhjemme set vores politi have en overdreven og uberettiget tillid til deres tekniske systemers ufejlbarlighed,

Tænker du evt. på danske mobilmaster, som iflg. politiets database var opstillet i Adenbugten?

https://www.version2.dk/artikel/ombyttede-koordinater-teledatasag-master...

eller er det måske

It-fejl hos politiet gav forkerte tidsangivelser på beviser i hundredvis af sager

https://www.version2.dk/artikel/it-fejl-hos-politiet-gav-forkerte-tidsan...

eller

Aktindsigt: Sådan havnede hundredevis af danskere fejlagtigt i politiets it-systemer

https://www.version2.dk/artikel/aktindsigt-saadan-havnede-hundredevis-da...

eller

Fejl hos politiet (sagsbehandlingsfejl i Polsas-systemet): 72 uskyldige er registreret sigtet i sager

https://www.berlingske.dk/samfund/fejl-hos-politiet-72-uskyldige-er-regi...

eller måske noget helt andet?

  • 2
  • 0
#9 Albert Nielsen

når systemerne initieres/leveres/implementere/ibrugstages, så er det altid med en forsikring om, at de ikke vil erstatte menneskelig rutine, viden og ekspertise

Intet nyt under solen

For 52 år siden stod det klart, at menneskene skulle udføre tænkearbejdet og EDB-systemerne skulle levere rutinearbejdet.

Allerede dengang viste det sig, at EDB-systemerne i praksis udførte tænkearbejdet og at menneskene i sanseløs tillid til maskinerne leverede rutinearbejdet.

  • 5
  • 0
#11 Claus Bobjerg Juul

Alting har en begyndelse

Jep alting har en begyndelse og har taler vi om overvågning og mistænkeliggørelse af uskyldig personer.

Jeg ønsker et samfund hvor jeg ikke bliver overvåget. Jeg smider så meget grus i maskineriget som jeg kan komme til (på lovlig vis). Jeg er fx logget ind på alle telefoner med samme konto, så leverandøren tror jeg er flere steder på samme tid og har meget brede preferancer.

  • 7
  • 0
#12 Henrik Madsen

Det er trist, at man fokuserer på, at teknologien ikke er perfekt. For det sender det implicitte signal om, at hvis den var perfekt, så ville det være helt i orden at bruge ansigtsgenkendelse.

Det helt essentielle problem er jo at der ikke vil gå lang tid før at systemet som bliver solgt som et "Vi scanner alle ansigter op mod en database for at se om der er nogen der er eftersøgt" vil blive lavet om til et "Vi scanner alle ansigter og kører det op mod en database, så vi ved at "Jens Hansen" var på et givent sted på et givent tidspunkt og så gemmer vi det til evig tid".

Hvis nogen mener det nok er overdrevet så er det bare at henvise til ANPG systemet som jo netop blev solgt som en :

"hurtig måde at slå alle nummerplader op og give besked hvis noget er galt"

men hurtigt viste sig at være et :

"Vi registrerer lige alle nummerplader med lokation og tid og gemmer det til evig tid"

hvilket politikerne jo også har bevist at ANPG netop ER et masseregistreringsværktøj til at overvåge befolkningen, ved først at sætte faste kamera op, samtidig med dem på politibilerne men her senest at ville have ENDNU flere af de FASTE kamera'er op. Altså de kamera som ikke kan bruges til andet end masse registrering og overvågning da der jo ikke er nogen til at reagere på de eventuelle "hits" som disse kan generere.

Jeg vil nødt have, at jeg ikke kan gå på gaden og være anonym, men jeg istedet er tracket alene fordi jeg ikke dækker mit ansigt.

Det har de jo så også forbudt.

Men at det overhovedet skulle være nødvendigt at gå rundt tildækket ude i samfundet, for at undgå at blive overvåget og registreret uanset hvor man går, er jo i sig selv totalt sygt.

Den dag hvor politikerne når dertil må være dagen hvor vi begynder at lede efter lygtepæle at klynge dem op i.

  • 6
  • 0
#15 Henrik Madsen

Der er en overvægt af sorte personer der kommer til skade eller dør når de anholdes (i USA).

Men så er spørgsmålet om man bare skal konkludere at det også bare er fordi politiet er ekstremt racistiske derovre.

Hvad med andre parametre.....Gør sorte meget mere modstand når de bliver anholdt. Altså er de "selv skyld i" at politiet er nødt til at tage hårdere fat i dem og det nogen gange går galt.

Misforstå mig ikke, de sager der har været fremme i medierne, er det jo klart at politimanden overreagerer og bruger alt for meget magt, men kan vi ud fra et par sager eller 5 konkludere at flere kommer til skade pga. politibrutalitet, eller er det kun de sager der vises frem.

Ikke for at trække en enkelt sag frem og sige "hey, se de er allesammen sådan her", men hvis du ser det nedenstående klip fra England, hvor en sort mand på en Motorcykel som viser sig at være narkokurer, slås med politiet og forsøger at stikke øjet ud på betjenten med en nøgle.

Hvis en anholdt kæmper imod som ham har, er det så stadigvæk politivold, hvis han kommer "til skade" under anholdelsen.

  • 2
  • 0
#16 Denny Christensen

Jeg er ikke uenig i at der i nogle tilfælde vil være personer der modsætter sig anholdelse, jeg angiver blot at antallet af tilskadekomne og døde kan stige (statistisk) hvis antallet af anholdelser, herunder af de forkerte personer der bliver pikerede over at blive anholdt, stiger.

  • 0
  • 0
#17 Henrik Madsen

Jeg er ikke uenig i at der i nogle tilfælde vil være personer der modsætter sig anholdelse, jeg angiver blot at antallet af tilskadekomne og døde kan stige (statistisk) hvis antallet af anholdelser, herunder af de forkerte personer der bliver pikerede over at blive anholdt, stiger.

Helt enig.

Vi ser jo også her i Danmark at visse grupperinger er sværere for politiet at anholde, de modsætter sig generelt anholdelse og hvis ikke politiet er nok, så risikerer de at blive overfaldet.

Samtidig er de samme grupperinger ofte meget hurtige til at trække diverse racisme rettede kort, selvom der intet racistisk er i at anholde en "sort" mand som har overtrådt loven.

  • 2
  • 0
#18 Denny Christensen

Til spørgsmålet om det er politivold eller ej skal der en konkret sag og et retssystem til at vurdere om den magtanvendelse en betjent har lov til stemmer overens med den magtanvendelse der er anvendt i den givne situation.

Altså et rigtigt ikke-svar fra min side :-) Som borger i Danmark (og givet også andre steder) må man ikke modsætte sig en anholdelse fra en person der tydeligt er identificeret som kommende fra politiet. Og der er givet også andre instanser der kan dette, told, hjemmeværn, etc.

Og ja hvis man modsætter sig anholdelse og politi personen skal anvende magt risikerer man at komme til skade.

  • 1
  • 0
Log ind eller Opret konto for at kommentere