Borgerrettighedsaktivister: Ansigtsgenkendelse førte til arrestation af uskyldig

Illustration: Bigstock
Politiet anholde en uskyldig mand i Detroit. Borgerrettighedsaktivister mener, at anholdelsen skete på baggrund af et fejlagtigt match i ansigtsgenkendelses software.

En gruppe borgerrettighedsaktivister fra The American Civil Liberties Union anklager politiet i Detroit for at have arresteret den forkerte mand, på baggrund af et fejlagtigt match i politiets ansigtsgenkendelse software. Det skriver Ars Technica.

Manden blev anholdt i forbindelse med efterforskningen af tyveri af fem ure. Politiet satte deres software til at scanne for billeder det matchede med de overvågningsbilleder der blev optaget af gerningsmanden. Ifølge softwaren matchede overvågningsbillederne med den billedet i den arresteredes kørekort.

Under afhøringen blev det imidlertid klart, at manden ikke var den skyldige.

Den seneste tid har ansigtsgenkendelse været diskuteret i USA ivrigt i forbindelse med Black Lives Matter demonstrationerne. Det er dokumenteret at teknologien oftere tager fejl, når det handler om ikke-hvide personer. Manden fra Detroit er sort.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (10)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Kenneth Schack Banner

Det handler vel om at softwaren ikker er optimeret til andet end 1 type hud farve.. Alting har en begyndelse, men som jeg også læser, så fandt de jo ud af det under afhøringen.. På sigt kan ansigtsgenkendelse jo være en stor fordel, men der kommer fejl undervejs og det er nok også sket før uden brug af ansigtsgenkendelse..

  • 6
  • 17
Jørgen L. Sørensen

Sker der virkelig aldrig forkerte anholdelser på baggrund af vidneudsagn?

Dette er ikke et forsvar for digital ansigtsgenkendelse --- jeg er også træt af alle de kameraer og andre tiltag som gør at man ikke kan bevæge sig frit, hverken fysisk eller digitalt uden det hele skal overvåges ...

  • 5
  • 0
Bjarne Nielsen

Der er klart et åbenlyst og teknisk relateret problem med, hvordan ansigtsgenkendelse virker. Men det egentlige problem her er vel, at politiet helt glemte at tilsætte sund fornuft!

Nu virker det til at artiklen hos Ars i høj grad tager udgangspunkt i den forudrettes klage, så der skal vi passe på, men vi har jo også herhjemme set vores politi have en overdreven og uberettiget tillid til deres tekniske systemers ufejlbarlighed, så det lyder ikke usandsynligt.

Og det i virkeligheden min største bekymring i det hele taget. Ikke bare for ansigtgenkendelse og ikke bare for ordensmagten, men i det hele taget: når systemerne initieres/leveres/implementere/ibrugstages, så er det altid med en forsikring om, at de ikke vil erstatte menneskelig rutine, viden og ekspertise, men udelukkende agere som et ekstra sæt øjne. Men virkeligheden er, at det ofte glemmes i praksis, og systemernes dom ofte kommer til at stå uimodsagt; om det skyldes de-skillling, dovenskab, arbejdspres eller andre meget menneskelige faktorer, som f.eks. "den plejer at have ret", er ikke til at sige, men det er super farligt.

Når det kombineres med, at det sikre valg vil være at gå med på det dyre systems konklusion, egne meninger til trods - og at en eventuel opposition vil kræve mod nok til at man udfordrer et system lavet af de bedste hjerner og trænet med millioner af praktiske eksempler - et system der sandsynligvis er bundet megen ledelsesmæssig prestige i at gøre til en succes - så er det næsten givet at systemets svar ikke bare bliver en "2nd opinion"; det bliver afgørelsen. "Nu noterer jeg her, at jeg synes at det ser mærkeligt ud, men så går vi for en sikkerheds skyld videre..."

Hvis man så efterfølgende bliver udfordret på beslutningen alligevel, så er det sjældent at systemet er til nogen hjælp, og så kan der i stedet bliver tale om efterrationalisering. "Der går sjældent røg af en brand uden ild", etc. For hvis man indrømmer at systemet tog fejl her, hvor kunne det så ellers have taget fejl? Det kan pludselige blive en skandale på linje med teleoplysningerne.

Hatten af for politiet i denne sag for trods alt at erkende, at hvis kort og terræn ikke passer, så er det som oftest terrænnet som er korrekt (citat fra Ars artiklen):

During an interrogation the next day, it became clear that Williams was not, in fact, the man from the security camera footage, according to the complaint, and a confused officer told him, "the computer must have gotten it wrong."

Det var bare heldigt, at han ikke havde en mobiltelefon i lommen eller på anden vis opførte sig mistænkeligt, da han blev anholdt. Og vi må håbe at hans arbejdsgiver er forstående.

  • 10
  • 1
Ole Tange Blogger

Det er trist, at man fokuserer på, at teknologien ikke er perfekt. For det sender det implicitte signal om, at hvis den var perfekt, så ville det være helt i orden at bruge ansigtsgenkendelse.

Jeg vil nødt have, at jeg ikke kan gå på gaden og være anonym, men jeg istedet er tracket alene fordi jeg ikke dækker mit ansigt.

Last Week Tonight har et afsnit om ansigtgenkendelse: https://www.dailymotion.com/video/x7uh9x3

Det er et af de IT-våben, som er for farlige.

  • 16
  • 0
Albert Nielsen

vi har jo også herhjemme set vores politi have en overdreven og uberettiget tillid til deres tekniske systemers ufejlbarlighed,

Tænker du evt. på danske mobilmaster, som iflg. politiets database var opstillet i Adenbugten?

https://www.version2.dk/artikel/ombyttede-koordinater-teledatasag-master...

eller er det måske

It-fejl hos politiet gav forkerte tidsangivelser på beviser i hundredvis af sager

https://www.version2.dk/artikel/it-fejl-hos-politiet-gav-forkerte-tidsan...

eller

Aktindsigt: Sådan havnede hundredevis af danskere fejlagtigt i politiets it-systemer

https://www.version2.dk/artikel/aktindsigt-saadan-havnede-hundredevis-da...

eller

Fejl hos politiet (sagsbehandlingsfejl i Polsas-systemet): 72 uskyldige er registreret sigtet i sager

https://www.berlingske.dk/samfund/fejl-hos-politiet-72-uskyldige-er-regi...

eller måske noget helt andet?

  • 0
  • 0
Albert Nielsen

når systemerne initieres/leveres/implementere/ibrugstages, så er det altid med en forsikring om, at de ikke vil erstatte menneskelig rutine, viden og ekspertise

Intet nyt under solen

For 52 år siden stod det klart, at menneskene skulle udføre tænkearbejdet og EDB-systemerne skulle levere rutinearbejdet.

Allerede dengang viste det sig, at EDB-systemerne i praksis udførte tænkearbejdet og at menneskene i sanseløs tillid til maskinerne leverede rutinearbejdet.

  • 4
  • 0
Claus Bobjerg Juul

Alting har en begyndelse

Jep alting har en begyndelse og har taler vi om overvågning og mistænkeliggørelse af uskyldig personer.

Jeg ønsker et samfund hvor jeg ikke bliver overvåget. Jeg smider så meget grus i maskineriget som jeg kan komme til (på lovlig vis). Jeg er fx logget ind på alle telefoner med samme konto, så leverandøren tror jeg er flere steder på samme tid og har meget brede preferancer.

  • 4
  • 0
Henrik Madsen

Det er trist, at man fokuserer på, at teknologien ikke er perfekt. For det sender det implicitte signal om, at hvis den var perfekt, så ville det være helt i orden at bruge ansigtsgenkendelse.

Det helt essentielle problem er jo at der ikke vil gå lang tid før at systemet som bliver solgt som et "Vi scanner alle ansigter op mod en database for at se om der er nogen der er eftersøgt" vil blive lavet om til et "Vi scanner alle ansigter og kører det op mod en database, så vi ved at "Jens Hansen" var på et givent sted på et givent tidspunkt og så gemmer vi det til evig tid".

Hvis nogen mener det nok er overdrevet så er det bare at henvise til ANPG systemet som jo netop blev solgt som en :

"hurtig måde at slå alle nummerplader op og give besked hvis noget er galt"

men hurtigt viste sig at være et :

"Vi registrerer lige alle nummerplader med lokation og tid og gemmer det til evig tid"

hvilket politikerne jo også har bevist at ANPG netop ER et masseregistreringsværktøj til at overvåge befolkningen, ved først at sætte faste kamera op, samtidig med dem på politibilerne men her senest at ville have ENDNU flere af de FASTE kamera'er op. Altså de kamera som ikke kan bruges til andet end masse registrering og overvågning da der jo ikke er nogen til at reagere på de eventuelle "hits" som disse kan generere.

Jeg vil nødt have, at jeg ikke kan gå på gaden og være anonym, men jeg istedet er tracket alene fordi jeg ikke dækker mit ansigt.

Det har de jo så også forbudt.

Men at det overhovedet skulle være nødvendigt at gå rundt tildækket ude i samfundet, for at undgå at blive overvåget og registreret uanset hvor man går, er jo i sig selv totalt sygt.

Den dag hvor politikerne når dertil må være dagen hvor vi begynder at lede efter lygtepæle at klynge dem op i.

  • 3
  • 0
Log ind eller Opret konto for at kommentere