Ansigtsgenkendelse fejler i amerikansk sag om butikstyveri: Anholdte sagsøger politiet

Ansigtsgenkendelsesteknologi bruges af flere politienheder i USA. Illustration: Milkos/Bigstock
En amerikansk mand blev sidste år anholdt, efter politiets ansigtsgenkendelsesteknologi fejlagtigt identificerede ham som butikstyv. Nu sagsøger han politiet.

Amerikaneren Robert Williams har lagt sag an mod politiet i byen Detroit, efter politiets ansigtsgenkendelsesteknologi fejlagtigt identificerede ham som tyv.

Det skriver The Washington Post.

Den 43-årige far blev arresteret sidste år og anklaget for at have stjålet ure fra en butik. Han blev lagt i håndjern foran sine døtre på 7 og 3 år og tilbageholdt i 30 timer.

Forud for anholdelsen sendte en efterforsker hos Detroits politi et sløret billede fra overvågningskameraer til statspolitiet i Michigan. Her konkluderede politiets ansigtsgenkendelsesteknologi, at billedet muligvis passede sammen med et af Robert Williams gamle kørekortsfoto.

Læs også: Endnu en amerikansk by tager afstand fra brugen af fejlfyldt teknologi til ansigtsgenkendelse

Selvom statspolitiets rapport understregede, at beviset ikke var nok til en anholdelse, har politiet i Detroit brugt materialet til at arrestere Robert Williams. Ifølge politichef James Craig, er der tale om dårligt efterforskningsarbejde:

»Dette er klart meget ringe efterforskningsarbejde. Der er ingen anden måde for mig at sige det på,« sagde han under et bestyrelsesmøde for politikommissærer i Detroit sidste juni.

»Hvis man kun stoler på ansigtsgenkendelsesteknologi, er der en stor risiko for, at den identificerer fejlagtigt.«

Tidligere studier, der har testet teknologiernes nøjagtighed, har konkluderet, at der er en højere risiko for fejlagtigt at identificere ansigtet på en mørk eller asiatisk person sammenlignet med en hvid person.

Læs også: Clearviews massive ansigts-database er nu ulovlig i europa

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (18)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#5 Bjarne Aagaard Hansen

Bare fordi at politiet i USA ikke kan finde ud af, at det ikke kunne bruges som bevisførelse i denne konkrete sag så betyder det jo ikke at ansigstgenkendelse ikke kan bruges effektivt. Min mobil bruger det hver dag, jeg logger på med det osv, min bank accepterer det, NEMID accepterer det, så selvfølgelig virker det da og det bliver bare bedre og mere sikkert. USA er nok ikke lige der man skal se hen hvis man vil se noget der virker, og politiet og retssystemet der, har jeg heller ikke megen fidus til. Det er Asien der er ledende med denne teknologi , som de også er og bliver endnu mere dominerende på AI. Europa må tage sig sammen, 80% af verdens chips produceres der, vi er totalt afhængige, det skal der gøres noget ved hurtigt. USA har set de er truet, men om de kan gøre noget der rykker er mere usikkert, det kan jo ikke løses med militær magt eller trusler.

  • 4
  • 14
#9 Flemming Dalsgaard

"Min mobil bruger det hver dag"

Hmm det vil jeg så nok mene er lidt et usikkert tiltag. Har set flere gange hvordan ansigtsgenkendelsen på iphone ikke kun låser telefonen op for ejeren selv men også for andre ansigter hvor både ansigts form og hår farver slet ikke matcher og det i typiske maddige hvide, nordisk vinter hud farver.

  • 2
  • 1
#10 Thomas Nielsen

Der er stor forskel på en mobiltelefon, som må forventes kun at blive udsat for et ganske lille antal ansigter, og et offentligt system hvor der kan være rigtigt mange mennesker der ligner hinanden. De fleste af os (der ikke er tvillinger) kender næppe mange i vores omgangskreds der ligner os, men det er forhåbentligt ikke nogen overraskelse at der i en større geografisk kreds kan være mange der ligner os godt nok biometrisk set til at blive falske positiver.

  • 9
  • 0
#14 Bjarne Nielsen

Politiet skal tage de to billeder og selv sammenligne dem, inden de tager ud og arresterer en mand.

Det er logik for perlehøns, og her har politiet alligevel opført sig ... ahem ... "dummere end politiet tillader" (tøhø).

Men, kære læsere af denne artikel og dette indlæg, bid mærke i det til næste gang, at man forsøget at forsvare eller afdramatisere indsættelsen af profileringsværktøjer, maskinlæring, og andre former for algoritmer med, at der kun er tale om støtte, og at der er så sandelig altid er "a human in the loop".

Og det især, når systemet som udgangspunkt faktisk er ret godt. For så er det helt menneskeligt at vænne sig til, at det har ret. Og selvom mennesker er som udgangspunkt hverken dumme eller dovne, så kan de nemt komme til at kede sig, hvis ikke systemet regelmæssigt tager fejl og skal korrigeres.

Plus at det er stort set risikofrit at nikke lodret til systemets afgørelser, og at det virkelig vil kræve sin m/k, at gå op imod systemet. Hvem tør lægge hovedet på blokken og insistere på, at der ikke skal tvangsfjernes trods det at systemet siger, at det skal der ... hvis det nu senere skulle vise sig at system alligevel (tilfældigvis) havde ret. Det er ikke karrierefremmende.

Heller ikke for den chef, som kommer til at skulle godkende dissensen. Der er nok noget som snakken, og der går ikke røg af en brand, og hvis det skulle vise sig at være forkert, så vil andre nok opdage det og sige fra. Mmm, mmm.

Så, kære læsere, pas på, når systemer bliver solgt på "kun til støtte" og "human in the loop" ... og især hvis disse systemer er velkonstruerede, og derfor sjældent tager fejl.

  • 14
  • 0
#16 Henrik Eriksen
  • 5
  • 0
#17 Martin Sørensen

Det er sådanset ligegyldigt om AI'en er biased i det her tilfælde. Politiet skal tage de to billeder og selv sammenligne dem, inden de tager ud og arresterer en mand.

Jeg har svært ved at tro at en manuel sammenligning af billedet hjælper synderligt meget. Så unikke er vores ansigter altså heller ikke, medmindre du har et meget unikt modermærke el. lign. Når ansigtgenkendelsen har lavet et match så ligner personerne sandsynligvis hinanden en del, så et ansigtmatch skal aldrig stå alene. Når man har en database med 1+ mia ansigter (hvis man kigger globalt over folk med nogenlunde samme hudfarve), så kan man nok altid finde flere der ligner en tilfældig person så godt at de fleste vil have svært ved at skelne dem.

  • 6
  • 0
Log ind eller Opret konto for at kommentere