Londons ansigtsgenkendelse giver 98 pct. falske hits: »Offentligheden forventer, at vi bruger det«

6. juli 2018 kl. 14:5319
Londons ansigtsgenkendelse giver 98 pct. falske hits: »Offentligheden forventer, at vi bruger det«
Illustration: John D Williams / Bigstock.
Ud af de 100 første ansigter genkendt af Londons nye system til ansigtsgenkendelse, er kun to korrekte. Ingen af de to var efterlyst.
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Et storstilet forsøg med ansigtsgenkendelse i den britiske hovedstad har indtil videre ikke ledt til anholdelser. Systemet har 100 gange oplyst politiet om et genkendt ansigt fra deres databaser, men i 98 af tilfældene var der tale om fejlmatches, mens et enkelt ansigt stammede fra en forældet database. Det skriver britiske The Register.

Det sidste af de 100 ansigter tilhørte en mand, der tidligere havde vakt politiets opmærksomhed, men som hverken var dømt eller efterlyst. Det viser data, som organisationen Big Brother Watch har fået aktindsigt i hos de britiske myndigheder.

Ansigtsgenkendelsesteknologien bliver testet af det britiske politi til blandt andet fodboldkampe, koncerter, festivaller og andre begivenheder.

De ringe resultater afskrækker imidlertid ikke politichefen i London. Hun argumenterer med, at offentligheden forventer, at politiet tager den seneste teknologi i brug.

Artiklen fortsætter efter annoncen

»Det er ét værktøj – én taktik. Jeg forventer ikke, at den resulterer i mange anholdelser,« vurderer politichefen over for The Register.

Samtidig forsvarer Cressida Dick – med en del kringlede forbehold – brugen af ansigtsgenkendelse:

»Hvis der er en teknologi, vi lovligt kan bruge – hvilket vi kan med denne her – som også er tilgængelig og som vi benytter med masser af sikkerhedsforanstaltninger og der samtidig er en opfattelse af, at teknologien kun bliver brugt under visse forudsætninger til at identificere folk op mod en lille liste af eftersøgte syndere bag alvorlige forbrydelser, så tror jeg, at offentligheden vil forvente, at vi overvejer hvordan vi kan bruge den teknologi og se om den er virksom og effektiv for os. Og det er præcis hvad vi gør.«

Anvendes også i Danmark

Ifølge The Verge skyldes den høje fejlrate i genkendelsen, at teknologien endnu ikke er tilstrækkeligt udviklet til at kunne bruges på mindre opstillede billeder end de pasbilleder, ansigtsgenkendelse indtil videre har størst succes med.

Artiklen fortsætter efter annoncen

I Danmark er politiet også begyndt at bruge ansigtsgenkendelse, afslørede en artikel i Ekstra-Bladet for nylig. Dansk politi er dog væsentligt mindre åbne om brugen og succesraten, end det er tilfældet hos de britiske kollegaer.

»Som alle andre teknologiske fremskridt vurderer vi i politiet, hvordan vi kan bruge det i for eksempel efterforskningen,« sagde vicepolitiinspektør og operativ chef i NC3, Niels Denny Sørensen, ved den lejlighed til Ekstra Bladet.

»Det har vi også gjort med teknologien til ansigtsgenkendelse. Og ja, vi både kender og bruger teknologien, men af politifaglige grunde ønsker vi ikke at løfte sløret for, hvor meget og på hvilke områder,« fortsatte han over for avisen.

19 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
18
10. juli 2018 kl. 11:25

Den liste burde være manifest for et nyoprettet politisk parti.

17
9. juli 2018 kl. 11:00

af politifaglige grunde ønsker vi ikke at løfte sløret for, hvor meget og på hvilke områder

Læs, vi som politi (myndighed) vil overvåge befolkningen, men selv samme befolkning må ikke kende præmissen, og vi gemmer os selv bag mørkelygten.

Ikke befordrende for den tillid som allerede er stærkt eroderet.

16
9. juli 2018 kl. 09:45

Det er en success, når Danmark skal være en politistat, hvor grundloven, almindelige love og kendelser fra EU-forordninger ignoreres, sådan som vi har set adskillige eksempler på i de seneste år.

Et b eskedent udpluk af offentlige lovovertrædelser:

Kritisk svar om et omstridt lovudkast til Folketinget blev først udleveret, da ministeriet blev klar over, at det ville blive afsløret Socialministeriet frikender sig selv Statsstøtte på 244 millioner uddeles ulovligt og i det skjulte Folketingspolitikere har mistet tilliden til Justitsministeriet Regeringen mørklægger asylbrøler Justitsministeriet på kant med loven Kulturministeriet bryder ofte loven ved indkøb Transportministeriet forsøgte at ændre Rigsrevisionens kritik Transportministeriet afviste i seks uger at udlevere notat til Rigsrevisionen FET foretog ulovlige søgninger i Danmark Politiet erkender omfattende, sandsynligvis ulovlig, overvågning af bilister Ministerium videregav ikke centrale oplysninger til politiet i sag om kvotekonger Forsvundne dokumenter og vildledende oplysninger: »Der er så mange alvorlige svigt« = Statsrevisorerne udtrykker på usædvanlig vis den hårdest mulige kritik af Miljø- og Fødevareministeriets forvaltning af fiskekvoter Politiet var ni år om at slette ulovlig aflytning Politiet afviser sag om ulovlig indsamling af patientdata: Den er blevet væk for os Folketinget tvinger i strid med EU-lovgivning i dine private data ud af Danmarks Statistiks databaser

Tibetsagen, bl.a. Tibetkommissionen fik ikke adgang til ministres mails Politiadvokat er dybt forundret over Papes svar i Tibet-sag Politiledere står frem: Vi har i årevis snydt demonstranter ved Kina-besøg Mistanke om forsøg på at skjule Tibet-mails skal kun måske undersøges Pape friholder centrale PET-medarbejdere fra ny Tibet-undersøgelse

86.000 danskeres dna opbevares ulovligt i USA Styrelse bag elevundersøgelse: Vi mente ikke anonym i persondata-retslig forstand Minister nægter ansvar for vaccine-fadæsen Data om unges sexliv og kriminalitet indsamlet ulovligt PET gemmer slettede data i skjult lager Ministerium bryder loven: Signalprogrammets granskning mørklagt Venstre ser intet problem i departementschefs vejledning i at undgå offentlighed På 8. år gemmer Rigspolitiet ulovligt tusinder af fingeraftryk Forsvarets Efterretningstjeneste fortsætter ulovlig søgning på personer

14
9. juli 2018 kl. 08:54

Hvis de 2% ægte positive åbenlyst ikke er godt nok, så bliver det nok aldrig godt nok.

Det er ikke godt nok. Når man prøver at finde de få blandt de mange, så vil der helt naturligt komme mange falske positiver, og det er netop det, som vi ikke bare skal trække på skuldrene af. Det skal vi tage alvorligt.

Eller er "hellere lade 10 skyldige gå fri end at dømme en uskyldig" blevet til "hellere genere 49 uskyldige end at overse en skyldig"?

I øvrigt var det samlede systems nøjagtighed kun 1 ud af 100, for det var født med dårlige data. Og det viser øvrige erfaringen er ganske almindeligt: politiets registre er langt fra fejlfrie.

Men uanset, så er det ikke godt nok, at politiet skal stoppe 50-100 for at finde en kriminel. At blive stoppet af politiet på den måde er et overgreb, og i særlig grad når a priori antagelsen er, at man er en farlig eftersøgt. Det er ikke bare en "må vi se dit kørekort" situation.

Og tænk lige over det - hvad mon der sker næste gang en af de 99 uskyldige viser sig offentligt. Skal de så stoppes igen? Og igen? Eller skal vi bare mene, at de selv er ude om, at de ligner en kriminel, og at det da også er meget fedt at se fodboldkampe og lovlige demonstrationer hjemme fra sofaen? Eller skal vi tilbyde dem gratis plastic-kirurgi på statens regning?

Så nej, 2% er slet ikke godt nok, og kan det ikke blive markant bedre, så må vi finde noget andet at bruge den teknologi til.

11
8. juli 2018 kl. 21:23

--- banen er ligesom ved at være tegnet op til fremtiden, ikke?

Next up: det bliver ulovligt at bære 'falsk' skæg. Så kan man filosofere lidt over hvad det overhovedet betyder...

10
8. juli 2018 kl. 20:13

Jeg synes ikke, at 98% falske positiver lyder til at være virkeligt lavt.

Jeg troede egentlig det ville have været klart ud fra mit indlæg, men jeg bruger ikke 'rate af falske positive' som andelen af positive resultater der er falske positive. Jeg mente andelen af ikke-eftersøgte der bliver identificeret af testen som eftersøgte. Jeg burde måske have angivet det tydeligere, når den linkede artikel bruger en anden definition.

Eksempel: Hvis der scannes 100000 - hvoraf 1 er eftersøgt, og systemet hitter på ham samt 49 ikke-eftersøgte, så er ægte positiv rate 100%, falsk negativ rate 0%, ægte negativ rate 99,95% og falsk positiv rate 0,049%. Der er i alt 50 positive, hvoraf 49/50 = 98% er falske positive.

Jeg ved ikke om 0,049% er virkelig lavt, men artiklen lægger op til at det er alt alt for højt, så...

9
8. juli 2018 kl. 14:10

Det her gør mig i øvrigt ikke mere tryg:

...identificere folk op mod en lille liste af eftersøgte syndere bag alvorlige forbrydelser...

Det betyder, at man har helikopterne og indsatsstyrken fremme, også når der tages fejl. Det er lidt sent at sige undskyld, når først ulykken er sket.

Eller endnu værre, så bliver der råbt "ulven kommer" så mange gange, at man ikke længere tager det alvorligt, og så lader man istedet centervagten gå hen til eftersøgte kriminelle bag alvorlige forbrydelser, for at prikke dem på skulderen og sige: "politiet siger at du er efterlyst...!"

7
8. juli 2018 kl. 13:00

Det er jo helt klassisk at raten af falske positive skal være virkelig lav for ikke at drukne i forkerte resultater når det man leder efter er sjældent. Og eftersøgte udgør vel næppe meget mere end fx. 1 ud af 100000 scannede når man bruger det på tilfældige gæster til sport og musikevents.

Hvis de 2% ægte positive åbenlyst ikke er godt nok, så bliver det nok aldrig godt nok.

6
7. juli 2018 kl. 14:24

Ansigtsgenkendelse fungere ikke, men de bruger det fordi folk forventer det. "De ringe resultater afskrækker imidlertid ikke politichefen i London. Hun argumenterer med, at offentligheden forventer, at politiet tager den seneste teknologi i brug." Bruger de resourcer på andre teknologier der ikke dur? bare fordi nogle sælgere har solgt systemet til offentligheden.

5
7. juli 2018 kl. 11:21

Det er klart at det ikke virker. De bruger hverken Cloud eller BlockChain :)

4
6. juli 2018 kl. 17:44

"kun bliver brugt under visse forudsætninger til at identificere folk op mod en lille liste af eftersøgte syndere bag alvorlige forbrydelser"

Ja og fartkamera skulle kun opsættes på farlige steder, og aldrig bruges til anden. Som at se om der bliver talt i mobil, eller om der er brugt sele.

3
6. juli 2018 kl. 17:15

Hvis udgangspunktet er at en person skal gennemse mange timers overvågning for at finde et ansigt, så vil et system, der kan lave en grovsortering stadig være en forbedring. Til det formål er det vigtigste blot at systemet ikke får sorteret det interessante fra. Dvs. at det giver mening at indstille systemet til at være relativt følsomt.

2
6. juli 2018 kl. 16:40

Det er stadig meget ny software og har kun 40 punkter som er alt for lidt, der er mange der ligner hinanden, så der er brug for ca 1000 punkter før det kan tages seriøst.

1
6. juli 2018 kl. 15:41

Eller kunne teknikken bruges til at identificere de betjente, som Københavns Politi IKKE kunne identificere, selv om de for længst havde henvendt sig til ledelsen (det var noget med en menneskelig forveksling af en flyttemand med en terrorist)?

Altså på et eller andet tidspunkt begynder nogle private at samkøre videodata med fotos over kendte civile politifolk, fjendtlige bandemedlemmer og folk i gæld til rockere. Helt ulovligt og komplet uigennemsigtigt. Teknikken er jo ikke hemmelig eller urimeligt svær at bruge, man skal "bare" have en solid nok database (som er pakket godt ind i kryptering). Kameraerne er der i forvejen. Man kan endda bruge systemet til meget værre ting (jeg undlader).

Jeg vil ikke påstå, at jeg ser frem til det.