Undersøgelse: Algoritmer har svært ved at genkende afroamerikanske og asiatiske ansigter

Algoritmer til ansigtsgenkendelse er langt mindre præcise, når det gælder om at identificere mennesker med asiatisk eller afroamerikansk baggrund end mennesker med lys hud.

Amerikanske National Institute of Standards and Technology (Nist) har testet 189 algoritmer til ansigtsgenkendelse fra 99 leverandører, heriblandt Intel, Microsoft, Toshiba og de kinesiske firmaer Tencent og DiDi Chuxing.

Algoritmerne har generelt sværere ved at identificere personer med afroamerikansk eller asiatisk baggrund sammenlignet med personer med lys hud.

Det oplyser BBC.

Når et billede af et ansigt tilhørende en afroamerikaner eller en asiat blev sammenlignet med et andet billede af det samme ansigt, ramte algoritmerne forkert mellem 10 og 100 gange oftere, end når det gjaldt mennesker med lys hud.

Hovedforfatter på rapporten Patrick Grother mener ifølge en meddelelse fra Nist, at det er fair at komme med en generel udtalelse om algoritmer til ansigtsgenkendelse på baggrund af undersøgelsen:

»Selvom det normalt ikke er korrekt at fremsætte udsagn på tværs af algoritmer, fandt vi empiriske beviser for eksistensen af demografiske forskelle i de fleste af ansigtsgenkendelsesalgoritmerne, vi undersøgte,« udtaler Patrick Grother ifølge Nist-meddelelsen og fortsætter:

»Selvom vi ikke undersøger, hvad der kan forårsage disse forskelle, vil disse data være værdifulde for beslutningstagere, udviklere og slutbrugere i forhold til at tænke over begrænsningerne for og en passende anvendelse af disse algoritmer.«

Falske positiver og negativer

Algoritmerne blev i Nist-undersøgelsen testet for to typer fejl:

Falske positiver, hvor softwaren fejlagtigt antog, at billeder af to forskellige personer forestiller den samme person. Og falske negativer, hvor softwaren ikke formår at matche to forskellige billeder af den samme person.

Kinesiske SenseTime er et af de firmaer, der klarede sig dårligt i undersøgelsen. Ifølge selskabet skyldes det bugs, der sidenhen er blevet rettet.

»Resultaterne afspejler ikke vores produkter, da de gennemgår en grundig test, før de kommer på markedet. Derfor rapporterer vores kommercielle løsninger alle en høj grad af nøjagtighed,« udtaler en talsperson fra SenseTime til BBC.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (1)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Tommy Calstrup

Er det kun amerikanere, med afrikansk oprindelse, der volder problemer, eller er det alle med afrikanske træk? Tæller personer fra det nordlige Afrika (Ægypten, Tunesien, Marokko) med? Hvor langt mod øst skal vi, før maskinerne får problemer, og kalder dem uigenkendelige asiater? Ved den kinesiske regering godt, at AI ikke kan se forskel på landets indbyggere?

  • 0
  • 0
Log ind eller Opret konto for at kommentere