Nyt studie: Let makeup kan snyde ansigtsgenkendelseskameraer

Illustration: Guetta et al.
Lægger man ved hjælp af makeup ansigtet i de rette folder, kan man snyde ansigtsgenkendelseskameraer, viser nyt studie.

Makeup, der er lagt på en »naturlig« måde, kan snyde ansigtgenkendelseskameraer. Det viser et studie fra Cornell University, der undersøger, hvordan makeup kan bruges som et såkaldt adversarial attack – en metode, der ændrer input-data og på den måde snyder machine-learning-algoritmer til ikke at kunne genkende objekter i for eksempel billeder.

Det skriver The Register.

»Da naturlig makeup ikke er fysisk iøjnefaldende, vil brugen ikke føre til mistanke. Vores metode viser, at »naturligt udseende« makeup, der, når det lægges på en »angribers« ansigt, skjuler hans/hendes identitet for et ansigtsgenkendelseskamera,« skriver forskerne bag studiet i en rapport.

I studiets lille eksperiment, der blev udført på ti mænd og ti kvinder i alderen 20 til 28, var ansigtsgenkendelseskameraerne kun i stand til at identificere deltagere med »adversarial makeup« korrekt i 1,22 procent af tilfældende.

Resultaterne skal dog tages med et gran salt. Det ansigtsgenkendelseskamera, der blev brugt i eksperimentet, var kun i stand til at identificere deltagere uden makeup korrekt i 47,57 pct. af tilfældene, og da makeuppen blev lagt tilfældigt i 33,73 pct. af tilfældene.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (2)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#2 Bjarne Nielsen

Nu er man åbenbart en "angriber", når man forsøger at forsvare sig.

Det er nok fordi, at man prøver at oversætte et fagterm. "Adverserial attacks" er når der aktiv manipulation forsøges - kald det selvforsvar, hacking eller hærværk - det er vist den gamle diskussion om frihedskæmper vs terrorist.

Anyway, så er der her tale om et "blackbox adversial attack", hvor de ikke har haft direkte kendskab til indholdet i ansigtsgenkendelse, men har gætte på den bagvedliggende teknik - og ud fra det ræsonneret at næsens form nok var af stor betydning, og derfor et godt sted at sætte ind. Det er selvsagt langt mere opsigtsvækkende, end hvis de havde kunnet åbne kassen for at lede efter problemer. Og langt mere realistisk og dermed alvorligt.

Men al makeup er vel et forsøg på at manipulere udseendet, og for nogle er der faktisk ret stor forskel på med hhv. uden, også uden at den iagttagende intelligens forventes at være kunstig.

Det interessante her er vel, hvor "naturligt" det er. Der er set eksempler med papegøjefarvede briller og t-shirts, og det vil nok vække opsigt. Der er også set eksempler på "one-pixel attacks" på billedgenkendelse, og strategisk placerede klistermærker på vejskilte, som ledte selvkørende biler ud i fatale misforståelser (og ditto falske "vejstriber", som slet ikke var vejstriber, og kun var der en brøkdel af et sekund). Så jo mindre iøjnefaldende forsøg på manipulationen er, og dermed tilsvarende mindre sandsynlig at vække mistanke, jo mere alvorligt er det.

Men det er også interessant, hvor stor usikkerhed der ellers er, uden at nogen aktivt prøver på det. Jeg husker historien om en udlejer i USA, som installerede ansigtsgenkendelse for at lukke folk igennem fordøren ... en ansigtsgenkendelse, som sjovt gjorde livet surt for de sorte lejere. Bug eller feature?

  • 1
  • 0
Log ind eller Opret konto for at kommentere