Politikere i USA bekymrede over Amazons potentielt racistiske overvågningsprogram

En gruppe politikere fra Repræsentanternes Hus har i to åbne breve udtrykt bekymring over Amazons nye overvågningsprogram Rekognition, som markedsføres til politiet.

Medlemmer af the Congressional Black Caucus (CBC), en afroamerikansk sammenslutning af politikere i den amerikanske kongres, sendte i sidste uge et åbent brev til Amazon-topchef Jeff Bezos, hvor de udtrykker bekymring for brugen af Amazons nye deep learning-baserede overvågningssystem Rekognition.

Det skriver Washington Post.

Samtidig har to andre medlemmer af Kongressen sendt deres eget åbne brev (pdf), hvor de beder Amazon redegøre for en række forhold omkring Rekognition, blandt andet hvilke myndigheder som får adgang til systemet, og hvilke undersøgelser Amazon har foretaget af, om systemet har et bias i forhold til race, køn, alder og hudfarve.

Genkender bedst hvide mænd

Rekognition er baseret på en Deep Learning-algoritme, som skal hjælpe politiet med at identificere kriminelle ved hjælp af ansigtsgenkendelse. Men ansigtsgenkendelsesalgoritmer har en tendens til at være mere præcise for hvide mænd, og det bekymrer de amerikanske politikere.

Læs også: Ansigtsgenkendelse virker bedst for hvide mænd

Konsekvenserne af at blive misidentificeret af algoritmen kan være store for kvinder og afroamerikanere, da de risikerer at blive stemplet som kriminelle.

Algoritmen kan identificere op til 100 ansigter på et billede i real-time og sammenligner dem med en database på flere millioner billeder. Det bekymrer nonprofitorganisationen ACLU, som mener, at systemet kan komme til at overtræde folks konstitutionelle rettigheder.

Maskinerne overtager vores fordomme

Det er ikke første gang, diskussionen om racistiske algoritmer bliver taget op.

Rekognition er baseret på Deep Learning, som er en maskinlæringsproces, hvor en algoritme bliver trænet ud fra et datasæt til at identificere bestemte elementer i andre datasæt.

Problemet er, at et bias i algoritmens træningsdata vil medføre et tilsvarende bias i algoritmens udregninger. Det er en problemstilling, CBC sætter fokus på i deres åbne brev.

»Det er åbenlyst, at områder med mange ikke-hvide beboere bliver langt mere aggressivt kontrolleret af politiet end hvide områder. Denne status quo fører til en overrepræsentation af visse data, som, hvis de bliver brugt i et analytisk AI-framework, kan have en negativ effekt i de overrepræsenterede områder,« skriver de.

Det er før set, at amerikanske myndigheder gør brug af racistiske algoritmer, som straffer sorte hårdere end hvide, blandt andet i forbindelse med vurdering af kaution og prøveløsladelser.

Læs også: Amerikanske domstole bruger racistiske algoritmer

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (4)
Dave Pencroof

f.eks
"Konsekvenserne af at blive misidentificeret af algoritmen kan være store for kvinder og afroamerikanere, da de risikerer at blive stemplet som kriminelle."
I det afsnit skal "da" udskiftes med "så" for at få rette sammenhæng frem !

Det er dog fint at der er nogen der fokuserer på bias i algoritmer, (tænk hvis det var etniske afrikanere der genererede algoritmerne) så sad der måske overvældende mange "blegansigter" uretmæssigt indespærret, drop hudfarve, behandl alle lige, giv alle lige muligheder for et liv som den enkelte ønsker, (nej jeg tænker ikke et eller andet utopia, men at der er bred accept om at vi alle fra undfangelse har relativt lige potentialer), kik på fordomme og søg at rydde ud i så mange af disse som muligt, fordomme er et udtryk for manglende brug af intelligens !!

Hans Nielsen

kik på fordomme og søg at rydde ud i så mange af disse som muligt, fordomme er et udtryk for manglende brug af intelligens !!


Der sidder hvis nogle meget små mennesker, med racist tankegang . Uden meget empati, moral og etik blandt V2 læsere, siden du får tommel ned. Du får lige en op her fra.
Eller så besidder de andre store menneskelig mangler og evner, som at på at læse og se indad.
Eller langt ude af det asberske Aspergers kontinuum .

Så må jeg sige find en samlevers som kan banke lidt fornuft, etik og moral ind i jer. Selv om det kun bliver tillært og baseret på frygt og straf. Så virker det meget mere tiltalende for ens omgivelser :-)

PS: Det kunne også være på grund af din sprog fascisme ?

Log ind eller Opret konto for at kommentere
Pressemeddelelser

Welcome to the Cloud Integration Enablement Day (Bring your own laptop)

On this track, we will give you the chance to become a "Cloud First" data integration specialist.
15. nov 2017

Silicom i Søborg har fået stærk vind i sejlene…

Silicom Denmark arbejder med cutting-edge teknologier og er helt fremme hvad angår FPGA teknologien, som har eksisteret i over 20 år.
22. sep 2017

Conference: How AI and Machine Learning can accelerate your business growth

Can Artificial Intelligence (AI) and Machine Learning bring actual value to your business? Will it supercharge growth? How do other businesses leverage AI and Machine Learning?
13. sep 2017