Endnu en amerikansk by tager afstand fra brugen af fejlfyldt teknologi til ansigtsgenkendelse
Problemer med bias over for borgere med mørk hudfarve eller latinamerikansk ophav har fået politikerne i Menneapolis til at indføre et forbud mod brugen af ansigtsgenkedelsesteknologi for både politi og andre myndigheder.
Beslutningen blev truffet i fredags, og dermed melder den amerikanske by sig nu i koret af byer som Portland og Boston, der også har valgt at forbyde den kontroversielle teknologi.
Det skriver den største avis i Minnesota, Star Tribune.
I en udtalelse gør politichefen i Minneapolis, Medaria Arradondo, det klart, at han er utilfreds med beslutningen, der er truffet uden, at han er blevet inddraget. Men selvom forbuddet ikke er ligeså skrapt som i Portland, så gælder forbuddet i Minneapolis også brugen af samarbejdspartnere som blandt andet omstridte Clearview AI, der har fået voldsom kritik for at sammenholde billeder af folks ansigter med deres enorme database baseret på billeder fra Facebook, YouTube og Google.
Og forbuddet får vrkning, fordi myndighederne allerede har taget værktøjet i brug. Star Tribune har i deres arbejde med sagen fundet ud af, at der er blevet foretaget 1.000 søgninger i systemet siden 2018.
William McGeveran, der er juraprofessor på University of Minnesota fortæller til Star Tribune, at der er stigende bekymring og behov for, at algoritmers bias overfor rase studeres nærmere set i lyset af brugen af den nye teknologi.
Han mener, at det på sigt kan gøre teknologien mere brugbar, men det kræver som sagt, at der rettes op på netop de racemæssige bias-udfordringer.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
