En mangel på kvinder og minioriteter i feltet for udviklingen af AI-systemer er en "diversitetskatastrofe" ifølge undersøgelse, der påpeger, at underrepræsentationen vil føre til fejlfyldte systemer.
Det skriver Theguardian.com
AI Now Institute, et center for undersøgelse på New York University, har i en ny undersøgelse indsamlet data fra mere end 150 studier og rapporter, hvor man blandt andet citerer eksempler på AI-systemer, der ikke har været i stand til at genkende brugere med mørkere hudfarve, samt chatbots, der begyndte at udtrykke hadeful retorik. På baggrund af undersøgelsen har man givet selve udviklerne af AI-systemer en stor del af ansvaret for, at de forskellige teknologier har været i stand til at udvikle diskriminerende eller hadeful tendenser.
Ifølge rapporten er mere end 80 pct. af professorer inde for feltet kaukasiske mænd, og Kate Crawford, der er medforfatter til undersøgelsen, mener, at industrien har travlt med lægge kursen om i forhold til udviklingen af fremtidige AI-systemer.
»Brugen af AI-systemer til det formål at klassificere, opdage og forudsige race og køn har et akut behov for at blive reevalueret,« siger Kate Crawford.