Indhold fra DataTech
Dette indlæg er alene udtryk for skribentens egen holdning.
Er der ingen grænser for, hvad AI skal have skylden for?
Illustration: C2IT.
Blogindlæg4. februar 2021 kl. 09:00
Ældre end 30 dage
AI, eller på godt dansk kunstig intelligens, er en teknologi, der rummer utallige muligheder og måske i fremtiden vil kunne løse universets gåde. Men kunstig intelligens er ’bare’ udnyttelse af computerkraft til at huske og bearbejde store datamængder – intet andet.
Så når jeg her på Version2 for nylig kunne læse, at New York City nu overvejede at indføre en ny lov mod AI- diskrimination i forbindelse med rekrutteringsprocesser, så står jeg lidt uforstående overfor, hvad man kan finde på at lovgive omkring.
Ifølge lovforslaget skal virksomheder være forpligtet til at informere jobansøgere, hvis virksomheden har benyttet AI i udvælgelsesprocessen af kandidater. Årsagen er, at denne form for AI-hjulpet udvælgelse tidligere har vist sig at diskriminere mod nogle samfundsgrupper.
Artiklen fortsætter efter annoncen
Diskrimination og alle andre former for uretfærdighed bør naturligvis bekæmpes med hård hånd, og det er slet ikke umuligt, at AI kan have denne negative effekt på en ansættelsesproces. Men et eller andet sted undervejs i processen har et menneske været inden over og har defineret og valgt at benytte den algoritme, der diskriminerer mod for eksempel kvinder, farvede eller +50-årige.
Kunstig intelligens eller ej, så ændrer det ikke ved det faktum, at man ikke ønsker at ansætte personer fra disse samfundsgrupper. Selvom screeningsprocessen var foregået på gammeldags manér uden AI, og udvalget af kandidater havde spændt bredt over alle samfundsgrupper, så afhænger valget i sidste ende stadig af den HR-chef, der sidder overfor kandidaten og skal træffe beslutningen. Hvis HR-chefen ikke specifikt går efter en kaukasisk mand i slutningen af 30’erne, så må det da vække undren, at hele feltet af ansøgere er ryddet for eksempel for kvinder i den fødedygtige alder.
Derfor er det nu en gang min tese, at der står mennesker bag udvælgelsen – både først og sidst i processen. Og at man så anvender AI til at komme hele bunken af ansøgninger igennem, i stedet for at springe halvdelen over, fordi man simpelthen ikke har ressourcer til at læse alle 600 ansøgninger ordentligt igennem, er vel også et skridt i retning af mere retfærdige rekrutteringsprocesser.
Det er i øvrigt svært at se den dybere mening med en lov, der fortæller dig, hvis du bliver uretfærdigt behandlet, uden at du har mulighed for at gøre noget ved det. Virksomheden har jo lov at ansætte en mand, en kineser eller en under 40, hvis de mener, at det er den profil, der passer bedst til jobbet. Det eneste, du reelt kan gøre, er at undlade at søge jobbet, hvis du får at vide, at der bruges AI i udvælgelsesprocessen.
Artiklen fortsætter efter annoncen
Men hvordan stiller det dig så lige? I øvrigt kender du jo ikke på forhånd algoritmen, og ved derfor ikke, om netop du vil være den foretrukne profil. Kunstig intelligens er et redskab, der kan er ideelt til at give beslutningstagere en dybere og bedre baggrundsviden at basere deres beslutninger på – intet andet. Kunstig intelligens kan for eksempel baseret på dine tidligere ansættelser fortælle HR-chefen, om det er sandsynligt, at du vil blive lykkelig i den opslåede stilling eller ej – og det er vel heller ikke så skidt endda.
