Styrelse frikendes for algoritmisk racediskrimination

6 kommentarer.  Hop til debatten
jobcenter
Illustration: Oscar Scott Carl/Ritzau Scanpix.
Ligebehandlingsnævnet afgør, at der ikke er tale om racediskrimination når den såkaldte STAR-model kategoriserer ‘ikke-vestlige efterkommere’, som værende i risiko for langtidsledighed på baggrund af herkomst.
10. juni kl. 14:03

En ny afgørelse fra Ligebehandlingsnævnet slår fast, at Styrelsen for Arbejdsmarked og Rekruttering (STAR) ikke forskelsbehandler på baggrund af etnisk oprindelse, når de profilerer dagpengemodtagere med algoritmer. 

Det var Institut for Menneskerettigheder, der i 2020 klagede til Ligebehandlingsnævnet. Det skete efter Version2 kunne afsløre, at den såkaldte STAR-model i nogle tilfælde profilerer nyledige dagpengemodtagere for at være i risikogruppen for langtidsledighed på baggrund af variablen ‘herkomst’.

Læs også: Jurist: Dataprofilering af langtidsledige med etnicitet er ulovlig

»At lægge vægt på etnisk oprindelse i sagsbehandlingen af den enkelte borger er diskrimination med mindre, at der er tale om positiv særbehandling, og det vurderer vi ikke er tilfældet her,« sagde ligebehandlingschef Maria Ventegodt ved Institut for Menneskerettigheder i en pressemeddelelse.

Artiklen fortsætter efter annoncen

Man risikerer ifølge instituttets pressemeddelelse, at jobsøgere stigmatiseres og behandles anderledes af jobcentret alene på baggrund af deres etniske oprindelse.

Sagens begyndelse

Sagen startede helt tilbage i 2019, da den nyuddannede cand.scient.pol Telli Betül Karacan opdagede, at hendes herkomst fremgik af jobcentrets system. Variablen ‘herkomst’ indgår stadig den dag i dag som en af blot fire variable i STAR-modellen, der er et simpelt statistisk beslutningstræ, der skal hjælpe jobcentrene med at vuderere nylediges risiko for langtidsledighed.

Remote video URL

Handler ikke om etnicitet

Når modellen ifølge Ligebehandlingsnævnet ikke er et problem skyldes det, at »begrebet ”herkomst”, som dette var anvendt i profilafklaringsværktøjet, ikke fortalte noget om etnisk oprindelse. Det anvendte begreb var dermed ikke omfattet af forskelsbehandlingslovens forbud mod forskelsbehandling på grund af etnisk oprindelse,« skriver nævnet selv i afgørelsen. 

Ifølge Version2’s dokumentation stammer STAR-modellens definition af ‘herkomst’ fra Danmarks Statistik, der inddeler borgere i fem kategorier, henholdsvist Dansk oprindelse, Ikke-vestlig indvandrer, Vestlig indvandrer, iIkke-vestlig efterkommer, Vestlig efterkommer. Begrebet ikke-vestlige dækker over indvandrer og efterkommere fra lande uden for  EU/EØS-samarbejdet.

Det er altså disse kategorier, som Ligebehandlingsnævnet nu har afgjort »ikke alene fortæller noget om etnisk oprindelse.«

Version2 forsøger at få en kommentar fra Institut for Menneskerettigheder.

6 kommentarer.  Hop til debatten
Fortsæt din læsning
Debatten
Log ind for at deltage i debatten.
settingsDebatindstillinger
6
16. juni kl. 23:18

Man risikerer ... at jobsøgere ... behandles anderledes af jobcentret alene på baggrund af deres etniske oprindelse.

Det drejer sig vel om at inddrage flest mulige kendte forhold i sagsbehandlingen, så man kan give den bedst mulige sagsbehandling?

Hvis jeg nu havde religion X f.eks., og det erfaringsmæssigt havde vist sig, at folk med religion X typisk havde svært ved at få den slags arbejde, som jeg gerne ville have, så ville jeg da synes det var rart at sagsbehandleren vidste det. Formålet skulle være så enten at rette jobsøgningen en anden vej eller bruge ekstra meget krudt på lige den slags ansøgninger.

Lidt på samme måde som at lægen jo også forskelsbehandler kvinder der qua deres religion går iklædt burka og lignende tøj - forskelsbehandler ved at anbefale D-vitamintilskud om sommeren, hvilket de jo ikke anbefaler til andre.

Min pointe er at forskelsbehandling ikke nødvendigvis er negativt. Jeg kan ikke se problemet her. Kan nogen forklare det?

5
15. juni kl. 09:37

At lægge vægt på etnisk oprindelse i sagsbehandlingen af den enkelte borger er diskrimination med mindre, at der er tale om positiv særbehandling,

Det er da også at diskriminere, er det ikke? For ved en negativ særbehandling af nogen, må det modsvare de andre blot får positiv særbehandling.

For ellers er det vel fuldt ud gangbart, at man blot vender scoren om, og udgangspunktet er man har en højere risiko for langtidsledighed. Men hvis man nu har dansk eller vestlig herkomst, så får man en lavere risiko for langtidsledighed ved positiv særbehandling. Og så kan systemet proklamere "så er den ged barberet", og intet er hændt.

3
10. juni kl. 22:57

Jeg forstår ikke helt referencen til STAR-modellen med fire variable. Den oprindelige fra Schultz - ASTA - havde 50, senere skåret ned til 30. Hvis herkomst er én af kun fire variable, slår den mere igennem end hvis det var 30.

Kunne én af de øvrige 29 variabler handle om risikoen for langtidsledighed grundet diskrimination? Så ville jeg være lidt mere lydhør.

I øvrigt har Lyngby-Taarbæk Kommune netop droppet ASTA, se

https://radarmedia.dk/kommune-dropper-algoritme-til-at-screene-ledige/

bl.a på baggrund af en rapport fra dataloger på KU, se

https://radarmedia.dk/jobcenter-ansatte-algoritme-til-ledige-forvirrer-mere-end-den-gavner/

Schultz henviser til en LTU-algoritme. Det kan jeg ikke finde ud af hvad er. Er der nogen, der ved det eller er det en idé at Version2 spørger Schultz?

4
Redaktør, DataTech -
12. juni kl. 15:02
Redaktør, DataTech

Hej Mogens, jeg forstår forvirringen, STAR-modellen og Schultz' ASTA-model er to forskellige modeller, der dog gør det samme: forsøger at prædiktere nyledig borgers risiko for langtidsledighed. Afgørelse fra Ligebehandlingsnævnet, som vi skriver om her, drejer sig udelukkende om STAR-modellen.

ASTA indeholder ikke variablen 'herkomst', men ellers kender vi ikke meget til hvordan ASTA fungerer udover de informationer som du ganske rigtigt nævner her. Dog har jeg heller ingen idé om hvad 'LTU-algoritme' betyder. Jeg har lige spurgt ad, vender tilbage når jeg får svar. :)

STAR-modellen ved vi meget mere om. Den er udarbejdet af Styrelsen for Arbejdsmarked og Rekruttering for flere år tilbage og bliver fortsat anvendt i dag. STAR-modellen har min tidligere arbejdsplads Zetland fået aktindsigt i og delt med mig i sin tid, og det er fra denne aktindsigt, at vi ved at modellen kun indeholder fire variable, heriblandt 'herkomst'.

2
10. juni kl. 15:26

Så hvis bare man diskriminerer alle "ikke vestlige invandrere", er det ikke længere diskrimination? Please, lad være med at fortælle det til regeringen.... de går amok i stramninger....

1
10. juni kl. 14:28

Det viser jo bare, hvor svært det i praksis bliver at beskytte borgerne mod algoritme-vælde.

Algoritmen har altid ret.....