Datatilsynet: Ledige må ikke profileres med algoritmer bare fordi de samtykker
Kommuner der anvender algoritmer i forsøget på at forudsige borgeres ledighedsforløb kan ikke bruge samtykke som grundlag for behandlingen af borgernes data. Sagt med andre ord er det ikke lovligt at profilere ledige borgere, blot fordi borgerne selv siger god for det.
Det bliver slået fast i en ny udtalelse fra Datatilsynet, der konkret har forholdt sig til, om borgerne kan samtykke til at blive profileret af den såkaldte LTU-algoritme.
Afgørelsen rejser spørgsmålet, om kommunerne overhovedet må profilere ledige borgere?
Datatilsynets har afgjort at kommunerne ikke må benytte samtykke som behandlingsgrundlag, når kommunerne anvender den såkaldte LTU-algoritme i beskæftigelsesindsatsen.
LTU-algoritmen har til formål at vurdere, om den ledige borgere har lav, mellem eller høj risiko for langtidsledighed, og forudsigelsen gøres tilgængelig for jobcentrenes rådgivere, der kan vælge at bruge forudsigelsen i planlægning og samtaler med den ledige borger.
Det er den danske virksomhed Schultz, der har udviklet LTU-algoritmen, som står for long-term unemployment. I flere medier og i forskning, har Schultz' algoritme også ofte været omtalt under navnet ASTA.
Det skyldes at LTU-algoritmen indgår i it-værktøjskassen, ASTA. De i alt 59 kommuner, der anvender Schultz' fagsystem, Facit, i jobcentrene, kan vælge at tilkøbe ASTA og dermed også LTU-algoritmen.
Ifølge Michael Knudsen, direktør for Job og velfærd hos Schultz, har »en håndfuld« kommuner valgt at slå LTU-algoritmen til og benytte dens forudsigelser i beskæftigelsesindsats.
Datatilsynets afgørelsen kom i maj måned på opfordring fra Styrelsen for Arbejdsmarked og Rekruttering. Styrelsen fortæller til Version2, at de bad Datatilsynet forholde sig spørgsmålet, fordi SF havde spurgt ind til, hvorvidt det faktisk er lovligt for kommunerne at anvende Schultz' profileringsalgoritme, hvis blot borgerne samtykker.
Samtykke gælder ikke
Datatilsynet begrunder afgørelsen med at »borgerens samtykke i den pågældende kontekst ikke kan anses for frivilligt,« fremgår det af udtalelsen.
I en ledighedssituation har kommunen nemlig kontrol over borgerens forsørgelsesgrundlag. Dermed kan borgeren føle sig presset til at samtykke. Det gælder også i de tilfælde, hvor hensigten egentlig er, at profileringen skal ses som et frivilligt tilbud og ikke som en obligatorisk del af ledighedsforløbet, skriver Datatilsynet.
Ifølge tilsynet skal der i stedet national lovgivning til før kommunerne kan få lov at profilere ledige borgere. I et skriftligt svar til Version2 siger Datatilsynet, at de »ikke har lavet en nærmere undersøgelse af, om der er hjemmel« i national lovgivning.
Bred tvivl
Datatilsynets udtalelse har da også allerede skabt en del debat. Flere aktørere - herunder forskere og embedsfolk - peger nemlig på, at hvis ikke samtykke er tilstrækkeligt, så er det umiddelbart vanskeligt at få øje på hvilken konkret lov der så skulle tillade at kommunerne profilerer ledige borgerne.
Blandt andre PhD-studerende Asbjørn William Ammitzbøll Flügge, der har forsket i LTU-algoritmens anvendelse i Lyngby-Taarbæk kommune. Med henvisning til Digitaliseringsstyrelsen signaturprojekter, skriver Asbjørn William Ammitzbøll Flügge på Linkedin:
»Jeg bliver næsten bange for at spørge, men er der egentlig lovhjemmel til AI signaturprojekterne?«
Flere af signaturprojekterne har nemlig til formål at udvikle værktøjer netop til profilering af ledige. I alt er der fire projekter på beskæftigelsesområdet, og de fire projekter har samlet modtaget 18,9 mio. kr. fra Investeringsfonden for nye teknologier og digitale velfærdsløsninger.
Johan Busse, formand for Dataetisk Råd, som blandt andet vejleder signaturprojekterne i etiske spørgsmål, lufter også sin tvivl i en kommentar:
»Hvis der er tvivl om lovhjemmel til signaturprojekterne, bør det undersøges. Dataetisk Råd er ikke oplyst herom i forbindelse med myndighedernes præsentation af projekterne. Den første dataetiske forudsætning er jo netop lovlighed.«
Kigger man ud i kommunerne, så skriver Christian Christensen, leder af IT og Digitalisering i Sorø kommune:
»Vi har netop stoppet en anden pilot på et kommunalt fagsystem, med udgangspunkt i netop denne kendelse. Pt. må vi konstatere, at det er blevet markant sværere at gentænke velfærden med brug af data.«
Schultz: Lovgivning er på plads
Spørger man Michael Knudsen, direktør for Job og velfærd hos Schultz, som har udviklet LTU-algoritmen, fornemmer man en vis undren. Schultz har nemlig aldrig rådgivet kommunerne om, at borgernes samtykke giver lov til profilering.
Hvorfor det netop er Schultz’ algoritme, der er kommet til at danne grundlag for Datatilsynets afgørelse, er et godt spørgsmål. For »vi er sådan set enige med Datatilsynet,« forklarer Michael Knudsen i et skriftligt svar til Version2.
Michael Knudsen skriver også, at Schultz har rådgivet kommunerne om, at det er den såkaldte Lov om en aktiv beskæftigelsesindsats (LAB), der blåstempler profilering af ledige borgere:
»LTU har således på intet tidspunkt benyttet det utilstrækkelige samtykkebaserede behandlingsgrundlag. Vi er af den opfattelse, at der er tilstrækkelig hjemmel i LAB-lovens formålsparagraf, som bl.a. forpligter kommunerne til at give ledige borgere en individuel og målrettet beskæftigelsesrettet indsats med henblik på varig tilknytning til arbejdsmarkedet.«
Michael Knudsen fortæller, at Schultz opfordrer kommunerne til at orientere ledige borgere om, at der anvendes profilering i beskæftigelsesindsatsen, men at det er op til kommunerne selv, om de vil informere borgerne.
Lukker alligevel for profilering
Selvom Datatilsynets afgørelse, ifølge Schultz selv, ikke burde få konsekvenser for de kommuner, der anvender LTU-algoritme, så tyder meget på, at kommunerne ikke er overbevist om lovligheden af profileringen. De fleste kommuner har nemlig valgt at slukke for LTU-algoritmen mens det undersøges, om loven faktisk tillader profileringen.
»De kommuner der har benyttet LTU-algoritmen har vi haft dialog med i forhold til Datatilsynets udtalelse, og af forsigtighedsprincip har de fleste besluttet at slå værktøjet fra for nu,« fortæller Michael Knudsen.
Schultz’ direktør for Job og velfærd fortæller også, at der fortsat er to kommuner som benytter LTU-algoritmen, og at de to ukendte kommuner fortsat overvejer, om de også skal slukke for profileringen.
Hvis de to kommuner vælger at lukke for profileringen, er der ikke længere nogen offentligt kendte profileringsalgoritmer i drift i de danske jobcentre.
I marts skrev beskæftigelsesminister Peter Hummelgaard (S) nemlig et brev til Folketingets beskæftigelsesudvalg, hvoraf det fremgår, at Styrelsen for Arbejdsmarked og Rekruttering, der stod bag den stærkt omdiskuterede STAR-algoritme, har slukket for sin algoritme.
Med Datatilsynets udtalelse er der således ikke blot sået tvivl om hvorvidt algoritmerne overhovedet kommer tilbage på beskæftigelsesområdet igen, men også om hvorvidt kommunerne havde lov at anvende dem til at starte med.
Version2 følger sagen.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
