Ny forskning: AI på jobcentre er ikke god erstatning for mennesker

Illustration: STAR
Det kan blive problematisk at bruge AI-teknologier til at forudsige langtidsledighed blandt kontanthjælpsmodtagere, viser ny dansk forskning.

En ny forskningsartikel er kritisk i forhold til at bruge kunstig intelligens til at forudsige kontanthjælpsmodtagernes risiko for langtidsledighed.

»Hovedpointen er, at hvis vi taler kunstig intelligens i jobcentrene, så er der en masse vigtig information om, hvad det vil sige at være en borger, som ikke er tilgængelig i den data, som AI-systemerne bruger til forudsige fx langtidsledighed,« udtaler ph.d.-studerende på IT-Universitetet, Anette C. M. Petersen ifølge en meddelelse.

Hun har skrevet artiklen 'We Would Never Write That Down: Classifications of Unemployed and Data Challenges for AI', sammen med Lars Rune Christensen (IT-Universitetet), Richard Harper (Lancaster University) og Thomas Hildebrandt (Københavns Universitet). Artiklen er offentliggjort i artikelsamlingen PACM HCI i forbindelse med CSCW 2021, som er den internationalt førende konference for computer-støttet samarbejde.

Læs også: Forsker: Data-profilering af arbejdsløse kan ikke både være effektiv og gennemsigtig

Anette C. M. Petersen uddyber:

»På jobcentrene placerer sagsbehandlerne kontanthjælpsmodtagerne i nogle kategorier –eller målgrupper, som de også bliver kaldt.«

Det har stor betydning for borgerne, hvor de bliver placeret, fordi det bl.a. har indflydelse på, hvilken hjælp de modtager og hvilke rettigheder de har.

»Flere steder har der været et stærkt ønske om at bruge historiske data fra en masse kontanthjælpsmodtagere til fx at forudsige sandsynligheden for langtidsledighed for de her mennesker, og det er så det, vi har undersøgt nærmere.«

Anette C. M. Petersen lavede feltarbejdet, som undersøgelsen bygger på, i Gladsaxe. Med henblik på at undersøge, hvorvidt kunstig intelligens kunne bruges til at træffe bedre og mere effektive beslutninger, studerede hun sagsbehandlernes arbejde med kontanthjælpsmodtagerne, som officielt bliver inddelt i to kategorier: 2.2, som består af de jobparate, og 2.3, som består af de aktivitetsparate – og som ikke umiddelbart er i stand til at arbejde.

Sagsbehandlere kan ikke uden videre erstattes af kunstig intelligens

Virkeligheden er dog mere kompleks end de to kategorier antyder, konstaterer Anette C. M. Petersen:

»En sagsbehandler fortæller mig, at man nærmest skal være død for at blive placeret i målgruppe 2.3. Det er utrolig svært for dem at finde beviser på, at borgerne har udfordringer, som berettiger til den placering, og samtidig er der et politisk ønske om at flytte flere borgere over i gruppen med de jobparate for at få dem i job hurtigere. Vi opdager, at langt de fleste borgere slet ikke hører hjemme i nogle af de her to kategorier.«

Borgerne befinder sig en gråzone, hvor de ikke er raske og i stand til at varetage et job, men de kan heller ikke bevise, at de syge nok til ikke at være jobparate.

»Det håndterer sagsbehandlerne ved at skabe deres egne termer, fx at en borger kan være en let, tung eller hård 2.2'er.«

Ifølge Anette C. M. Petersen hjælper sagsbehandlernes egne termer dem til at give borgerne den rette behandling og støtte, som ikke nødvendigvis kun handler om at skaffe et job, og forskningsartiklens konklusion er, at dette arbejde ikke uden videre kan erstattes af kunstig intelligens.

»Vores resultater har medført nogle spørgsmål om, hvorvidt man ikke bare kan finde andre sammenhænge i data, der identificerer som lette eller tunge 2.2'ere, og det er selvfølgelig rigtigt nok, men sagsbehandlerne sidder stadig til møder med borgerne og kan lugte, hvis der én, som lugter af alkohol eller hvis vedkommende bliver ked af det, når der bliver spurgt ind til helbredet. Så der er en masse fysiske 'clues,' som man endnu ikke kan tage teknologisk højde for.«

Ingen tegn på at AI kan tage bedre beslutninger

Anette C. M. Petersen ser ikke tegn i sol og måne på, at man ved hjælp af kunstig intelligens kan skabe it-systemer, som kan tage bedre beslutninger end sagsbehandlerne:

»De termer, som sagsbehandlerne bruger – er ifølge dem selv – ikke velegnede i et bureaukratisk system, og det er uanset, om vi taler kunstig intelligens eller andre systemer. Der er bare en masse ting, som sagsbehandlere ikke skriver ned, fordi det er mennesker, de har med at gøre, og mennesker er komplekse og foranderlige. Og ligeså snart du bruger historisk data til at forudsige fremtiden, så opstår der jo også en risiko for, at du kommer til at forstærke forholdene for de her mennesker og gøre dem permanente. Det er sagsbehandlerne meget opmærksomme på.«

Til gengæld er der en optimisme i forhold til at bruge AI-teknologier til at hjælpe sagsbehandlerne med at opsamle den information, som de skal bruge i deres sager, på en måde, hvor vurderinger og vigtige beslutninger stadig ligger hos sagsbehandleren.

Derfor håber Anette C. M. Petersen også, at artiklen i PACM HCI vil skabe debat om, hvad kunstig intelligens kan bruges til og ikke bruges til.

Artiklen er skrevet i forbindelse med forskningsprojektet Ecoknow, som har til formål at undersøge, hvordan digitale sagsbehandlingssystemer kan gøres mere intelligente, fleksible og gennemskuelige. Projektet ledes af Thomas Hildebrandt, som er professor på Københavns Universitet.

Artiklen får selskab af en anden Ecoknow-artikel: 'Street-Level Algorithms and AI in Bureaucratic Decision-Making: A Caseworker Perspective,' der zoomer ind på sagsbehandlernes syn på anvendelse af AI til at støtte deres arbejde.

Det er Thomas Hildebrandt særdeles tilfreds med:

»Det er virkelig godt at vores arbejde i Ecoknow kommer ud, hvor den bliver set – og at der er så tydelig en interesse for forskning i AI, der ikke starter med en teknologisk løsning på et muligt problem, men starter med at observere sagsbehandlernes arbejde og tale med dem om deres syn på teknologien, så vi sammen kan identificere hvilke problemer, man bør og kan løse ved hjælp af AI,« siger Thomas Hildebrandt.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (14)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#1 Lars Pedersen

Hvorfor forske i dette når sagsbehandlernes arbejde højst sandsynligt ingen effekt har. Om borgerne får den ene eller anden hjælp betyder altså intet for hvordan det går dem.

Denne viden har man efter årtiers forskning. Videnskaben har formuleret dette i to love:

"The Iron Law" siger at sociale programmer ingen effekt har.

"The Stainless Steel Law" siger at jo mere konkrete ting man undersøger, jo mindre effekt finder man ved sociale programmer.

Det er også det der er baggrunden for at Nye Borgerlige ønsker at nedlægge jobcentrene.

Denne forskning er spild i anden potens Sig nej til udokumenterede programmer som spilder vores penge.

  • 4
  • 15
#4 Ditlev Petersen

Kritikken går på påstanden om, at sociale programmer ingen effekt har. Det er meget bredere end bare jobcentrene (som rigtigt nok er en bedrøvelig affære). Man kunne godt forestille sig sociale programmer som hjælp, hjælp til selvhjælp og sådan noget. I stedet for det nuværende ideal om at være ubehagelige, så ingen "skulker", når de i stedet kan være arbejdsløse uden dagpenge eller stressede langtidsyge.

  • 7
  • 1
#7 Peter Hansen

De termer, som sagsbehandlerne bruger – er ifølge dem selv – ikke velegnede i et bureaukratisk system, og det er uanset, om vi taler kunstig intelligens eller andre systemer. Der er bare en masse ting, som sagsbehandlere ikke skriver ned, fordi det er mennesker, de har med at gøre, og mennesker er komplekse og foranderlige.

Siger sagsbehandlerne med andre ord, at de administrerer ulovligt?

Forvaltningsloven stiller krav om notatpligt og saglighed.

Alle borgere har krav på ligebehandling, hvilket tilsiger, at sagsbehandlere, der påstår at have en faglighed skal følge en systematisk metode, så de tildeler borgere med samme udgangspunkt de samme ydelser og indsatser.

At de interviewede sagsbehandlere har alle mulige føle-røre-argumenter for at fravige deres faglige forpligtelser er i mine øjne som skattebetaler og borger et tegn på, at der er nogen, der har brug for at blive mindet om, hvad deres faglighed består af.

På socialområdet har man i mange år arbejdet med evidens for indsatser og udviklet metoder til sikring af, at borgere med samme problemer får samme ydelser. Måske medarbejerne på beskæftigelsesområdet skulle på efteruddannelse på det sociale område, inden de så blindt affejer muligheden for at registrere signifikante oplysninger om borgere, som kan give dem ret til en indsats, der virker.

En forsker fra Aarhus Universitet har interviewet en række socialrådgivere på socialområdet om brug af beslutningsstøtte til at træffe afgørelser, og interviewpersonerne på dette område giver udtryk for noget helt andet, end hvad Annette C. M. Petersen er kommet frem til:

De undersøgte socialrådgivere er positivt indstillet overfor digital beslutningsstøtte, og de identificerer en række understøttende funktioner ved beslutningsstøtten. De oplever, at beslutningsstøtten har et potentiale til at bistå prioriteringen af sager og ensrette sagsbehandlingen. Men indførelsen af digital beslutningsstøtte er også forbundet med bekymringer. Socialrådgiverne er især bekymrerede for, at beslutningsstøtten kan blive en sovepude, der afkobler deres selvstændige faglige stillingtagen.

https://ps.au.dk/cpl/nyheder/visning/artikel/ny-forskning-digital-beslut...

  • 4
  • 2
#8 Peter Hansen

Og ligeså snart du bruger historisk data til at forudsige fremtiden, så opstår der jo også en risiko for, at du kommer til at forstærke forholdene for de her mennesker og gøre dem permanente. Det er sagsbehandlerne meget opmærksomme på.

Hvis man skulle drage den fulde konsekvens af den logik, så skulle læger undlade at diagnosticere lungebetændelse med afsæt i viden om symptomer herpå for at undgå at "forstærke forholdene" for patienter med lungebetændelse og "gøre dem permanente".

Risikoen for stigmatisering og "fastholdelse" opstår alene, hvis man reelt ikke har i sinde at give borgerne en indsats, der virker, og det er måske snarere dér, problemet ligger på beskæftigelsesområdet. De aner reelt ikke, hvad der virker, og fordi de ikke har data om det, afviser de muligheden for at foretage analyser af det.

  • 4
  • 1
#9 Gert Madsen

At de interviewede sagsbehandlere har alle mulige føle-røre-argumenter for at fravige deres faglige forpligtelser er i mine øjne som skattebetaler og borger et tegn på, at der er nogen, der har brug for at blive mindet om, hvad deres faglighed består af.

Nu er sagsbehandlerne underlagt samme IT-vælde, som deres klienter.

Når man har set de breve, som automatisk sendes i hovedet på folk, så kan man kun sige deres skepsis er berettiget.

Der sendes 15 siders juristkaudervelsk, hvoraf borgeren så skal forsøge at afkode hvilken ½ side, som overhovedet har relevans for vedkommende. De 2 sider er trusler om drakoniske sanktioner, hvis nogen skriver noget forkert. Inklusive fratagelse af diverse ydelser - også sendt til dem, som aldrig har modtaget en krone.

Der er behov for oprydning og udrensning i eksisterende systemer - ikke indførelse af flere.

  • 4
  • 0
#10 Ditlev Petersen

Nu er sagsbehandlerne underlagt samme IT-vælde, som deres klienter.

Det er sikkert rigtigt, og det er nok kun blevet værre. Min nu afdøde fader blev engang ringet op fra amtet, efter han havde indsendt et skema om noget sygefravær: Han havde ikke angivet, hvor mange gange, han havde været gravid! I det mindste blev skemaet ikke kasseret dengang.

Men det er jo nok dokumentation, mere dokumentation og en masse skemaer, der skal sikre, at alt bliver belyst. Hvad det så slet ikke bliver. Jeg fik engang besked på at udfylde et ressourceskema, da jeg var sygemeldt i nogle måneder. Det skete efter en hel flok af syge folk, nogle med benet i gips, havde fået en svovlprædiken om straf og andre sanktioner. Da jeg ville aflevere skemaet, fik jeg at vide, at det skam ikke skulle bruges til noget, og at jeg kunne smide det ud.

Og så er sagsbehandlerne underlagt mange andre krav end at hjælpe klienterne. At kontrollere, om man har plukket violer, selv om man har en fysisk skade. Og spare mest muligt på kommunens penge, hvis sagen kan smides helt eller delvist til andres kasse.

  • 1
  • 0
#12 Søren Skaarup

Undersøgelsen fra Århus modsiger ikke undersøgelsen fra København. I det citat du medtager står der netop "digital beslutningsstøtte, og de identificerer en række understøttende funktioner ved beslutningsstøtten." Den Københavnske undersøgelse siger jo netop også at sagdbehandlerne gerne vil bruge AI til beslutningsstøtte. Sagsbehandlerne brydder ikke loven ved at behandle borgerne forskelligt fordi de er forskellige, så længte det sker indnme for det manøvrerum loven giver dem. Og det vil jeg vurdere at loven giver dem her. At de så ofte har for snævre rammer og for få redskaber i værktøjskassen til at gøre det der ville have største effekt i forhold til den enkjelte borger er en anden sag. I jobcentrene har de heller ikke nødvendigvis en sociakl-faglig baggrund, hvilket også kan være et problem. Væsentlig grunde til at effekten af divsers indsatser for at fpå folk i arbejde er så beskeden er dels at indsatsen bygger på en neoliberalistisk menneskeopfattelse som der er meget beskedent empirisk belæg for, dels at mange af de mennesker der er længst og/eller længe fra arbejdesmarkedet har mange andre problemer der skal løses fordi kan få en meningsfuld, fast tilknytning til arbejdsmarkedet igen.

  • 2
  • 0
Log ind eller Opret konto for at kommentere