Et stort tværfagligt og tværinstitutionelt projekt ved navn EcoKnow skal i fremtiden gøre den kommunale sagsbehandling lettere.
Kunstig intelligens skal kunne kigge tidligere sager igennem for at finde mønstre, så den kan foreslå et behandlingsforløb.
For eksempel ville algoritmen kunne hjælpe borgere og sagsbehandlere på et jobcenter med at kigge tidligere sager igennem for at finde fællestræk mellem tidligere sagsforløb og den jobsøgende borger.
Derefter skal algoritmen så foreslå forskellige evidensbaserede forløb, der kunne hjælpe borgeren videre på arbejdsmarkedet. Det kunne være alt lige fra uddannelse og kurser til jobsøgninger på specifikke måder. Det er i hvert fald målet for det nystartede projekt.
»Når nu vi giver folk mere valgfrihed og flere muligheder for at vælge andre veje end fastlagte ruter, så vil vi bruge AI og process mining til at hjælpe med at navigere,« siger Thomas Hildebrand, lektor på ITU og leder af projektet.
Når EcoKnow skal trække paralleller fra tidligere sager, så er det vigtigt, at det ikke bliver gennemskueligt, hvem den sammenligner med.
Algoritmen skal derfor forsøge at tage informationen fra sagerne, uden at det går på kompromis med anonymiteten.
»Man kan sammenligne med sundhedssektoren, hvor man ville kunne se, hvilke forløb en person har været igennem, uden at vide, hvem den specifikke person er. Det bliver spændende at finde ud af, om vi kan bruge data på den her måde, hvor det rent faktisk stadig vil være anonymt,« siger Thomas Hildebrandt.
En reel risiko er, at der kan være specifikke områder, hvor der er for få sager til, at det nogensinde bliver andet end pseudonymt, hvilket ikke er tilstrækkeligt for at bruge det i sagsbehandlingen.
»Det kan betyde, at vi i starten kun kan lave anbefalinger på nogle områder, hvor der er nok volumen til, at folk stadig er anonyme. En del af projektet handler om at gøre det hele etisk forsvarligt og transparent,« siger Thomas Hildebrandt.
Alt skal være gennemskueligt
Det er vigtigt at forstå, at en algoritme ikke vil lave sagsbehandlingen, men snarere laver forslag til sagsbehandlingen, som den baserer på tidligere sager. De forslag skal både sagsbehandleren og borgeren stadig forholde sig til.
»Man kan ikke sige som argument, at det er, fordi algoritmen siger det. Den måde, algoritmen fungerer på, er ved, at den finder nogle forskellige features, og så kan man rådgive ud fra dem. Det er alfa og omega, at hvis man skal bruge en AI til at komme med forslag, så skal den også kunne komme med en forklaring,« siger ITU-lektoren og tilføjer:
»En af hovedudfordringerne er at gøre det her transparent. Vi skal finde ud af, hvordan vi kan bruge AI’en, så vi kan forklare, hvordan den finder de svar, den gør. Vi skal kunne sige, hvordan algoritmen fandt frem til det specifikke svar.«
Det er dog en svær balancegang, at man på den ene side vil have total gennemsigtighed og på den anden side total anonymitet.
Spørgsmålet er, om man ikke med sådan et system risikerer, at systemer eller sagsbehandlere pludselig får adgang til private informationer, men det er Thomas Hildebrandt ikke umiddelbart nervøs for:
»Jeg ville være meget mere betænkelig ved, hvordan sagsgangen er i øjeblikket faktisk. Mit kvalificerede bud er, at med de nuværende ESDH-systemer ligger alt på dit CPR-nr., og hvis en sagsbehandler får en sag med dig, så får vedkommende adgang til alt muligt,« siger han.