Flere beslutninger bliver taget af algoritmer og det presser retssikkerheden
Det var en computerbeslutning, der i 2011 ledte til, at amerikanske John Gass fik annulleret sit kørekort. Beskeden dumpede ind af brevsprækken sammen med en øjeblikkelig ordre om at holde op med at køre bil – til stor frustration for den 41-årige amerikaner.
Algoritmen, der havde udvalgt den uheldige John Gass, skulle holde øje med falske identiteter. Systemets mente, at John Gass lignede en anden af Massachusetts bilister så meget, at der måtte være tale om et kriminelt alias.
Som John Gass måtte sande, har beslutninger truffet af algoritmer i stigende grad indflydelse på vores liv. Informationen, vi modtager fra Google og Facebook, er selekteret af et komplekst virvar af parametre, men fænomenet er ikke begrænset til internettet. Derimod finder flere og flere algoritmer vej ind i den offentlige forvaltning, hvor de kan lynbehandle trivielle sager, holde styr på folkepensionens mange millioner og – potentielt – begå fejl med svimlende hastigheder.
Uskyldige ‘terrorister’
John Gass’ kørekort er ikke det eneste eksempel på, hvad der sker, når en algoritme løber løbsk. Hvert år identificerer en algoritme fejlagtigt ca. 1.500 flyrejsende som terrorister. En af de uheldige var en pilot, der på systemets tilskyndelse blev tilbageholdt 80 gange på et år. Ligeledes er amerikanere blevet slettet som vælgere, fordi en algoritme mente, at der var tale om en dobbeltregistrering.
Når algoritmer alligevel vinder indpas også i den danske forvaltning, er det på grund af det enorme potentiale for at erstatte arbejdskraft med regnekraft og begynde at måle sagsbehandling i sekunder frem for dage. Men udviklingen er ikke uproblematisk, mener Peter Blume, professor i forvaltningsret ved Københavns Universitet:
»Forelskelsen i den digitale forvaltning er jo først og fremmest betinget af, at man sparer penge. Men selv om det bliver nemmere for forvaltningen, så er det ikke sikkert, at det bliver nemmere for borgeren.«
Computere kan ikke skønne
Som borger har man ret til at vide, hvad der har ledt til en bestemt afgørelse. Det princip er truet, hvis borgeren ikke bare skal kunne læse lovtekst, men også computerkode, mener Peter Blume.
Et andet problem er, at computere er ude af stand til at skønne. Og loven er langtfra indrettet til at forstås uden den menneskelige evne til at vurdere. Begreber som ‘bygning’ og ‘ældre’ har ingen mening for computeren uden en definition.
»Det vil sige, at de mennesker, der laver arbejdet, skal gøre det endnu mere præcist end lovgivningen. Det betyder, at programreglen ikke nødvendigvis er den samme som menneskereglen,« siger Peter Blume.
For at undgå, at algoritmer bliver computerkodede fortolkninger af loven, må subjektive vurderinger tages ud af ligningen. Men også det har konsekvenser.
Et eksempel på en forvaltningsopgave, der har forladt skrivebordet, er patientens ret til at se sin egen sygejournal. Tidligere havde sagsbehandleren mulighed for at begrænse informationerne af hensyn til patienten – en undtagelse, der bl.a. er blevet brugt over for patienter med skizofreni, hvor det blev vurderet, at journalen ville forværre lidelsen. I det digitale system er den slags undtagelser umulige.
»På den måde kan automatiseringen skabe nogle dispositioner, som enkelte borgere kan tage skade af. Selv om det kan lyde formynderisk, er der givetvis tider i sundhedsarbejde, hvor information gør mere skade end gavn,« forklarer Peter Blume.
Alle systemer laver fejl
Hos Udbetaling Danmark bliver bl.a. børnecheck og folkepension udbetalt til dem, der skal have det, uden at hverken borgere eller socialrådgivere løfter en tastefinger. De enorme summer, der udbetales af automatiske systemer, kræver særlige forholdsregler, fortæller vicedirektør i Udbetaling Danmark Carsten Bodal.
»Vi udbetaler ca. 10 mia. kr. om måneden i pension. Hver gang, den proces går i gang, er der en række parametre, der tjekkes af. Er datoen rigtig, er pengene kommet over på den rigtige konto osv.,« siger han.
De mange bokse, der skal tjekkes af, kan ikke garantere mod fejl, mener vicedirektøren.
Hos kammeradvokaten rådgiver man i stigende omfang staten om, hvordan man kan ‘sætte strøm’ til forvaltningen. Og selv om fejl er en reel risiko, er det en illusion at tro, at de systemer, vi har i dag, ikke laver fejl, mener juniorpartner hos Kammeradvokaten Jakob Kamby.
»Også de menneskelige systemer begår fejl. Så det er ikke odiøst i sig selv, at et computersystem kan begå fejl. Det vigtige er, at vi tænker os grundigt om og undgår de store systematiske fejl, at man kan klage over de afgørelser, der kommer ud af systemet, og at systemet lærer af sine fejl og lærer at holde øje med sig selv og identificere, hvis noget ser forkert ud,« siger Jakob Kamby.
Lovgrundlag må opdateres
Selv om advokaten kan genkende flere af Peter Blumes bekymringer, mener han, at digitalisering også kan forbedre retssikkerheden for borgeren. Med hurtigere sagsbehandling og algoritmer, der kræver et klarere lovgrundlag, bliver det nemmere at forudsige sin retsstilling. Og det er også en del af retssikkerheden, fastslår advokaten.
Præcis hvor grænsen mellem menneske og algoritme skal trækkes, er et politisk spørgsmål, mener Jakob Kamby. I sidste ende kommer det an på, hvor langt vi er villige til at gå for at omdanne lovens subjektive sprog og gøre den forståelig i computerens binære verden.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
