Flere beslutninger bliver taget af algoritmer og det presser retssikkerheden

Illustration: REDPIXEL.PL/Bigstock
Algoritmer tager stadigt flere beslutninger i det digitale samfund. Potentialet er enormt, men retssikkerheden presses, når nuanceret lov skal passe ind i computerens binære verden.

Det var en computerbeslutning, der i 2011 ledte til, at amerikanske John Gass fik annulleret sit kørekort. Beskeden dumpede ind af brevsprækken sammen med en øjeblikkelig ordre om at holde op med at køre bil – til stor frustration for den 41-årige amerikaner.

Algoritmen, der havde udvalgt den uheldige John Gass, skulle holde øje med falske identiteter. Systemets mente, at John Gass lignede en anden af Massachusetts bilister så meget, at der måtte være tale om et kriminelt alias.

Som John Gass måtte sande, har beslutninger truffet af algoritmer i stigende grad indflydelse på vores liv. Informationen, vi modtager fra Google og Facebook, er selekteret af et komplekst virvar af parametre, men fænomenet er ikke begrænset til internettet. Derimod finder flere og flere algoritmer vej ind i den offentlige forvaltning, hvor de kan lynbehandle trivielle sager, holde styr på folkepensionens mange millioner og – potentielt – begå fejl med svimlende hastigheder.

Uskyldige ‘terrorister’

John Gass’ kørekort er ikke det eneste eksempel på, hvad der sker, når en algoritme løber løbsk. Hvert år identificerer en algoritme fejlagtigt ca. 1.500 flyrejsende som terrorister. En af de uheldige var en pilot, der på systemets tilskyndelse blev tilbageholdt 80 gange på et år. Ligeledes er amerikanere blevet slettet som vælgere, fordi en algoritme mente, at der var tale om en dobbeltregistrering.

Når algoritmer alligevel vinder indpas også i den danske forvaltning, er det på grund af det enorme potentiale for at erstatte arbejdskraft med regnekraft og begynde at måle sagsbehandling i sekunder frem for dage. Men udviklingen er ikke uproblematisk, mener Peter Blume, professor i forvaltningsret ved Københavns Universitet:

»Forelskelsen i den digitale forvaltning er jo først og fremmest betinget af, at man sparer penge. Men selv om det bliver nemmere for forvaltningen, så er det ikke sikkert, at det bliver nemmere for borgeren.«

Computere kan ikke skønne

Som borger har man ret til at vide, hvad der har ledt til en bestemt afgørelse. Det princip er truet, hvis borgeren ikke bare skal kunne læse lovtekst, men også computerkode, mener Peter Blume.

Et andet problem er, at computere er ude af stand til at skønne. Og loven er langtfra indrettet til at forstås uden den menneskelige evne til at vurdere. Begreber som ‘bygning’ og ‘ældre’ har ingen mening for computeren uden en definition.

»Det vil sige, at de mennesker, der laver arbejdet, skal gøre det endnu mere præcist end lovgivningen. Det betyder, at programreglen ikke nødvendigvis er den samme som menneskereglen,« siger Peter Blume.

For at undgå, at algoritmer bliver computerkodede fortolkninger af loven, må subjektive vurderinger tages ud af ligningen. Men også det har konsekvenser.

Et eksempel på en forvaltningsopgave, der har forladt skrivebordet, er patientens ret til at se sin egen sygejournal. Tidligere havde sags­behandleren mulighed for at begrænse informationerne af hensyn til patienten – en undtagelse, der bl.a. er blevet brugt over for patienter med skizofreni, hvor det blev vurderet, at journalen ville forværre lidelsen. I det digitale system er den slags undtagelser umulige.

»På den måde kan automatiseringen skabe nogle dispositioner, som enkelte borgere kan tage skade af. Selv om det kan lyde formynderisk, er der givetvis tider i sundhedsarbejde, hvor information gør mere skade end gavn,« forklarer Peter Blume.

Alle systemer laver fejl

Hos Udbetaling Danmark bliver bl.a. børnecheck og folkepension udbetalt til dem, der skal have det, uden at hverken borgere eller socialrådgivere løfter en tastefinger. De enorme summer, der udbetales af automatiske systemer, kræver særlige forholdsregler, fortæller vicedirektør i Udbetaling Danmark Carsten Bodal.

»Vi udbetaler ca. 10 mia. kr. om måneden i pension. Hver gang, den proces går i gang, er der en række parametre, der tjekkes af. Er datoen rigtig, er pengene kommet over på den rigtige konto osv.,« siger han.

De mange bokse, der skal tjekkes af, kan ikke garantere mod fejl, mener vicedirektøren.

Hos kammeradvokaten rådgiver man i stigende omfang staten om, hvordan man kan ‘sætte strøm’ til forvaltningen. Og selv om fejl er en reel risiko, er det en illusion at tro, at de systemer, vi har i dag, ikke laver fejl, mener juniorpartner hos Kammeradvokaten Jakob Kamby.

»Også de menneskelige systemer begår fejl. Så det er ikke odiøst i sig selv, at et computersystem kan begå fejl. Det vigtige er, at vi tænker os grundigt om og undgår de store systematiske fejl, at man kan klage over de afgørelser, der kommer ud af systemet, og at systemet lærer af sine fejl og lærer at holde øje med sig selv og identificere, hvis noget ser forkert ud,« siger Jakob Kamby.

Lovgrundlag må opdateres

Selv om advokaten kan genkende flere af Peter Blumes bekymringer, mener han, at digitalisering også kan forbedre retssikkerheden for borgeren. Med hurtigere sagsbehandling og algoritmer, der kræver et klarere lovgrundlag, bliver det nemmere at forudsige sin retsstilling. Og det er også en del af retssikkerheden, fastslår advokaten.

Præcis hvor grænsen mellem menneske og algoritme skal trækkes, er et politisk spørgsmål, mener Jakob Kamby. I sidste ende kommer det an på, hvor langt vi er villige til at gå for at omdanne lovens subjektive sprog og gøre den forståelig i computerens binære verden.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (3)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
David Jeppesen

Det faktum, at det offentlige ofte lægger deres projekter i udbud og tilsyneladende ofte vælger det billigste, skaber bare et kæmpe behov for kontroller i systemerne. Hvis de vil undgå de "brede" fejl, så håber jeg de har koblet seriøst mange kontroller på de udbetalinger!

  • 1
  • 0
Gert Madsen

"Med hurtigere sagsbehandling og algoritmer, der kræver et klarere lovgrundlag, bliver det nemmere at forudsige sin retsstilling."
Klarere lovgrundlag er ikke noget man ser meget til.

Kunne man ikke bede advokaten om at levere et par eksempler på det ?

  • 1
  • 0
Steen Poulsen

Danmark ER allerede en Politistat. Det skete med Domstolsreformen, hvor man nedlage de små dommerkontorer rundt om i landet og politireformen som centraliseret politiet i de større byer. Folketinget tog suverænt magten, da embedsmænd begynde at diktere kendelser direkte i lovgivningen. Danmark er ikke længere en demokratisk retsstat. Danmark har udviklet sig til en Politistat, og dette "computeren dømmer og sige:" ... bliver bare værre og værre. Domstolene har historisk set altid været sikkerhedsventil for at hverken folketinget eller politiet løb løbsk. Men det er slut nu !!! - prøv bare at tage en tur i byretten. "Dommer" har fortid som politianklager og spiser sikkert frokost med samme. Hvordan skal der være ligedeling af magten på den måde ? Folk bliver "bare" kørt over - så kan de lære det !!

Senest har jeg selv fået en tur af Færdselsstyrelsen, som af tekniske årsager har ændre min synsdato på registreringsattesten. Så selvom mit rettidig synstidspunkt er første gang 12-2010, 12-2012 og 12-2014, og bilen er synes 08-2011 - 16mdr - 12-2012 - 22mdr - 10-2014. Så skal jeg da betale 4000 kr. fordi den er "synet" for sent ??? - de er syge i hovedet !!! - og vi borger skal bare malkes !!

  • 1
  • 0
Log ind eller Opret konto for at kommentere