Forsker: Digitalisering kan påvirke tilliden til det offentlige negativt

Illustration: R_Tavani/Bigstock
Hvad er det egentlig, politikerne vil med digitaliseringen, spørger forsker fra IT-Universitetet.

»Vi er det land i verden med den allerstørste institutionelle og sociale tillid. Forskningen tyder på, at det skyldes en velfungerende offentlig sektor, høj gennemsigtighed og lav korruption. Men vi risikerer, at digitaliseringen går ind og påvirker tilliden til systemet.«

Sådan lyder bedømmelsen fra Christian Østergaard Madsen fra Forskningscenter for Offentlig IT ved IT-Universitetet, som fremsat til universitetets nyhedsside.

Derfor kunne det være interessant at høre politikerne fortælle om, hvad de egentlig vil med digitaliseringen. Man hører kun, at digitalisering er et middel til effektivisering og vækst, lyder synspunktet.

»Det kan den bestemt også bidrage til, men er det det eneste, vi vil opnå?«

Vi risikerer, at digitaliseringen går ind og påvirker tilliden til systemet, mener forsker Christian Østergaard Madsen. Illustration: IT-Universitetet

Sammen med forskerne Ida Lindgren og Ulf Melin fra Linköping Universitet og Sara Hofmann fra Universitetet i Agder har Christian Østergaard Madsen skrevet forskningsartiklen ‘Close encounters of the digital kind: A research agenda for the digitalization of public services.

Læs også: Sådan kommer Horsens’ bedrageri-algoritme til at se ud

Efterlyses: Større politisk fokus på digitalisering

De mange forandringer og ubesvarede spørgsmål om følgerne af digitaliseringen får Christian Østergaard Madsen til at efterlyse et større politisk fokus på digitaliseringen – og ikke mindst en forståelse af, at det har konsekvenser at flytte borgerkontakten over på en skærm.

»Helt grundlæggende savner jeg en debat om betydningen af, at mødet mellem borger og det offentlige bliver digitalt – inklusive de etiske konsekvenser. Hvad betyder det for tilliden til det offentlige, hvis der ikke længere er et ansigt på? Hvordan påvirker det vores retsfølelse, hvis man ikke oplever at få en forklaring på en afgørelse, eller hvis man har svært ved at forstå en afgørelse?«

Digitaliseringen kan i nogle tilfælde være en fordel. Man sparer tid ved ikke at skulle bevæge sig ned til et offentligt kontor i arbejdstiden.

»I andre tilfælde kan det være problematisk i den forstand, at du ikke i samme grad har mulighed for at få forklaret den afgørelse, der bliver truffet,« siger Christian Østergaard Madsen.«

Private it-virksomheder bliver nye aktører i samspil mellem borgere og det offentlige

I visse tilfælde er sagsbehandlerne helt blevet erstattet af maskiner.

Det gælder for eksempel vurderingen af, hvorvidt en borger har ret til at modtage børne- og ungeydelse. I dag er reglerne og systemerne ændret på en sådan måde, at det for de fleste foregår helt automatisk.

Tidligere var det en sagsbehandler, der traf afgørelsen, og vedkommende havde et vist fortolkningsrum, der gav plads til individuelle vurderinger.

»Computeren kan ikke som udgangspunkt på samme måde som et menneske fortolke. Den skal vide, om den skal gøre det ene eller det andet. Fortolkningen af reglerne er rykket bagud til it-udviklingsprocessen, hvor systemet designes. Det bliver her, fortolkningen foregår, i stedet for hos den enkelte sagsbehandler. Samtidig ser vi ønsker om at forenkle lovgivningen for at fremme digitaliseringen,« siger Christian Østergaard Madsen.

It-udviklerne og de private virksomheder, de er ansat i, bliver dermed nye aktører i samspillet mellem borgere og det offentlige, og ifølge Christian Østergaard Madsen er der behov for en nærmere undersøgelse af, hvordan dette samspil foregår, og hvilke konsekvenser det har for alle involverede parter.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (19)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

... om vigtige spørgsmål.

»Helt grundlæggende savner jeg en debat om betydningen af, at mødet mellem borger og det offentlige bliver digitalt – inklusiv de etiske konsekvenser. Hvad betyder det for tilliden til det offentlige, hvis der ikke længere er et ansigt på? Hvordan påvirker det vores retsfølelse, hvis man ikke oplever at få en forklaring på en afgørelse, eller hvis man har svært ved at forstå en afgørelse?"

Ja - den debat er stadig fraværende. Når den endelig stikker hovedet frem, er det oftest som en slags pligtedebat, eller påtvunget af ihærdige (set fra ofrets side irriterende) journalister, såsom linket i artiklen til Horsens-miseren: Man siger typisk de pligtskyldige ord og sætninger eks. "selvfølgelig med fuld gennemsigtighed", "Vi skal passe meget på tilliden" og "Etikken skal være i orden" - men helt uden, at det så smitter af på praksis, som drøner ufortrødent videre med hovedet under armen - Brian Mikkelsen har ikke været minister forgæves.

Cathy O'Neills "Weapons of Math Destruction" burde være pligtlæsning for alle folkevalgte og magthavende embedsmænd. For man kan måske ikke forlange, at disse folk har dyb faglig indsigt i alle faldgruber i AI og algoritmer, men denne lille perle af en bog er så hurtig- og letlæst, at der ingen undskyldning er, og når man har læst den, vil de færreste have lyst til at haste videre ned ad den digitale AI-algoritmen-sti med hovedet under armen, kun guidet af lobbyist-sirenesang.

For der er godt nok mange farer, snarer, fejlkilder og faldgruber i den verden, som i dén grad kan være til fare for både tillid, retfærdighed, demokrati og lighed. Og der er masser af grimme og skræmmende eksempler rundt om i verden på, hvor galt det kan gå - så hvorfor ignorerer vi disse advarende eksempler herhjemme, og mener, at vi ikke kan lære af andres fejl, men er nødt til at begå vore egne - typisk på udsatte befolkningsgruppers bekostning? For de grimme, fejlslagne eksempler, som hun analyserer, ligner til forveksling mange af de digitale projekter herhjemme i det offentlige - de er bare 10 år gamle, så vi kunne sagtens have lært af dem. Og det værste er, at disse fejlkilder ser ud til på mange områder at være ret umulige at komme uden om.

Udviklingen er ikke drevet af samfundets overordnede interesser. IT, AI og hovedløs digitalisering er blevet en karrierestige og en god indtægtskilde for et stort befolkningssegment, som er i gang med skruppelløst at sætte sig på magt og midler - på vores andres bekostning - vi er bare råstoffer.

Det er ikke befordrende for tilliden til demokratiet og retsstaten. Men jeg frygter, at en stor del af nøglespillerne er fuldstændigt ligeglade med de begreber - så længe de kan få lov at boltre sig i fred.

  • 4
  • 2
Christian Nobel

Ærgerligt nok er Sven Kolstrups kommentar ikke nået herind, så man kan læse den hele, og evt. kommentere på den...

Det lader til at V2's debat er broken by design - det er ikke sjældent en kommentar optræder i oversigten, men ikke eksisterer i selve debatten.

Til stor frustration for dem der gerne vil se kommentaren, men nok i højere grad for den der måske har gjort sig stor umage med at skrive et indlæg.

Og nu jeg er igang, hvad med om oversigten kun viser sidste indlæg, og ikke samtlige indlæg i debatten, det vil øge overskueligheden en faktor temmelig meget, og også gøre at ældre debatter ikke dør/drukner så hurtigt (det er så vist over et år siden jeg har påpeget det, men det er åbenbart hurtigere at lave en Klovborg.).

  • 1
  • 1
Anne-Marie Krogsbøll

... den bid af Sven Kolstrups kommentar, som jeg kan læse:

"Det er en udbredt misforståelse at kunstig intelligens "træffer beslutninger" og laver fortolkninger på skærmen. Teknologien er udviklet til at se mønstre i store mængder data som et normalt menneske ikke kan overskue. Men den etiske dimension ligger i sidste ende hos medarbejderen, som bruger teknolgien som støtte til sit arbejde."

Det er jeg ikke enig i. Den etiske dimension ligger i alle led - men i allerhøjeste grad også allerede i beslutningen om overhovedet at bestille den pågældende teknologi - færdig, eller selvudviklet - og hos den specialist/it-medarbejder/forsker eller whatever, som så udvikler produktet. Medarbejderen, som bruger teknologien har typisk ingen chance for at gennemskue, hvad der sker i den sorte boks, og det er der, størstedelen af faremomenterne befinder sig. Og brugeren er typisk under pres af forskellig art, som medfører, at disse "hjælpemidler" vil blive opfattet som den egentlige beslutningstager.

Jeg må endnu engang henvise til "Weapons of Math Destruction", som giver talrige eksempler - de er lange, og fylder mange sider, så det er ikke lige til at referere - på alle de fejlkilder og fejltænkninger, og de ofte katastofale følgevirkninger, som disse teknologier er befængt med, længe før de når ud til den stakkels medarbejder, som skal bruge dem. Hun har flere kapitler tilegnet "Collateral Damage" om den skade hos især udsatte befolkningsgrupper, som disse malplacerede, og i udgangspunktet helt fejltænkte, algoritmer har i deres kølvand.

Forfatteren er ekspert i algoritmer, og har selv arbejdet med dem i mange år - og er nået til, at mange af dem er "weapons of math destruction" i vore samfund. Især de algoritmer, som skal håndtere områder, der involverer mennesker, går ofte helt galt.

  • 2
  • 2
Christian Nobel

Men den etiske dimension ligger i sidste ende hos medarbejderen, som bruger teknolgien som støtte til sit arbejde.

For det første er der hele problemet med bias, men for det andet, og det er kritisk, så er der en stor risiko for at vi ender i et Kafkask system, hvor selve teknologien helt har overtaget beslutningen.

Således er der slet ikke tale om nogen medarbejder, men udelukkende at undersåtterne bare skal acceptere, og ingen ret har til indsigelse.

Det kan anbefales at genlæse Kafkas Processen - sproget er håbløst, men principperne skræmmende.

  • 6
  • 0
Anne-Marie Krogsbøll

Det kan anbefales at genlæse Kafkas Processen - sproget er håbløst, men principperne skræmmende.


God sammenligning, Christian Nobel. Det er præcist det, der sker. Og som Cathy O'Neill giver talrige eksempler på, så sker der i mange situationer ikke engang nogen feedback til algoritmen, når den rammer forkert.

Et eksempel fra bogen er, når en algoritme sorterer ansøgere til et job fra. Der kommer jo typisk aldrig nogen feedback tilbage til den algoritme, når den tager fejl, så den kan blive klogere - og de stakkels ansøgere har typisk heller ingen mulighed for at vide, hvilke kriterier algoritmen har anvendt. Og hvis den samme algoritme anvendes flere steder, kan nogle ansøgere helt uden skyld/grund risikere at få meget svært ved at få job. Så bliver cv-et lidt tomt, og i det omfang cv-et tæller med i algoritmen, bliver frasorteringen hen ad vejen en selvopfyldende profeti - denne medarbejder duer ikke... (I det omfang der er huller i min sammenfatning af eksemplet, så giv mig skylden, ikke bogen - det skyldes sikkert mangelfuld hukommelse).

  • 1
  • 0
Peder Simonsen

citat..: Forsker: Digitalisering kan påvirke tilliden til det offentlige negativt

Jeg mener at forskeren tager fejl.
Tilliden til det det offentlige IT er for mange år siden begyndt at knække da staten opføre sig som en totalitær stasi lignende stat hvor særligt folk i det sociale system for brugt data for/imod dem.
Og så overvåger man systematisk alle borgere fra vugge-grav iselv om at de ikke har gjort noget kriminelt.

At overvåge millioner af Danskere fordi nogle få er nogle banditter er som at skyde gråspurve med kanoner og kørt totalt af sporet.

I mine øjne er dette en forbrydelse imod menneskeheden når man overvåget folk fra vugg-grav millioner af gange hvert år, såvel som samkører og gemmer data om dem overalt.
Ja man kan jo ikke engang tale frit hos lægen, da det man siger kommer vidst omkring og sågar bliver solgt til udlandet i visse sitatuationer.
Og man respektere ej heller Danskernes nej til et DNA register men har hemmeligt indført det ad bagvejen.
Lets face it hvis ikke du vil dele din DNA profile, men nogen i din familie gør det ( eller sågar dine bedste forældre ) så sladre deres DNA/gener faktisk også om dig.. så du er med om du vil det eller ej.
Da DNA/blodet i vores året er det mest dyrbare et menneske ejer, så synes jeg det er så ekstremt krænkende at Danske politikere bør
smides i fængsel på livstid for masse overvågning og krænkelse af det mest dyrbare vi alle ejer, nemlig vores krop.
Den har ingen ret til at bruge/misbruge for at tjene penge.

  • 7
  • 0
Anne-Marie Krogsbøll

... hele Sven Kolstrups kommentar, så det kan være, at mit indtryk ville ændre sig, hvis jeg kunne få det hele med. Men faktisk synes jeg, at det er skræmmende, hvis det refererede afsnit udtrykker Kolstrups holdning godt. For Sven Kolstrup har, og har i mange år haft, en nøgleposition indenfor dette område:
https://www.computerworld.dk/forfatter/9387

Så hvis det er den holdning, der er hos mange i toppen af IT-branchen, at det der med etik, det er noget, som først skal klistres på helt ude hos slutbrugeren - underforstået: Vi vasker vore hænder, og sælger bare alt, hvad vi kan - så er det Goddamn skræmmende. Det er sjældent, at det bliver sagt så direkte som her.

Men nu er vi så advarede, og vi må tilslutte os denne udtalelse fra Marietje Schaake, som advarer om den megen snak om etik som en vildvej:
Et andet område, Schaake er optaget af, er, hvordan lovgivere skal forholde sig til diskrimination på baggrund af algoritmer og kunstig intelligens. Til oktober skal hun til sin første offentlige optræden på Stanford diskutere etik med Googles tidligere CEO Eric Schmidt.
Begivenheden har allerede fået stor opmærksomhed, også negativ, fordi nogle mener, at Schmidt ikke er den rette at diskutere etik med. Men det giver Schaake ikke meget for:
”Jeg har en ret kritisk position over for den her hype af etik som svaret på alle problemer, der har med teknologi at gøre. Etik er meget blødt og kan diskuteres. Men når alt kommer til alt, er det loven, etik skal destilleres ned til. Nedskrevne love, der er blevet stemt om i et demokrati," siger hun eftertrykkeligt.
Det samme gælder spørgsmålet om skat. Selvfølgelig vil ingen store selskaber betale mere i skat på grund af etiske overvejelser. De betaler det, loven kræver af dem og ikke en krone eller dollar mere, præcis ligesom du og jeg, påpeger Schaake."

https://www.altinget.dk/digital/artikel/europas-mest-wired-politiker-sil...

Ja - vi må kræve, at lovgivning tvinger tech-branchen til at handle etisk og respektere menneskerettigheder og skattelovgivning - for vi kan tydeligvis ikke overlade det til dem selv at beslutte at gøre det.

  • 1
  • 1
Christian Nobel

Og man respektere ej heller Danskernes nej

Hvilket Svend Eriksen jo beskriver i al sin gru her:

https://www.version2.dk/artikel/taenketank-udbetaling-danmark-overvaager...

Så hvis man skal have det dybt tåbelige (og eklatante spild af ressourcer) blå sygesikringsbevis, så skal man underlægges et statsligt profileringssystem - mao. det elektroniske stavnsbånd er blevet indført.

(Og hvis debatoversigten ikke var en kopi af alle indlæg i alle debatter, så ville denne debat jo være at finde på forsiden!).

  • 4
  • 0
Erik Kliim-Hansen

Set fra mit perspektiv har automatisering haft positive konsekvenser for tilliden på visse centrale områder.
Indkomstskat med tilhørende forskudsopgørelse, selvangivelse og årsopgørelser er langt mere gennemskuelige end for 30 år siden; jeg kan umiddelbart se konsekvenserne af ændringer i indkomst eller fradrag og få justeret min skattebetaling tilsvarende. Det opfatter jeg som betryggende.
En del af forklaringen på denne forbedring ligger efter min opfattelse i et konstruktivt samspil mellem teknikere og politikere, hvor det ved specifikation af systemerne er blevet klargjort at skattereglerne har måttet simplificeres for at kunne automatiseres, og dette har haft den positive bi-effekt at ikke blot maskinen, men også jeg kan forstå, hvordan min skat udregnes.
Rejsekortet er nok et eksempel på det modsatte, hvor beslutningstagerne ikke har værer lydhøre for forenkling af reglerne, og hvor omkostningerne og tilliden har lidt skade som følge heraf.

  • 3
  • 1
Bjarne Thomsen

Den første digitale computer (beregner) var millioner gange hurtigere end en menneskelig beregner, som den afløste.
Matematikeren Norbert Wiener skrev i USA en række populære artikler om "cybernetics", som fremsatte den hypotese, at den digitale computers algoritmer ville kunne simulere den menneskelige hjernes mentale processer som bevidsthed, fantasi og evnen til at få nye idéer og anvende dem til at opnå et bestemt mål. Idéen greb den brede defolkning, som fantasien om et "cyber space" med menneskelige egenskaber inde i den digitale computers algoritmer. Der var tilsyneladende kun et lille spring fra at erstatte den menneskelige computer med en digital computer til at erstatte den menneskelige sagsbehandler med en digital sagsbehandler.
Den offentlige digitalisering er baseret på disse forestillinger om "cyber space". Wieners "cybernetics"-idéer var imidlertid håbløst naive. Det er helt umuligt inden for en endelig tid at simulere hjernens funktion med en klassisk computer. Tilbage bliver algoritmer, som kan lære at finde og klassificere geometriske figurer i store datamængder, men dette har intet med menneskelig intelligens at gøre. Det engelske ord "intelligence" anvendes også om millitære efterretninger og begandlingen af militære data. At kalde denne type af intelligence for "kunstig" giver ingen mening.

  • 4
  • 0
Anne-Marie Krogsbøll

Bliver det så 3-4-5 postkasser hen ad vejen - en ny hver gang der er udbud?

Det kan næppe være for borgernes skyld, så for hvis skyld er det så?

Det er ikke godt for tilliden. Det ville hjælpe gevaldigt, hvis man gjorde op med den rådne Mørklægningslov og den statsautoriseret korrupte parti- og kandidatstøttelov.

For heller ikke de er til for borgernes skyld - så for hvis skyld er de så til?

  • 4
  • 0
Louise Klint

Ja, det ved jeg heller ikke.

Så vidt jeg husker, er den offentlige sektor oprettet med det formål,
at være en service til borgerne.
(Inklusiv en kontrolfunktion ifh. til skat og opkrævning mv., selvfølgelig).
Det er derfor, vi vælger at bruge skattekroner på den offentlige sektor.
I hvert fald i udgangspunktet.

Ikke for at bruge en masse penge på indirekte statsstøtte til private virksomheder samt statsagtigt monopol til kammeradvokaten, således de kan yde regelrytteri og løse en opgave (yde en ”service”), som er komplet menings- og formålsløs
for borgerne.

Fokus er i hvert fald gledet af hænde, for mig at se.

  • 3
  • 0
Christian Nobel

Her er lidt hyggelæsning til aftenkaffen...
19.09.19: https://www.altinget.dk/artikel/186325-omstridt-sag-afgjort-danskerne-sk...

Så kan du selv vurdere, om digitaliseringen øger din tillid til det offentlige :)

Øhh, nederst i den artikel står:

Artiklen er rettet, så det fremstår klarere, at det ikke er sikkert, at danskerne får to digitale postkasser, men derimod at de sandsynligvis får to forskellige udbydere af hhv. offentlig og privat digital post.

Hvorfor i alverden skal det offentlige stå for den private digitale post?

Man kan til nødt (med meget, meget god vilje) forstå at systemet har et statssystem hvori vitterliggørelser, dummebøder mv. proppes ned i, men privat post - nixen bixen.

E-mail er faktisk opfundet, men måske hele problemet bunder i at man i Danmark har smidt 30 års udvikling i kloakken, og stadig ikke er i stand til at lave en ægte digital signatur (men hellere vil sikre vennerne, så som Bo Nilsson og andre forbrydere i habitter, endnu flere penge).

  • 0
  • 0
Jakob Skov

Det er vigtigt at have alle aspekter med når man vurderer digitalisering. Dermed ikke sagt at det er forkert at der er rigtig mange systemer der fungerer nydeligt i det offentlige.

Skat kom fra den lokalt baserede model før kommunal-reformen og der har derfor ligget et stort potentiale i at få samlet trådene så at sige. Det er klart blevet lettere på overfladen at anvende de nævnte systemer for flertallet af befolkningen, men...
Skat har siden circus 2008 været i forfald i den forstand at tingene netop ikke har fungeret bag facaden. Der er kommet mange fyringer ud af det mere skjulte EFI-system og det kom aldrig til at fungere. Så på overfladen er det en stor forbedring at digitalisere forskudsopørelser, selvangivelse og årsopgørelser, men det skal jo helst også kunne fungere sammen med det bagvedliggende!
Det samme var erfaringen da SU-søgning var blandt de første fuldt digitale offentlige services i landet: SU var meget let at søge digitalt og det fungerede fejlfrit for de fleste i de fleste tilfælde, men da man begyndte at grave lidt, satte SU-styrelsen en uslåelig rekord i trafik-lysmodellen med røde lamper over hele linien for alt fra arbejdsmiljø til borgerservice. Den flotte overflade dækkede over at når systemet ikke fungerede for borgeren, gik det også helt i sort for SU-styrelsen!

Rejsekortet er heller ikke så "slemt". Misforstå mig ret, de tekniske valg man traf i det projekt er håbløse set fra nutidens 20/20. Det at skulle stemple en gang yderligere end hvad man var vant til er trælst, for ikke at tale om det der engang hed forbrugerbeskyttelse i form af hjemmelsdokumentation!
Men politisk er rejsekortet en succes for takst-systemerne i amterne var ret arkæiske. Med to forskellige vejvalg fra start til mål var der fire forskellige billetter og dertil hørende priser: Billet vejvalg 1, billet vejvalg 2, billet til valgfrihed og billet uden hensyntagen til vejvalg.
Jeg oplevede over tid at få alle 4 typer udlevet i forskellige sammenhænge, når jeg købte ti-turskort, alt efter hvem der udskrev dem. Sagt på en anden måde: Buschauffører og andre billet-sælgere kunne/ville heller ikke forstå systemet!
Samtidig er man gået fra over 100 forskellige takst- og rabat-systemer til et betydeligt lavere niveau idag. Så samfundsmæssigt og politisk har rejsekortet bragt noget positivt og der er stadig et stort rum for forbedringer.

Når helheder fejler er det svært at kalde detaljerne gode. Det kunne jo være at det gode blev godt på bekostning af helheden.

  • 0
  • 0
Log ind eller Opret konto for at kommentere