Gæstebloggen

Professor: Hvad er prisen for digital velfærd?

I bogen 'Mit liv som spion' ('My Life as a Spy: Investigations in a Secret Police File', Duke University Press, 2018) fortæller den amerikanske antropolog Katherine Verdery om sin store overraskelse, da hun efter Murens fald opdagede, at der hos Stasi fandtes et hemmeligstemplet politidokument på flere tusinde sider om hendes liv og færden.

I dokumentet kunne hun læse, at de mennesker, hun havde studeret i over 20 år – mange af dem nære venner – løbende havde videregivet personlige oplysninger om hende til det hemmelige politi.

Brit Ross Winthereik er professor på ITU, hvor hun blandt andet leder et forskningsprojekt om anvendelse af data i offentlig styring. Illustration: ITU

Bogen fortæller om data som en uundværlig kilde til udøvelse af kontrol i et diktatur.

Men den er også en personlig beretning om oplevelsen af at stå ansigt til ansigt med sin datadobbeltgænger, og om det chok det er at se, at det samlede billede ikke stemmer overens med ens opfattelse af egen identitet.

Data i et demokrati

I vores nuværende demokratiske styreform er det – vil nogle måske mene – ikke det helt store problem at de data, der produceres om os, med tiden vil kunne stykkes sammen til en digital dobbeltgænger, så længe data ikke misbruges.

Men måske skal vi til at tænke på de risici, digitaliseringen af velfærd skaber i et lidt længere perspektiv.

I Danmark arbejder offentlige myndigheder intenst på at blive ’datadrevne’. Sproget og forretningsmodellen er inspireret af store amerikanske teknologivirksomheder som Google, og ideen er simpel:

Hvis man kan aktivere de store mængder data om borgerne, som myndighederne alligevel har liggende, til at skabe mønstre og fremskrivninger, vil der være store fordele forbundet hermed.

Man vil kunne blive i stand til bedre at styre budgetter, og også kunne se hvilke indsatser der faktisk virker.

Det offentlige Danmark er ikke Google

De fleste mennesker i Europa er – ikke mindst takket være Margrethe Vestager – nu klar over, at Google og andre store amerikanske virksomheder bevidst baserer deres forretningsmodel på at skabe profit gennem brugernes aktivitet på nettet.

Shoshana Zuboff beskriver i sin meget omtalte bog 'Overvågningskapitalismens tidsalder' ('The Age of Survellance Capitalism: The Fight for a Human Future at the New Frontier of Power', PublicAffairs, 2019), hvordan virksomheden opnåede sin konkurrencefordel ved at udnytte metadata.

Hun taler om, at metadata dengang var at sammenligne med udstødningen fra en bil – et uønsket biprodukt. Google forstod at omsætte dette biprodukt, til forskel fra konkurrenterne, som ikke anså ’udstødningen’ som værdifuld.

Google er kommet langt med sin model ved – i hvert fald i begyndelsen – at omsætte de indsigter, som blev opnået om søgemaskinens brugere, til forbedringer af produktet.

Danske myndigheder argumenterer på samme måde: Øget brug af data vil komme alle til gavn, men for det første er der sket et skift hos Google, så der ikke i samme grad som tidligere geninvesteres i gratis services.

Risikoen for, at offentlige myndigheder med tiden vil kapitalisere på borgernes data, er således til stede.

For det andet er situationen grundlæggende en anden, fordi offentlige myndigheder, selv med mange private partnere, ikke opererer under samme vilkår som Google eller andre private virksomheder.

Forskellen er, at offentlige myndigheder opererer under monopollignende tilstande. Til gengæld for næsten-monopolet er de underlagt tilsyn og står til ansvar overfor politikere og borgere.

Borgerne kan klage over afgørelser, men det er i langt de fleste tilfælde umuligt at vælge et andet ’produkt’, hvis borgeren er uenig i en afgørelse.

Relationen mellem borger og myndighed er således ikke en relation mellem en kunde og en leverandør, men en relation baseret på rettigheder og tillid.

Sæt det lange lys på

Så når offentlige myndigheder vil være datadrevne, altså udnytte biprodukter fra interaktioner med borgeren til gavn for økonomien og udvikling af ydelserne, (som altså ikke er at sammenligne med produkter), er der visse risici forbundet hermed.

Jeg vil koncentrere mig om den, der vedrører datadobbeltgængeren.

Myndighederne har indtil videre indsamlet oplysninger om borgerne med henblik på at kunne forbedre den velfærd, som staten har næsten-monopol på: sundhed, uddannelse, omsorg og pleje.

CPR-nummeret er en uvurderlig teknologi til at organisere de oplysninger, der sørger for, at de rette ydelser tilfalder den rette borger, og at alt foregår korrekt og ifølge loven.

Men når data i den offentlige sektor i dag omtales som en ny ressource, sker der en forskydning i forståelsen af, hvem data er til gavn for.

Er det til gavn for staten eller for borgeren, at ’passive’ data og biprodukter skal aktiveres? Hvordan undgår vi, at retorikken om data som det nye guld også medfører et ønske om værdiskabelse, som ikke geninvesteres i velfærd? Hvordan undgår vi, at der om 20 år er sket en profilering af individer og grupper, som den Google laver?

Og hvis der gør, og datadobbeltgængeren er misvisende, hvem bærer så egentlig ansvaret? Kan borgeren gøre indsigelser mod ’identitetsforvrængning’ gennem data?

Hvem skal betale for digitalisering?

Digitaliseringen af velfærd har en pris, men det skal ikke være den højeste pris, vi betaler. Det skal heller ikke være de mest udsatte – dem, der findes mest data om – der betaler mest.

Det er muligt, at myndighederne med de rette investeringer og gennem udviklingen af kompetencer til dataanalyse kan komme til at se nogle ting klarere.

Og mens de arbejder på at skabe mere klarhed over, hvor en øget anvendelse af data rent faktisk kan hjælpe, er det vigtigt at forstå data i kontekst.

Det vil sige ikke bare i kontekst af private virksomheder som Google, men også i kontekst af andre styreformer og i et historisk perspektiv.

På den måde kan vi forstå digitaliseringens risici som noget, der rækker ud over spørgsmålet om, hvorvidt den enkelte bruger for meget tid foran skærmen eller har de rette privatlivsindstillinger.

Det handler også om, hvordan identitet konstrueres, og om konsekvenserne af hvordan vi repræsenteres digitalt.

Relateret indhold

Kommentarer (7)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

Tak for endnu et bekymret indlæg - dejligt at se, at der bliver flere og flere, der begynder at se skriften på væggen.

Og tak for det godt dækkende ord "datadobeltgængeren", som fint anskueliggør nogle af de risici, som vore myndigheder - hånd i hånd md Singularity University - er igang med hovedkuls at ignorere.

"Det handler også om, hvordan identitet konstrueres, og om konsekvenserne af hvordan vi repræsenteres digitalt."

Ja, det er også et af Zuboffs hovedfoki - hvad udviklingen gør for muligheden for at danne sig en personlige identitet, når andre i det skjulte allerede er igang med at danne den for en, og man ikke har nogen steder at gemme sig.

Jeg har ondt af de opvoksende børn - godt, det ikke er mig, der skal finde ud af at manøvrere i dén verden.

Bjarne Nielsen

Det er farligere end som så. Det bliver beskrevet på en måde, så man kunne forledes til at tro, at der er tale om en neutral iagttager og ganske overordnede forbedringer (f.eks. en bedre søgemaskine).

Men det er ikke bare neutrale iagttagelser, vi bliver formet af det. En bedre søge maskine giver filterbobler, som påvirker holdninger og opfattelser.

Mange påvirkninger er nok uundgåelige og mange er sikkert også uforudsete. Men som Zuboff påpeger, så står man ikke tilbage for at bruge iagttagelserne, og den indflydelse som den viden giver, til bevidst at skubbe til os. Og nej, vi er ikke majonetter, men vi lader os alligevel nemt påvirke. Af slik i børnehøjde i ulvetimen, og af lootboxe (undskyld, "surprise mechanics") i spil. Jo mere man ved, jo bedre ved man hvilke knapper man skal trykke på.

Og det gør man. For hvorfor håndtere mennesker i al deres irrationalitet, når man kan forme dem, og få dem til at komme en i møde. Få filet de skæve kanter af, og få dem til at passe bedre ned i de kasser, som man har.

Brugen af data i det offentlige er heller ikke bare ønsket om bedre busruter eller bedre indretning af uddannelsessystemet. Projekter, som i Gladsaxe med tidlig opsporing og i Horsens med at undgå genindlæggelser, er åbenlyst ikke neutrale iagttagelser, men også et ønske om at påvirke borgerne, så de passer samfundet bedre.

Husk i den forbindelse, at iagttagelse ikke neutralt. Overvågning medfører selvkontrol og konformitet. Og selvom det på kort sigt er både besparende, cost-effektivt og sikkert også behageligt set ud fra et administrativt synspunkt, så er det de skæve indfald og de skøre ideer, som bringer os videre. Vi har brug for excentrikere, afvigere, tosser, mønsterbrydere, helte, talenter, stjerner og foregangsmænd til at udfordre os, ikke bare på det personlige plan, men sandelig også som samfund. Komformitet er stagnation.

Og husk at vi som mennesker tilpasser os de forventninger, som vi mødes med. Hvis man først er blevet klassens klovn, så er man for evigt klassens klovn, for det er nemmere for alle, hvis man klovner sig igennem. Heldigvis, så får vi muligheden for en ny start, når vi skifter folkeskolen ud med en ungdomsuddannelse, eller uddannelse ud med et arbejde. Her gives vi muligheden for at redefinere os selv.

Men hvordan redefinerer man sin digitale Doppelgänger? Hvordan skal man der blive mønsterbryder? Eller formår den at forme os, ved at vi bliver fastholdt i forventninger formet af fortiden, så det ender med at blive en selvopfyldende profeti. En gang klovn, altid klovn - også selvom du græder under masken.

Jeg tror at vi skal tænke os godt om, for jeg tror at vi har gang i noget, som ikke forstår de fulde konsekvenser af.

Anne-Marie Krogsbøll

Her forekommer dette gode debatindlæg mig relevant:
https://www.denoffentlige.dk/kaempe-dataskandale-er-under-udvikling-dit-...

"Og direktør for centret, Peter Løngren, afslørede i P1 Orientering 17. juli i år, at han i over to år har arbejdet på at opbygge det tekniske system omkring centret. Han fik altså opgaven fra Sundhedsministeriet, længe før lovforslaget blev vedtaget, og har således ageret på forventning om efterbevilling. Er det en helt demokratisk måde at føre politik på?"

Nej, det er et af eksemplerne på, at vi bliver kuppet - beslutningen tages i forvejen (af hvem?) uden for Folketinget, som så gennes ind i folden efterfølgende. Ganske som med vedtagelsen af Sundhedsplatformen - hvis businesscasen ikke makker ret, så bestiller vi en anden og dårligere, så vi kan få vores beslutning igennem.

Hvad gør man som menneske, hvis man præsenteres for, at "Dit DNA siger os, at du har denne personlighed?"

Jeg kan ikke kommentere på DenOffentlige, men vil gerne takke Lisbeth Riisager Henriksen for en super gennemgang. Desværre er det magthavende lag fløjtende ligeglade med disse kloge menneskers indvendinger - de slipper ikke den dejlige magt, de er ved at skrabe sammen, med mindre de får armen vredet om.

Jakob Skov

De problemer der eksisterer i øjeblikket er godt illustreret af Helsingør-sagen:
Sagt på en måde var der endelig en ledelse i en forvaltning der gennem et incitamentsprogram gik efter at nedbringe sagsbunkerne! De 20 sager de håbede at nedbringe bunken med ganges med de cirkus 100 kommuner og pludselig er det manglende samfundssind at klage over den enorme besparelse man her viste vejen til!

På den anden side er retssikkerhed og faglighed vigtige koncepter for nogen i samfundet. De borger-rettede sagsbehandlende medarbejdere i kommunerne er i teorien sat til at træffe faglige valg og mestendels være borgerens talerør overfor den mere økonomisk realistiske ledelse af afdelingerne. Ved at give et incitament til at reducere sagsbunkerne gør man op med den grundlæggende adskillelse og gør den borger-rettede medarbejder medansvarlig i de økonomiske valg. Selvom ikke mange borgere i de kasser medarbejderne arbejder med, endsige politiske deltagere, forstår at sagsbehandlernes primære ansvar er repræsentation af borgerens situation for en mere helhedsorienteret vurdering, er det næppe en god idé at udvande ansvarsfordelingen...

Retssikkerhed og faglighed er dyrt og armslængderne er uhyre komplekse at forstå, endsige se. Da man næppe kan forvente eksterne interessenter med tilstrækkelig dyb indsigt i disse specifikke problemstillinger er det reelle monopol for den slags overvejelser hos embedsværket og deres juridisk rådgivining ifm. Lovgivningsprocesser. Frustrerende nok falder hin overvejelser tæt på kernen af det rum mørklægningsloven af 2012 skaber...
Når man samtidig har stor fokus på økonomiske effekter er det meget let en uordentlig vej man kommer ind på, bevidst, som ubevidst! Det at få konsolideret faglighed med den gængse top-down økonomiske ledelse man står for politisk er et kæmpe problem som endelig er ved at manifestere sig i ledelseslaget i det offentlige. Forhåbentligt er det den økonomiske top-down-tænkningen og dermed det politiske lag der er villig til at kompromittere mest, for andet vil næppe medføre et samfund der er værd at leve i...

Thomas Pedersen

Bjarne,

Et supergodt indlæg, som er velgennemtænk og -formuleret.

Jeg er enig i alt, hvad du skriver.

Jeg har selv oplevet at blive proppet i en kasse for, hvem jeg er og hvad jeg er værd og har benyttet et antal skift af uddannelse og arbejdsplads til at komme tættere på at repræsentere den person jeg i virkeligheden er.

Der kan være noget meget værdifuldt i glemsel.

Det løber mig koldt ned ad ryggen, når jeg møder den ligegyldighed der er fra mange mennesker i denne problematik

Log ind eller Opret konto for at kommentere