Gladsaxe taler ud om dataovervågning: Vi vil gerne lave en ‘black box’
Gladsaxe Kommune har været fåmælt, når det handler om den ombruste algoritme til overvågning af socialt udsatte familier.
På kommunens opfordring stillede Version2 sytten spørgsmål om algoritmens udformning i starten af januar. Dem nægtede kommunen at svare på.
I begyndelsen af februar kunne Version2 berette, at Gladsaxe ifølge flere juridiske eksperter overtrådte persondataloven. Dagen efter meddelte kommunen, at arbejdet nu blev sat på pause.
Men det er kun, indtil ministerierne ombestemmer sig og kommer med en ny bekendtgørelse.
Det fortalte kommunens børne- og familiechef Tine Vesterby Sørensen på Konference om digitalisering på det sociale område, som blev afholdt i sidste uge, arrangeret af Dansk Socialrådgiverforening, tænketanken Justitia, Institut for Socialrådgiveruddannelse ved Københavns Professionshøjskole og tænketanken Teknoetik, på professionshøjskolen på Frederiksberg.
»Trygfondens forskning viser klart, at det, børn er udsat for i de første tre år af livet, får betydning i deres voksenliv. Det at være født af en enlig mor på overførselsindkomst uden uddannelse i et udsat boligområde – der kan du følge børn, til de bliver voksne og dør tidligere end alle andre – hvordan de ikke gennemfører folkeskolen og ikke får en ungdomsuddannelse, de har svært ved at få et arbejde, de har mere fattigdom og sygdom og laver mere kriminalitet og dør tidligere,« fortalte Tine Vesterby Sørensen tilhørerne.
Flyverdragten lugter af røg
Kommunens medarbejdere skal have dette for øje i alle sammenhænge, hvor der er kontakt til borgerne:
»Vi må sikre, at jobkonsulenterne på jobcentrene ikke kun er optaget af at få forældrene i arbejde. De skal også være optaget af, at når det er så svært at blive i arbejde, fordi hun har alle de her problemer - gad vide, hvordan det så er at vokse op hjemme hos hende.«
Hun fortsatte:
»Børnehavepædagogen skal være optaget af, at hun har et barn, der kommer i dagtilbud i en flyverdragt, der lugter af røg. Man skal være optaget af: ‘Gad vide, hvad der sker derhjemme’, hvor mor og far ikke har haft noget arbejde i mange år.«
Tine Vesterby understreger, at kommunen ikke gør noget med data i øjeblikket, da kommunen ikke har fået den nødvendige bekendtgørelse.
Men som Version2 tidligere har beskrevet, var arbejdet i fuldt gang i december måned 2018, på trods af at Gladsaxe fik afslag på frikommuneansøgning i december 2017. Arbejdet fortsatte altså i hvert fald i 12 måneder.
»Vi har i Gladsaxe fået en del tæv for, at vi vil lave dataunderstøttet opsporing. Vi kan begynde at arbejde med forældrene, før deres børn udvikler alvorlige symptomer på mistrivsel. Men det kræver, at vi finder disse børn noget før. Noget, der er rigtig vigtigt, er transparens og en fagpersons individuelle skøn.«
»Vi får meget hurtigt et overvågningssamfund«
I konferencens debatpanel var der ikke stor tilslutning til Gladsaxes ideer.
»Jeg er mest bekymret for vores retssikkerhed og vores menneskerettigheder,« sagde Birgitte Eiriksson, som er vicedirektør i Justitia og tidligere juridisk chefkonsulent i Rigspolitiet:
»Bare fordi noget er muligt, er det ikke sikkert, man skal gøre det. Vi får meget hurtigt et overvågningssamfund, for når de digitale muligheder er der, er der en tendens til, at man gerne vil bruge dem som værktøjer, for eksempel til at bekæmpe snyd med sociale ydelser og alt muligt andet. Det kan også være meget legitime forhold, som det er at finde børn, der mistrives, på et tidligt tidspunkt, men vi sælger ud af vores privatliv. Og det er noget, vi skal værne om.«
Menneskerettighederne skal beskytte borgerne mod staten, og der skal man tænke sig grundigt om, lød synspunktet.
»Min anden hovedanke er retssikkerheden, særligt for de socialt udsatte borgere, men også for andre, der ikke har de resurser, det kræver at være med i forvaltningsretlige processer, som kræver, at man er god til jura. Det skal tænkes ind, når systemerne designes.«
Politikere skal engagere sig i digitale strategier
En anden paneldeltager, jurist og lektor Hanne Marie Motzfeldt ved Center for Informations- og Innovationsret ved Københavns Universitet, mente, at Gladsaxe-modellen aldrig skulle været gået i luften uden at være fulgt af et såkaldt §17-udvalg bestående af politikere fra byrådet.
»Når der sættes overvågningskameraer op i kommunale sportshaller, råber politikerne op om, at det vil vi ikke have. Det politiske system virker,« lød hendes pointe.
»Jeg kunne godt tænke mig flere folkevalgte, der er involveret i de digitale strategier.«
Tine Vesterby Sørensen mener, at den sociale indsats i dagens Danmark halter, og at der må nye boller på suppen:
»Vi har lavet socialt arbejde i mange år i Danmark, og er det lykkedes? Nej, det er det ikke. Den sociale mobilitet falder. Vi er på vej med en generation, hvor børn bliver dårligere uddannet end deres forældre, hvilket ikke er sket i mange år. Vi er ikke lykkedes med, at de udsatte børn har fået det bedre. Måske er det på tide at gå en ny vej. Men jeg kan godt forstå bekymringen, og at I synes, det er langt ude i Gladsaxe. Derfor vil vi gerne være frikommune, hvor politikere fra Christiansborg og vores egne politikere, som i øvrigt er helt med på ideen, kan følge det.«
Intens overvågning er stort indgreb i retten til privatliv
Det fik ordstyrer Anette Høyrup fra Forbrugerrådet Tænk til at indvende:
»Men spørgsmålet er, om alle kommunens borgere skal registreres, og i hvilket omfang, for at man kan finde frem til de udsatte borgere, og der taler vi om proportionalitetsprincippet om kun de nødvendige data.«
Hun gav stafetten videre til Birgitte Eiriksson, der sagde:
»Når man overvåger så intenst, så er det også et stort indgreb i vores ret til privatliv. Den ret er ikke absolut. Man kan gøre indgreb, men der er nogle ting, som skal være opfyldt. Formålet skal være legitimt, og der skal være klar lovhjemmel, og det kan man skabe. Men så kommer problemet: Det skal være proportionalt. Det er ikke et proportionalt indgreb at overvåge så mange børnefamilier for at finde ganske få. Når jeg taler med skolelærere, socialrådgivere og pædagoger, siger de, at kommunerne ikke reagerer på deres underretninger. Vi har allerede et system, hvor mange holder øje med børnene, fra de er helt små, og som løbende foretager underretninger, som der ikke bliver reageret på.«
I stedet ønskes et computersystem, som betyder, at der ‘bankes på en masse menneskers døre’:
»Hvor vi godt vil snakke om dine forældrekompetencer, fordi du har en anden nationalitet, eller du ikke har haft job i to år, og du har glemt to aftaler hos skoletandlægen, og du har ikke været på forældreintra endnu – det er ret skræmmende. Og det kunne lige så godt være mig.«
»Vi vil gerne lave en ‘black box’«
Tine Vesterby Sørensens genmæle lød:
»Vi bruger kun data, som foreligger i kommunen. Vi vil ikke skabe ‘falske positive’. Derfor er det vigtigt at arbejde med det i en algoritme, som skal kunne finde de rigtige. Jeg er fuldstændig med på, at vi ikke vil lave en generel overvågning. Og vi vil også nødigt kalde det ‘overvågning.’ Vi vil gerne lave et system, som har en ‘black box’, dvs. at når data løber ind, bliver det behandlet i et system, som ingen nogensinde kommer til at se. Dem, hvor det ikke er sandsynligt, at børnene er udsatte, er der ingen, der nogensinde vil se. Vores dataanalytikere siger, at disse data bliver ikke set af nogen.«
Disse data eksisterer allerede i fagsystemerne, og der er derfor ikke behov for yderligere indsamling, sagde Tine Vesterby Sørensen.
Men der er forvirring om, hvad overvågning er, mente Birgitte Eiriksson.
Det er i hendes øjne overvågning, hvis myndigheder registrerer, samkører data og danner tætte personprofiler på borgerne – også hvis sagsbehandlerne ikke kigger på data, men overlader arbejdet til algoritmer.
»Og tro mig: Den dag, man får brug for at kigge på data, så gør man det. At man ikke bruger dem konstant og hele tiden, betyder ikke, at det ikke er overvågning. At falske positive bare kan sorteres fra – det kan ikke lade sig gøre. Når Udbetaling Danmark kører deres meget omfattende systematiske sager, er det eksempelvis kun i en fjerdedel af sagerne, hvor det ender med en regulering af borgernes ydelser.«
På Version2's spørgsmål om, hvorfor borgerne skal stole på myndighederne, hvis de som i Gladsaxes tilfælde ikke vil svare på offentlighedens spørgsmål, udtalte Tine Vesterby Sørensen:
»Jeg tænker, at i det øjeblik, der foreligger en bekendtgørelse fra ministeriet om, at vi må lave denne samkøring, så vil vi også oplyse fuldstændigt, hvordan vi arbejder med den. I øjeblikket har vi i Gladsaxe valgt at sige: Det ser ikke ud til, at der kommer en bekendtgørelse foreløbig, og derfor har vi sat arbejdet i bero. Og derfor ser vi ikke nogen grund til lige nu at bruge tid på at orientere journalister, som primært har en negativ vinkel på denne opgave. Det er vores holdning.«
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
