Børneprofilering med kunstig intelligens bruger 70 registre i sideprojekt

18 kommentarer.  Hop til debatten
Børneprofilering med kunstig intelligens bruger 70 registre i sideprojekt
Illustration: Bigstock/Kalinovskiy.
Biologiske data om eksempelvis fertilitet er blandt 70 registre i et parallelt forskningsprojekt til ‘Underretninger i fokus’, der med kunstig intelligens skal forudse mistrivsel blandt børn. Det viser aktindsigt fra Danmarks Statistik.
13. juli 2020 kl. 02:59
errorÆldre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

VIA University College og Trygfondens Børneforskningscenter på Aarhus Universitet arbejder med at udvikle et dataanalytisk værktøj, der skal opspore mistrivsel blandt børn.

Projektet ‘Underretninger i fokus’ ønsker at undersøge, hvordan man kan skærpe det beslutningsgrundlag, som socialrådgivere har til rådighed, når det gælder underretninger. Det skal resultere i et værktøj til algoritmisk beslutningsstøtte i kommunerne. Et pilotprojekt har allerede været i anvendelse i to kommuner.

Log ind og få adgang
Du kan læse indholdet ved at logge ind eller oprette dig som ny bruger.
18 kommentarer.  Hop til debatten
Debatten
Log ind for at deltage i debatten.
settingsDebatindstillinger
18
31. juli 2021 kl. 00:31

Men jeg så lige følgende video fra det mægtige USA, og hvordan deres politistat er et mareridt som Orwell ikke kunne forestille sig i sin vildeste fantasi.

En af kommentarerne "Not mentioned in this video, They also use school children's grades and discipline reports in school to put them on a list of "potential criminals". FBI is currently investigating the unlawful access of this information and lack of informing parents that their kid could potentially be on the list."

I know, I know det er bare en reddit kommentar, men det lyder ikke sindssygt usandsynligt for USA.

Tag nu ovenstående kommentar og se den i perspektivet af denne artikel, og drop den naive forestilling om at staten Danmark vil borgerne det bedste, så virker hele projektet en anelse mere uhyggeligt. Og så må folk godt kalde mig sølvpapirshat og sige ting som "ahhh, det kunne aldrig ske i Danmark", men så prøv at tage et kritisk blik på de sidste 20 års udvikling her i landet og se (og det er bare hurtige eksempler fra erindringen) på statistik og historier om tvangsfjernelse af børn eller Justitsministerens ønske om at overvåge tidligere kriminelle der har afstået deres straf.

Det er ikke dumt at have en svækket tillid til det danske magtapparat, det er til gengæld naivt at tro den udvikling der pågår er "for vores alles bedste".

17
14. juli 2020 kl. 11:50

Der findes også en del børn af rige forældre som også mistrives, er der så også taget hensyn til dem?

Når man hører om amerikanske forældre som rask væk giver plastik operationer til deres unger. Et del skræk eksempler kan findes man søger efter 'spoiled brat wrong color car' på youtube.

14
13. juli 2020 kl. 17:25

@Jesper Lund Jo jo jeg er selv tilhænger af forskning. Men problemet er jo at i Danmark, der har man en tendens i visse offentlige institutioner at kalde alt for forskning, og så når forskningen er tilendebragt, så står man pludselig med et produkt. Det er vist også det der er tilfældet i den her sag, som jeg læser artiklen.

Der mangler en klar afprøvning af hvad statistiske og videnskablige formål egentlig er ift. GDPR. Jeg mener at mange offentlige instanser rutinemæssigt er langt på den forkerte side af grænsen.

// Jesper

13
13. juli 2020 kl. 15:42

Gladsaxeprojektet skabte furore. Hvordan er dette forskelligt - bortset fra at det er baseret på flere registre?

Så længe der er tale om forskning med "anonymiserede" data (reelt pdeudonymiserede) er der relativt vide rammer for hvad man må gøre i Danmark. Danmarks Statistik kan levere følsomme oplysninger (som udgangspunk kun til forskning og statistik) i et omfang, som gør selv de mest aggressive amerikanske databrokere dybt misundelige. Alt i den offentlige sektor, og temmelig meget i den private sektor, registreres med CPR-nr, og temmelig meget indberettes på CPR-nr niveau til Danmarks Statistik (og nej, du kan ikke få indsigt via GDPR artikel 15; den mulighed har Folketinget fjernet). CPR-nr er en supercookie til samkøring af alle mulige databaser.

Gladsaxe Kommune startede med et "forskningsprojekt" hvor de profilerede børnefamilier ud fra en række følsomme databaser, herunder sundhedsoplysninger. Det skete meget diskret uden at offentligheden blev orienteret om det.

Diskussionen om Gladsaxe-modellen kom reelt først, da kommunen ville bruge den model, som man havde udviklet i "forskningsprojektet", til sagsbehandling. Først sendte Gladsaxe Kommune en ansøgning om fritagelse fra persondataloven som frikommuneforsøg, selv om lov om frikommuneforsøg slet ikke tillader fritagelse fra persondataloven. Senere diskussionen i forbindelse med vedtagelse af databeskyttelsesloven (specielt den meget omstridte § 5, stk. 3), hvor den daværende regering så Gladsaxe-modellen som et muligt forbillede til generel profilering af befolkningen.

Der er ikke noget galt med forskning for at blive klogere. Men når forskningsprojekter er baseret på centraliseret registersamkøring ud fra CPR-nr (som her, og som i Gladsaxe "forskningsprojektet") kombineret med efterfølgende anonymisering på en server (som per definition er utroværdig), kan et forskningsprojekt med gode intentioner, og intet ønske om at "udpege" enkeltpersoner, meget hurtigt blive til sagsbehandling, hvor intentionerne ikke nødvendigvis er så gode (fx besparelser) og hvor enkeltpersoner via profilering måske udpeges til indgribende foranstaltninger (undringslister hos Udbetaling Danmark, indkaldelse til samtaler efter profilering som udsat familie, etc etc).

Disse etiske aspekter af dansk registerforskning burde forskerne tænke lidt mere over..

Jesper Lund

IT-Politisk Forening

12
13. juli 2020 kl. 14:46

Gladsaxeprojektet skabte furore. Hvordan er dette forskelligt - bortset fra at det er baseret på flere registre?

11
13. juli 2020 kl. 14:17

Fra den lange liste af personoplysningerne, som skal registersamkøres og som børnene skal profileres ud fra:

The following three datasets are uploaded directly by STIL

  • National tests
  • Absence data
  • Well-being survey

Samkøringen er kun mulig, fordi trivselsmålingerne og de nationale tests registreres under barnets CPR-nr. hos STIL. Hvis trivelsmålingerne var anonyme, ville det ikke være muligt at bruge svarene i en anden sammenhæng (som det gøres her).

Dette projekt burde få de sidste børnefamilier til at droppe folkeskolens trivelsmålinger og nationale tests..

10
13. juli 2020 kl. 13:57

Et spørgsmål vedrørende denne type "forskning" som jeg ikke har set afklaret er hvordan man forsyner datasættene med eksempler på korrekte eller forkerte udfald.

I min kommune bliver afgørelserne i langt over halvdelen af de børnesager som ender hos Ankestyrelsen omgjort! Derudover bliver en ukendt del omgjort allerede når den del af de stakkels forældre som har ordet i deres magt truer kommuns øvre fedtlag med karrierehæmmende medieeksponering.

Fejlene i indsamlet data, samt i kvaliteten af udfaldet, må være til at få øje på: Hvordan påvirker det mon modelen når fx:

  1. Resultatet af et Rambøl-baseret sprog vurderings spørgeskema for et børnehavebarn (som er en forudsætning for evt. tildeling af sprog-stimulerende specialpædagogisk indsats) sendes til den forkerte børnehave og strander der i månedsvis. Hvorefter både Rambøll og kommunen ikke vil løfte en finger for at rede trådene ud, og overlader det til forældrene og børnehaverne at bryde reglerne ved at udveksle kodeord til Rambøll's system for at løse problemet, med måneders forsinkelse som resultat.

  2. Sylter udredning af det pågældende barn i halve år, og giver dermed ikke forældrene andet valg end at gennemtvinge en udredning via henvisning til psykiatrien fra egen læge, til tydelig ærgrelse og irritation fra kommunens PPR afdeling, og med yderligere forsinkelse som resultat.

  3. At kommunen efter at være blevet indkaldt til netværksmøde med psykiatrien, repræsentanter for børnehaven, samt forældrene, hvor den blev påbudt (eller så tæt man kan komme et påbud, med KL og regionernes besparelse-studehandler taget i betragtning) endeligt henviser barnet til et special tilbud, men at det viser at de fejlagtigt har henvist barnet lillebror som de ikke kender, og som intet fejler. Og det til et tilbud som han ikke engang er gammel nok til. Endnu engang må trådene redes ud af forældrene, og yderligere tid og kræfter spildes.

  4. Da barnet når folkeskolealderen vil kommunen indskrive barnet i en almindelig folkeskole klasse, hvilket er åbenlyst uegnet, og som er i fuldstændig modstrid mod psykiatriens, forældrenes samt endda kommunens egen psykologs (!) anbefalinger. Også her må forældrene træde i karakter og ganske enkelt gøre det klart at de ikke vil møde op til først skoledag i den pågældende normal-klasse, samt igen true kommunens direktion med Ankenævn og medier.

Hvor mange sager som denne er der mon, og hvordan mon kvaliteten af disse data er?

Ovenstående gennemgang er kun en del af min families oplevelser over de sidste ca. 5 år med en af landets mest velstående kommuner: Frederiksberg.

Jeg tør slet ikke tænke på hvad der var sket hvis kommunen havde haft en ufejlbarlig "orakel" maskine til rådighed til yderligere erstatning for enhver sund fornuft.

9
13. juli 2020 kl. 12:54

Man har et problem, der bl.a. bunder i underbemanding. Der er for mange børn i forhold til pædagoger, lærere og socialrådgivere (og sikkert flere). Der er også familier, der er i en håbløs situation, som det er "besværligt" at hjælpe dem ud af. Og atter "løser" man problemet med fantastiske it-systemer, som enten ikke virker eller som er ulækre.

7
13. juli 2020 kl. 10:36

Sikker på at modellen kommer frem til følgende, destro mindre penge folk har destro større er sandsynligheden for at børn mistrives.

Måske skjules det med 300 faktorer der ialt fortæller hvor mange penge folk har.

F.eks Bilafgift Ryge de Rentefradrag Rente indtægt Aktieindtægt Osv

6
13. juli 2020 kl. 10:13

Måske skulle du spørge dig selv om talmagi på kvantitative data af tvivlsom kvalitet, udført af dyrt betalte ypperstepræster, er bedre end bare at have socialrådgivere nok, og lette presset på udsatte familier.

// Jesper

5
13. juli 2020 kl. 10:01

Nu har man utallige gange set sager om mistrivsel hvor reaktionen altid er: "hvordan kan kommunen ikke have reageret på det her tidligere? "

Den her slags projekter gør det overkommeligt for kommunerne at finde ud af hvor der skal sættes ind i tide, med begrænsede midler.

Om målet så helliger midlet og om man burde have et forsikringsselskab med i udviklingen, det er et andet spørgsmål.

4
13. juli 2020 kl. 09:03

Jeg tror desværre, at det kommer til at ske, uanset om vi ønsker det eller ej.

3
13. juli 2020 kl. 07:50

Viden er magt og dem der har alt viden og bestemmer over algoritmerne der afgøre dit livs muligheder, opnår absolut magt. Med absolut magt, følger et meget svært ansvar for ikke at bruge denne absolutte magt.

De fleste af vores nuværende magthaver, tænker jeg er nogenlunde demokratiske anlagt - nogen mere end andre... Vi er ikke i Kina, Rusland, Nordkorea eller tilsvarende. Men prøv at forestille jer, at der kommer en lille mand forbi, med et sjovt overskæg, der vifter med dannebrog og han ender med at blive valgt til statsminister og han nu kan styre dit liv...

Prøv så at tænke på, hvilken demontering af demokratiske processer, som folketinget følte sig nødsagede til at foretage i Marts, så regeringen kunne handle hurtigt imod en udefrakommende trussel. Overvej nu, hvor svært det har været at få regeringen til afgive den tæt på absolutte magt de har opnået. Politikker der opnår absolut magt, eller tæt derpå, vil meget gerne beholde den, selv hvis de inden de opnåede den øget magt var demokrater.

Magt korrumperer og med profileringsværktøjer til at forudesige hvem der er “skidte” personer, der skal stoppes inden de foretager sig noget kriminelt, er et værktøj der giver absolut magt.

Ønsker vi at give vores politikker absolut magt?

2
13. juli 2020 kl. 07:50

Måtte man ikke samkøre registre uden at spørge dem, der var registreret deri. Er den lov ændret?

1
13. juli 2020 kl. 06:50

Jeg forstår sgu godt at denne type projekter forsøges holdt hemmelige. Føj for helvede, og så med en forsikringskoncerns lobby-fond indblandet. Aldrig kommer mine børn til at levere data fra nazionale test og trivselsmålinger til sådan en gang fordækt svineri.

Tag dog til Nordkorea når det er den form for overvågningssamfund i ønsker jer, I såkaldte "forskere", som jo bare er cand.polit'er på politisk-ideologisk karrierefremmende bestillingsarbejde.