Advokat sætter spørgsmålstegn ved lovlighed af nyt AI-værktøj om udsatte børn

Advokat sætter spørgsmålstegn ved lovlighed af nyt AI-værktøj om udsatte børn
Illustration: Goodmoments/Bigstock.
Projekt ‘Underretninger i fokus’ mangler forskningsprincipper, som skal anvendes ifølge Databeskyttelsesloven, påpeger advokat. Forskere: Enhver sammenligning med Gladsaxe-modellen er en misforståelse.
Reportage4. februar 2020 kl. 05:04
errorÆldre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Som Version2 i sidste uge kunne fortælle, arbejder VIA University College og Trygfondens Børneforskningscenter på Aarhus Universitet med at udvikle et dataanalytisk værktøj, der skal opspore mistrivsel blandt børn.

Projektet ‘Underretninger i fokus’ ønsker at undersøge, hvordan man kan skærpe det beslutningsgrundlag, som socialrådgivere har til rådighed, når det gælder underretninger. Det skal resultere i et værktøj til algoritmisk beslutningsstøtte i kommunerne.

Beslutningsstøtten bygger på en såkaldt prognostisk model, der er udviklet på baggrund af data fra alle danske underretningssager fra april 2014 til udgangen af 2017 – i alt ca. 367.000 sager.

Projektet beskrives som forskning, og i øjeblikket inviterer partnerne bag kommuner til at deltage – men ifølge Catrine Søndergaard Byrne, der er advokat ved Labora Legal og medstifter af tænketanken Dataethics, kan projektet være på kant med loven.

»Hvis projektet betragter sig som forskning, vil jeg i øvrigt sætte spørgsmålstegn ved, om det er lovligt efter databeskyttelsesloven,« siger hun til Version2 og fortsætter:

»Vi mangler endnu at se en konsekvensanalyse, som afdækker, hvad konsekvenserne er persondatamæssigt og i forhold til forvaltningsretten. Det gælder alle de algoritme-projekter og beslutningsunderstøttende initiativer, der dukker op rundt omkring nu.«

Log ind og få adgang
Du kan læse indholdet ved at logge ind eller oprette dig som ny bruger.
Debatten
Log ind for at deltage i debatten.
settingsDebatindstillinger
27
6. februar 2020 kl. 10:04

Hej Therese Moreau Hansen, Jeg ville bare lige høre om du har modtaget den korrespondance som jeg sendte til dig for et par dage siden? -Den kan jo være havnet i et spamfilter, så det ville være rart hvis jeg lige kunne få en bekræftigelse.

26
6. februar 2020 kl. 01:01

Interview med:Forskningschefen fra projektet, Gitte Sommer Harrits, VIA University College og Catrine Søndergaard Byrne ^^ advokat med speciale i persondataret ved Labora Legal og medstifter af tænketanken Dataethics. 03.02.20: https://www.dr.dk/radio/p1/orientering/orientering-2020-02-03/00:41:45

De taler bl.a. om problemer i forhold til lovgivningen (Persondataloven). Også et væsentligt aspekt i artiklen. Byrne redegør for, at det ikke er lovligt at genanvende data til andre formål, end de er indsamlet til. (= Som er det, projektet gør, red).

Harrits gentager sit synspunkt om, at der er mange ”misforståelser” om projektet, fordi:

Vi samkører ingen data på tværs af nogen former for forvaltninger. Altså, i forhold til de data, der er indsamlet. Og de data, der så er indsamlet, i kommunerne, de er brugt til det forskningsformål, der handler om at undersøge dette her. [...]

Det er det, hun siger. Det besvarer desværre hverken spørgsmålet eller problematikken i forhold til loven. Men de er i gang med at kigge på hele projektet og det juridiske igen, forsikrer hun.

To cut it short: Data fra de ca. 367.000 underretningssager,som danner grundlag for dette projekt, må ikke bruges til andre formål, end de er indsamlet til. Med andre ord: De må ikke bruges til dit projekt, Gitte Harrits. Det siger loven.

(Suk).

Du kan også høre interview med: Ditte Brøndum, næstformand i Dansk Socialrådgiverforening, der giver væsentlige pointer, set fra socialrådgiverperspektiv. 04.02.20: https://www.dr.dk/radio/p1/orientering/orientering-2020-02-04/01:25:41

Spørgsmålet melder sig efterfølgende, om ikkeman skulle starte med at forbedre underretningsproceduren?Altså have et standardiseret skema, med relevante spørgsmål, der kan afdække problematikken mere fyldestgørende end nu?

Således socialrådgiverne ikke sidder med så få og vage informationer, som er humlen i denne sag.

Det er både dét, som socialrådgiveren siger til P1 Orientering. Det er det samme, som forskningschefen fra VIA siger, og det er akkurat det samme, projektet nævner i indledningen til deres ”invitation” til kommuner om deltagelse (se nedenfor).

Som årsagen til, at det er relevant med et ”beslutningsstøtteværktøj” baseret på store mængder ekstra data. Til at ”skærpe det beslutningsgrundlag, som socialrådgivere har til rådighed omkring underretninger”, som de skriver.

Ofte indeholder underretningerne få konkrete oplysninger, og det kan derfor være vanskeligt at vurdere barnets reelle udsathed på baggrund af disse oplysninger.
Det kan betyde, at socialrådgivere som modtager disse underretninger, står overfor at skulle træffe svære og komplekse beslutninger på et potentielt ikke fuldt oplyst grundlag – og ofte på kort tid.

https://childresearch.au.dk/fileadmin/childresearch/dokumenter/Invitation_til_at_deltage_i_projekt_Underretninger_i_Fokus.pdf

Herre jemini...

25
5. februar 2020 kl. 21:50

Jeg synes igen, det er værd at bemærke, at vi har med ’The Department of Economics and Business Economics‘ på Århus universitet og den del af via det har med Ledelse & Organisationsudvikling at gøre. Altså vi er meget langt De faggrupper der normalt praktisk vil have med udsatte børn at gør. Jeg synes lidt, at det er symptomatisk for nogle at de strukturelle problemer vi har i ‘det offentlige i dag’.

// Jesper

24
5. februar 2020 kl. 18:38

Projektet har undersøgt sammenhængen mellem
beslutningsstøttens beregnede risikoscorer
og en række andre mål for børn og unges mistrivsel og udsathed.Det drejer sig om:
• Fremtidige underretninger
• Fremtidige sigtelser for kriminalitet
• Fremtidige hændelser, hvor barnet/den unge er offer for kriminalitet
• Fremtidige somatiske diagnoser
• Fremtidige frakturer
• Fremtidigt niveau af ulovligt skolefravær
• Fremtidig social trivsel målt ved den Nationale Trivselsmåling
i folkeskolen.

Jeg kan ikke rigtigt gennemskue - er det i overensstemmelse med følgende fra artiklen?"Den model, der i pilotfasen er blevet afprøvet i to kommuner, indeholder udelukkende data, som socialrådgiverne allerede har, og som dermed allerede er i forvaltningens sagsbehandlingssystem.​ Der indsamles ikke nye data til brug for sagen, og der forekommer ikke samkøring af data på tværs af kommunale forvaltninger, skriver forskerne."

Umiddelbart forekommer det mig da, at man er nødt til at indhente nye data og samkøre på tværs af forvaltninger, hvis man skal kunne undersøge de nævnte sammenhænge? Somatiske diagnoser og frakturer er vel f.eks. ikke en del af den kommunale forvaltning?

23
5. februar 2020 kl. 18:05

@ Jesper Lund Stocholm,

"Det fremgår, at man anvender data fra trivselsundersøgelserne til at udvikle en indikator for barnets trivsel"</p>
<p>Og endelig – ved nogen af jer, hvor denne formulering kommer fra?

Se venligst første artikel om sagen (nederste parameter): 29.01.20: https://www.version2.dk/artikel/gladsaxe-modellen-spoeger-nyt-ai-projekt-skal-forudsige-mistrivsel-hos-boern-1089919

Projektet har undersøgt sammenhængen mellem
beslutningsstøttens beregnede risikoscorer
og en række andre mål for børn og unges mistrivsel og udsathed.</p>
<p>Det drejer sig om:</p>
<p>• Fremtidige underretninger
• Fremtidige sigtelser for kriminalitet
• Fremtidige hændelser, hvor barnet/den unge er offer for kriminalitet
• Fremtidige somatiske diagnoser
• Fremtidige frakturer
• Fremtidigt niveau af ulovligt skolefravær
• Fremtidig social trivsel målt ved den Nationale Trivselsmåling
i folkeskolen</p>
<p>For eksempel betyder en score på 7 på en skala fra 1 til 10,
at barnet har en risiko, eller sandsynlighed, på omkring seks procent
for at blive sigtet for kriminalitet,
så vidt det kan bedømmes fra en graf i invitationen.

Se det her i "Invitationen" til andre kommuner om deltagelse i projektet:https://childresearch.au.dk/fileadmin/childresearch/dokumenter/Invitation_til_at_deltage_i_projekt_Underretninger_i_Fokus.pdf

22
5. februar 2020 kl. 17:04

Tænk hvis Danmark på samme måde var en retsstat, hvor dommere kunne tage stilling til om love og bekendtgørelser var ulovlige.

F.eks. sessionslogningsbekendtgørelsen er jo erklæret ulovlig af en EU-domstol men danskerne er retsløse hvis et flertal i Folketinget er ligeglade!

21
5. februar 2020 kl. 16:42

Positivt - men det gør sikkert ikke indtryk herhjemme...

19
4. februar 2020 kl. 19:46

Hej Niels, jeg er også være meget, meget interesseret i at se den mailkorrespondance . Kan du overtales til at sende den til

therese.m.hansen@pol.dk

18
4. februar 2020 kl. 18:44

Hele sagen er hermed fremsendt. ? Skriv endelig tilbage hvis der er noget du vil høre nærmere om. Nogen gange skal man jo være part for at kunne få indsigt (eller hvad nu det er man får).

15
4. februar 2020 kl. 17:21

Hej Jesper, Det drejer sig om Frederiksberg, Roskilde, og mindst een men muligvis mange andre kommuner som bruger MinUddannelse platformen.

Der er så godt som ingen offentlig tilgængelig information om netop denne del af Elevplanen i MinUddannelse.

Jeg har en længere korrespondance med kommunen, samt screenshots af de psykometriske diagrammer, som jeg brænder for at dele. Kan jeg sende det til din email?

12
4. februar 2020 kl. 16:57

Hvad kan vi gøre?

Du kan starte med at beskytte dig selv og dine børn ved at nægte deres deltagelse i disse undersøgelser. Jeg har igen i går meddelt skolen, at jeg ikke ønsker, at mine børn deltager i trivselsundersøgelsen.

10
4. februar 2020 kl. 15:57

så mener kommunen altså at man kun kan gøre indsigelser mod en behandling af persondata som allerede er sket, men ikke mod en forestående behandling som endnu ikke er udført, men som allerede er forberedt og klargjort, og som i princippet kunne foregå i dette øjeblik bag forældrenes ryg.

Det er da vældigt bekvemt. Kan man mon true dem med at komme efter dem, hvis de på et senere tidspunkt behandler sådanne oplysninger om din søn?

Det er svært ikke at forestille sig, at sådanne scores også vil indgå i Hjørring-projektet på et tidspunkt. ​

9
4. februar 2020 kl. 15:51

Mon der er en sammenhæng mellem dette projekt, og adskillige kommuners forberedelser til scoring og registrering af disse tretten psykologiske egenskaber i folkeskoleelevernes individuelle elevplaner:

Engagement (skala 1-5) Vedholdenhed (skala 1-5) Gå-på-mod (skala 1-5) Kreativitet (skala 1-5) Kritisk sans (skala 1-5) Evaluering (skala 1-5) Målsætning (skala 1-5) Hensyn (skala 1-5) Ansvar (skala 1-5) Selvstændighed (skala 1-5) Dialog (skala 1-5) Feedback (skala 1-5) Samarbejde (skala 1-5)

I dag har jeg modtaget vores kommunes afvisning af min indsigelse mod behandling (herunder også indsamling og registrering) af ovenstående scores for mit barn. Kommunens begrundelsen lyder i alt sin absurditet:

Vi henviser til vores tidligere besvarelse den 14. januar 2019 (fejlagtigt dateret den 10. januar 2019), hvor vi oplyser dig om, at Frederiksberg Kommune ikke behandler de omtalte personoplysninger om din søn. Vi kan derfor ikke behandle en indsigelsesanmodning i henhold til databeskyttelsesforordningens artikel 21 om indsigelse.

Bortset fra fejl mht. både dato og år, så mener kommunen altså at man kun kan gøre indsigelser mod en behandling af persondata som allerede er sket, men ikke mod en forestående behandling som endnu ikke er udført, men som allerede er forberedt og klargjort, og som i princippet kunne foregå i dette øjeblik bag forældrenes ryg.

8
4. februar 2020 kl. 15:15

Jeg bliver nødt til lige at henvise til min efteforskning omkring min regnstykkeforvirring omkring underretnignstallene forleden:https://www.version2.dk/artikel/gladsaxe-modellen-spoeger-nyt-ai-projekt-skal-forudsige-mistrivsel-hos-boern-1089919#comment-407997

Jeg er ked af at sige det, men de påståede 8000 underretninger pr. kommune om året, som giver et besparelsespotentiale på ca. 8000 mandetimer om året pr. kommune, ser ud til at være enten løgn eller sjusk.

Jeg håber, selv om det vil være umådeligt pinligt for mig - at nogen kan underminere mit regnestykke - for ellers er det bare groft, at det ikke er til at holde ud.

7
4. februar 2020 kl. 14:10

videnskabsetisk komite - som jo skal tage stilling til forkningsprojekter der indvolverer mennesker?

Jeg har tilsyneladende taget fejl, det gælder vidst kun sundhedsvidenskabelig forskning - forstå det hvem der kan. Jeg vil mene at forskning som dette der kan betyde at børn bliver tvangsfjernet som ellers ikke ville være blevet det kan have meget væsentlig betydning.

Nå men al forskning bør overholde det forskningsintegritets-kodeks:

https://ufm.dk/publikationer/2015/filer/file

Interessante uddrag: II

Forskere og institutioner skal også være opmærksomme på sideløbende og juridisk bindende bestemmelser, der har indvirkning på forskningen, f.eks. bestemmelser om behandling af personlige data, intellektuel ejendomsret, etiske vurderinger osv.

2.2

iv. Institutionerne er ansvarlige for at have sikre dataopbevaringsfaciliteter, der er i overensstemmelse med gældende krav om fortrolighed samt andre relevante bestemmelser og retningslinjer, f.eks. vedr. behandlingen af personlige data.</p>
<p>v. Institutionerne bør give adgang til opbevaret primært materiale og data, undtagen når dette strider mod kontraktlige og/eller juridiske forpligtelser eller gældende bestemmelser, f.eks. om etik, fortrolighed

6
4. februar 2020 kl. 13:28

Målet helliger midlet? Det kan godt være man bryder alle løfter, aftaler, love og regler, men tænk nu på kommunernes øko... jeg mener børnene! Tænk på børnene!

Er dette påståede projekt godkendt af videnskabsetisk komite - som jo skal tage stilling til forkningsprojekter der indvolverer mennesker?

4
4. februar 2020 kl. 12:39

vil blive brugt, og alt, hvad der kan bruges, kan også misbruges - og alt, hvad der kan misbruges, vil blive misbrugt. Om ikke før, så siden...

3
4. februar 2020 kl. 08:32

God morge Peter L. Du kan melde dig ind og få indflydelse i det nystiftede Tværpolitisk IT, der samler både politikere, fagfolk og intresserede i samfundsmæssige forhold og projekter, som det nævnte og også det aktuelle lovforslag om den såkladte "Tryghedspakke" m.m.. Tværpolitisk IT afholder sit føste åben møde tordag den 6. februar, kl. 17-20, i Medborgerhuset, Danasvej 31b, Frederiksberg. Det er gratis at deltage og man forpligter sig ikke til at blive medlem. Du kan tilmelde dig arrangementet og læse mere om Tværpolitisk IT, dets virke og formål samt temaet for aftenen, via linket her:https://www.tvaerpolitisk-it.dk/naeste-moede/aabent-moede-6-februar-2020/

2
4. februar 2020 kl. 06:55

Rigtigt godt, at I følger op på denne sag - den skal frem i lyset.

"Det er ikke nødvendigvis sikkert, at de borgere, som indgår i de 367.000 sager, der er anvendt til at træne modellen, er omfattet af den såkaldte ‘informationspligt’. Altså, at borgeren skal underrettes, hvis data benyttes til noget andet end det oprindelige formål."

Det er noget svineri, uanset om det er lovligt eller ej.

Mht. svarene fra Professor Michael Rosholm, Aarhus Universitet, og forskningschef Gitte Sommer Harrits, VIA University så bekræfter de nærmest for mig at se, at der er noget, der lugter her. Svarene er vage, undvigende, jeg bliver ikke klogere på, om det er forskning eller blot et udviklingsprojekt, man kan åbenbart ikke lige umiddelbart give Byrne de relevante dokumenter, og man henviser i stedet til, at man har lagt meget materiale ud, og har forskellige "interessenter fra blandt andet Dansk Socialrådgiverforening, Kommunernes Landsforening, Socialstyrelsen og Børns Vilkår." - som om dét er et argument.

Sikke en gang name-dropping med det formål at imponere og fjerne fokus, men hvorfor skal det nævnes? Siden hvornår har det været en gyldig undskyldning for ikke at overholde love og regler for den slags, at man har en masse gode venner med på sidelinjen?

Det er i virkeligheden meget bekymrende, at en professor og en forskningschef ser ud til enten ikke at kende reglerne, eller bevidst har valgt at ignorere dem . Mon ikke det sidste er mest sandsynligt? Og det er også bekymrende, at alle deres fine venner så åbenbart ikke har reageret.

Nu er det selvfølgelig muligt, at alle regler er fulgt, men at man bare, som det hævdes, ikke har kommunikeret godt nok. Men lige nu virker det mere sandynligt, at projektet er en underlig hybrid, der har sat sig mellem flere stole - eller måske snarere i den mest bekvemme, men ikke nødvendigvis lovlige stol. I så fald viser det jo den uhyggelige grad af selvsikkerhed og følelse af urørlighed, som hersker i toppen af systemet på dataområdet. Man føler sig hævet over loven, boltrer sig lystigt - lige indtil medierne får færden, og kommer og bider en i haserne. Gad vide hvor mange af den slags lovligt afslappede "forskningsprojekter", som gemmer sig rundt omkring?

Hvem udformer i øvrigt algoritmen? En/flere ansatte i projektet? En/flere studerende? Eller er der en leverandør/3. part tilknyttet?

1
4. februar 2020 kl. 06:50

"Det fremgår, at man anvender data fra trivselsundersøgelserne til at udvikle en indikator for barnets trivsel"

Hvis det er sandt, hvem skriver så til de store medier? Skriv til jeres politikere..

Som far er sådanne udtalelser min største frygt. Der er jo intet belæg for at de undersøgelser er nogen som helst indikator for barnets trivsel. At bruge det statistiske og personaliseret. Det er skræmmende.

Hvad kan vi gøre?