Ulovlige børneunderretninger: Svensk kommune dropper dansk kunstig intelligens


Det er ikke kun herhjemme, at der er interesse for algoritmer, der kan assistere socialrådgivere i børnesager.
Den svenske kommune Norrtälje, der ligger en times kørsel nord for Stockholm, har arbejdet i længere tid med et beslutningsværktøj med kunstig intelligens. Men værktøjet, som var en del af et bredere projekt om robotautomatisering (RPA) er lagt i graven, da det er i strid med svensk lovgivning.
Det skriver interesseorganisationen Algorithmwatch.
- emailE-mail
- linkKopier link

Fortsæt din læsning
- Sortér efter chevron_right
- Trådet debat
Jeg synes at det er et noget søgt at efterlyse en etisk diskussion, som om at det ikke allerede har været forsøgt, og det i snart et årti. Man har fra industriens og politisk side gjort alt for at lægge låg på enhver sådan debat, ofte lige som ovenfor, med samme henvisning til at borgerne er for dumme til kvalificeret at tage stilling til hvad de ønske at forære deres data til.
Og når man taler om at få etikken på plads, så er det.selvfølgelig fordi at man for alt i verden ikke ønske nogen strengt juridiske diskussion om emnet for åbne døre. Så kan man nemlig ikke helt så let både bæse og have mel i munden når man udskriver blankochecks vedr. borgernes rettigheder.
Derfor er der absolut ingen grund til at vente på en reel ærlig debat, som aldrig kommer. Slaget er tabt, og civil ulydighed er eneste vej frem. Og den fører til at man som borger holder alle data tæt på kroppen, og ikke regner nogle udsagn om hvad data (ikke) vil blive brugt til for mere troværdige end de løfter som en mobilabonnement-sælger stikker ud i det lokale storcenter.
- more_vert
- insert_linkKopier link
Det har jo været diskuteret i årevis - der er etiske regler, det er jo derfor, disse projekter indtil nu viser sig at være ulovlige. Der er bare nogen, som ikke ønsker de regler, og som arbejder ihærdigt på at omgå dem og få dem lavet om, så de ikke beskytter borgerne længere.Derfor skal der diskuteres etiske regler for hvad man må bruge disse data til, og hvilke funktioner de afledte algoritmer må bruges til.
F.eks. må forsikringsselskaber bruge dem.
Hvis der er noget, der skal diskuteres, så er det stramninger af disse regler, ikke nogen form for slækkelser.
- more_vert
- insert_linkKopier link
Det er den her debat som er vigtig at komme i forkøbet. Hvis man står på sidelinjen med korslagte arme og siger nej, så risikerer man at det bare kommer til at ske en dag.</p>
<p>Derfor skal der diskuteres etiske regler for hvad man må bruge disse data til, og hvilke funktioner de afledte algoritmer må bruges til.
Ind til videre søger man jo fra centralt hold at undgå debatten, ved at henvise til råd og udvalg, bestående af folk med klare økonomiske interesser.
Ikke at det er diskvalificerende at have økonomiske interesser, men de er så totalt renset for repræsentanter for borgere/klienter, at man ikke kan tage deres udtalelser alvorligt.
- more_vert
- insert_linkKopier link
En af årsagerne hertil er, at vi ikke må behandle personoplysninger i form af tidligere sager.
Det er et generelt problem for udnyttelsen af AI, at der kræves data til at træne algoritmen. Både på det sociale område, men så sandelig også på det medicinske.
Den nuværende tilgang er at data er ejet af den enkelte person som derfor skal give tilsagn. Det umuliggør mange projekter. Bl.a. fordi man skal have fat i mange mennesker, og fordi den enkelte oftest ikke har forudsætninger for at vurdere forespørgslen - og derfor bør sige nej.
I slående lighed med Gladsaxe Kommune i Storkøbenhavn, håber Norrtälje dog på, at loven ændres, så kommunen alligevel kan bruge algoritmen til socialsager.
Det er den her debat som er vigtig at komme i forkøbet. Hvis man står på sidelinjen med korslagte arme og siger nej, så risikerer man at det bare kommer til at ske en dag.
Derfor skal der diskuteres etiske regler for hvad man må bruge disse data til, og hvilke funktioner de afledte algoritmer må bruges til.
F.eks. må forsikringsselskaber bruge dem.
- more_vert
- insert_linkKopier link
Sveriges pendant til KL virker til i nogen grad at respektere borgernes retsikkerhed. Der står i meget stærk kontrast til det danske nepotistike erhvervssammenrend 'KL', der ikke intereserer sig for retssikkerheden eller lovligheden af de IT løsninger som de pusher.
- more_vert
- insert_linkKopier link
Svensk lovgivning sikrer, at forældre, der er blevet fejlagtigt anmeldt, ikke lider under konsekvenserne. Det betyder, at behandling af deres data er ulovlig.
Desværre tror jeg at Sverige er på vej ned af effektivitets ruten, den hvor alle argumenter indeholder:
Vi kan spare penge/resurser
- more_vert
- insert_linkKopier link
"Er vi ved at være der, hvor det er demokratiet mod algoritmerne - og der kan kun være én vinder?"
Yep, med den nuværende politiske horisont - også i Danmark - er vinderen algoritmen.
- more_vert
- insert_linkKopier link
"»Vi tror at de bliver nødt til at ændre loven i fremtiden. Og til den tid har vi denne teknologi allerede.«"
"Nødt til"? Hvorfor? Det er vel et valg? Eller har techgiganterne og algoritmerne allerede taget magten i en grad, så vi "bliver nødt til" at gøre, som de siger?
Er det ikke det, en del af os i årevis har advaret imod, hvor vi har fået at vide, at vi var sølvpapirshatte?
Er vi ved at være der, hvor det er demokratiet mod algoritmerne - og der kan kun være én vinder?
- more_vert
- insert_linkKopier link