Ulovlige børneunderretninger: Svensk kommune dropper dansk kunstig intelligens

27. august 2021 kl. 02:538
Ulovlige børneunderretninger: Svensk kommune dropper dansk kunstig intelligens
Illustration: Bigstock/E-Furor Production.
AI-værktøj til behandling af børnesager i Norrtälje kommune, udviklet af den danske virksomhed 2021.ai, overholder ikke svensk lovgivning og er lagt i graven.
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Det er ikke kun herhjemme, at der er interesse for algoritmer, der kan assistere socialrådgivere i børnesager.

Den svenske kommune Norrtälje, der ligger en times kørsel nord for Stockholm, har arbejdet i længere tid med et beslutningsværktøj med kunstig intelligens. Men værktøjet, som var en del af et bredere projekt om robotautomatisering (RPA) er lagt i graven, da det er i strid med svensk lovgivning.

Det skriver interesseorganisationen Algorithmwatch.

Log ind og læs videre
Du kan læse indholdet og deltage i debatten ved at logge ind eller oprette dig som ny bruger, helt gratis.
8 kommentarer.  Hop til debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
8
27. august 2021 kl. 15:43

Jeg synes at det er et noget søgt at efterlyse en etisk diskussion, som om at det ikke allerede har været forsøgt, og det i snart et årti. Man har fra industriens og politisk side gjort alt for at lægge låg på enhver sådan debat, ofte lige som ovenfor, med samme henvisning til at borgerne er for dumme til kvalificeret at tage stilling til hvad de ønske at forære deres data til.

Og når man taler om at få etikken på plads, så er det.selvfølgelig fordi at man for alt i verden ikke ønske nogen strengt juridiske diskussion om emnet for åbne døre. Så kan man nemlig ikke helt så let både bæse og have mel i munden når man udskriver blankochecks vedr. borgernes rettigheder.

Derfor er der absolut ingen grund til at vente på en reel ærlig debat, som aldrig kommer. Slaget er tabt, og civil ulydighed er eneste vej frem. Og den fører til at man som borger holder alle data tæt på kroppen, og ikke regner nogle udsagn om hvad data (ikke) vil blive brugt til for mere troværdige end de løfter som en mobilabonnement-sælger stikker ud i det lokale storcenter.

7
27. august 2021 kl. 15:31

Derfor skal der diskuteres etiske regler for hvad man må bruge disse data til, og hvilke funktioner de afledte algoritmer må bruges til.
F.eks. må forsikringsselskaber bruge dem.

Det har jo været diskuteret i årevis - der er etiske regler, det er jo derfor, disse projekter indtil nu viser sig at være ulovlige. Der er bare nogen, som ikke ønsker de regler, og som arbejder ihærdigt på at omgå dem og få dem lavet om, så de ikke beskytter borgerne længere.

Hvis der er noget, der skal diskuteres, så er det stramninger af disse regler, ikke nogen form for slækkelser.

6
27. august 2021 kl. 15:29

Det er den her debat som er vigtig at komme i forkøbet. Hvis man står på sidelinjen med korslagte arme og siger nej, så risikerer man at det bare kommer til at ske en dag.</p>
<p>Derfor skal der diskuteres etiske regler for hvad man må bruge disse data til, og hvilke funktioner de afledte algoritmer må bruges til.

Ind til videre søger man jo fra centralt hold at undgå debatten, ved at henvise til råd og udvalg, bestående af folk med klare økonomiske interesser.

Ikke at det er diskvalificerende at have økonomiske interesser, men de er så totalt renset for repræsentanter for borgere/klienter, at man ikke kan tage deres udtalelser alvorligt.

5
27. august 2021 kl. 15:01

En af årsagerne hertil er, at vi ikke må behandle personoplysninger i form af tidligere sager.

Det er et generelt problem for udnyttelsen af AI, at der kræves data til at træne algoritmen. Både på det sociale område, men så sandelig også på det medicinske.

Den nuværende tilgang er at data er ejet af den enkelte person som derfor skal give tilsagn. Det umuliggør mange projekter. Bl.a. fordi man skal have fat i mange mennesker, og fordi den enkelte oftest ikke har forudsætninger for at vurdere forespørgslen - og derfor bør sige nej.

I slående lighed med Gladsaxe Kommune i Storkøbenhavn, håber Norrtälje dog på, at loven ændres, så kommunen alligevel kan bruge algoritmen til socialsager.

Det er den her debat som er vigtig at komme i forkøbet. Hvis man står på sidelinjen med korslagte arme og siger nej, så risikerer man at det bare kommer til at ske en dag.

Derfor skal der diskuteres etiske regler for hvad man må bruge disse data til, og hvilke funktioner de afledte algoritmer må bruges til.

F.eks. må forsikringsselskaber bruge dem.

4
27. august 2021 kl. 13:58

Sveriges pendant til KL virker til i nogen grad at respektere borgernes retsikkerhed. Der står i meget stærk kontrast til det danske nepotistike erhvervssammenrend 'KL', der ikke intereserer sig for retssikkerheden eller lovligheden af de IT løsninger som de pusher.

3
27. august 2021 kl. 07:51

Svensk lovgivning sikrer, at forældre, der er blevet fejlagtigt anmeldt, ikke lider under konsekvenserne. Det betyder, at behandling af deres data er ulovlig.

Desværre tror jeg at Sverige er på vej ned af effektivitets ruten, den hvor alle argumenter indeholder:

Vi kan spare penge/resurser

2
27. august 2021 kl. 07:48

"Er vi ved at være der, hvor det er demokratiet mod algoritmerne - og der kan kun være én vinder?"

Yep, med den nuværende politiske horisont - også i Danmark - er vinderen algoritmen.

1
27. august 2021 kl. 06:47

"»Vi tror at de bliver nødt til at ændre loven i fremtiden. Og til den tid har vi denne teknologi allerede.«"

"Nødt til"? Hvorfor? Det er vel et valg? Eller har techgiganterne og algoritmerne allerede taget magten i en grad, så vi "bliver nødt til" at gøre, som de siger?

Er det ikke det, en del af os i årevis har advaret imod, hvor vi har fået at vide, at vi var sølvpapirshatte?

Er vi ved at være der, hvor det er demokratiet mod algoritmerne - og der kan kun være én vinder?