Kommunalpolitikere efterspørger etiske regler om overvågning i Gladsaxe

Gladsaxe Kommunes politikere i byrådssalen. Illustration: Gladsaxe Kommune
Flere partier i kommunen efterspørger indsigt og etiske regler for brug af borgernes data.

Kommunalpolitikere i Gladsaxe har på det seneste byrådsmøde udtrykt skepsis overfor kommunens tilgang til algoritmer og efterspurgt et etisk og politisk grundlag for databehandlingen. Mødet fandt sted i sidste uge.

Version2 kunne i februar berette, at flere eksperter mente, at kommunen overtrådte persondataloven i sit arbejde med en algoritme, der skulle finde frem til udsatte børn.

Læs også: Juridiske eksperter: Gladsaxes algoritme overtræder persondata-lov

Dagen efter meddelte kommunen, at udviklingsarbejdet blev sat på pause.

Debatten i byrådssalen i sidste uge blev affødt af en række spørgsmål fra medlemmet Lars Abel (Kons). Han spurgte blandt andet, hvilke juridiske og etiske overvejelser byrådet gør sig i forbindelse med det arbejde, kommunens dataenhed foretager, samt brugen af fagforvaltningernes medarbejdere.

Han efterspurgte mere viden og indblik i, hvad der foregår.

Borgmester Trine Græse (Soc.) mente indledningsvist ikke, at det var nyt, at Gladsaxe arbejder med data. Hun erindrede også medlemmerne om, at det ombruste projekt ‘tidlig opsporing’, som altså blev sat på pause i februar, i sin tid blev vedtaget enstemmigt i byrådet.

Hun spurgte retorisk, hvem der tager ansvaret for et barn, der ikke bliver opsporet, selv om det er muligt i dag - et synspunkt, som Gladsaxes kommunaldirektør og andre også fremsatte på Dansk It's konference om offentlig it i sidste måned.

Læs også: Debat om kunstig intelligens og borgerdata: »Vi skal lige stoppe op og tænke«

Kommunen bør udarbejde etiske retningslinjer

Byrådsmedlemmet Claus Wachmann (Rad.) foreslog, at kommunen udarbejder etiske retningslinjer for brug af data.

Henrik Bach Mortensen (V.) mente, at det er afgørende, at byrådet er informerede og bevidste om, hvad de roder i.

Det samme synspunkt er tidligere blevet fremsat af en borger i kommunen, nemlig Hanne Marie Motzfeldt, som er jurist og lektor ved Center for Informations- og Innovationsret ved Københavns Universitet:

»Byrådet er da helt på herrens mark her. De bliver jo holdt i mørket i forhold til, om kommunen overholder loven,« har hun tidligere udtalt til Version2.

På byrådsmødet sammenlignede Henrik Bach Mortensen en tidligere udmelding fra kommunens børne- og ungechef Tine Vesterby Sørensen om, at målet kan hellige midlet, med Kinas overvågning af egne borgere. Udviklingsarbejdet skal ikke være en forvaltningsmæssig beslutning, men forankres politisk:

»Som politikere kan vi ikke tages til indtægt for etiske problemstillinger, hvis vi ikke er præsenteret for beslutningerne.«

Læs også: Gladsaxe taler ud om dataovervågning: Vi vil gerne lave en ‘black box’

Han efterspurgte en politik for, hvem der har ansvaret.

»Borgmesteren er måske hurtig til at falde i ‘godhedens grøft’, hvor man let kan komme til at opføre sig som citatet fra medarbejderen, som jeg nævnte.«

Kommunen er nødt til at have eksplicitte beslutninger om, hvordan Gladsaxe vil bruge data-drevet arbejde, besluttet på det politiske niveau, lød synspunktet. Henrik Bach Mortensen pegede også på faren for indbyggede fordomme i algoritmerne.

Andre midler end dataovervågning

Trine Henriksen (Enh.) mente, at man nok kunne fange de udsatte børn med andre midler end dataovervågning.

»Jeg blev lidt provokeret af, at der bliver sagt at der skal være proportionalitet mellem brugen af data og det, der er til gavn for den enkelte, men senere blev der sagt: Hvem vil tage ansvar for et barn, der ikke bliver opsporet. Det vil sige, at hvis man ikke er tilhænger af dataopsporing, så er man ansvarlig for, at der er børn, der ikke bliver opsporet.«

Hun forsatte:

»Det synes jeg er at sætte tingene utroligt meget på spidsen, for hvem siger, at man ikke kan opspore på andre måder – der er da masser af måder, man kan gøre det på. Der er masser af mennesker, der omgås disse børn, og som har mulighed for, med almindelige samtaler og kontaktrelationer og ved at have antennerne ude, kan opspore om der er tegn på, at dette barn ikke trives.«

Trine Henriksen mener, at kommunens socialrådgivere giver udtryk for, at man kender de udsatte børn, men ikke har haft mulighed for at reagere hurtigt nok.

»Alternativet til at bruge dataopsporing er, at satse mere på den menneskelige kontakt.«

Det kan ske ved at give lærere, pædagoger og socialrådgivere bedre tid, når de er sammen med de borgere, de skal hjælpe. Det er et alternativ til dataopsporing, som er fuldt lige så effektivt, og langt mere betryggende og konstruktivt, mente hun.

Enhedslisten i Gladsaxe støtter ikke længere projekt tidlig opsporing.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (9)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

Det er særdeles positivt, at byrådet tager fat i sagen, og forlanger forklaringer. Men det lyder lidt som om, det så er byrådets afgørelse, hvad man vil i denne sag? Det er det vel kun indenfor lovens rammer - byrådet kan sige nej til at udnytte lovens rammer til det yderste - men de kan vel stadig ikke give tilladelse til noget, som på nuværende tidspunkt (heldigvis) slet ikke er lovligt. Men det lyder rimeligt, at beslutninger af denne type ikke kan tages af forvaltningen uden om byrådet.

Trine Henriksen mener, at kommunens socialrådgivere giver udtryk for, at man kender de udsatte børn, men ikke har haft mulighed for at reagere hurtigt nok."

Så er det altså slået fast, at socialrådgivere (og sikkert også andre) i forvejen har fokus på de familier, hvor der kan være problemer. Hvorfor har de så ikke haft mulighed for at gribe ind i tide? Tidsmangel? Eller tør ingen tage ansvar, og så er det lettere at kunne henvise til, at "algoritmen siger det"? I hvert fald undergraver hun her argumentet med, at man ikke på anden måde kan finde disse børn.

(i lyset af diskussion de seneste dage i anden tråd, håber jeg, at Version2 frem over vil være opmærksomme på forskellen på algoritmer og machine learning, og bruge det rette begreb - dvs. , at der i denne sammenhæng faktisk er tale om "algoritme" - det vil kunne hjælpe uvidende som mig til ikke at dumme os unødigt. I lyset af tidligere artikler om Gladsaxe-sagen kunne jeg godt få indtryk af, at der faktisk er tale om machine learning?)

  • 6
  • 0
Bjarne Nielsen

Ah, ja, så kom gode gamle 'tænk på børnene' af stald igen, og fik endnu en ridetur. Man skulle ellers mene at den havde fortjent et otium i fred.

Hvis jeg havde været yngre, så ville jeg have fundet på memes over det tema, men jeg vil i stedet foreslå at vi definerer "Gladsaxeloven" som værende det at afspore en debat med "hvem tager ansvaret for det barn, som kunne være hjulpet?"-udsagn. Loven er et korrolar til Godwins lov.

Eller tør ingen tage ansvar, og så er det lettere at kunne henvise til, at "algoritmen siger det"?

Personligt er jeg meget mere nervøs over alle de udsatte børn, som kunne være blevet hjulpet, hvis ikke de var blevet overset af algoritmen. Hvem tager ansvaret for dem?

For overset bliver de, dels fordi algoritmen uværgeligt vil gå ind og erstatte andre opsøgende tiltag, som ellers ville kunne have fundet dem, dels fordi at de nye og unikke falske alarmer, som algoritmen vil generere tager tid, opmærksomhed og ressourcer fra den indsats, som kunne have reddet andre og reelt udsatte børn, og dels fordi at det bliver svært at argumentere imod "jamen, algoritmen siger 'nej'", når man kommer med en reelt begrundet mistanke om et udsat barn, som så ikke bliver hjulpet (eller bliver hjulpet alt for sent).

Hvem tager ansvaret for det?

  • 13
  • 0
Henning Wettendorff

Borgmester Trine Græse spørger åbenbart til "hvem der tager ansvaret for et barn, der ikke bliver opsporet, selv om det er muligt i dag".

Vil fx et borgmesterforslag om at uddele gratis peberspray til samtlige husstande ikke kunne nedstemmes i Gladsaxes byråd, uden at Græse vil holde modstanderne af forslaget ansvarlige for det næste hjemmerøveri?

  • 4
  • 0
Kenn Nielsen

Eller: "Hvordan får man kunderne til at købe den stoore cola ?"
Svar: Man tilbyder dem en "Grotesque Gulp".

Nu efterspørger Glad'nakkerne etiske regler for overvågning, efter at have tilbudt/truet borgerne med overvågningens Grotesque Gulp.

Jeg tør vædde en våd mariekiks på, at resultatet bliver:
"Ikke lige hvad alle havde ønsket"
"Ikke så skrapt som forudset"
"Tillader mere end forventet"
"Tilpasser 'endeligt' etikken til digitaliseringens 'nye muligheder'.."
"Meget videre rammer end i den analoge verden"
"Men et resultat 'vi' er stolte af, for nu er der da nogle begrænsninger"

...Var der nogen der sagde offentligheds-loven ??

K

  • 2
  • 0
Martin Sørensen

Personligt er jeg meget mere nervøs over alle de udsatte børn, som kunne være blevet hjulpet, hvis ikke de var blevet overset af algoritmen. Hvem tager ansvaret for dem?


Hvem tager så ansvaret for de børn der kunne være blevet hjulpet hvis man ikke havde lukket ned for algoritmen men som af forskellige årsager ikke har været i de ansattes søgelys? Så må alle algoritme-modstanderne have en rigtig dårlig smag i munden..

Jeg kan altid godt lide at vende et argument om fordi det ofte udstiller hvor uholdbart det er. Ingen er ufejlbarlige, hverken mennesker eller algoritmer, men vi skal stræbe efter at få det bedste resultat og det mener jeg man får hvis man gør sig bekendt med svagheder og styrker på nye værktøjer og lærer at bruge dem på den mest effektive måde.

  • 0
  • 2
Log ind eller Opret konto for at kommentere
IT Company Rank
maximize minimize