Gæstebloggen

Kunstig intelligens – vi løber løbsk ud over stepperne

Kunstig intelligens er buzz-ordet alle vegne. Regeringen har netop lanceret sin støtte til udviklingen af etisk kunstig intelligens. Vi skal 'ud over stepperne', hoppe med på vognen ellers går vi glip af guldårerne. Og danske udviklere forventes at kunne gøre det etisk acceptabelt. Men det er en uambitiøs strategi.

Det Vilde Vesten

Udviklingen af kunstig intelligens er det rene Vilde Vesten, og regeringen er ramt af guldfeber. Men det er ikke nok at sige, at vi skal med ud over stepperne. Vi skal også huske, at vi som samfund har en pligt til at stille krav til udviklingen af kunstig intelligens og anvendelsen af den. En anvendelse, der sætter borgeren i centrum.

Lars Klüver er direktør i Fonden Teknologirådet. Illustration: Privatfoto

Markedet vil blive mættet med tilbud om uetisk anvendelse af maskinlæring og kunstig intelligens, så der, hvor danske udviklere kan gøre den helt store forskel, er netop i lancering af løsninger, der er langtidsholdbare og tillidsvækkende.

Men man skal ikke forvente, at tillid og etik kommer af sig selv – der skal investeres målrettet i både nye tekniske og juridiske løsninger, som kan garantere borgerne mod fejl, misbrug og ulovligheder.

Eksperter i kunstig intelligens kigger i krystalkuglen

På et netop afholdt topmøde om samfundseffekten af kunstig intelligens, som Teknologirådet havde arrangeret, tændte eksperterne adskillige røde advarselslamper.

Vi har allerede set, at algoritmerne kan påvirke demokratiske valg, vi har en formodning om, at kunstig intelligens kan ryste arbejdsmarkedet, og overvågningsrisiciene er virkeligt bekymrende.

Eksperterne pegede bl.a. på, at der er alvorlige problemer med privatlivsbeskyttelse. Derfor anbefalede ekspertgruppen bl.a., at vi er nødt til indføre digitale borgerrettigheder. Vi er simpelthen ikke beskyttet nok med GDPR, databeskyttelsesloven, der blev indført for knapt et år siden.

Den tager hånd om 'inddata', dvs. opsamlede data om borgerne – men den tager ikke hånd om uddata, dvs. den nye viden om borgerne, som kunstig intelligens kan skabe ud fra data. Den et år gamle forordning er altså allerede forældet i forhold til kunstig intelligens.

Kunstig intelligens kan ændres.

Eksperterne ved vores topmødet var enige om at sætte spørgsmålstegn ved uundgåeligheden i den teknologiske udvikling. Når vi taler om udviklingen af kunstig intelligens, fremstår teknologien som en lukket boks, som almindelige mennesker ikke har nogen som helst indflydelse på.

Vi KAN simpelthen ikke stille krav. Vi må blot håbe på, at vi kan holde ud at leve med konsekvenserne. Men det behøver ikke at være sådan. Vi har EU som lovgivende organ, der rent faktisk har den økonomiske muskelmasse til at stille etiske krav til kunstig intelligens, og Danmark kunne sagtens gå foran.

Ekspertoplægget vil senere på året danne baggrund for borgerinddragelsesaktiviteter i udvalgte EU-lande, der igen skal føde ind til policy-anbefalinger til EU-kommissionen. Således har kommissionen mulighed for at få en reel forståelse af, hvad borgerne i EU mener om kunstig intelligens og brugen af den.

Det er heldigt at EU’s knap 500 millioner indbyggere har en vagthund, som på andre vigtige områder har vist, at den kan sætte krav til industrien. Det kan også ske, når det kommer til kunstig intelligens, og det vil på den længere bane være godt for EU's IT-industri – og for den danske, hvis vi kender vores besøgstid.

Relateret indhold

Kommentarer (7)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

Hvor er det dejligt at høre, at der findes øer af begyndende fornuft og eftertænksomhed rundt omkring i det brølende hav af hovedløse AI-stormtropper. Tusind tak.

"In this future we are exiles from our own behavior, denied access to or control over knowledge derived from its despossesion by others for others. Knowledge, authority, and power rest with surveilance capital, for which we are merely "human natural ressources." We are the native peoples now whose tacit claims to self-determination have vanished from the maps of our own experience".
(Fra Shoshana Zuboff: "The Age of Surveilance Capitalis" - A fight for a human future at the new frontier of power)​

  • 4
  • 1
Niels Madsen

Ja, gid det var så vel, men det er det desværre ikke.
Jeg har netop i dag, via en forespørgsel fra en byrådspolitiker til kommunalforvaltningen, fået svar, sort på hvidt, hvoraf det fremgår at såfremt mit barn vil have sundhedspleje, så kan hans sundheds og trivselsdata og andre private oplysninger videregives til uspecificeret forskning, uden nogen mulighed for at sige fra.

  • 5
  • 0
Niels Madsen

Hej Anne-Marie,
Svaret til byrådsmedlemet i Frederiksberg kommune er som følger:

"Som vi har skrevet i vores svar til [...] er det ikke muligt at udtage enkelt-børns sundhedsdata, når barnet efter samtykke fra forældrene er registreret i Sundhedstjenesten og er omfattet af Sundhedstjenestens ydelser.

Sundhedstjenestens data om børnene videresendes i overensstemmelse med sundhedslovens bestemmelser til de nationale sundhedsregistre.

Data fra disse nationale registre anvendes til forskningsformål – naturligvis under de strenge data-beskyttelsesregler databeskyttelsesforordningen og dataregisterlovgivningen foreskriver herfor.

Sammenfattende kan det således konkluderes, at det ikke er muligt at stille garanti for, at sundhedsdata om ens barn alene anvendes i forbindelse med Sundhedstjenestens arbejde, og ikke til forskningsformål."

Hvad selve samtykket vil bestå af er endnu ikke klart (for mig), idet kommunen har erkendt at det den hidtidige samtykkeerklæring har været fomuleret upræcis.


Nedenfor er et længere svar fra kommunens Børne og Unge Direktør som jeg modtog for et par uger siden. Denne skrivelse indeholdte dog ikke et klart ja/nej svar:

"Tak for din henvendelse til kommunalbestyrelsesmedlem Mette Bang Larsen, som borgmesteren har bedt mig besvare.

Det er hævet over enhver tvivl, at din søn skal kunne modtage sundhedsplejens ydelser efter sundhedslovens kapitel 60, uden det er betinget af samtykke til andre ydelser.

Jeg kan godt se, at udformningen af det nuværende samtykke kan give anledning til en sådan misforståelse. Jeg deler desuden din indvending imod de upræcise formuleringer om videregivelse af oplysninger til forskning, og derfor tager vi på baggrund af din henvendelse skridt til en opdatering af samtykket, så det bliver mere specifikt og lettere forståeligt.

I den forestående revision af samtykkeerklæringen, vil det således blive yderligere tydeliggjort, at samtykket alene gives til at modtage forebyggende sundhedsydelser fra Frederiksberg Kommunes sundhedstjeneste som beskrevet i sundhedsloven. Endvidere vil der - adskilt fra samtykket - i en privatlivspolitik blive redegjort for, hvordan Frederiksberg Kommune behandler personoplysninger. Denne skelnen er ikke afspejlet tydeligt nok i det foreliggende samtykke og kan give anledning til misforståelse om, hvad der gives samtykke til, og hvad der er en oplysning til dig som forælde, om, hvordan vi behandler dit barns personoplysninger.

Kommunen kan jf. Sundhedslovens §§ 46-48 videregive helbredsoplysninger til særlige formål, herunder forskning og statistik, når lovens betingelser er opfyldt. Behandlingen af personoplysningerne skal desuden være i overensstemmelse med Databeskyttelseslovens § 10, som handler om videnskabelige og statistiske undersøgelser, hvor personoplysninger vil blive anonymiseret og slettet efter endt forløb. En sådan videregivelse kræver ikke samtykke, og jeg vil sørge for, at dette kommer til at fremgå tydeligt af skrivelsen.

Frederiksberg Kommune vurderer i hvert enkelt tilfælde, om betingelserne for videregivelse i Sundhedslovens §§ 46-48 og Databeskyttelseslovens § 10 er opfyldt, herunder om der foreligger godkendelse fra Styrelsen for Patientsikkerhed, før data udleveres.

Den bedste tilrettelæggelse af kommunernes forebyggende sundhedsydelser for børn og unge sker efter min overbevisning, når den bygger på den nyeste forskning og oplysninger om aktuelle udviklingstendenser. Derfor understøtter Frederiksberg Kommune forskning og statistisk kortlægning af udviklingstendenser gennem videregivelse af personoplysninger til forskning. Jeg vil i den forbindelse gerne understrege, at børn og unge ikke uden konkret samtykke fra forældremyndighedsindehaveren, indgår i forskningsprojekter, der, udover personoplysninger, som allerede er registreret i vores it-systemer, også omfatter undersøgelser, interviews m.v.

Den kommunale sundhedspleje er et frivilligt tilbud, som forældremyndighedsindehaveren skal give samtykke til at benytte. Sundhedsplejens ydelser for de 6-18 årige er beskrevet i Vejledning nr. 9636 af 21. oktober 2011 om forebyggende sundhedsydelser til børn og unge. Antallet af sundhedssamtaler fastsættes af Kommunalbestyrelsen. I Frederiksberg Kommune tilbydes – ud over ind- og udskolingsundersøgelserne, der er en obligatorisk del af tilbuddet – sundhedssamtaler i 1., 4. og 7. klasse.

Til brug for ind- og udskolingsundersøgelserne benytter Frederiksberg Kommune børnogungeliv.dk (Tidligere skolesundhed.dk.) til dataindsamling. Dette sker forud for sundhedssamtalen med sundhedsplejersken eller i udskolingen børne- og ungelægen for at give det bedste grundlag for samtalen mellem forældrene, barnet og sundhedsplejersken. Hvis forældrene ikke har udfyldt spørgeskemaet før samtalen, udfyldes det under samtalen.

På baggrund af din henvendelse og efter at have undersøgt sagen yderligere, kan jeg konstatere, at det desværre er korrekt, at der fejlagtigt er blevet oprettet en konto på børneogungeliv.dk inden der er givet samtykke til at modtage sundhedsplejens ydelser. Vi beklager meget denne fejl, og har den 28. februar 2019 lukket jeres adgang og vil hurtigst muligt undersøge, om samme fejl er sket i andre tilfælde. Fremadrettet vil vi naturligvis tilsikre, at der ikke oprettes konti i børneogungeliv.dk før der foreligger samtykke til at modtage sundhedspleje.

Jeg skal beklage den usikkerhed som formuleringen af det nuværende samtykke har givet anledning til. Ligeledes skal jeg beklage at der er gået to måneder siden din første henvendelse til Sundhedsplejen.

Afslutningsvis vil jeg gerne takke dig for at have gjort opmærksom på denne uretmæssighed, som nu rettes op, og hermed forbedrer og styrke kommunens procedurer i forhold til beskyttelse af borgernes data. Mange tak.

Venlig hilsen
Inger Andersen Børne- og Ungedirektør"

  • 3
  • 0
Anne-Marie Krogsbøll

Tak for uddybning, Niels Madsen. Man skal jo være jurist for at gennemskue, hvad der står. Modsiger de to skrivelser ikke hinanden? Eller står der mellem linjerne, at de faktisk er klare over, at de ikke har lovgrundlag for at kræve samtykke som betingelse for selve sundhedsplejersekbesøgene, men at deres system er indrettet sådan, at de desværre ikke kan gøre det på anden måde? Er det ikke en teknisk begrundelse (a la "Vores system kan ikke tage individuelle hensyn"), de giver i deres seneste svar - ikke en juridisk?

I givet fald kan man vel hænge dem op på, at så må de lave systemet om, så det overholder loven?

  • 0
  • 0
Bjarne Nielsen

Det er mildt sagt en uvane, at samtykke til behandling af sygdom også kædes sammen med behandling af data, og det til formål, som tidsmæssigt kan ligge meget langt efter behandlingens ophør, og formålsmæssigt være ganske perifere, og derfor næppe kan siges at være en forudsætning.

Så jeg tror desværre at den er god nok. Hvis vi nikker til at blive behandlet for en sygdom, på en måde, som involverer aflæsning af vores gener, så betyder det nik også, at der tages en kopi til en central database. Bemærk igen, at det ikke har noget med den egentlige behandling at gøre - de oplysninger som bruges til vores behandling foreligger stadig lokalt. Vi kan ikke sige nej til at de bliver kopieret og gemt, og det kan vores læger heller ikke. That's the law.

Respekt for at Niels og andre forholder sig til, hvad man gør ved vores børn. Det ligner afpresning at koble det sammen på den måde. Og lige nu er "sundhedsplejen" et tilbud, men jeg kan godt frygte, at man vil gøre det tvunget "for samfundet skyld og for at hjælpe de svage", hvis for mange takker nej - det er sket før i andre sammenhænge. GDPR er ingen hjælp, faktisk er det mit indtryk, at det offentlige benyttede lejligheden til at bakke endnu længere i modsat retning, og give sig selv større rettigheder på vores bekostning, i direkte modstrid med intentionerne i GDPR! Det her skal løses politisk.

  • 3
  • 0
Log ind eller Opret konto for at kommentere