Nyt Dataetisk Råd har ingen svar på spørgsmål om indsigt i AI-beslutninger - men en 'bekymringspostkasse'

Illustration: Olivier Le Moal/Bigstock
Mens Dataetisk Råd ikke mener, at problematikken er inden for dets opdrag, giver tænketank et bud på, hvordan man sikrer, at beslutninger fra kunstig intelligens indføres på ordentlig vis.

Algoritmer, der så at sige måler og vejer borgerne samt træffer beslutninger, der kan påvirke os drastisk, begynder så småt at spire frem.

Horsens Kommune arbejder på en algoritme, der skal hjælpe kommunen med at afsløre social svindel, mens eksempelvis bankerne i stigende grad bruger algoritmer til at vurdere kundernes kreditværdighed.

Kigger man ud i Europa, som tyske Algorithm Watch gjorde i januar i år med rapporten 'Automating Society - Taking stock of Automated Decision-Making in the EU', er det, klart at systemer med helt eller delvist automatiske beslutninger pibler frem fra de mange data-søer i private og offentlige organisationer, som indeholder mere eller mindre personlige data.

Læs også: Sådan kommer Horsens’ bedrageri-algoritme til at se ud

Version2 har spurgt det nye Dataetisk Råd om, hvordan det sikres, at vi forstår, hvorfor algoritmer vurderer os, som de gør. Rådet mener ikke, at det ligger inden for dets resortområde.

I forvejen svært at få indsigt i beslutningsgrundlag

Det kan i forvejen være svært for borgere at få viden om, hvilke fakta der ligger bag afgørelser. Version2 har tidligere beskrevet, hvordan en pensionskunde havde problemer med at få indsigt i en lægekonsulents rapport, der er en del af beslutningsgrundlaget for en afgørelse om kundens pensionsydelse.

Hvis det er svært at få indsigt i beslutninger, der er truffet af mennesker, hvordan sikrer borgere og forbrugere så ret til indsigt, når det drejer sig om beslutninger truffet af algoritmer?

Dette spørgsmål vil blive mere aktuelt, efterhånden som AI, Machine Learning og diverse profileringssystemer i stigende grad bliver anvendt i beslutningsprocesser.

Råd skal vejlede om dataetik

Dataetisk Råd blev nedsat i april i år med henblik på at »give sparring og rådgivning til regeringen, Folketinget og offentlige myndigheder om dataetiske spørgsmål ved brugen af data og ny teknologi,« som der står i beskrivelsen af Dataetisk Råd på Justitsministeriets hjemmeside.

Version2 har spurgt Dataetisk Råd, hvordan det ser på muligheden for at borgere og forbrugere kan få indsigt i data og processer, hvor der anvendes AI - kunstig intelligens - eller andre systemer, til at træffe automatiske beslutninger i et eller andet omfang.

Men med en henvisning til kommissoriet for Dataetisk Råd, der definerer dets opgave, afviser formanden, Johan Busse, at gå ind i den diskussion.

»Dataetisk Råd skal ikke drøfte juridiske problemstillinger i lovgivningen. Det betyder samtidig, at det ikke er hensigten, at det Dataetiske Råd skal tage direkte eller indirekte stilling til enkeltsager, eller til om gældende ret er overholdt. Rådet skal således ikke overtage opgaver for tilsynsmyndigheder, herunder særligt Datatilsynet, der i medfør af lovgivningen har kompetence til at påse, om lovgivningen er overholdt,« står der i det afsnit i kommissoriet, Johan Busse henviser til.

Henviser til 'bekymringspostkasse'

Formanden gør dog i en mail til Version2 opmærksom på, at der er oprettet en 'bekymringspostkasse' under Dataetisk Råd:

»Bekymringspostkassen kan bl.a. bruges ved bekymringer over ny teknologi, ved brugen af kunstig intelligens eller den stigende tendens til at bruge data i mange henseender. Databekymringerne vil blive brugt til at understøtte Dataetisk Råd i deres opgave med blandt andet at følge samfundsudviklingen i brugen af data og ny teknologi, afgive anbefalinger og udtalelser om almene og principielle dataetiske spørgsmål samt at varetage informations- og debatskabende aktiviteter om de dataetiske problemstillinger og udfordringer, som samfundet står overfor.«

Tænketank: Tag udgangspunkt i individets rettigheder

Gry Hasselbach, der er medstifter af tænketanken Dataethics.eu, mener at der skal tages udgangspunkt i individets rettigheder.

Gry Hasselbach Illustration: Dataethics.eu

»Når man taler om dataetik, så tager man udgangspunkt i individets rettigheder, og hvad der er godt for mennesker. Det har forrang for institutionelle og kommercielle interesser. Det er den menneske-centriske tilgang til dataetik.«

Hun forsætter:

»Etik er ikke bare noget, vi finder på. Man bliver nødt til at forholde sig til, hvad der er vores kulturelle og juridiske udgangspunkt.«

Gry Hasselbalch er også medlem af den uafhængige ekspertgruppe i EU, High Level Group on AI, hvor hun har været med til at udforme 'Etiske retningslinier for pålidelig kunstig intelligens' samt 'Anbefalinger for politik og investering i pålidelig kunstig intelligens.'

Svært at få anvendt 'retten til at blive informeret' i praksis

Et helt grundlæggende princip bør ifølge Gry Hasselbalch være, at den indre logik i systemer, som anvendes til beslutningstagning, skal kunne forstås af det enkelte menneske.

»Det er et fundamentalt princip, at der skal være balance mellem hvad systemerne ved om os og hvor meget vi ved om dem. Jo mindre indsigt man har i et system som borger, jo mindre kan man stille myndighederne og virksomhederne til ansvar for de beslutninger som træffes,« siger Gry Hasselbalch.

GDPR nævner specifikt automatisk beslutningstagning inklusive profilering. Det drejer sig om det, der kaldes 'Right to be Informed'.

Men Gry Hasselbalch og hendes kolleger i EU High Level Group on AI skriver i deres rapport om anbefalinger for politik, at der kigges nærmere på dette område i GDPR.

»De fleste automatiske systemer er ikke fuldstændig automatiske, da der som regel er en eller anden menneskelig funktion inde over. Det er svært at få anvendt Right to be Informed i praksis,« slutter Gry Hasselbalch.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (58)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

Dataetisk Råd er et figenblad, som skal give myndigheder og andre et skær af legitimitet, mens de voldtager vore menneskerettigheder og plyndrer vore privatliv.

Jeg anerkender simpelthen ikke den præmis, at et "Dataetisk Råd" skal rådgive om/afgøre, hvad mit privtliv må stjæles og udnyttes til. Jeg er et frit menneske. Jeg har en menneskeret til privatliv. Jeg har krav på ikke at blive udsat for overgreb. Personer, herunder politikere, som arbejder hen imod at ville have lov til at krænke min ret til privatliv, anser jeg som forbrydere - også når de er folkevalgte politikere. Forbrydere! Det er før i verdenshistorien sket, at folkevalgte har ageret som overgrebsfolk og diktatorer overfor egne befolkninger. Det samme sker her - man pynter sig bare med et "Dataetisk Råd".

Fra Politikens Leder i dag om regeringens totalitære tiltag:
"Det, der driver mig som statsminister, er et ønske om at passe på Danmark. Skal jeg gøre det, er vi nødt til at tage nogle ting i brug, som vi ikke tidligere har haft hverken behov for eller lyst til.
Sådan lyder budskabet fra statsminister Mette Frederiksen (S) i en opsigtsvækkende og bekymrende ny annonce, der har cirkuleret på nettet de senere dage. "

https://politiken.dk/debat/ledere/art7477909/Igen-itales%C3%A6tter-Mette...

Gid nogen ville grave i, om disse annoncer er målrettede med Cambridge Analytica-metoder? Jeg er i hvert fald ikke stødt på dem - jeg er nok ikke i målgruppen. Men hvis de er, så kunne jeg godt tænke mig en stillingtagen fra "Dataetisk Råd"! Men de skal jo nok ikke have noet klinket der.

  • 9
  • 2
John Foley

Dataetisk Råd er blvet nøjagtigt det mange af os frygtede - en narresut og et hold kæft boljse - beregnet på at give befolkningen indtryk af at politikerne tager deres bekymringer alvorligt. Rådet har allerede på kort tid vist sig at være både nyttesløst og uden betydning samt en sovepude, der forsøger at bilde befolkningen ind til at tro, at det har beføjelser og muskler til forbedre situationen for den enkelte borger. Rådet er et blændværk og spild af penge, men endnu værre, at det forsøger at give indtryk af at det kan hjælpe samfundet og dets befolkning.
Da drøftelserne om etableringen af det Dataetiske Råd var på sit højeste advarede bl.a. Ida Auken om at et sådant ikke ville få muskler eller indflydelse nok til at ændre noget som helst - hun - og med hende mange andre, fik desværre ret.
Hvil i fred Dataetisk Råd, hyg jeg på jeres møder (for skatteborgernes penge) og tag byrden på jer, at i nu har et medansvar ved at lulle Danmark videre ind i sin Tornerosesøvn.

  • 11
  • 0
Mogens Højgaard Larsen

Da jeg vil gerne komme med input til min søns skoles overvejelser om, at bestille chromebooks til hans klasse, har jeg til inspiration googlet efter artikler, der forholder sig kritisk til Chromebooks digitale profilering af børnene,

I de første 100 hits var der masser af omtale af kommuner og skoler, der tilbyder chromebooks til deres børn. Der var også henvisninger til debatter, der omtaler chromebooks positivt og til artikler der beskriver børns behov for digitale læringsværktøjer.

Kun éen artikel forholdt sig kritisk til den digitale profilering, som foregår. Denne artikel, der dukkede op som hit nr. 67, starter dog med ordene; "Jeg er google-fan", og jeg er derfor bekymret for, om algoritmen er i stykker?

Med venlig hilsen
En bekymret borger.

  • 14
  • 0
Bjarne Nielsen

Vi har efterhånden tilsyneladende fået en underskov af råd, nævn, komiteer og tilsyn, som enten er de rene gummistempler eller syltekrukker, eller også er hurtige til at mene, at det ikke lige er deres resort.

Og hvis ordet "etisk" indgår i navnet, så virker det til at være endnu mere udpræget. F.eks. så skriver National Videnskabsetisk Komite flg. i deres FAQ:

Projekter, hvori der kun indgår data og tal, kaldes registerforskningsprojekter og skal ikke anmeldes til en videnskabsetisk komité.

Jeg har hørt det begrundet med, at de projekter alligevel altid blev godkendt, og så var der ingen grund til at bruge tid på det. Godt så. Det skulle så til gengæld give forskerne problemer med at få optaget deres artikler i anerkendte tidsskrifter, hvor der ofte er klausuler om at der skal være foretaget en etisk vurdering (og løsningen er åbenbart, at forskerne så alligevel skriver til en videnskabsetisk komite, og så bruger komiteens svar om, at de ikke behandler sagen, som udtryk for en etisk vurdering).

Dataetisk Råd virker til at holde de stolte traditioner i hævd.

  • 9
  • 0
Henrik R Jørgensen

Jeg hilser sådan set formandens melding om ikke at blande sig i juridiske anliggender velkomment, men...

det er godt svært at se rådets berettigelse, hvis det ikke ser sig kompetent til at knytte nogle bemærkninger til et generelt spørgsmål, der i høj grad knytter sig til borgernes tillid til dataanvendelse; kan man sikre åbenhed i forhold til AI? Bevares der ligger en juridisk fortolkning i det, da man har pligt til at underrette om behandling og til at gøre det på en transparent måde, men hvis Dataetisk Råd reelt skal give nogen mening og have værdi i forhold til privatlivsbeskyttelse, må det (også) kunne have holdninger til spørgsmål, der er reguleret.

Så Johan Busse - hvilken værdi er det I som råd tilfører Danmark?

  • 6
  • 0
Anne-Marie Krogsbøll

Rådets sammensætning:

Johan Busse, borgerrådgiver i Københavns Kommune

Medlemmer

Rikke Hvilshøj, administrerende direktør i DANSK IT  
Camilla Gregersen, formand for Dansk Magisterforening  
Thomas Senderovitz, direktør i Lægemiddelstyrelsen  
Christiane Vejlø, CEO i Elektronista Media og tidligere formand for ekspertgruppen om dataetik  
Mikkel Holm Sørensen, CEO i KL.7 og medstifter af Advice A/S  
Jesper Bæk Overgaard, underdirektør i TDC for Data & Advanced Analytics  
Jonas Christoffersen, direktør ved Institut for Menneskerettigheder  
Mikkel Flyverbom, professor i kommunikation og digitale transformationer ved Copenhagen Business School  
Janne Rothmar Herrmann, professor (MSO) med særlige opgaver i sundhedsret og teknologi ved Københavns Universitet  
Birgitte Arent Eiriksson, vicedirektør i Justitia  
Anette Høyrup, seniorjurist i Forbrugerrådet Tænk  
René Gade, iværksætter for SustainEye.  

https://www.justitsministeriet.dk/ministeriet/raad/dataetisk-raad

Jeg forstår simpelthen ikke, hvorfor repræsentanter for erhvervslivet - som jo altså har økonomiske interesser i sagen - skal have bare det allermindste at skulle have sagt ift., hvordan mit privatliv skal kunne stjæles og udnyttes? Der er ingen fornuftig begrundelse for, at de skal have noget at skulle have sagt der.

  • 4
  • 0
Ditlev Petersen

Nu sidder jeg og spekulerer på FORSKELLEN mellem "data" og "tal". I hvert fald hvis tallene har nogen mening. Data er ikke nødvendigvis tal (men kan være det), hvorimod tal næsten altid er data. Men hvem vil behandle tal uden mening.

Til gengæld kan jeg da forestille mig en forskrækkelig masse data, der kan indsamles og behandles på de mest forbryderiske måder. Som altså ville være ret relevante at få vurderet etisk.

  • 1
  • 0
Bjarne Nielsen

"data" og "tal"

Lad os lige få hele sektionen på banen:

Kun forskningsprojekter, hvori der indgår personhenførbart mennesker eller humant materiale såsom æg, celler eller væv, skal anmeldes til en videnskabsetisk komité.

Projekter, hvori der kun indgår data og tal, kaldes registerforskningsprojekter og skal ikke anmeldes til en videnskabsetisk komité.

Anonymt biologisk humant materiale skal ikke anmeldes til en videnskabsetisk komité, med mindre der er tale om et forskningsprojekt vedrørende befrugtede menneskelige æg samt kønsceller, som agtes anvendt til befrugtning. Det er et krav, at materiale er fuldstændig anonymt (der må ikke være en identifikationskode til data), og at materialet er indsamlet i overensstemmelse med lovgivningen på indsamlingsstedet.

Det virker åbenbart, at det er helt efter bogen at rode rundt i vores digitale aftryk og afspejlinger uden at skulle anmelde. Men også "anonymt biologisk humant materiale" er fri for forpligtelser (givet: der må ikke være en identifikationskode til data). Få lige hovedet rundt om det: "anonymt biologisk humant materiale"!

Nå, nu var tanken ikke at tale om de videnskabsetiske komiteer som sådan, men mere bruge det som eksempel på, hvordan man ofte "afgrænser sig ud af opgaven". Det lyder farligt fint, men langt oftere end man skulle forvente, så vil "problemstillinger ikke ligge indenfor opdraget". Ligesom her med Dataetisk Nævn.

  • 4
  • 0
Jakob Skov

EDB-etisk råd? Hvor var det henne for 30 år siden? Svaret er opløftende: Det var der i langt mindre grad behov for, da det var monopolerne og brugerne der sammen fandt ud af at skrue tingene sammen. Det gav heller ikke mening at samle alt data på kryds og tværs. Hvis man sagde det dengang var man blevet leet ud: Det er dyrt, det giver ikke mening og det ville pisse alle de andre afdelinger af at påstå at man ville "nedbryde siloerne".

Problemet har også en europæisk pendant med "data-baseret lovgivning" som det hedder idag.
Dataene har generelt mange betydelige BUF (Begrænsninger, Usikkerheder og Fejlkilder), som ikke i tilstrækkelig grad er politisk diskuterbare, da dataene bliver enden på diskussionen...
Populisme og post-faktualisme er risikoer ved at blive snæver i manøvrerummet.
Men vigtigere er det ikke at ende med at skade videnskabers troværdighed for meget ved at trække dem igennem det politiske søle.
Trumpisme er post-faktualistisk og i en hvis grad en religiøs opstand fra USAs "rådne banan", men en ikke uvæsentlig del af baggrunden er den politicering af data der er foregået i de amerikanske administrative myndigheder de seneste årtier, den "nødvendighedens politik" det skaber og problemet med at diskutere BUF uden at det bliver hørt som ren selvmodsigelse.

  • 0
  • 0
Tobias Volfing

Jeg tænker at erhvervslivets stemmer er der for at opveje dem der plejer at ytre sig om dataetik baseret på "erfaringer" hentet fra Black Mirror og lignende.

Jeg ved ikke om det er et forsøg på at være morsom - men tror du ikke to professorer og en seniorjurist er garant nok for at der bliver holdt en hvis saglighed?

Svarest på det retoriske spørgsmål Anne-Marie stiller, må naturligvis være at de sidder der for at forsvare deres interesse i at drive virksomhed og tjene penge, som var den at sidestille med vores interesse i at bevare et privatliv.

Vi skal ikke have lov at bevare hvor privatliv på bekostning af andres evne til at tjene penge. Privatliv er noget vi kan få lov at have i det omfang formue-ejerne tillader det.

  • 2
  • 0
Snurre Jensen

Jeg savner faktisk at de fagligt stærke personer i dataetisk råd ytrer sig i debatten.

Der en en del “dataetikere” som ofte henviser til serier som Black Mirror når de vil komme med en pointe. Det synes jeg emnet er for vigtigt til

  • 0
  • 0
Ditlev Petersen

Jeg tænker at erhvervslivets stemmer er der for at opveje dem der plejer at ytre sig om dataetik baseret på "erfaringer" hentet fra Black Mirror og lignende.


Jeg tror, Black Mirror er en form for samfundskritik (det er SF ofte). Lidt lige som man herinde jævnligt henviser til 1984, Big Brother (og Kallocain og Fagre Nye Verden). Henvisningerne dokumenterer i sig selv intet. Men kan være en opfordring om at tænke lidt over tendenser.

Altså at man møder op på Jobcentret for at blive stresset, især hvis man har et mellemøstligt navn. At man "grupperes" efter etnicitet. Af en ufejlbarlig kunstig intelligens. At private fprhold er et skældsord. At man skal følges og registreres - så man kan profileres og uskadeliggøres i tide (men dem der intet ondt har i sinde, haver intet at befrygte).

Sjovt, nu sidder jeg og leger med et synopsis til en film eller lignende. Jeg hårber ikke, at kommunen opdagede det.

  • 5
  • 0
Anne-Marie Krogsbøll

Tak, Tobias Volfing - det er præcist det, jeg mener. Men jeg ville faktisk gerne høre, hvordan man fra Justitsministeriets side mener det, så på den måde er det ikke bare et retorisk spørgsmål fra min side - det er også ægte nysgerrighed. For de vil jo nok næppe forklare det på den måde, du gør. Så hvilket figenblad bruger de?

  • 1
  • 0
Anne-Marie Krogsbøll

Der en en del “dataetikere” som ofte henviser til serier som Black Mirror når de vil komme med en pointe. Det synes jeg emnet er for vigtigt til


Ofte kan sådanne sammenligninger med få ord indkredse en pointe - som ikke nødvendigvis er forkert, selv om man sammenligner med fiktion. Det er kun et par dage siden, jeg så en fagmand bringe BlackMirror på banen som ikke nødvendigvis urealistisk, men som et muligt realistisk fremtidsscenarie. Jeg bed netop mærke i, at en ekspert brugte BlackMirror som advarende illustration. Desværre kan jeg ikke lige huske, hvor jeg læste det - det er jo uheldigt. Hvis jeg kommer i tanker om det, skal jeg nok lægge et link.

Men når tilhængere af Singularity University ser frem til sammensmeltning af robot og menneske og evigt liv som bevidsthed i skyen, så er det svært for fiktionen at hamle op med. Men Black Mirror gør forsøget, og kan skabe et fælles referencepunkt for, hvad det er, mange af os frygter. Men det er selvfølgelig et billede på fremtiden, som fanatiske tilhængere af mere og mere digitalisering og AI ikke bryder sig om, for det kunne jo skræmme folk til at tænke sig om en ekstra gang.

  • 2
  • 0
Bjarne Nielsen

Altså at man møder op på Jobcentret ...

Ja, virkeligheden har det med at overgå fiktionen, så det er måske nok berettiget, at kritisere brug af fiktion, når man bare kan tage afsætning i virkeligheden. Hvis man før 2016 havde foreslået en serie med det Trumpske præsidentskab som oplæg, så ville man være blevet grinet ud.

Jobcentre er (desværre) glimrende pejlemærker i en syg og skæv kultur. Tillid forlanges, åbenhed fordres og frivillighed forudsættes, men selv møder man det formentlige flertal af ærlige og fornuftige folk, som uheldigvis og ofte kun forbigående, har hjælp behov, med mistillid. lukkethed og tvang.

Desværre er jobcentre langt fra enestående, men nok udtryk for en efterhånden alt for udbredt arrogant og kold mistillidskultur.

...men vi er på vej væk fra Dataetisk Nævn og dets selvvalgte impotens.

  • 3
  • 0
Louise Klint

”Indsigt” = forståelse

Jeg undrer mig over, at formanden for Dataetisk Råd, Johan Busse, stejler så meget over for spørgsmålet. Hverken ønsker at besvare det, udvise imødekommenhed eller indgå i en drøftelse omkring problemstillingen.

Jeg synes, han skulle slå koldt vand i blodet. (Bare tag det roligt!)
Og så prøve at anskue problemstillingen fra borgerens perspektiv.
(Busse er, ifølge linket, borgerrådgiver i Københavns Kommune, så det må være en faglighed han besidder).
Se det fra borgerens perspektiv:

Når Version 2 taler om ”indsigt”,

borgere og forbrugere kan få indsigt i data og processer, hvor der anvendes AI – kunstig intelligens – eller andre systemer, til at træffe automatiske beslutninger i et eller andet omfang.

... Så er det jo ikke ment i juridisk forstand. (Så som aktindsigt eller lignende).
Ej heller er her tale om konkrete sager.

Med ”indsigt” menes forståelse.

Se problemstillingen fra borgerens perspektiv:
Hvordan kan der skabes rammer for, at teknologi og automatisering kan anvendes i samfundet, således der er gennemsigtighed for borgeren.
Således borgeren kan få forståelse for, hvordan og hvorfor
en automatiseret afgørelse er truffet.

Dette ment på et helt generelt og overordnet plan.
Og ja, det er en etisk problemstilling. (Mellem borger og teknologi/myndighed/virksomhed).

Derfor er der ingen verdens grund til at afvise spørgsmålet eller henvise til passager i kommissoriet. Det er en malplaceret reference, synes jeg. Og her er heller ikke tale om en ”diskussion”.

Det er en yderst samfundsrelevant drøftelse.
Samfundet, der jo gerne skulle indrettes på borgernes præmisser. (Burde ikke være nødvendigt at nævne).
Hvorfor dette spørgsmål;
om algoritmer, AI og borgernes mulighed for at forstå og gennemskue
automatiserede afgørelser
,

giver sig selv og burde være pensum at drøfte i et dataetisk råd.
På et helt overordnet og generelt plan, naturligvis.
Da spørgsmålet er yderst relevant for alle borgere i Danmark.
Eftersom teknologien pt. indføres i vidt omfang, i både den offentlige og private sektor. En udvikling vi sandsynligvis kun har set begyndelsen af.

Det, ville jeg ønske, at formanden for Dataetisk Råd havde blik og forståelse for.

Men jeg synes egentligt, at denne artikel og formandens reaktion, ganske udmærket illustrerer, hvorfor dette råd, Dataetisk Råd, er meningsløst og spild af tid og ressourcer.
Set fra borgerens perspektiv.

  • 5
  • 0
Louise Klint

^^ Så vidt jeg kan se, hører ovennævnte under denne passage
i Kommissoriet (min markering).

Dette gælder, for mig at se, også for artiklens overordnede problemstilling
om ”indsigt” = forståelse for borgeren i sager og situationer, hvor
der indgår teknologi og automatiserede afgørelser:

Det er hensigten, at Dataetisk Råd skal følge udviklingen inden for dataetiske spørgsmål, med henblik på, at de mange fordele, som brugen af data medfører, udvikles og understøttes på en etisk forsvarlig måde.
Rådet skal således drøfte, hvordan det fremadrettet sikres, at de uanede teknologiske muligheder benyttes på en måde, der tjener de fælles mål, som vi overordnet sætter os som samfund. Her tænkes eksempelvis på en generel brug af data og teknologi, hvor anvendelsen ganske vist skal ligge inden for lovgivningens rammer, men hvor anvendelsen af data og teknologi indebærer væsentlige overvejelser om modsatrettede hensyn til borgernes grundlæggende rettigheder, retssikkerhed eller til grundlæggende samfundsmæssige værdier.

^^ ”Afgrænsning og samarbejdsflader”, side 2 i Kommissoriet:
https://www.ft.dk/samling/20181/almdel/REU/bilag/246/2040076/index.htm

Samt under ”Opgaver”, side 4, eksempelvis:

Følge samfundsudviklingen om brugen af data og ny teknologi
og afgive anbefalinger, redegørelser og udtalelser om almene og principielle dataetiske spørgsmål, der knytter sig hertil.

Varetage informations- og debatskabende aktiviteter om de dataetiske problemstillinger og udfordringer, som samfundet står overfor. Rådet sørger for løbende at holde offentligheden orienteret herom.

Levere sparring til relevante myndigheder og bistå med at sikre
synlighed og dialogdet kan eksempelvis være i relation til de
etiske principper, der er et initiativ i strategien for anvendelse af
kunstig intelligens
, og om de dataetiske initiativer, som Erhvervsstyrelsen er ansvarlig for, så som fx den dynamiske værktøjskasse til dataetik.

  • 3
  • 0
Anne-Marie Krogsbøll

Fin opsamling, Louise Klint.

hvor anvendelsen af data og teknologi indebærer væsentlige overvejelser om modsatrettede hensyn til borgernes grundlæggende rettigheder, retssikkerhed eller til grundlæggende samfundsmæssige værdier.

Retten til privatliv er en af FN's menneskerettigheder. Hvordan kommer det overhovedet på tale at fratage borgerne denne rettighed, og lægge den over til et "Dataetisk råd"? Det er jo i sig selv et overgreb, en overtrædelse af den enkeltes menneskerettighed.

Når retten til privatliv er en menneskeret, så følger det jo deraf, at det er borgeren!!!!!!, som skal spørges om indsamling og anvendelse af borgerens data - ikke et råd af eksperter og inhabile folk med økonomiske interesser i klemme.

Der kan være helt akutte situationer, hvor samfundet er mere eller mindre tvunget til at gøre visse indskrænkninger i den absolutte rettighed. Men der er vi absolut ikke som samfund i øjeblikket. Vi er ikke under akut angreb, og vi er ikke midt i en ny kolera-epidemi eller anden akut krise. Og i de tilfælde, hvor det kunne komme på tale, skal indskrænkningen i retten til privatliv jo ophæves, i samme øjeblik krisen er overstået.

Så der er simpelthen ikke nogen gyldig grund til at indskrænke vores menneskerettigheder på nuværende tidspunkt. SÅ HVAD POKKER ER DET, DER FOREGÅR? HVORDAN KAN DET OVERHOVEDET KOMME PÅ TALE AT GØRE BORGERNES PRIVATLIV TIL RÅSTOF FOR SAMFUND OG ERHVERVSLIV? HVAD TÆNKER DE DOG PÅ?

Tech-giganter og deres håndlangere i magtens top har kuppet og manipuleret os til lige så stille at komme til at tro, at det er dem, der ejer vores privatliv. Men hvis der skal være noget som helst indhold i begrebet "retten til privatliv", så kan det jo ikke nytte, at den ret skal vige for diverse udnyttelse, heller ikke fra samfundet side. At samfundet lugter guld, er ikke en akut krise, som kan berettige til at krænke menneskerettigheder. For hvis man vælger at se det på den måde, så er der simpelthen ingen ret til privatliv - den ret er væk, individet er underkastet og underlagt tilfældige magthavere og administratorer og økonomiske og andre interesse. For der vil hele tiden dukke nye folk op, so, har en god idé til undnyttelsen af andres privatliv - ANDRES!!!

Dataetisk råd er simpelthen udtryk for et groft brud på menneskerettighederne, hvor vore magthavere i det skjulte at afskaffet denne mennesKeret, og solgt vore privatliv til udnyttelse af enhver art.

Det er en forbrydelse. Der begås overgreb på os.

  • 5
  • 0
Louise Klint

Retten til privatliv er en af FN's menneskerettigheder.
Hvordan kommer det overhovedet på tale at fratage borgerne
denne rettighed, og lægge den over til et "Dataetisk råd"?

Ja. Så kort kan man sige det :)

Når retten til privatliv er en menneskeret, så følger det jo deraf,
at det er borgeren!!!!!!, som skal spørges om indsamling og anvendelse af borgerens data – ikke et råd af eksperter og inhabile folk med økonomiske interesser i klemme.

Nej, det er sandt.

Og så længe du ikke har råderet over dine egne, private oplysninger –
hvilket ingen af os jo har (i forhold til myndighederne) –
så er dette Dataetisk Råd en fis i en hornlygte.

Og en ekspropriering af borgernes rettigheder >> til et alibiråd.
Det er rigtigt...
Først tænkte jeg rådet som harmløst, ligegyldigt.
Men det er egentlig grove løjer, når man ser nærmere efter.
(Selvom det måske ikke nødvendigvis har været en strategi, overlagt).

  • 5
  • 0
Anne-Marie Krogsbøll

Men det er egentlig grove løjer, når man ser nærmere efter.


Ja, det er faktisk utroligt grove løjer, og jo mere, jeg tænker over det, jo mere bliver jeg overbevist om, at der virkeligt sidder nogle spindoktorer og jurister et eller andet sted i magtlaget, og helt bevidst arbejder på, hvordan de kan snige sig uden om det der væmmelige problem med menneskerettigheder og retten til privatliv, for det er jo godt nok en sten i skoen, når man nu har så mange store visioner om totalovervågning og eksponentiel vækst og udvikling og evigt liv i skyen.

Jeg begynder at tro, at man simpelthen - i et forsøg på at komme uden om det problem - har besluttet at gøre nøjagtigt det samme, som tech-giganterne og overvågningskapitalisterne har udført deres kup mod os med: "Vi lægger røgslør ud - vi lader simpelthen som om, retten til privatliv ikke eksisterer"!

"Hvis bare vi pakker det ind i en masse uforståelig jura, slagord og brugerbetingelser, så kan folk ikke gennemskue, at vi tager r..... på dem. Det har virket godt i mange år for overvågningskapitalisterne, så det kommer også til at virke for os".

Det er noget af det, som Zuboff beskriver så fint og skræmmende: Man har simpelthen bare stjålet privatlivet, og så påstået, at det på en eller anden mystisk måde ikke er omfattet af love og regler og rettigheder, og at der - af en eller anden grund, som jeg ikke fatter - skulle gælde en helt særlig form for "etik" i cyberspace og dataland.

Det samme har nogen højt i det offentlige system gjort: "VI lader bare som om, retten til privatliv ikke eksisterer. Det kan folk ikke gennemskue - de stoler på myndighederne, så hvis vi undlader at tale for højt om privatlivet, og lader som om, vi som en selvfølge tager os af etikken - hvis bare vi siger ordet "etik" tit nok - hvis vi nedsætter en mængde uigennemskuelige råd og udvalg - hvis vi vifter befolkningen om næsen med alle de gode ting, vi vil gøre med deres data - så glemmer folk simpelthen hen ad vejen, at vi begår forbrydelser mod deres menneskeretiigheder. De glemmer, at det er deres ejendom, vi har taget magten over - helt uden at have ret til det. Vi snører dem simpelthen til at tro, at de ikke har en ret til privatliv, før vi har vurderet det etisk, og bevilliget det. "

Kan nogen forklare mig, hvorfor der overhovedet skulle være tale om en særlig form for "etik" ift. data og digital udvikling? På hvilken måde adskiller denne "etik" sig fra andre områder i verden? Jeg kan ikke forstå det som andet, end at det netop handler om ønsket om at komme uden om menneskerettighederne på det digitale område.

  • 3
  • 0
Anne-Marie Krogsbøll

Jeg har brug for et råd. Jeg er frygteligt bekymret over, at det offentlige sælger mit privatliv til overvågningskapitalister:
https://www.version2.dk/artikel/rapport-cookies-paa-offentlige-myndighed...

Kan du give mig et godt råd om, hvordan jeg skal tage sagen op med det offentlige? Skal jeg invitere det hjem over en kop kaffe, og forsøge at få en dialog i gang? Eller skal jeg pudse en advokat på det? Skal jeg gå under jorden? Skal jeg prøve at kidnappe mine filer? Skal jeg tage et kursus i digitalt selvforsvar? Vil mægling være en idé?

Stemningen er ved at være lidt højspændt, min tålmodighed er slidt, og det giver søvnløse nætter. Jeg føler mig dårligt behandlet, men vil nødigt skrue konfliktniveauet op - det er jo snart jul. Hvad vil du foreslå?

  • 2
  • 0
Henrik R Jørgensen

Ja, det er faktisk utroligt grove løjer, og jo mere, jeg tænker over det, jo mere bliver jeg overbevist om, at der virkeligt sidder nogle spindoktorer og jurister et eller andet sted i magtlaget, og helt bevidst arbejder på, hvordan de kan snige sig uden om det der væmmelige problem med menneskerettigheder og retten til privatliv, for det er jo godt nok en sten i skoen, når man nu har så mange store visioner om totalovervågning og eksponentiel vækst og udvikling og evigt liv i skyen.

Jeg tror, at svaret ligger i Rigsrevisionens opgørelse af, at der ligger 34 dejlige mia i vente ved kommercialisering af danskernes oplysninger.

Digst har været gode til at innovere og udfordre gamle konventioner - dette ofte i et sammenspil med kommercielle giganter - men har til gengæld utroligt svært ved at forstå formålet med mange af de love og regler, som de finder besværlige. Det er love og regler, der er skrevet til at sikre en grundlæggende balance mellem individ og samfund, og det er den balance, som man nu udfordrer gevaldigt ved at indføre en national databroker model, som skal hjælpes på vej ved en rådssanktioneret "privacy policy".

Dataetik er et uklart svar på spørgsmålet "hvordan vi får "pillen" til at glide ned"? Hvordan skubber vi balancen uden at individet mister tilliden? Jeg har endnu ikke set noget, der betrygger mig. Tværtimod ser jeg et lidt udfordet Råd, der ikke rigtigt har lyst til at lægge sig ud med nogen. Rådgivere, lovgivere og myndigheder der kalder jura for etik (og dermed pludselig som noget man kan vælge til eller fra), og en befolkning der efterlades med mindre transparens og færre rettigheder.

Jeg tvivler på, at ovenstående var visionen for dataetik.

  • 4
  • 0
Anne-Marie Krogsbøll

"Program
Velkommen og introduktion til Dataetisk Råd
v/ Formand for Dataetisk Råd, Johan Busse
Dataetik – og vejen dertil
v/ Seniorforsker Rikke Frank Jørgensen, Institut for Menneskerettigheder.
Data som ressource og udfordring
v/ Professor og medlem af Dataetisk Råd Mikkel Flyverbom, CBS.
Hvilke dataetiske emner og problemstillinger er vigtige?
Debatten bliver modereret af medlem af Dataetisk Råd og digital trendanalytiker Christiane Vejlø.
Tak for i dag
Opsamling og afrunding
v/Christiane Vejlø og Johan Busse."

Sådan set kunne det være rigtigt relevant, hvis der ligefrem udkom et referat fra begivenheden, så vi f. eks. kunne høre, hvad menneskeretseksperten siger. Jeg frygter, at "tilpasningen" af forståelsen af menneskerettigheder allerede er i fuld gang, og vil skinne igennem her, men jeg kan jo blive glædeligt overrasket

PS, Snurre Jensen:
Jeg synes, at det er ærgeligt, at du ikke vil bidrage med, hvordan du tænker om området. Det er jo netop en af de store bekymringer, at dette område styres/formes mere eller mindre i lukkede, eksklusive fora, blandt lobbyister, eksperter og magt- og indflydelseshavere - selv om det er vores alles fremtid det handler om. Det bekræfter min opfattelse, at denne udvikling kommer til at føre til ekstremt ekspertstyre og koncentration af magt og midler i toppen. Alle de fine ord om etik og øget velstand til alle er ikke andet end det: Fine ord, for at få den bitre pille til at glide ned.

Det kan jo ikke nytte at bebrejde os "sølvpapirshatte", at vi har vores viden fra Black Mirror, hvis I, der har forstand på det, holder jeres forstand for jer selv.

  • 1
  • 0
Pernille Tranberg

hej snurre
kan du uddybe hvad du mener med, at emnet er for vigtigt til at henvise til Black Mirror? er det fordi du mener, at BM er totalt far out og dermed ikke duer som pointe? det er mig der i #126 henviser til BM som jeg synes formår at pege på de (forhåbentlig urealistiske) dystopiske sider af tech og hvor vi skal ind og sætte grænser/regulere.
Har du en bedre ide til at beskrive de dystopiske sider end henvisning til BM, som rigtig mange danske unge heldigvis har set?
bh pernille

  • 4
  • 0
Bjarne Nielsen

hej snurre
kan du uddybe hvad du mener med, at emnet er for vigtigt til at henvise til Black Mirror?

Tid til popcorn :-).

Jeg læste tidligere meget science fiction, og ja, der er mange dystropier. Men som en anmelder (Bo Bjørnvig?) engang sagde i Weekendavisen, så er vi der læser scifi dystropier ikke bange for fremtiden; vi glæder os til den, og er bare ved at forberede os!

Men jeg er holdt op med at læse scifi, og det har jeg tænkt en del over. Jeg tror at det er fordi at virkeligheden nu alt for ofte overgår fiktionen - og desværre virker det til, at nogen også have læst dystropierne, og i stedet for læse dem som en advarsel, mere har læst det som en plantegning.

  • 3
  • 0
Louise Klint

Prøv at se på faktaboksen, i artiklen, om Dataetisk Råd.

Til at betjene rådet er der blevet oprettet et
nyt tværministerielt sekretariat med repræsentanter fra
Finansministeriet ved Digitaliseringsstyrelsen, Erhvervsministeriet
ved Erhvervsstyrelsen og Justitsministeriet
.

Kan du se, hvad der mangler?
Hvilket ministerium / styrelse burde også være relevant heriblandt?
...

Hint:
Etisk Råd beskæftiger sig særligt med dette område.
+ Du vil sandsynligvis ikke bryde dig om, hvis din arbejdsgiver eller andre
får indsigt i dine oplysninger omkring dette. (Data, som de råder over).

  • 3
  • 0
Anne-Marie Krogsbøll

Godt spottet, Louise Klint.

Det er bare så råddent. Men måske er det bare udtryk for, at de ikke skal have noget som helst at skulle have sagt ift. vore sundhedsdata? Det ville jeg da nærmest være lettet over.

Nå, det er nok ikke sandsynligt....

(PS: Hvornår får vi et Borgerrets-ministerium?)

  • 2
  • 0
Louise Klint

Måske er det også fordi, de måske får lidt problemer med at forklare
det etiske i Trial Nation?

Hvorledes det kan være etisk forsvarligt, at have en national vækststrategi
om at gøre Danmark til verdens foretrukne land at udføre medicinske forsøg
med mennesker?
Det danske laboratorium, via vores offentlige hospitaler, med os som forsøgskaniner, så staten kan blive rig?!
https://www.version2.dk/artikel/minister-hvis-regeringen-falder-bedste-a...
https://www.version2.dk/artikel/minister-hvis-regeringen-falder-bedste-a...

Eller hvorfor sundhedslovgivningen skal dereguleres til fordel for virksomheder og forskere, men på patientens bekostning?
Hvad blev der af det etiske aspekt?

Som nu fx den aktuelle lov, L35, som skal være en
”styrkelse af borgernes tryghed og tillid til sundhedsforskning.”
https://www.ft.dk/samling/20191/lovforslag/L35/index.htm

Her er myndighederne bl.a. i færd med at tage råderetten over dine private oplysninger fra dig, og lægge den i hænderne på sundhedspersonalet.
Således ledelsen, på fx hospitalsafdelingen hvor du er i behandling, kan bestemme, om dine oplysninger må deles til forskning.
Herfra kan de videregive dine personfølsomme oplysninger til forskere, der også kan inkludere medicinalindustrien, uden at du får besked eller bliver spurgt.

Lyt til forskeren fra RV (11:27), som synes, at dette er fuldt forsvarligt
over for patienten (dig), fordi opslag i it-systemerne bliver logget!
https://www.ft.dk/samling/20191/lovforslag/L35/BEH1-11/forhandling.htm
https://www.ft.dk/samling/20191/lovforslag/L35/BEH1-11/forhandling.htm#l...

A-ha...
Du bliver hverken informeret eller spurgt om dine oplysninger må deles med andre.
Og når du så kigger i din log på sundhed.dk, kan du bare se, at sundhedspersonale fra hospitalsafdelingen, hvor du er behandlet, har slået op i din journal.
Men du kan rigtignok ikke se hvem, dine oplysninger bliver videregivet til eller delt med. Dog ser det hele så fint og ordentligt og autoriseret ud.

Hvem sagde falsk tryghed?
Hykleri? Manipulation?
Det er sådan, man lovgiver på sundhedsområdet i Danmark i dag.

Så er det jo godt, at der ikke er sekretariatsbetjening på dette område.
For så vidste Dataetisk Råd jo ikke besked om det,
og så kan de jo ingenting bebrejdes, vel?

  • 3
  • 0
Anne-Marie Krogsbøll

Lyt til forskeren fra RV (11:27),


Har ikke lige tid til at høre det, men jeg gætter på Sture Lindgren? :-)

Og når du så kigger i din log på sundhed.dk, kan du bare se, at sundhedspersonale fra hospitalsafdelingen, hvor du er behandlet, har slået op i din journal.


Jeg er netop i gang med en sag om et muligvis uberettiget opslag i min journal. Jeg gætter på forskning, men nu får vi se. Men det tager måneder at opklare, har allerede ventet så længe på svar - og er alelrede belvet sendt rundt mellem forskellgie instanser.

Hvis forskere tiltager sig adgang, så er det da mærkeligt, at det ikke et eller andet sted registreres i systemet, så det evt. kunne fremgå af loggen - eller i det mindste ikke tage måneder at opklare, når borgeren spørger?

Men du har nok ret - hele tanken er sikkert, at det netop ikke skal være nemt at opdage, at der snages i ens data...

Men så vil jeg kraftigt opfordre til, at alle, der opdager, at der er mærkelige opslag i ens journal (Tjek dem tit!), som man ikke kan genkende, forfølger sagen. Hver gang! Så kan myndighederne bruge en masse tid på at sende sager rundt i systemet, for at opklare, om opslaget er berettiget. Det har man jo krav på at få oplyst, og på den måde kan man jo indirekte få opklaret, om ens data indgår i forskning, når de ikke vil ud med det uden videre. De kan jo ikke digte hospitalsbesøg, som man ikke har foretaget.

Hvis tilstrækkeligt mange aktionerer på den måde, kan det være, at myndighederne på et tidspunkt finder ud af, at det ville være smartere simpelthen at skrive i loggen, at forskere har snaget..

Og må vi igang med næste skridt - at protestere mod den anvendelse. Og så forberede os på, at modtrækket bliver, at disse oplysninger så helt fjernes fra loggen. Så er vi for alvor reducerede til intetanende forsøgsdyr og datagrise.

Hvordan man vil forklare etikken i dét, kan jeg ikke lige regne ud.

  • 3
  • 0
Louise Klint

Ja netop, Stinus Lindgren.

Det er godt, du skriver om det.
At det er svært at få oplysninger om mulige uretmæssige opslag/ens egen journal ud af myndighederne. (Jeg bliver helt træt). Det er ikke i orden.

Jeg kender ikke motiverne. Jeg kan bare sige, at jeg ikke synes,
at lovgivningen skaber tryghed. Eller gennemsigtighed.
Ligesom jeg synes, det er en besynderlig bagvendt og skjult facon at komme omkring det på. Fra myndighedernes side.
At dele borgernes oplysninger i smug. For det er jo det, man gør. Når der ikke skal være hverken information, samtykke eller transparens.

Det skal være trygt at komme på hospitalet.

Ligesom at jeg, hvis jeg var sundhedspersonale, ikke ville bryde mig om, den ene dag at se patienten i øjnene, for derefter, den næste dag, at videregive hans/hendes private oplysninger. (Til fremmede, der ikke skal hjælpe med patientens behandling, og uden samtykke).
Jeg ville ikke bryde mig om at sidde og udlevere andre mennesker
på den vis. Og at det er min pligt.
Patienter, som har afgivet deres oplysninger i fortrolighed. Fordi de er nødvendige for deres behandling. Og i tillid til, at personalet på hospitalet passer på dem.

Det skal være trygt at komme på hospitalet.
Hospitalerne skal ikke være en udleveringscentral.
Pga. disse sekundære formål, som skal tilfredsstilles her.

  • 2
  • 0
Snurre Jensen

Min anke er blot at jeg tænker at dataetik virker til at være så vigtigt et område at ensidig fokus på det negative og dystopiske sikkert skaber mere interesse - gode historier er bare uinteressante - men at det ikke fremmer en god og saglig debat om emnet.

Jeg har det også svært med at inddrage noget der måske/måske ikke sker i en mere eller mindre fjern fremtid. Det forekommer mig mere interessant at prøve at fokusere på hvad der rent faktisk sker i dag.

  • 1
  • 0
Anne-Marie Krogsbøll

Tak for svar, Snurre Jensen.

gode historier er bare uinteressante -


Kan du komme med nogle eksempler? Dels har du da ret i, at de også skal frem. Dels kan det jo tænkes, at der ikke er enighed om, om de nu også er gode.

Jeg har det også svært med at inddrage noget der måske/måske ikke sker i en mere eller mindre fjern fremtid. Det forekommer mig mere interessant at prøve at fokusere på hvad der rent faktisk sker i dag.


Det er jo lissom for sent at prøve at forebygge ulykkerne, når først de er sket, ikke? Mener du, at BlackMirror giver et urealistisk billede? I givet fald: Hvor og hvordan? Over- eller underdriver serien? En anden fiktions-udgave af fremtiden er den russiske "Better than us" ....

Men igen: Hvad er din udlægning af, hvad der faktisk sker i dag? MIN udlægning er, at det ønsker man faktisk fra de ansvarliges side ikke fokus på. Derfor gemmer man det væk på lukkede eller afsindigt dyre konferencer, lukkede beslutningstagerkontorer, diskrete "studierejser" til tech-giganter og middage med disse, i indforståede og svært tilgængelige rapporter, i Mørklægningslovsramte referater ---- og med figenblade som "Dataetisk Råd".

Jeg må indrømme, at jeg finder det lidt mystisk, at du opponerer mod at kigge mod fremtiden - hvis min fornemmelse er rigtig (jeg kan jo tage fejl, men du har et ret ualmindeligt navn), lever du netop af at promovere denne fremtid:
https://implementconsultinggroup.com/media/3679/kunstig-intelligens-i-da...

Fra jeres rapport:
"Det har også været interessant at lære, at det ofte er tilfældet, at kapabiliteterne inden for kunstig intelligens og machine learning organisatorisk ikke er en del af den traditionelle it-organisation. En årsag til dette kan være, at den forretningsmæssige tilknytning vejer tungere end at have tilknytning til it. " (s. 86)

Ja, det er vi jo netop en del, som fornemmer - at det forretningmæssige styrer denne udvikling, både i de enkelte firmaer og på samfundsmæssigt niveau. Derfor er vi negative og råber op. Forretningsmæssige hensyn skal ikke bestemme over vores ret til privatliv (jeg er klar over, at citatet er rettet mere bredt end privacy - men det rammer også privacy).

Og så et citat af Jesper Scleimann i rapporten - et af den slags, som bekræfter mine bange anelser, og som giver myrekryb:
"Derudover har vi i Danmark et ret unikt syn på privacy, der betyder, at hvis der kan laves innovation på det område, vil vi stå rigtig stærkt. Vi har fx selv et samarbejde med Google, hvor vi kigger på, hvordan man bedre kan håndtere privacy inden for rammerne af Googles løsninger."

Hvordan skal det mon forstås? Jeg frygter, at det præcist er det, en del af os siger: At man i det stille arbejder på - sammen med tech-giganterne - at underløbe retten til privatliv. Ærgerligt, at I ikke i rapporten beder om at få det konkretiseret, for potentielt er det i den slags bestræbelser, vejen til Black Mirror ligger skjult. Men det må vi nok som sædvanligt ikke få indblik i - det henhører jo nok under "forretningshensyn".

  • 0
  • 0
Snurre Jensen

Ja mit navn kan jeg ikke løbe fra :)

Jeg har skam ikke noget imod at nogle henviser til Black Mirror. Jeg har kun set et par afsnit af serien da jeg ikke rigtig synes den fængede.

Det jeg blot har lidt udfordringer med er at personer der gerne vil tegne debatten om data etik offentligt (heriblandt personer i tilknytning til Data Etisk Råd og dataethics.eu etc.) og hvad vi skal stille op med data fremadrettet, lægger så mange æg i en enkelt kurv so to speak. En god og sober debat tager udgangspunkt i både det positive og det negative - specielt hvis den sker i regi af en offentlig myndighed

  • 0
  • 0
Snurre Jensen

Jeg har arbejdet en del med data i løbet af min karriere og følger derfor den generelle debat som jeg dog synes er kendetegnet ved at dække mange forskellige problemstillinger. Jeg ville derfor gerne hvis det var muligt at prøve at præcisere de emner der bliver diskuteret og efterfølgende se om de bekymringer og hensyn der måtte være på et givet område ikke allerede bliver håndteret andetsteds. Et eksempel på dette kun være den seneste historie om målrettede reklamer for kviklån på Facebook. Hvad er det man vil diskutere her? Brugen af data til at reklamere? Målrettede reklamer? Mod en formodet "svag" målgruppe? Anvendelsen af Facebook som kanal? Hvis det er målrettede reklamer mod en formodet "svag" målgruppe som f.eks. børn - er det så ikke allerede omfattet af markedsføringsloven? Behøver vi et dataetisk råd til det?

Derudover er jeg også lidt mystificeret af at det nogle gange virker som om "data" og aktiviteter i relation til "data" er nyt. For mig er data mange ting og eksisterer både i analog og digital form. Derudover findes data ubearbejdet som input og i bearbejdet form som viden og erfaring. Nedfældning af data til efterfølgende viderebearbejdning og udveksling med andre har eksisteret sålænge mennesker har haft kognitive færdigheder og kommunikeret med hinanden - bl.a. for at udveksle erfaringer med hinanden. Et eksempel på dette kunne være sundhedsdata. Læger har også før der fandtes EDB nedfældet observationer og draget konklusioner - både til eget brug og til deling med andre. Sikkert også i en form der har kunnet pege på specifikke individer uden at disse har givet samtykke til opsamlingen, bearbejdningen og delingen.

Så hvad er det der er nyt? Data i digital form? Mængden af data der findes i digital form? At der er andre aktører end danske der kan have noget med data at gøre? At det er uklart hvad der sker med data?

Ift. det sidste - har det ikke altid være uklart hvad der sker med data? Personligt har jeg altid haft det svært med beslutninger truffet af en offentlig myndighed eller anden aktør med prædikatet "kyndig" hvor beslutningen beror på et skøn. Et skøn er simpelthen den mindst transparente handling jeg kan forestille mig og alligevel er stort set al myndighedsudøvelse betinget af at nogle foretager skøn

Ovennævnte kan også være en årsag til at det måske kan virke som om der er lidt fodslæben rundt omkring ift. at finde ud af alt det her med data. For skal vi behandle data samlet eller skelne mellem analoge og digitale data? Skal vi forvente større transparens af data og algoritmer der når frem til resultater og beslutninger end vi gør af mennesker? I så fald hvorfor?

Der er nogle der hævder at vi som personer har ejendomsretten over egne data. Men hvad betyder det egentlig? Hvis jeg frivilligt og på velinformeret grundlag bevidst afgiver data - er det så mine længere? I hvilke andre transaktioner bliver jeg ved med at eje noget når jeg først frivilligt har givet afkald på det? Hvordan vil sådan et ejerskab virke og fungere i praksis? Hvor går grænsefladen mellem data som "nogen" må vide og data som kun jeg skal have adgang til? Skal vi alle have en krypteringsnøgle på hos der kan låse vores data op hver gang det skal bruges? Og det er vel at mærke kun for de digitale data.

Jeg er klar over at der ovenfor er ret mange spørgsmål :). Det afspejler kun min manglende indsigt i mange af emnerne. Jeg er dog ret overbevist om at der ikke er en overskyggende transnational konspiration mod menneskeheden.

  • 1
  • 0
Snurre Jensen

"Ja, det er vi jo netop en del, som fornemmer - at det forretningmæssige styrer denne udvikling, både i de enkelte firmaer og på samfundsmæssigt niveau"

Hvis man som virksomhed ikke skal styre efter hvad der giver forretningsmæssig mening hvad skal man så?

Ift. det samfundsmæssige står vi i Danmark og mange andre vestlige lande overfor en række store udfordringer fremadrettet - klima og voksende ældrebyrde er blot et par eksempler. Samtidig har vi nogle ønsker om lavere vækst i den offentlige, lavere skatter samt generel vækst i samfundet. Hvis vi fastholder de ønsker - hvordan får vi så mere for mindre? En mulighed kunne være at undersøge om vi kunne gøre nogle ting smartere og mere effektivt end vi gør i dag. Og kan ansvarlig og transparent brug af data og algoritmer evt. være en støtte i det? Hvis ja, hvordan gør vi så det?

For mig er anvendelsen af data og algoritmer underlagt hvordan vi sætter hegnspælene på andre områder.

  • 0
  • 0
Anne-Marie Krogsbøll

Tak for, svar, Snurre.

En god og sober debat tager udgangspunkt i både det positive og det negative - specielt hvis den sker i regi af en offentlig myndighed


Jeg synes altså, at du sniger dig uden om selv at bidrage med at konkretisere, hvad det er, vi andre misser. Hvis du synes, vi andre tegner et alt for negativt billede, så forstår jeg ikke, at du ikke selv bidrager med nogle positive historier.

Desværre er det en jævnligt gentaget oplevelse, når man deltager i debatter om dette emne rundt omkring, hvor folk udtrykker bekymring over udviklingen: At pludseligt dukker der en eller flere nye aktører op i kommentarfeltet, som på en eller to linjer kritiserer os andre "sølvpapirshatte" for at være alt for negative, og at de gode historier aldrig får plads.

Fair nok. men når man så velvilligt åbner for, at de gode hostoirer også skal frem, og beder om konkrete ekspempler, så er det meget sjældent, at der faktisk kommer noget. Det er som om de, der står for den positive linje, ofte (selvfølgelig ikke altid) føler sig hævet over at skulle begrunde og argumentere yderligere. Det kan være, at jeg mistolker det signal, der derved sendes, men på mig virker det desværre som om, at disse kommentarorer på en eller anden måde føler sig hævet over os andre - fordi de netop føler sig med i "inderkredsen", de toneangivende på området, og de magthavende kræfter. Så de behøver ikke at ofre ydeligere energi på at forsvare deres standpunkt, for de har allerede magten på deres side, ser techtppen som deres egentlige bagland, ikke befolkningen, og kan derfor stille og roligt ignorere kritiske røster. Måske er det en forkert tolkning - men sådan virker det altså på mig.

Svend Brinkman har i dag en klumme i Politiken (er vist ikke online endnu), hvor han netop - i en for ham uvanligt politisk klumme - udtrykker bekymring for denne udvikling. Andre meningsdannere har de seneste uger gjort det samme. Problemet er, at selv om der er tale om meningsdannere, så er min fornemmelse, at det ikke virker - de magthavende beslutningstagere på området sidder simpelthen så sikkert i sadlen, at de mener det unødvendigt at lytte til elelr tage hensyn til kritiske røster - det er sikrere og skaber mindre ravage i de store digitale visioner simpelthen at ignorere dem.

Så når du svarer, som du gør, så er et et eksempel blandt mange andre, som på mig virker som om, der findes et magtlag - en måske endda egentlig mafia (VL-klubber, fondsbestyrelser o.l.) - som står for og egenhændigt styrer den digitale udvikling herhjemme. Det er det, jeg mener, når jeg jævnligt taler om et "kup" - at I, der er"indenfor i varmen" på området, lyder til simpelthen ikke at regne dem udenfor for ret meget.

Jeg håber, at du kan se min pointe, og vil hjælpe mig med at komme ud af den mulige vildfarelse omkring motiverne til sådanne meget korte, men helt ukonkrete kommentarer, der kritiserer os andre. For jeg vil så nødigt tro, at du faktisk hører til dem, som egentligt mener, at vi andre bare skal klappe i, og lade eksperterne om at tage beslutningerne.

  • 0
  • 0
Snurre Jensen

Der er talrige eksempler på hvordan data kan bruges til formål jeg synes er prisværdige - bl.a.:
- Ny medicin bliver som regel udviklet på baggrund af data. Alle farmavirksomheder tester jo medicin i forskellige stadier af udviklingsprocessen)
- Beskyttelse af truede dyrearter (f.eks. https://wildtrack.org/)
- Reduktion af CO2 footprint (f.eks. https://www.networkworld.com/article/2850874/how-ups-uses-analytics-to-d...)

Flere eksempler kan f.eks. findes her: https://www.datakind.org/

Min pointe er at vi bør se på hvordan data og algoritmer er med til at løse problemstillinger og identificere ting vi som samfund vil og ikke vil acceptere i den henseende.

  • 0
  • 0
Anne-Marie Krogsbøll

Tak for mere fyldig svar, Snurre Jensen.'

Ja, du rejser utroligt mange spørgsmål - men tager jeg fejl, hvis jeg destillerer din holdning ud af dem til noget i retning af, at du - som jeg forventede - ikke går så meget ind for "privacy"? Det er vel i sidste ende det problem, som ligger de fleste af spørgsmålene, som medfører kontrovers?

Kan vi blive uenige om, at mængden af data om hver af os har udviklet sig eksplosivt bare de seneste år? Kan vi blive uenige om, at data nu betragtes som "det nye guld" - hvilket det ikke var tidligere? Kan vi blive enige om, at data nu kan indsmles ad veje, som vi ikke kendte til før, og som vi nu ikke engang er klare over?

Det rejser vel nogle helt nye problemstillinger, i det det giver magt- og økonomiske storspillere en helt ny spillebane og helt nye muskler at spille med overfor os andre.

Et eksempel på dette kunne være sundhedsdata. Læger har også før der fandtes EDB nedfældet observationer og draget konklusioner - både til eget brug og til deling med andre.


Ja - men problemet er mange-mange-mange-doblet, og for mig og mange andre er det i hvert fald nyt, at vi kan gøres til datagrise for økonomiske interesser, uden at vi ved det, eller kan forsvare os.

Der er nogle der hævder at vi som personer har ejendomsretten over egne data. Men hvad betyder det egentlig? Hvis jeg frivilligt og på velinformeret grundlag bevidst afgiver data - er det så mine længere? I hvilke andre transaktioner bliver jeg ved med at eje noget når jeg først frivilligt har givet afkald på det? Hvordan vil sådan et ejerskab virke og fungere i praksis? Hvor går grænsefladen mellem data som "nogen" må vide og data som kun jeg skal have adgang til? Skal vi alle have en krypteringsnøgle på hos der kan låse vores data op hver gang det skal bruges? Og det er vel at mærke kun for de digitale data.


Har du læst Shoshane Zuboffs bog "Overvågningskapitalismens tidsalder? Hun har brugt mange år og 700 side på at prøve at svare på de spørgsmål, og det gør hun meget bedre end mig. Og hun er nået frem til, at den eneste mulighed for at redde en smule privatliv - og samtidig redde demokrati, menneskelighed og frihed - er at indskrænke dataindsamling til kun præcist det, der er givet udtrykkeligt samtykke til - med forståelig information. Og at handel med menneskelige data skal helt forbydes. Det er den eneste chance, vi har overfor tech-giganter og andre interesser i området.

Vi har en menneskeret til at have et privatliv (er du uenig i det?). Hvis vi har det, hvordan kan det så overhovedet komme på tale, at andre end vi selv skal have råderet over vore private data? Hvordan kan det overhovedet komme på tale, at du og dine meningsfæller på dette område skal have nogen som helst adgang til eller råderet over f. eks. mine data? Hvilken ret har I til at samle andre menneskers privatliv?

Nu vil du jo nok henvise til, at samtykker er frivillige og velinformerede. Men det er de jo typisk absolut ikke! Læs f.eks. denne undersøgelse af Googles privacy-policy:
https://www.nytimes.com/interactive/2019/06/12/opinion/facebook-google-p...
Den har et lix-tal næst efter en af verdens sværeste tekster! Det er at kuppe folk!

De modbydelige kviklåns-annoncer er målrettede på baggrund af brugeres private data. Dvs. (ud over, at kviklån er ågerforetagender) at folks privatliv bruges imod dem - uden at de ved det! Det er præcist det, Zuboff beskriver så fantastisk.

Samtidig har vi nogle ønsker om lavere vækst i den offentlige, lavere skatter samt generel vækst i samfundet. Hvis vi fastholder de ønsker - hvordan får vi så mere for mindre?


Vi er en del, som ikke deler disse ønsker, og som derfor ikke mener, at vore privatliv skal indgå i gennemførelsen af de planer. Vi mener ikke, at det er til menneskehedens bedste. Vi går ikke ind for mere materiel vækst, vi går ikke ind for lavere skatter, vi går i stedet ind for en større solidaritet mellem befolkningsgrupperne, flere varme hænder, mere fokus på andre måder at gøre tingene på, som ikke underminerer retten til privatliv og klima. Vi mener, at vi må ofre noget levestandard for at redde grundlæggende frihedsrettigheder og klima.

Nu vil du så nok svare, at I har flertallet bag jer (der har vel aldrig været en ægte debat om retten til privatliv i forbindelse med et valg, vel?). Men uanset om det er rigtigt eller ej, så ligger det i selve det, at retten til privatliv er en menneskeret, at den ret ikke kan fjernes ved, at andre laver en flertals beslutning. For i så fald har man jo reelt simpelthen afskaffet denne menneskeret, ikke?

  • 0
  • 0
Anne-Marie Krogsbøll

Tak for var, Snurre.


Mht. medicin så har man desværre gjort udviklingen af denne til et profitlandskab, hvor man ikke kan stole på de forskningsresultater, som fremlægges. Der var engang, hvor jeg gerne deltog frivilligt i forskning. Det gør jeg ikke mere, efter at jeg har sat mig mere ind i, hvordan det foregår. Her må jeg henvise til f.eks. Peter Gøtzsches bøger og hjemmesiden www.laegerudensponsor.dk . Medicinalfirmaer og befolkningsundersøgelser, som samarbejder med disse, skal ikke have adgang til mine data.

Mht. de to andre eksempler, du nævner, så er de vel ikke så privacy-relevante? Jeg går da bestemt ind for at anvende AI i klimaforskning, og til f.eks. at lave gode vejrudsigter med. Så ja - det er eksempler på god anvendelse af AI (jeg kan have overset noget her), som jeg ikke opponerer i mod.

Men kan du uddybe, hvad Jesper Scleimann mon har ment i citatet om samarbejde med Google fra jeres rapport? Har du et bud?

  • 0
  • 0
Snurre Jensen

Igen mange forskellige områder her :)

"Ja, du rejser utroligt mange spørgsmål - men tager jeg fejl, hvis jeg destillerer din holdning ud af dem til noget i retning af, at du - som jeg forventede - ikke går så meget ind for "privacy"?" "

Jeg kender ikke nogen der ikke går ind for "privacy". Jeg ser dog ikke privacy som en binær størrelse. Derudover er jeg ikke helt tryg ved at jeg tillægges motiver jeg ikke eksplicit har givet udtryk for. Det er vel for hulen det vi er imod - at vi afgiver data og at der bliver udledt ting af dem vi ikke selv er herre over?!?

"Har du læst Shoshane Zuboffs bog "Overvågningskapitalismens tidsalder?"

Ikke endnu - jeg er så småt startet. Og så endda på engelsk for at undgå at noget går tabt i oversættelsen. Umiddelbart er jeg ikke imponeret over læseoplevelsen og at jeg på visse kritiske punkter synes pointerne er noget udokumenterede.

Igen - og med henvisning til mine tidligere kommentarer om Black Mirror værende for ensidig - prøver jeg at sætte mig ind i forskellige synspunkter på området.

"Vi har en menneskeret til at have et privatliv (er du uenig i det?). "

Jeg er helt enig. Diskussionen af privatliv er dog ikke ny (se f.eks. https://medium.com/the-ferenstein-wire/the-birth-and-death-of-privacy-3-...). Jeg tilhører så de - måske - få der har større problemer med at min lokale tøjmand ved og husker hvad jeg sidst købte i hans butik end at Google ved jeg var på Mallorca i 2009.

"Men kan du uddybe, hvad Jesper Scleimann mon har ment i citatet om samarbejde med Google fra jeres rapport? Har du et bud?"

Det må du vist hellere selv spørge Jesper Schleimann om. Rapporten dækker over en række interviews hvor samtalen er bragt som den blev gennemført

  • 0
  • 0
Tobias Volfing

Derudover er jeg ikke helt tryg ved at jeg tillægges motiver jeg ikke eksplicit har givet udtryk for.

Jeg tilhører så de - måske - få der har større problemer med at min lokale tøjmand ved og husker hvad jeg sidst købte i hans butik end at Google ved jeg var på Mallorca i 2009.

Det kan godt være du ikke explicit udtrykker det, men du har implicit gang på gang givet udtryk for at 'der ikke er noget problem'. Du kender udemærket godt problemstillingerne, og dit forsøg på at tale reelle problemer ned til et spørgsmål om forfængelighed er afskyeligt.

Samtidig har vi nogle ønsker om lavere vækst i den offentlige, lavere skatter samt generel vækst i samfundet. Hvis vi fastholder de ønsker - hvordan får vi så mere for mindre?

Det er dine ønsker - og så længe de står i kontrast til vor andres RET til et privatliv, så er de underordnede.

  • 1
  • 1
Anne-Marie Krogsbøll

Tak for svar, Snurre Jensen.

Jeg kender ikke nogen der ikke går ind for "privacy".


Jeg er nu jævnligt stødt på tech-forkæmpere, bl.a. på "Data Redder Liv"'s Singularity-lobbyist-konferencer, som har udtalt, at "den, der ikke har noget at skjule..." og "Vi må tilpasse retten til privatliv..." og "Det der med privatliv, det kan I godt glemme alt om" (det sidste udtalt af Karin Gaardsted på en datasikkerhedskonference for et par år siden. Og jeg har også hørt en del politikere udtale (bl.a. i forbindelse med DAMD-sagen), at det er en borgerpligt at dele sine data... Velkommen til Fagre Nye Verden, siger jeg bare...

Jeg kender ikke nogen der ikke går ind for "privacy". Jeg ser dog ikke privacy som en binær størrelse. Derudover er jeg ikke helt tryg ved at jeg tillægges motiver jeg ikke eksplicit har givet udtryk for.


Beklager, hvis jeg har mislæst din kommentar. Det var et forsøg på at forstå (derfor afsluttet med "?") og opsummere. Jeg opfattede det som en masse forbehold overfor privacy - det var åbenbart forkert forstået.

Jeg er helt enig.


Dejligt...

Jeg tilhører så de - måske - få der har større problemer med at min lokale tøjmand ved og husker hvad jeg sidst købte i hans butik end at Google ved jeg var på Mallorca i 2009.


Så er du nok ikke nået så langt i Zuboff endnu ;-) Hun er ganske rigtigt ikke helt let at læse på engelsk, som jeg også har læst den på, da jeg ikke kunne vente på oversættelsen. Den er så kommet nu, og indkøbt, og jeg håber, at den - når jeg når til den i bunken, gør udbyttet endnu større.

Der er dog efterhånden også mange andre, som melder sig i koret. Blandt andet Peter McNamee:
https://www.information.dk/debat/2019/10/techgiganterne-maa-stoppe-bukke...

Og Brad Smith:
https://politiken.dk/viden/Tech/art7482823/En-af-verdens-vigtigste-techb...

Men hans (Brad Smith's) indlæg læser jeg nu mest som et lobbyistindlæg for at komme regulering i forkøbet og få en markedsfordel....

  • 0
  • 0
Log ind eller Opret konto for at kommentere