Gæstebloggen

Dataetik kan sikre et europæisk datademokrati

Den globale kapløb om at komme først med kunstigt intelligente løsninger er i fuld gang. Det handler om hastighed, og Kina og USA fører i en konkurrence, hvor økonomisk vækst har forrang over menneskets selvbestemmelse.

Kina opererer med et datadiktatur, hvor staten styrer befolkningen gennem tæt overvågning.

USA praktiserer et data monopol samfund, hvor big tech ved mere om befolkningen end den ved om sig selv og derfor er sårbar overfor såvel økonomisk som politisk manipulation.

I Europa må vi fortsætte med at bygge et datademokrati, hvor mennesket har forrang. Det vil koste på den økonomiske vækst, men menneskeheden vil sejre.

Datadiktatur

Selv ikke den fremragende britisk-amerikanske science fiction tv-serie 'Black Mirror' kunne fantasere sig frem til det, som Kina gør: Opbygger og implementerer et datadiktatur med et skræmmende socialt point system, der overvåger alle individer og fjerner enhver form for selvbestemmelse.

Går du overfor rødt, er uvenlig overfor dine nabo eller er for sent ude med tilbagebetalingen af et lån påvirker det dine points nedad, og det kan placere dig på den sorte liste og være bestemmende for, hvor du kan sætte dine børn i skole, eller om du kan få lov til at flyve fremfor at tage bumletoget.

Men det virker, når det gælder økonomisk vækst, og ifølge den kinesisk amerikanske investor Kai-Fuu Le, forfatter til 'AI Superpowers', vil Kina meget snart overhale USA, når det gælder udvikling og implementering af kunstig intelligens.

Ingen kinesiske protester

Den kinesiske befolkning synes ikke at protestere imod datadiktaturet, der er fuldt ud implementeret i hele Kina i 2020 - måske fordi det nu er mere synligt for dem, hvordan de overvåges end det var tidligere.

Men vi skal i Europa være på vagt overfor at lignende ting kan ske. Det samme gør sig gældende overfor den vej, USA har valgt: En neo-liberal winner-takes-it-all strategi, hvor forskellen mellem rig og fattig kun bliver større, fordi store data monopoler sætter sig på al data, og der er ingen eller meget lidt regulering - måske fordi USA mener, at gigantiske datamonopoler er de eneste, der kan modstå konkurrencen fra Kina.

Europa fristes

I mange europæiske lande, herunder Danmark, sidder den offentlige sektor på rigtig mange data.

Og det er meget fristende at bruge disse data til tæt velfærdskontrol. Et godt eksempel er Gladsaxe Kommune, som mener at data og kunstig intelligens kan hjælpe dem med at udpege sårbare børn i udsatte familier med misbrug, inden det er for sent. Det er med som et skræmmeeksempel i denne rapport fra AlgorithmWatch (pdf, side 45).

Der er ingen tvivl om, at Gladsaxe Kommune kun vil deres borgere godt, og kommunen mener sikkert også, at deres algoritmer kun er med til at forbedre og gavne borgernes velbefindende.

Det offentlige arbejder jo generelt ud fra devisen om at sætte borgerne først. Men Gladsaxe Kommune og alle andre offentlige instanser bør tænke langt og klogt:

  • Det strider mod menneskerettighederne at masseovervåge os alle sammen for at finde nogle få eksempler på mulig omsorgssvigt (proportionalitets-princippet)
  • Er det nu klogt at forudsige noget som helst omkring vores børn (måske med sjældne sygdomme som undtagelse) fremfor at lade børn være børn, give dem en mulighed for at bryde mønstre og en chance for at definere sig selv, før vi kategoriserer dem?
  • Er vores data og vores kunstigt intelligente systemer nu også gode nok til at begynde at eksperimentere på mennesker? Hvorfor ikke lade USA og Kina gøre det, og så kan vi implementere det, vi kan se som en fordel for os, når vi ved mere om fordele og ulemper?

Den europæiske vej

Med GDPR, benhård håndhævelse af konkurrencelovgivningen vha Margrethe Vestager og den dataetiske bevægelse viser Europa generelt en anden vej end USA og Kina. Det vi kan kalde den datademokratiske vej.

I et datademokrati er mennesket i centrum af alting. Et af dataetikkens vigtigste principper er, at mennesket har forrang. Forrang over økonomisk vækst. Forrang over effektivisering. Menneskerettigheder og menneskelige autonomi er kerneværdier i dataetiske principper, fx dem vi har udviklet i tænkehandletanken DataEthics.eu.

I Europa siger vi, at vi vil arbejde ansvarligt med kunstig intelligens. Hvis vi mener det, betyder det, at vi kommer til at gøre det langsommere end Kina og USA.

De færreste europæiske politikere kan få sig selv til at sige, at vi skal acceptere langsommere vækst og måske finde nogle nye succeskriterier end det noget gammeldags måleinstrument, vi har i BNP, til måle vores samfunds succes på.

Den globale ingeniør-organisation IEEE har i årevis plæderet for, at vi går videre end BNP, når vi taler om regulering og udvikling af kunstig intelligens.

Organisationen var vært til en middag i april 2017 for netop at diskutere dette og den udgav en samme år en rapport, Prioritizing Human Well-Being in the Age of Artificial Intelligence (pdf).

Slow Europe

I 2018 udgav OECD en rapport, 'Beyond GPD', som hævede at den mest brugte og magtfulde økonomiske indikator, BNP, var ubrugelig, når det handler om at måle sundheden i vores samfund. Den konkluderede:

»Tiden er inde til, at vi ændrer vores målesystem fra at vægte økonomisk udvikling til at prioritere menneskers velbefindende.«

At sætte mennesket i centrum i Europa gør os langsommere.

Men hvad er egentlig problemet ved et Slow Europe? Lad USA og Kina mærke konsekvenserne først af de massive jobtab, vi vil opleve i kølvandet på implementeringen af kunstig intelligens. Lad os lære fra dem, give os selv et teknologisk kompetenceløft og efteruddanne os selv - og så selv udvikle og bruge kunstig intelligens på vores måde, i vores tempo. På en ansvarlig og menneskelig måde.

Pernille Tranberg vil tale om dataetik og datademokrati i Version2s DebatLounge på Infosecurity 2. maj 2019 i Øksnehallen i København. Der er gratis adgang.

Relateret indhold

Kommentarer (5)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Bjarne Nielsen

Som apropos til betragtninger omkring Kina vil jeg henlede opmærksomheden på flg. artikel (den er i kategorien "opinion", så det er vel at betragte som en kronik):

https://www.nytimes.com/2019/04/10/opinion/china-internet-surveillance.html

Der er flere pointer, og lad mig fremhæve to:

  1. Overvågning bliver opfattet som en forudsætning for sikkerhed.
  2. Regimets kontrol og overvågning accepteres med en typisk kinesisk betragtning om, at der praktiske grænser for, hvor fintmasket den kan være.

Så manglen på protester måske skyldes, at det menneskelige behov for sikkerhed er helt grundlæggende, og så længe at overvågning bliver opfattet som en forudsætning for sikkerhed, så vil man acceptere den, som det mindre onde.

Men også at det måske ikke helt er gået op for kineserne, hvor fintmasket og omfattende kontrollen er blevet. Det har nok sneget sig ind på dem.

  • 3
  • 0
Finn Christensen

Så manglen på protester måske skyldes..

Når der har været tusinde efter tusinde års magtfuldt totalitært enevælde, med først ufejlbarlige kejserdømmer indtil ~1949, der dette år blev erstattet af et tilsvarende totalitært styre i form af et nihilistisk kommunistisk enevælde, så har hver enkelt borger/kineser/person ikke nogen særlig interesse for dette enevælde.

Derimod har enhver gruppering - anset arten og formål - meget stor interesse, da de evt. kunne danne opposition.

Alle totalitærer enevælder har en massiv spionage samt overvågning - almindeligt kendt. Tænk på DDR samt USSR, Cambodia, samt ikke mindst også kinas velkendte problem med "at tabe ansigt".

Os herude i den "næsten" frie verden ser derfor "Ingen kinesiske protester" af helt velkendte samt indlysende årsager.

Fra N. Y. Times - "In 2008, a few months before the Beijing Olympics, riots erupted in Lhasa, the Tibetan regional capital. The following year, unrest broke out in Urumqi, the capital city of Xinjiang, with reports of minority Uighurs targeting Han Chinese for violence. These episodes prompted an escalation of security checks around the country." samt "Our mind-set, long ago, was wired to see safety and freedom as an either-or choice." ..https://www.nytimes.com/2019/04/10/opinion/china-internet-surveillance.html

  • 1
  • 0
Anne-Marie Krogsbøll

Selv om jeg anerkender Pernille Tranbergs gode hensigter, så stiller jeg spørgsmålstegn ved begrebet "dataetik" - med mindre dets absolutte udgangspunkt er, at Staten (eller andre, spsom overvågningskapitalister) ikke har ret til at tilrane sig borgernes privatliv i form af data - ganske enkelt! Mere kompliceret er "dataetik" i udgangspunktet ikke!

Dataetik kan aldrig forenes med et liv i lukkede dataetiske råd og udvalg, som skal afgøre/råde om, hvorledes de i udgangspunktet stjålne data kan anvendes på en "etisk" måde. Det kan de ikke - for de er i deres udgangspunkt tyvekoster, og det eneste etiske er at levere dem tilbage til ejermændene, nemlig de enkelte borgere.

Der er en skrigende indbygget modsigelse i at lade Staten oprette dataetiske råd, som skal have noget som helst at skulle have sagt ift. borgernes privatliv. Den slags tiltag kan jo kun forstås på den måde, at Staten har ejerskab over borgernes privatliv - i så fald: På hvilken måde er der så overhovedet tale om privatliv?

Jeg spørger bare?

  • 1
  • 2
Peter Hansen

Men det virker, når det gælder økonomisk vækst

Citation needed. Correlation does not equate causation. Specielt ikke i et land med en milliard indbyggere og en milliard ^x komplekse sociale sammenhænge og afhængigheder. Den massive sociale overvågning og undertrykkelse i Xianjian har nok ikke ligefrem ført til økonomisk vækst.

  • 1
  • 0
Bjarne Nielsen

Citation needed. Correlation does not equate causation.

Mens vi tænker over, hvilke mekanismer, som fører fra overvågning og til vækst, så kan vi så passende lige overveje, hvilken vækst?

https://www.economist.com/finance-and-economics/2019/03/07/chinas-econom...

TL;DR: Alt tyder på at Kinas væksttal er overvurderede (der er pt. mange kilder, og mange tal, men alle peger i samme retning), og har været det i nogen tid. Det er der sikkert flere grunde til, jeg har bl.a. hørt at regionerne åbenbart indberetter for høje tal til de centrale myndigheder; ... måske i ønsket om at fremstå i et bedre lys?

  • 1
  • 0
Log ind eller Opret konto for at kommentere