Dataetik kan sikre et europæisk datademokrati

Den globale kapløb om at komme først med kunstigt intelligente løsninger er i fuld gang. Det handler om hastighed, og Kina og USA fører i en konkurrence, hvor økonomisk vækst har forrang over menneskets selvbestemmelse.

Kina opererer med et datadiktatur, hvor staten styrer befolkningen gennem tæt overvågning.

USA praktiserer et data monopol samfund, hvor big tech ved mere om befolkningen end den ved om sig selv og derfor er sårbar overfor såvel økonomisk som politisk manipulation.

I Europa må vi fortsætte med at bygge et datademokrati, hvor mennesket har forrang. Det vil koste på den økonomiske vækst, men menneskeheden vil sejre.

Datadiktatur

Selv ikke den fremragende britisk-amerikanske science fiction tv-serie 'Black Mirror' kunne fantasere sig frem til det, som Kina gør: Opbygger og implementerer et datadiktatur med et skræmmende socialt point system, der overvåger alle individer og fjerner enhver form for selvbestemmelse.

Går du overfor rødt, er uvenlig overfor dine nabo eller er for sent ude med tilbagebetalingen af et lån påvirker det dine points nedad, og det kan placere dig på den sorte liste og være bestemmende for, hvor du kan sætte dine børn i skole, eller om du kan få lov til at flyve fremfor at tage bumletoget.

Men det virker, når det gælder økonomisk vækst, og ifølge den kinesisk amerikanske investor Kai-Fuu Le, forfatter til 'AI Superpowers', vil Kina meget snart overhale USA, når det gælder udvikling og implementering af kunstig intelligens.

Ingen kinesiske protester

Den kinesiske befolkning synes ikke at protestere imod datadiktaturet, der er fuldt ud implementeret i hele Kina i 2020 - måske fordi det nu er mere synligt for dem, hvordan de overvåges end det var tidligere.

Men vi skal i Europa være på vagt overfor at lignende ting kan ske. Det samme gør sig gældende overfor den vej, USA har valgt: En neo-liberal winner-takes-it-all strategi, hvor forskellen mellem rig og fattig kun bliver større, fordi store data monopoler sætter sig på al data, og der er ingen eller meget lidt regulering - måske fordi USA mener, at gigantiske datamonopoler er de eneste, der kan modstå konkurrencen fra Kina.

Europa fristes

I mange europæiske lande, herunder Danmark, sidder den offentlige sektor på rigtig mange data.

Og det er meget fristende at bruge disse data til tæt velfærdskontrol. Et godt eksempel er Gladsaxe Kommune, som mener at data og kunstig intelligens kan hjælpe dem med at udpege sårbare børn i udsatte familier med misbrug, inden det er for sent. Det er med som et skræmmeeksempel i denne rapport fra AlgorithmWatch (pdf, side 45).

Der er ingen tvivl om, at Gladsaxe Kommune kun vil deres borgere godt, og kommunen mener sikkert også, at deres algoritmer kun er med til at forbedre og gavne borgernes velbefindende.

Det offentlige arbejder jo generelt ud fra devisen om at sætte borgerne først. Men Gladsaxe Kommune og alle andre offentlige instanser bør tænke langt og klogt:

• Det strider mod menneskerettighederne at masseovervåge os alle sammen for at finde nogle få eksempler på mulig omsorgssvigt (proportionalitets-princippet)
• Er det nu klogt at forudsige noget som helst omkring vores børn (måske med sjældne sygdomme som undtagelse) fremfor at lade børn være børn, give dem en mulighed for at bryde mønstre og en chance for at definere sig selv, før vi kategoriserer dem?
• Er vores data og vores kunstigt intelligente systemer nu også gode nok til at begynde at eksperimentere på mennesker? Hvorfor ikke lade USA og Kina gøre det, og så kan vi implementere det, vi kan se som en fordel for os, når vi ved mere om fordele og ulemper?

Den europæiske vej

Med GDPR, benhård håndhævelse af konkurrencelovgivningen vha Margrethe Vestager og den dataetiske bevægelse viser Europa generelt en anden vej end USA og Kina. Det vi kan kalde den datademokratiske vej.

I et datademokrati er mennesket i centrum af alting. Et af dataetikkens vigtigste principper er, at mennesket har forrang. Forrang over økonomisk vækst. Forrang over effektivisering. Menneskerettigheder og menneskelige autonomi er kerneværdier i dataetiske principper, fx dem vi har udviklet i tænkehandletanken DataEthics.eu.

I Europa siger vi, at vi vil arbejde ansvarligt med kunstig intelligens. Hvis vi mener det, betyder det, at vi kommer til at gøre det langsommere end Kina og USA.

De færreste europæiske politikere kan få sig selv til at sige, at vi skal acceptere langsommere vækst og måske finde nogle nye succeskriterier end det noget gammeldags måleinstrument, vi har i BNP, til måle vores samfunds succes på.

Den globale ingeniør-organisation IEEE har i årevis plæderet for, at vi går videre end BNP, når vi taler om regulering og udvikling af kunstig intelligens.

Organisationen var vært til en middag i april 2017 for netop at diskutere dette og den udgav en samme år en rapport, Prioritizing Human Well-Being in the Age of Artificial Intelligence (pdf).

Slow Europe

I 2018 udgav OECD en rapport, 'Beyond GPD', som hævede at den mest brugte og magtfulde økonomiske indikator, BNP, var ubrugelig, når det handler om at måle sundheden i vores samfund. Den konkluderede:

»Tiden er inde til, at vi ændrer vores målesystem fra at vægte økonomisk udvikling til at prioritere menneskers velbefindende.«

At sætte mennesket i centrum i Europa gør os langsommere.

Men hvad er egentlig problemet ved et Slow Europe? Lad USA og Kina mærke konsekvenserne først af de massive jobtab, vi vil opleve i kølvandet på implementeringen af kunstig intelligens. Lad os lære fra dem, give os selv et teknologisk kompetenceløft og efteruddanne os selv - og så selv udvikle og bruge kunstig intelligens på vores måde, i vores tempo. På en ansvarlig og menneskelig måde.

Pernille Tranberg vil tale om dataetik og datademokrati i Version2s DebatLounge på Infosecurity 2. maj 2019 i Øksnehallen i København. Der er gratis adgang.