Gæstebloggen

Røde linjer for big data og internettets ændringer af vores samfund – i øst og i vest

Det lød lovende, da Mark Zuckerberg i 2012 i forbindelse med børslanceringen af Facebook fortalte, at det var Facebooks målsætning at gøre verden mere åben og forbunden.

Simon Laub er lektor på afdelingen for uddannelser inden for it- og softwareudvikling ved Erhvervsakademi Aarhus. Illustration: Simon Laub

2012 var før, verden for alvor var opmærksom på, at Facebooks åbne og forbundne verden også kunne bruges til at sprede misinformation og propaganda, manipulere, rekruttere terrorister, være mødested for holocaust-benægtere, hate-speech, konspirationsteorier osv. Og det var længe før, kritikere begyndte at påpege at selve ideen om at benytte »like«-knapper på sociale medier til at promovere nyheder, der skaber interesse og debat, sandt eller falskt, godt eller skidt, nok mere handler om at fastholde brugere for at tjene penge på at fremsende reklamer – snarere end at det handler om at skabe en ny og bedre online verden, der bygger på retssamfundets idealer med fokus på at afdække sandhed, og hvor de magtfulde holdes ansvarlige.

Det er selvfølgelig altid svært at forudsige fremtiden. Og for de fleste har det nok været overraskende at se, hvordan sociale medier er blevet brugt til politiske formål. Inklusiv af kræfter der ikke har bekymret sig meget om demokratiske idealer. Zuckerberg har fortalt om den første tid på Facebook, at det var helt udenfor hans forestillingsverden, på kollegieværelset i 2004, at Facebook platformen skulle bruges af regeringer til at destabilisere andre regeringer.

Jo, virkeligheden overgår ofte fantasien. Og på Facebook skal man have en endog meget god fantasi for at kunne følge med i bare en lille del af alle de mere eller bizarre ting, der ifølge andre nyhedsmedier foregår på den platform. Og hvad skal man gøre, hvis man er bekymret over udviklingen på de sociale medier? Kan man henvende sig til Forbrugerombudsmanden? Zuckerberg?

Store overskrifter

I 2018 trak Cambridge Analytica-skandalen store overskrifter. 270.000 Facebook-brugere var blevet lokket til at tage en »psykologisk profil«-test igennem en Facebook-app. En app der så ikke bare høstede quiz-deltagernes personlige data, men også data fra alle deres Facebook-venner, og vel og mærke uden at vennerne nogensinde havde givet deres samtykke. Databeskyttelse virkede det ikke til, at der var meget af på Facebook ved den lejlighed.

I alt blev der således høstet data fra 87 millioner Facebook-brugere. Data om aktivitet på Facebook der senere kunne bruges til at lave psykologiske profiler for forskellige typer vælgere, Trump- og Hillary-tilhængere, samt tvivlerne i midten, de såkaldte svingvælgere. Herfra var ideen så at bruge Facebook og lignende medier til at sende målrettede beskeder til de forskellige grupper. Sikre Trump støtter kunne man sende billeder af en smilende og sejrssikker Trump samt oplysninger over, hvor man kunne stemme.

Svingvælgere kunne man sende udtalelser fra lokale Trump-støtter. Og potentielle Hillary-støtter kunne man fortælle, at deres stemme sandsynligvis ville blive misbrugt, og at det i øvrigt nok ville være nyttesløst at stemme.

Om det så rent faktisk har været muligt for Cambridge Analytica at omsætte ideerne om microtargeting af vælgere til kampagner, der på afgørende vis har flyttet stemmer, har så været ivrigt debatteret siden 2018. Men bare rygterne om disse planer har ikke netop bidraget til at skabe et billede af Facebook som en klippefast støtte for demokratiet. Sagen endte med, at de amerikanske myndigheder gav Facebook en bøde på 5 mia. dollars for manglende beskyttelse af brugernes private data.

Gik man nu rundt og troede, at et datalæk fra 87 millioner konti var så slemt, som den slags kan blive, blev vi klogere i sidste måned, hvor vi fik at vide, at der i 2019 var lagt personlige data fra 533 millioner Facebook brugere op på diverse hacker-fora. Data der f.eks. kan bruges til at gøre scam-mail mere overbevisende og dermed lokke folk til at give deres login oplysninger til IT-kriminelle.

Trods alt næppe hvor Zuckerberg havde forestillet sig, at det ville ende, da han i 2010 fortalte den undrende offentlighed, at »Facebook-brugere nu var mere komfortable med at dele information«. Af kritikere udlagt som »privacy is dead«.

Ægte fake news

Ligesom Zuckerberg selvfølgelig heller ikke havde forestillet sig, at organisationer som IRA, Internet Research Agency, fra Skt. Petersborg i Rusland skulle vise sig at være blandt de, der har været allermest komfortable med at dele »information« på sociale medier.

I hvert fald har det nu vist sig, at man fra »troldefabrikker« i Skt. Petersborg har haft op imod 1000 ansatte til at oprette falske profiler på sociale medier, som f.eks. Facebook og Instagram, og derfra har gjort, hvad man kunne for at så mistillid, frygt og vrede mellem vælgergrupper op til demokratiske valg i Vesten, som f.eks. op til præsidentvalget i 2016 i USA (i det som en rapport fra det amerikanske senats senere omtalte som »weaponization of social media«).

Gerne med et særligt touch af »hjemlighed« der gør det vanskeligere for brugere på de sociale medier at skelne mellem propaganda og almindelige beskeder. I forbindelse med ansættelse på en »troldefabrik« i Skt. Petersborg fik freelance-journalisten Lyudmila Savchuk f.eks. at vide, at det var godt at starte en kommentar på sociale medier med »at hun var derhjemme i gang med at bage kager, da hun kom til at tænke på, hvor godt Putin gør det«.

Facebook mener selv, at der fra IRA-fabrikken, op til det amerikanske valg i 2016, blev sendt beskeder, der nåede frem til 126 millioner amerikanske Facebook brugere. På Instagram havde 40 pct. af »troldeprofilerne« mere end 10.000 følgere og skabte i alt mere end 187 millioner reaktioner.

Gerne med den hensigt at underminere tilliden til det demokratiske system (specielt blandt sorte vælgere). Twitter meddelte i 2018, at de også har været ramt, og at de selv havde fundet 3841 Twitter-konti, der var blevet styret af IRA fra Skt. Petersborg, og hvorfra der var blevet skabt 10 millioner tweets, sikkert igen [mest beregnet til at så tvivl og vrede](https://blog.twitter.com/official/en_us/topics/company/2018/enabling-fur... & https://www.vox.com/2018/10/19/17990946/twitter-russian-trolls-bots-elec...). Ægte fake news.

Skulle de fremmede magter finde det besværligt at komme ind og påvirke opinionen i et land ved hjælp af målrettede beskeder fra »troldefabrikker«, kan man jo selvfølgelig også bare købe sig til annonceplads på Facebook, hvor man overlader det til Facebook at sende annoncerne, om f.eks. våbenlovgivning eller minoritetsbeskyttelse, derhen, hvor de skaber mest uro.

Facebook selv mener, at dette skete 3000 gange omkring valget i 2016. Er man utilfreds med at for få mennesker interesserer sig for ens historie, kan man i de mere mørke ender af internettet gøre brug af såkaldte Twitter-bots.

Disse (falske) Twitter-konti fjernstyres så fra et centralt sted til at skabe »likes« til ens historie, sådan at der skabes nyhedsinteresse, og historien derved spreder sig hastigt til endnu flere rigtige brugere på de sociale medier. Er man interesseret i at sprede nyheder som en steppebrand, har flere medier rapporteret, at man kan købe sin egen lille Twitter-bot-hær for ned til omkring 25 dollars.

Planer om i det mindste at kunne få oplyst, hvem der køber politiske reklamer på Facebook, f.eks. den foreslåede »Honest Ads Act«, løber ind i det problem, at en »troldefabrik« ikke nødvendigvis identificerer sig selv som en »troldefabrik«, når de køber reklamer. Og derudover er det måske ikke altid åbenlyst, hvad der egentligt er en politisk reklame.

Zuckerberg har travlt

I det hele taget har Zuckerberg og de andre ansatte på Facebook nok at se til. I marts var Zuckerberg, og chefer for Google og Twitter, kaldt til møde i den amerikanske kongres, hvor man var utilfredse med manglen på fremskridt med at bremse spredningen af misinformation på de sociale medier. Ifølge de kritiske røster er det et grundlæggende problem, at de algoritmer, Facebook bruger til at give nyheder i brugernes newsfeed, mest er designet med henblik på at maksimere brugernes engagement.

Brugerne skal vises materiale, der får dem til at dele og trykke på »like«. Jo mere, jo bedre. Jo længere tid brugerne er på platformen, jo flere reklamer kan man vise, og jo flere penge tjenes der. Provokerende og anderledes kan i den forbindelse virke godt, men også ofte svært at skelne fra løgn og bedrag. Sandhed er jo ikke noget, man kan crowdsource. At mange mener noget, gør det ikke nødvendigvis sandt – der er en grund til, at man i de traditionelle medier har haft redaktører til at styre en debat.

Når algoritmerne opdager, hvad brugerne »liker«, er det et godt udgangspunkt for at bringe ligesindede sammen i grupper. Ofte er alt godt, brugerne diskuterer interessante ting med hinanden og fastholdes på platformen. Algoritmerne er desværre så effektive, at de ifølge Facebook selv også hjælper med til at danne mere kontroversielle grupperinger.

F.eks. grupper der ønsker at bringe demokratiet til fald, eller grupper der benægter Holocaust. Specielt de sidste grupper kunne man have troet at Zuckerberg, med jødisk baggrund, ville være ivrig efter at få fjernet fra Facebook, men i stedet fik man at vide, at man ikke kan faktatjekke alting, og »at det sikkert ikke var disse gruppers intention at beskrive tingene forkert«. Pres fra politikere og trusler fra borgerrettighedsgrupper og annoncører om boykot ændrede dog tingene, således at mange af den slags grupper ikke længere er tilladte på Facebook.

Men derved ikke være sagt at alle nu er enige om, hvad online moral er. Når algoritmerne opdager at 230.000 danskere via deres adfærd på nettet, har vist interesse for kasinoer, poker og online gambling, vil disse brugere på Facebook modtage reklamer fra kviklånsfirmaer, hvilket man i det danske center for ludomani ikke netop syntes var en god ide. Algoritmerne bryder sig til gengæld ikke meget om billeder med nøgenhed, der med stor præcision fjernes fra platformen. Inklusiv materiale fra museer hvor man på Facebook ikke har skullet nyde for meget af museers ytringsfrihed og kunstformidling med nøgne menneskekroppe.

I den fysiske verden ville de fleste være betænkelige ved at handle i et stormagasin, hvor ejerne virkede mest interesseret i at sætte én i gang med at sidde og trykke på »likes«, sådan at man kunne få tilsendt målrettede reklamer, alt imens agenter fra fremmede lande stod klar med misinformation, og hvor der på 3. sal var en stor afdeling for »hate speech« og ISIS-terrorister. Men på de sociale medier virker den slags ikke til at gøre det store indtryk?

Det demokratiske ideal

Meget hænger selvfølgelig sammen med, at mange brugere sikkert kun forholder sig til, hvad de sociale medier har valgt at vise dem. Ikke hvad naboen ser.

Men blandt politikere i de vestlige lande kunne man vel godt engang imellem ønske en større iver for at arbejde for demokratiske idealer om den velinformerede, rationelle vælger, også online. Politikere, der udelukkende glæder sig over at kunne aflevere politiske beskeder på de sociale medier direkte hjem til specielle målgrupper uden at skulle bekymre sig om journalister, der afdækker og stiller kritiske spørgsmål, virker i hvert fald problematisk. Specielt i lokalområder som måske i forvejen har alt for få journalister til at afdække, hvad der egentlig sker lokalt.

Og hvis man synes at idealerne om den demokratiske, velinformerede, rationelle borger er under pres på de sociale medier i Vesten, i det den amerikanske Harvard-sociolog Shoshana Zuboff kalder »surveillance capitalism« med varedannelse af personoplysninger. Så bliver man ikke netop beroliget af at tænke på livet online i mange andre dele af verden.

Specielt virker det foruroligende, når muligheden for at ytre sig på sociale medier, i stedet for at sende et land på en mere demokratisk kurs, i stedet resulterer i, at det bliver lettere for en ikke-demokratisk stat at fastholde sin magt.

I den kinesiske version har man ifølge Amnesty International allerede i 2008 mellem 30-50.000 ansat til at overvåge internettet for indhold, der truer statens interesser. Kritik af lokale politikere, afsløring af korruption på lavere politiske niveau ses som i statens interesse.

Mens general kritik af partiets ledelse eller større alternative politiske grupperinger ikke er i statens interesse. Ifølge Margaret Roberts fra San Diegos center for Kina-studier er den kinesiske tilgang til kontrol af internettet baseret på »fear, friction and flood«. Skab frygt ved at tage enkelte særligt højlydte proteststemmer ud af spillet på en iøjnefaldende måde, der sender klart budskab til alle andre. Skab friktion ved at gøre det besværligt og tidskrævende at finde systemkritisk (udenlandsk) materiale.

Og skab en flodstrøm af tiljublende eller irrelevante beskeder på sociale medier i forbindelse med politiske begivenheder for derved at styre folk væk fra mere kritisk materiale.

Orwells mareridt

Læg dertil, at man i Kina for længst har passeret 200 millioner overvågningskameraer, der sammen med brug af Big Data og ansigtsgenkendelse også kan hjælpe til med at overvåge borgerne. I den endelige Orwellske skrækversion krydstjekkes oplysningerne fra overvågningskameraer med oplysninger fra andre systemer og kobles sammen i et »Socialt Kredit System«.

Hvor borgere får point på kontoen ved at opføre sig pænt, f.eks. ved at hjælpe slægtninge i nød, eller omvendt får »straks-bøde« på deres WeChat-konto, hvis ansigtsgenkendelsessystemerne fanger borgeren i at gå over for rødt lys. Bliver den sociale kredit tilstrækkelig lav, forhindres borgeren i at rejse med tog m.m. Og en meget lav social kredit kan blive håndteret med en egentlig straf. Det meste dog stadig på et ide-plan og foreløbigt kun implementeret i mindre pilotprojekter rundt omkring i landet.

Selvfølgelig får alle at vide, at lovlydige borgere ikke har noget at frygte, når disse systemer rulles ud. Alligevel kan det nok ikke undre, at almindelige mennesker måske ikke har den store lyst til at kommentere på udviklingen. Måske kom svaret fra en chatbot hos den kinesiske AI-gigant Tencent, der blev spurgt, hvad den drømte om? Svaret var: »My Chinese dream is to go to America«, hvorefter Tencent tog den offline.

I Vesten har man hidtil været tilbageholdende med at lovgive i forhold til de store internet platforme, ingen ønsker jo at blive anset som værende imod den teknologiske udvikling.

Men med den europæiske GDPR-lovgivning om databeskyttelse, og senest den australske lovgivning vedr. betaling for brug af materiale på store online platforme, er nogle demokratiske regeringer begyndt at sætte røde linjer i sandet, hertil og ikke længere. Og hvis linjerne ellers bliver trukket rigtigt, vil i hvert fald nogle af os tænke, at det nok ikke er så dum en ide endda.

Kommentarer (2)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#1 Bjarne Nielsen

Jeg har måske været naiv, men engang drømte jeg om, hvordan teknologi skulle skabe åbenhed og forståelse, sætte os fri og møde hos, hvor vi var. En usynlig butler, diskret og loyal, som hjalp os alle, og ikke kun de få særligt priviligerede.

Men det virker mere og mere til, at teknologien sætter demokrati og frihed under pres, og er en gave til autokrater og tyranner. Tillad mig et løsrevent citat fra en nylig kronik i The Guardian med titlen "From Minsk to Hong Kong, people power just isn’t working any more":

People power has stopped working.

Why? First, surveillance techniques, developed and honed in China, have reached a new effectiveness.

Kronikøren fortsætter med flere pointer, men lad mig dvæle lidt ved denne. Det har karakter af lommefilosofi, så der må grines!

Jeg tror, at en stor forskel er effektiviteten i sig selv. Der er simpelthen mange ting, som ikke giver mening, hvis teknologien er hængemapper i arkivskabe, og båndbredden af den menneskelige databehandlingskapacitet.

Kigger vi på de brølende 20'ere, så var det noget, som skete i metropoler som Berlin - steder, hvor man på godt og ondt kunne gemme sig i mængden. Man kunne blomstre i skyggen (men også gå i hundene). Tanken om, at vi kan gemme os i mængden hænger ved.

På landet brølede det af andre grunde, og der var - på godt og ondt - ingen mængde at gemme sig i. Det har der aldrig været, det er der stadig ikke. Der er nogen til at fange en, når man falder, bevares, men et plettet rygte kan sværte en for livstid.

Til gengæld var der langt til staden og magten, og hvad kongen ikke ved, har kongen ikke ondt af. Og man kunne få en frisk start et andet sted, hvis man var klar til at overvinde stigmaet ved at være "tilflytter" eller "fremmed". Tanken om, at vi er for ligegyldige og for perifære til at blive holdt øje med, den hænger stadig ved.

Men det er slut nu. Der er ingen mængde at gemme sig i, og ingen er for perifær eller ligegyldig til at påkalde sig interesse. Vi forarges over, hvordan teknologier som ansigtgenkendelse ikke virker særligt godt på udsatte grupper, og kan bruges til at gøre livet surt for sorte lejere, når det bruges til at låse hoveddøren op med. Men ansigtsgenkendelse som teknologi tager syvmileskridt, og snart så man nok komme til at savne tiden, hvor teknologien ikke virkede særligt godt.

Men husk til den tid at smile, for så bliver der ikke kun holdt øje med, hvem du er, hvor du går og om det er over for rødt, men også om du ser glad nok ud: https://www.theguardian.com/global-development/2021/mar/03/china-positiv...

Tiden, hvor vi kunne gemme os i byen, eller gemme os på landet, er forbi. Det slør har teknologien revet af. Så, hvor de fysiske love ved arkivskabene og hængemapper ikke længere kan redde os, så er det, at vi bliver nødt til at selv at lave love og regler. Det bliver ikke nemt, og mange vil føle sig gået for nær, men det er nødvendigt.

  • 5
  • 0
Log ind eller Opret konto for at kommentere