bloghoved zambach

Techbøger del 2: Hvem er det egentlig, vi bliver overvåget af?

For et par uger siden skrev jeg om nogle velformidlede bøger, der præsenterer algoritmerne og forskningsudfordringer inden for kunstig intelligens (AI) på dansk. Der er siden kommet rigtig mange gode forslag til bøger - ikke mindst til, hvordan man får styr på datasiden, før man kaster sig ud i AI. De er linket til nederst på siden.

Den gode, den onde og den grusomme AI

Nåh - nu har vi tygget os igennem et hav af potentialer og udfordringer i forskningen i, og udviklingen af, kunstig intelligens i bøgerne fra sidste blogindlæg. Der er også flere gode bøger om de for mig at se lidt mere uhyggelige potentialer i den påvirkning, AI i kombination med overvågning kan have på os.

I efteråret har Harvard-professor Shoshana Zuboff fået 'Overvågningskapitalismens Tidsalder' ind på nethinden herhjemme, specielt fordi hun kom forbi Danmark og var ude i flere fora. Her fortalte hun til nogle brede arrangementer om tech-giganternes magt via netop at overvåge os med AI-metoder - og oven i købet med data, som vi selv giver dem. Vi bliver et produkt - eller rettere vores adfærd bliver et produkt - men ikke bare et produkt, der køber specifikke ting. Vi bliver også produkter, der kan manipuleres til at ændre adfærd efter forgodtbefindende.

Jeg håber, der kommer et sammenkogt, og mindre, manifest af hendes hånd, så hendes skarpe betragtninger kan komme ud til flere, for det er sørme noget af en mursten, som det har taget tid at komme igennem. Der er også en del oversatte begreber, jeg lige skal lære at bruge: overvågningskapitalisme, adfærdsoverskud, digital ejendomsfratagelse, indhentningsarkitektur, inddæmningsoperationer og udplyndringsaktiviteter.

Alt sammen betegnelser på de nye forretningsmodeller, som de store techvirksomheder som Google, Facebook og Microsoft benytter sig af, og som vi næsten alle leverer data til.

'Overvågningskapitalismens Tidsalder' fås også på lydbog, og jeg har ikke hørt den, men den skulle også være glimrende, ligesom den engelske originaludgave skulle være mere læsværdig end den danske oversættelse.

Hvor mange har lige gang i at overvåge mig?

Da jeg købte Zuboffs bog på nettet, foreslog Saxos AI mig, at jeg da også skulle have Edward Snowdens selvbiografi, 'I offentlighedens tjeneste'. Det skulle jeg da - og det har jeg ikke fortrudt. Og så håber jeg, at jeg alligevel får lov til at rejse ind i USA, næste gang jeg skulle få lyst til det. Læs også Poul-Henning Kamps blog om ligheden med Harry Potter.

Mens vi trods alt selv giver vores data til tech-giganterne, er CIA og NSA ifølge tidligere efterretningsofficer Snowden ligeglade. De opsnapper data fra alle amerikanere, ikke kun de mistænkte, og det fører nemt til misbrug, argumenterer han for. Man bliver meget magtfuld som efterretningsofficer, og et enkelt broddent kar kan potentielt udrette meget skade på de amerikanske borgere. Og de bruger stærke AI-værktøjer, der på den ene side kan rigtig meget og på den anden side ofte er lavet, så de har svært ved at forklare udfaldet.

Og så ligesom jeg skrev dette indlæg færdigt, kom det frem, at de også snager i blandt andre de danske myndigheder via et schweizisk krypteringsfirma, Crypto AG, i stil med hvad briterne gjorde med Enigma-maskinerne efter 2. verdenskrig. Se mit tidligere blogindlæg om Enigma.

Hele IT-udviklingen i efterretningsvæsenet bliver rullet ud i en spændende personlig fortælling, hvor han starter med de glade 90’ere, hvor nettet var stedet, hvor man ironisk nok kunne skjule sig, til i dag, hvor nettet er alverdens virksomheder og efterretningstjenesters linje ind på livet af en.

Kinesisk dystopi?

Lidt håb er der dog, da beføjelserne for overvågningen tilsyneladende er skrænket ind i USA efter Snowdens whisleblowing. Det kunne vi måske følge med i fra Danmark.

Vi kan selvfølgelig også bare vælge, at det er Kina, vi vil lære noget af. De tager data, de bruger den, og de skjuler ikke dét faktum. Kina-eksperten Christina Boutrup skriver i sin stadig meget læsværdige bog 'Den store techrevolution' fra 2018 om Kinas masseovervågning. Huawei-beskyldningerne om spionage, der løb i løbet af 2019, skete, efter bogen udkom, og belyste meget fint, at det formentlig ikke er ren fiktion, der blev beskrevet. Også set i lyset af, at amerikanerne faktisk selv har spioneret på samme vis.

Jeg bladrede den igennem og hørte et podcast-afsnit fra Elektronista (kan fremsøges på Podimo) sidst i 2018 - og blev ret foruroliget. Siden har jeg fulgt Huawei-beskyldningerne i medierne, Zuboff og Snowden blevet tygget igennem, og det er så mainstream, at jeg næsten kan mærke et holdningsskift. Jeg hørte dengang det kinesiske AI-eventyr som en fremtidsdystopi, men en gennemlæsing i 2020 gør den næsten en selvfølge. Om et års tid kan det være, vi får en opdatering fra Boutrup?

Okay - tænker man. Men nu med Corona-virussen, så er det da smart, at man kan holde øje med folk? Det kunne man sige. Der er så bare det, at regeringen ikke har brugt det til landets bedste - i hvert fald ikke den første måneds tid. Kina meldte den ikke ud i starten, og læger, der gør opmærksom på, at der er noget galt, får en reprimande. Og så er det jo ét fedt.

De bruger ansigtsskannere som betalingskort, kører socialt pointsystem via overvågning, og Danmark bliver opfordret til at gå med, bare for ikke at blive udkonkurreret. Skal vi have en EU-app, der kan bruges som id, socialt netværk, betalingsmiddel m.m., der så også kan fodre Interpol sammen med alle de kameraer, der kommer op? På den måde bekæmper vi effektivt terrorister, cykeltyve og folk, der går over for rødt.

Det bliver spændende, om det bliver en dystopi over Danmark, den formidler, den seneste debat om regeringens masseovervågningsforslag taget i betragtning. Et lille spareråd herfra: Danmark behøver slet ikke selv at investere i overvågning. Vi kan bare købe informationerne fra Kina, CIA og Google og dermed optimere statens udgifter.

Ja, for jeg har jo ikke noget at skjule. Så vidt jeg ved, altså. Men jeg er ikke vildt pjattet med idéen om i den grad at blive både overvåget og “høstet” af diverse tech-giganter og efterretningstjenester.

Her er en liste over anbefalede bøger som reaktion over del 1: Forstå kunstig intelligens på dansk, ud over kommentarsporet:

  • Hanne Marie Motzfeldt og Azad Taheri Abkenar: Digital forvaltning
  • Peter Svarres: Hvad skal vi med mennesker
  • Birgitte Kofod Olsen: Håndbog i dataansvarlighed

Et par forslag til nyere engelsk materiale, der ser lovende ud (jeg har ikke læst dem endnu):
* Det fiske initiativ 1% (af Finlands befolkning skal igennem et AI-kursus)
* AI is for everyone af hotshot Andrew Ng
* Ursula Plesner: Digital Organizing
* Mikkel Flyverbom: The Digital Prism: Transparency and Managed Visibilities in a Datafied World. Han skriver også nogle fine klummer i Politikken om AI og misbrug.

Relateret indhold

Kommentarer (15)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#1 John Foley

Tak for en rigtig god blog, Sine Zambach. Du skriver med et glimt i øjet, men også alvorsfuldt. Godt balanceret. Torben Ørting Jørgensen og jeg har i lørdags skrevet en kronik her i Version2, med overskriften "Passes der godt nok på Danmark?", som jeg skal tillade mig at foreslå, at du også læser. Den tager bla. fat på det uheldige i at det er Forsvarets Eerfterretningstjenste og Center for Cybersikkerhed, der har adgang til alle vores data, og som i udgangspunktet kan gøre med dem som de vil, herunder udveksle med andre lande og dele vores oplysninger, som man i gamle dage byttede glansbilleder i skolegården. I omtalte kronik fremkommer vi med en række løsningsforslag til, hvordan vi sammen kan passe bedre på vores samfund og befolkningens informationer og metadata, som et plaster på såret. Det er ikke den perfekte løsning, men et skridt i den rigtige retning til at bekæmpe tendensen til et dystopisk samfund, som vi langtsomt men sikkert bevæger os hen imod.

  • 10
  • 0
#2 Bjarne Nielsen

Jeg har lige læst Cathy O'Neil bog, Weapons of Math Destruction, og den er meget hurtigere læst end Zuboffs bog, men til gengæld har den efterladt mig endnu mere desillusioneret.

Matematiske modeller sniger sig ind overalt, og i hurtigt voksende tempo, og problemet er så, at der ingen incitamenter er til at gøre det ordentligt og anstændighed, men at den inkompetente, den skruppelløse og den griske favoriseres voldsomt i et kapløb mod bunden, hvor vi ikke bare er tilskuere, men i stigende grad produkter eller i mange sammenhænge endda ofre.

Vi nægtes indsigt i hvad der sker, eller endog viden om at det sker, og kan derfor ikke gøre indsigelser, selv imod åbenlyse fejl og urimeligheder. God fornøjelse med at prøve at gøre indsigelser, hvor reelt behandling er indsigelser er dyrt, og det ødelægger øjeblikkeligt 'forretningsmodellen', så det skal bare gøres så trægt og umuligt som overhovedet muligt.

Angiveligt gode hensigter er der nok af, men det er kun alt for sjældent, at man selv prøver at validere antagelser og effekter, og hvis man endelig gør det, så er virkeligheden ofte lukkede miljøer (konkurrencehensyn, forsvar imod at modellen skulle kunne blive manipuleret, og andre dårlige undskyldninger) at man som udgangspunkt bliver udfordret af en solid omgang selection bias ... og kommer sandheden endelig frem, så viser den som regel at være så ubekvem og så omkostningsfuld at handle på, at den straks og med stor ihærdighed fejes ind under gulvtæppet med beslutningen om ikke at gøre det validering igen lige foreløbigt.

For hvad mon en privat virksomhed vil prioritere: anstændighed, kunders værdighed, retfærdighed, bæredygtighed og andre ting, som vores samfund og fællesskab har så meget brug for ... eller måske bundlinjen? Og politikerne er ikke et hak bedre, de ser ansvarsfrie besparelsesmuligheder, og er klar til at benægte alle fakta, som ikke passer ind i deres verdenopfattelse.

Der er også direkte apropos til både Trivselsundersøgelserne og Gladsaxemodellerne. Det er en ringe trøst, at det er meget værre i USA.

  • 11
  • 0
#3 Frithiof Andreas Jensen

Måske ikke 'bio-dig', men din 'digitale avatar' eller een af utallige kloner, kopier og re-implementeringer efter hackere, skod-kode og crashes har helt sikkert väret ude på noget snavs i forhold til eet eller andet, eet eller andet sted hvor de korrupte mastedata nu placerer 'digitale-dig' :)

Så er det jo bare ärgeligt for 'bio-dig' (og super praktisk for höstere af Digtaliserings-gevinsten) hvis 'dit onde jeg' er den representation man senere vurderer dig og dine muligheder på!

Digitalisering uden offentlighed og kvalitetskontrol er den lige vej til en inkompetent version af Kinas totalitäre system: Et AI-system hvor det i grunden er tilfäldigt om man bliver knaldet for eet eller andet, eller ikke!

  • 4
  • 0
#4 Louise Klint

Når man har læst mange bøger, må man gerne hvile hovedet lidt. Fx med en film...

Filmstriben har Oliver Stones drama om Snowden:

SNOWDEN (2016) https://fjernleje.filmstriben.dk/film/9000004109/snowden

Eller hvad med ”The Imitation Game”? Den spændende og medrivende filmatisering om Alan Turing, der, under 2. Verdenskrig, skabte en af de første computere – en kæmpe maskine, der dekrypterede tyskernes Enigma og reddede mange menneskeliv. Den er god.

THE IMITATION GAME (2014) https://fjernleje.filmstriben.dk/film/9000002887/the-imitation-game

Det koster ikke noget. Hvis du har et almindeligt lånenummer med pinkode til biblioteket, logger du bare ind. Man kan se 3 film om måneden, og der er mere end 3000 at vælge imellem. 1. marts er det desværre slut for københavnerne, så det er nu! 07.02.20: https://politiken.dk/kultur/art7645879/K%C3%B8benhavn-dropper-gratis-fil...

  • 3
  • 0
#7 Claus Bobjerg Juul

Måske ikke 'bio-dig', men din 'digitale avatar' eller een af utallige kloner, kopier og re-implementeringer efter hackere, skod-kode og crashes har helt sikkert väret ude på noget snavs i forhold til eet eller andet, eet eller andet sted hvor de korrupte mastedata nu placerer 'digitale-dig' :)

Selvfølgelighed har hendes bio-jeg også noget at skjule. Hvis jeg nu følger efter hende eller en hvem som helst anden der siger de ikke har noget at skjule, så får tonen pludselig en anden lyd, de fleste har ikke noget problem med at blive overvåget når det sker via kamera, telelogning osv. men er der pludselig et levende menneske der følger efter dig så er det uhyggeligt.

  • 2
  • 0
#8 Jakob Møbjerg Nielsen

Ifølge Shoshana Zuboff er vi faktisk ikke produktet, og "if it's free, then you are the product" er ikke helt korrekt at påstå ifb. med overvågningskapitalismen.

Vi (vores adfærd) er i stedet råmaterialet, der udvindes og bruges til at lave produktet, der så bl.a. kan bruges til at påvirke vores adfærd.

Og ja, det er noget af en mursten. :-)

  • 2
  • 0
#10 Bjarke Haack Jørgensen

både fra forfatteren til bloggen, men også her i kommentarfeltet - dejligt :)

Første step i ethvert oprør er oplysning, og jo bedre vi bliver til at forstå effekterne af 'udviklingen' desto bedre bliver vi til at argumentere for legitimationen for en "modstandsbevægelse".

Måske er det en anelse off-topic, men jeg vil gerne anbefale bogen "Technics of Civilization" af Lewis Mumford fra (1934(!)). Det er en gammel og tung svend, men giver et fantastisk historisk indblik i teknologiers/teknikkers historie, og om hvordan teknologiudvikling er tæt forbundet med sociale, kulturelle og politiske processer. En lille teaser fortæller eksempelvis at armbåndsuret egentlig er et barn af militær logik (https://en.wikipedia.org/wiki/Trench_watch).

I den mere on-topic ende vil jeg anbefale Robert Kitchins' "The Data Revolution: Big Data, Open Data, Data Infrastructures and Their Consequences" (2014), for en god forståelse af hvad data 'er' - forstået både meget teknisk men også meget grundlæggende/filosofisk/ontologisk.

Jeg henviser lige igen til Version2's nyhed om politikernes åbenhed for anvendelse af ansigtsgenkendelse (https://www.version2.dk/artikel/venstre-siger-ja-ansigtsgenkendelse-1089958), hvis man skal have lidt inspiration til at blive klogere og kæmpe for det almene menneskes frihed til at være fri.

  • 1
  • 0
#11 Anne-Marie Krogsbøll

... er EU i gang med at søsætte sin nye digitale strategi. Og AI er det store dyr i åbenbaringen, som skal redde os alle sammen, koste hvad, det koste vil af menneskelighed, menneskerettigheder og demokrati.

Glemt er al snak om, at vi måske nu lige skal besinde os, og at vi måske er gået for hurtigt frem med digitalisering,...Næh nej, man er i fuld gang med at søsætte næste "brændende platform", hvorfra USA og Kina har snuppet alle redningsbådene, mens vi er på vej i vandet til hajerne, hvis ikke vi lynhurtig smider alle fortøjninger. Lars Frelle-Petersen var i morges på TV2 i fuld gang med - med begejstret blik og stemmeføring - at smide flybrændstof på det bål - og med hovedafgumentet: "Giv os dine data, alle dine data, jo flere jo bedre...." (I kender fortsættelsen).

Det er nu, Vestager skal stå sin egentlige prøve, og vise, hvis side hun er på: Verdens befolknings eller overvågningskapitalisternes.....Man kan ikke tjene to herrer på en gang...

Jeg er frygteligt bange for, at jeg bliver skuffet...

  • 2
  • 0
#14 Sine Zambach Blogger

Helt enig! Det var ment ironisk, men man hører bare mange stemmer i debatten, der ikke overvejer at når alle pludselig skal overvåges, skal de også selv. Mine bedsteforældre flygtede selv fra en overvågningssamfund i 56 og det skaber ikke mentalt sunde mennesker! Uanset om de har noget at skjule eller ej.

  • 1
  • 0
#15 Søren Matz

Hej Sine, Rigtig god artikel. Mange tak. Du efterlyser Zuboff i mindre bidder end murstenen. Hun har allerede udgivet en række artikler i 2015 og 2016 bl.a. i Frankfurter Allgemeine: The Secrets of Surveillance Capitalism. Der kan du også finde en tysk version, hvis du er til det. Derudover er der en fremragende artikel i NY Times fra januar i år: 'You are now remotely controlled' https://www.nytimes.com/2020/01/24/opinion/sunday/surveillance-capitalis... Desuden er der en samling af meget fine artikler af bl.a. Zuboff og Flyverbom redigeret af Rikke Frank Jørgensen https://mitpress.mit.edu/books/human-rights-age-platforms

DBH Søren

  • 2
  • 0
Log ind eller Opret konto for at kommentere