jesper løffler

Mod mere regulering af tech: 1) Techlash?

“In 2020, global ‘techlash’ will move from words to action”, Politico (2019) - link

“Venture Capital: The Era of “Move Fast and Break Things” Is Over", Harvard Business Review (2019) - link

"Faced with the "technological war" being waged by the United States and China, Europe must now lay the foundations of its sovereignty for the next 20 years... Europe has demonstrated in the past that it has the capacity to play a leading role on the world stage. The time has come to take back the common initiative.", EU-Komissionen (september 2020) - link

Som ovenstående citater afspejler, så ser vi i disse år en ændring i kursen fra "tech-optimisme" mod "tech-pessimisme" fra såvel forbrugere, investorer og lovgivere (denne tendens kaldes også for "techlash"). Selvom det i høj grad er tech-giganterne i USA, der løber med overskrifterne, så vil den regulering der bliver indført af bl.a. EU i disse år, også komme til at ramme de myndigheder og virksomheder i EU, som anvender nye digitale teknologier såsom cloud, (big) data, sociale medier, AdTech, IoT, AI, ansigtsgenkendelse, blockchain osv.

Dette indlæg er det første af en serie, hvor jeg dykker ned i forskellige vinkler på dette emne. De næste to indlæg kommer til at have følgende overskrifter:

  • Mod mere regulering af tech: 2) Fortiden: Det er langt fra første gang, at vi oplever sammenstød mellem retssystemet og nye teknologier, og der er mange erfaringer at hente i fortiden.

  • Mod mere regulering af tech: 3) Fremtiden: Hvilken retning bevæger EU og resten af verden sig i, og har EU valgt den rette vej i kapløbet med USA og Kina?

Jeg vil i dette indlæg ikke blande mig i debatten om, hvorvidt techlash-bølgen er berettiget eller ej, men blot forsøge at beskrive dens rødder, udvikling og konsekvenser.

Fra superhelte til superskurke

Der har gennem årene været rigtig meget hype og positiv opmærksomhed omkring tech-virksomhederne. Særligt op gennem 00'erne blev internet- og tech-virksomheder for alvor udbredt, herunder med etableringen af virksomheder som Facebook, Twitter, Skype, YouTube og Uber. Det var også i denne periode, at Silicon Valley for alvor fik vokseværk, og blev hjemsted for nogle af USA's mest succesfulde virksomheder og dermed også rigeste mennesker.

Mark Zuckerberg og de øvrige tech-founders blev globale forbilleder, og i alverdens startup-miljøer blev “Move fast and break things” det dominerende mantra, hvilket ofte var/er ensbetydende med fokus på flere og vildere data uden at lade sig begrænse af lovgivning, etik, samfundsansvar og andre kedelige ting. Også fysiske forbrugsgoder blev ramt af tech-bølgen: Producenter af alt fra el-pærer til kaffemaskiner fandt hurtigt ud af, at stort set alt kan sælges, hvis man bare kobler det til internettet og sætter et “Smart” eller “i” forrest i produktnavnet.

På et tidspunkt i løbet af det sidste årti begyndte kurven dog at knække. Det er vanskeligt at give en kort forklaring på præcis, hvornår og hvorfor det skete, men er man interesseret i emnet, kan jeg anbefale Shoshana Zuboff''s bog "Surveillance Capitalism":

Kritikken af tech har mange facetter og varierer også fra land til land, men nogle af de gennemgående buzzwords er “If you’re not paying, you're not the customer—you’re the product”, “data-monopolies”, “dark patterns”, “filter bubbles”/“echo chambers”, “trolling”, “deep fakes”, “Pervasive Surveillance”, “bias”, “Big Tech, small tax” osv.

Dernæst kan bevægelser såsom "data ethics" og fokus på "algorithmic accountability" og "transparency" også ses som indikationer på, at holdningen til nye teknogier er under udvikling. Der er også lavet en række analyser af disse trends og holdninger på er internationalt plan, se fx Fleishman Hillards 2020-analyse her. (Det skal dog også nævnes, at de fleste analyser samtidigt viser, at det ikke er ret mange forbrugere, der er villig til at sætte handling bag denne modstand - vi vil jo stadig gerne kunne bruge alle de smarte digitale løsninger...)

Nogle af de begivenheder, som har fået mest negativ opmærksomhed er fx Edwards Snowdens afsløringer, Cambridge Analytica-skandalen (herunder indflydelsen på valget af Trump og Brexit), den amerikanske startup Clearview , og hertil kommer en lang række andre cybersikkerheds/privacy-relaterede hændelser i løbet af de sidste 10 år.

At samfundets holdning til teknologi har skiftet kurs kan også ses i populærkulturen, fx i TV-serien Black Mirror, podcasten The Rabbit Hole og Netflix-dokumentarerne “The Social Dilemma” og “The Great Hack".

Overordnet må konklusionen være, at teknologi i dag, på godt såvel som ondt, har indflydelse på stort set alle dele af vores liv og samfund. Eller som Microsofts præsident og Chief Legal Officer udtrykker det i overskriften på sin bog fra 2019: “Tools and Weapons - The Promise and the Peril of the Digital Age

USA er, indtil videre, mere “talk” end “action”

Det er således ikke til diskussion, at holdningen til teknologi er blevet langt mere negativ de senere år. Derimod er der langt fra enighed om, i hvilket omfang lovgivning er løsningen på problemerne. En undersøgelse fra Gallup har således vist, at amerikanerne er splittet på dette punkt.

USA har også historisk været indædte modstandere af enhver form for regulering eller håndhævelse overfor tech-virksomheder.

Mange af de store tech-giganter i USA blev stiftet i en tid, hvor internettet blev set som et fristed for kreative og innovative mennesker, og hvor regeringer og andre "giganter af kød og stål" ikke bør blande sig. Tech-giganterne har således også henvist til, at de frie rammer har haft en stor del af æren for skabelsen af Silicon Valley - og brugt dette som argument mod regulering.

Her er nogle eksempler på citater, som afspejler hvilken retning Silicon Valleys lobbyisme-milliarder har trukket US-lovgiverne i indtil for ganske nyligt:

“Privacy no longer a social norm, says Facebook founder” (artikel fra 2010 - link)

I 2011 gik Facebooks Mark Zuckerberg og Googles Eric Schmidt i fælles front mod regulering i et interview i the Financial Times:

Zuckerberg: “On the one hand you have the internet which is this really powerful force for giving people a voice. Now it’s tempting to say that on security or privacy you can go towards the most extreme [regulatory] option and maintain all the value that we currently recognise. I’m worried personally that’s not true"
Schmidt: “The industry as a whole is concerned that premature regulation …can shut off whole new industries, whole new opportunities, whole new innovations."

Samme Schmidt citerede også en branche-kollega i et interview med The Washington Post i 2011:

“High tech runs three-times faster than normal businesses. And the government runs three-times slower than normal businesses. So we have a nine-times gap.”

Paradoksalt nok er det faktisk selvsamme tech-virksomheder, som i dag advokerer for mere regulering af tech:

“Facebook's Mark Zuckerberg calls for more regulation of the internet” (link)

“Mark Zuckerberg: Big Tech needs more regulation - New rules might hurt Facebook’s bottom line in the short term but will help long term” (link)

“Google boss Sundar Pichai calls for AI regulation” (link)

Endelig kan også nævnes et initiativ som "Contract for the Web", der har størstedelen af Silicon Valley som medunderskrivere. Hovedmanden bag initiativet er ingen ringere end en af internettets grundlæggere, Tim Berners Lee, der bl.a. har udtalt følgende:

“This is a push for legislation, yes. Governments must translate laws and regulations for the digital age. They must ensure markets remain competitive, innovative and open. And they have a responsibility to protect people’s rights and freedoms online.”

Foreløbigt har vi dog alene set enkelte konkrete tiltag på stats-niveau, fx Californiens CCPA og sikkerhedskrav til IoT-devices samt Washingtons nye regler om brug af ansigtsgenkendelse.

EU går all-in på regulering af tech

Der er både ligheder og væsentlige forskelle mellem udviklingen i USA og EU: “Techlash”-bølgen er rullet ind over medier i EU i samme periode og ca. samme omfang som i USA. Men den store forskel ligger i, at EU’s lovgivningsmaskineri har haft fokus på regulering af tech i lang tid, og har således allerede gennemført adskillige tiltag med fokus på digitale teknologier. Her er en ikke-udtømmende liste over allerede gennemførte tiltag:

Reformen af EU's databeskyttelsesregler blev iværksat lang tid før techlash-bølgen ramte, men den endelige udgave af databeskyttelsesforordningen/GDPR indeholder en lang række regler, som relaterer sig direkte til de temaer, som diskuteres på et globalt plan i disse år. Eksempler herpå er retten til at blive glemt, retten til dataportabilitet, Data Protection by Design, regler om profilering samt forbuddet mod automatiserede afgørelser (om end sidstnævnte regel er noget uklar og vanskelig at anvende i praksis...).

EU-Kommissionen, herunder ikke mindst Margrethe Vestager, har i adskillige år haft fokus på tech-virksomheder, herunder særligt med bøder for overtrædelse af konkurrencereglerne.

EU har også vedtaget nye regler om forbrugerbeskyttelse i relation til ”digitalt indhold”, som bl.a. er bemærkelsesværdigt ved at reglerne blander sig i den generelle debat om gratis tjenester, hvor man "betaler" med sine personlige oplysninger: Ifølge dette regelsæt sidestilles betaling med personoplysninger således med penge.

Hertil kommer en lang række andre tiltag med fokus på fx digitale platforme, cybersikkerhed, opbygning af en EU-cloud, privatlivsbeskyttelse ved brug af droner, privatlivsbeskyttelse i forbindelse med udvikling af smittesporings-apps, privatlivsbeskyttelse ved brug af "connected vehicles" samt senest en ny vejledning fra Databeskyttelsesrådet om de juridiske krav til Data Protection by Design.

Selvom EU har været i gang længe, så er der ingen tvivl om, at den politiske vilje til at regulere nye teknologier er stigende, og derfor vil vi i de kommende år se mange flere tiltag fra EU. Jeg vil i er senere indlæg uddybe de mange regler der er undervejs i EU-systemet, herunder ePrivacy-forordningen, Digital Services Act, Digital Markets Act, yderligere skærpelser af kravene til cybersikkerhed, yderligere regulering med fokus på cloud og "Digital Sovereignty", regulering af ansvar for AI, regler om brug af ansigtsgenkendelse, reform af skattereglerne med særlig fokus på digitale teknologier osv.

Dette indlæg vil jeg afslutte med at citere fra EU-Kommissionens strategi for 2019-2024:

"Shaping Europe's digital future: A Europe fit for the digital age

The Commission is determined to make this Europe's “Digital Decade”. Europe must now strengthen its digital sovereignty and set standards, rather than following those of others – with a clear focus on data, technology, and infrastructur. The European Commission is working on a digital transformation that will benefit everyone. Digital solutions that put people first will
* open up new opportunities for businesses
* encourage the development of trustworthy technology
* foster an open and democratic society
* enable a vibrant and sustainable economy
* help fight climate change and achieve the green transition"

Opsummering og kommende indlæg

Opsummerende kan det konkluderes, at Techlash-bølgen ikke handler om, at alle tech-virksomheder er skurke - det handler om, at teknologi på godt og ondt har fået afgørende indflydelse på alle dele af vores samfund. I øvrigt er det ikke kun "tech-branchen" som påvirkes af den stigende regulering af tech. Med den digitale transformation og Industri 4.0-bølgen bliver de fleste brancher hastigt mere digitale med dertil hørende buzzwords såsom LegalTech, FinTech, AdTech, BuildTech, MedTech, EdTech, GreenTech, FreightTech osv. Selv de offentlige myndigheder er godt med, se fx Kommunernes Teknologiradar her.

Man kan indvende, som mange har gjort, at EU ved at indtage rollen som globale frontløbere på regulering af tech er ved at lave et kæmpe selvmål, og at strategien blot vil medføre at EU kommer endnu længere bagud i tech-kapløbet med USA og Kina. EU vil hertil svare, at de for længst har erkendt, at vi ikke kan vinde kapløbet, i hvert fald ikke under de nuværende spilleregler - og derfor har EU i stedet valgt at ændre spillereglerne...

I kommende indlæg vil jeg belyse tankerne bag og det nærmere indhold af EU’s strategi og forsøge at besvare følgende spørgsmål:

  • Hvordan er nye teknologier og tech-virksomheder hidtil blevet reguleret i fx EU og USA? Hvordan går det, når domstole er nødsaget til at bruge “gamle regler” på moderne teknologier?

  • Giver lovgivning overhovedet mening, når teknologien udvikler sig "9 gange hurtigere end lovgivningen"? Er cookie-samtykke-helvedet og Schrems II-dommen ikke tydelige beviser på, at EU ikke kan finde ud af at regulere den digitale verden?

  • Hvorfor støtter US tech-giganterne pludselig regulering efter 20 år med det modsatte synspunkt? Kunne Mark Zuckerbergs nylige støtte til regulering af tech måske skyldes, at Facebook i dag har ressourcerne til at efterleve omfattende compliance-krav, hvorimod nye tech startups og scaleups ikke har? (Som TechDirt skrev i et indlæg: "Make no mistake about it: this is Mark Zuckerberg pulling up the innovation ladder he climbed behind him.")

  • Hvorfor ser vi en global tendens i retning mod “Digital Sovereignty”? Går vi en fremtid i møde med flere landegrænser på internettet?

  • Hvad er “The Brussels Effect” og virker den rent faktisk?

  • Og hvor er danske politikere og ordførere egentlig henne, når vi taler om den digitale dagsorden? Hvordan ville Danmark klare sig i tech-kapløbet, hvis det var os der havde meldt os ud af EU?

Som sædvanlig er alle input velkomne, både i kommentarsporet og på mail jln@focus-advokater.dk

Kommentarer (2)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#1 Poul-Henning Kamp Blogger

Der er rigtig meget at lære fra teknologihistorien her, for stort set alle andre disruptive teknologier har gennemgået præcis den samme evolution som IT gør:

1 "Det får de aldrig til at virke"

2 "Det kan ikke bruges til noget seriøst"

3 "Det her er fremtiden"

4 "Det gør ting ved køernes mælk"

5 "En dag vil nogen miste livet"

6 "Vi er nu oppe på X dræbte"

7 "Denne lov vil"

Vi fik f.eks i store træk et stærkstrømsreglement fordi en højestetssagførers stuepige fik støvekosten op i den uisolerede kobberledninger der var trukket på porcelænsisolatorer på trælisten lige under stukken.

IT er ved at nå til punkt 6, som dog muligvis må udvides med "De økonomiske tab er nu oppe på X milliarder" i denne sammenhæng.

For lidt perspektiv, check denne liste over lovregulerede erhverv:

https://ufm.dk/uddannelse/anerkendelse-og-dokumentation/lovregulerede-er...

Hvorfor er "GDPR-ansvarlig" og "Designer af kryptografisk baseret sikkerhed" ikke på den liste ?

  • 11
  • 1
#2 Jesper Løffler Nielsen Blogger

Hej PHK. Jeg er fuldstændig enig med dig, og det er lige præcis vinklen på mit næste indlæg :) I øvrigt er det overordnede budskab og de faser for regulering af ny teknologi også et gennemgående tema i Brad Smiths bog nævnt ovenfor, og så er jeg også ret begejstret for Benedict Evans tilgang til emnet:

https://www.ben-evans.com/benedictevans/2020/7/23/regulating-technology

  • 2
  • 0
Log ind eller Opret konto for at kommentere