Facebook ignorerede udvikleres advarsler mod algoritme-ændring

Mark Zuckerberg ved udviklerkonferencen F8 2018. Illustration: Anthony Quintano, CC by 2.0
I årevis har Facebook-ansatte advaret mod ændringer i algoritmen for newsfeeds, som favoriserer konflikt og forargelse. Udvikleres forslag til løsninger er blevet afvist, hvis det kunne gå ud over omsætningen.

Ansatte på alle niveauer i Facebook har forsøgt at advare om risikoen for skadelige effekter for både samfundet og det enkelte menneske ved den måde, den store SoMe-platform prioriterer indhold til sine milliarder af brugere.

Skadevirkninger er veldokumenterede internt i Facebook, uden at offentligheden har fået kendskab til det. Flere gange er udvikleres konkrete forslag til ændringer af algoritmen for at afbøde de skadelige effekter blevet afvist, fordi de ikke understøttede forretningsmodellen.

Det skriver avisen Wall Street Journal på baggrund af en stor mængde lækkede interne dokumenter fra Facebook i USA: The Facebook Files

Dokumenterne viser en stigende bekymring blandt ansatte i Facebook både før, under og efter en stor ændring af newsfeed-algoritmen i 2018, som skulle skabe sunde relationer på platformen, men endte med at booste negativt og konfliktskabende indhold.

Meningsfyldte sociale interaktioner - MSI

I 2017 havde Facebook for første gang offentligt anerkendt, at visse måder at bruge sociale medier kunne være skadelige, og det gjaldt frem for alt det passive forbrug af indhold fra professionelle udbydere.

Facebook ville fremover hjælpe med at gøre verden til et bedre sted ved at styrke brugernes aktive engagement med venner og familie på platformen. Facebook skulle fremme “meaningful social interactions”, lød det fra Mark Zuckerberg selv, og de “meningsfyldte sociale interaktioner” eller MSI blev hurtigt kanoniseret som internt udtryk for de gode hensigter med de store ændringerne af platformen det år.

Facebook fik en gennemgribende designændring med mere vægt på populære kommentarer og opslag, og brugere fik mulighed for at "snooze" andre brugere, samt lægge flere begrænsninger på, hvad de ville se og hvad andre måtte se.

Målet om flere/mere MSI skulle dog især opnås gennem justering af algoritmen, der kuraterer indholdet i den skræddersyede nyhedsliste eller newsfeed, hvor brugerne bruger hovedparten af deres tid, og hvor Facebook følgelig henter lang hovedparten af sine indtægter.

Facebook ville i højere grad fremme indhold, som brugerne aktivt debatterede eller videresendte. Opslag, som havde en høj beregnet sandsynlighed for deling og kommentarer, blev derfor boostet i newsfeed.

Ansatte advarede mod ændringer i algoritmen

Mark Zuckerberg skrev i sit essay om “meningsfyldte sociale interaktioner”, at Facebook skulle erstatte det passive forbrug af indhold med et større engagement fra brugerne. Operationen lykkedes, der blev fyret op under brugernes interaktioner med indholdet.

Men internt i Facebook begyndte medarbejdere dog hurtigt at registrere - og advare ledelsen om - at ændringen i retning af mere meningsfyldte interaktioner langt fra havde resulteret i mere venlighed og rummelighed, men tværtimod skabt en platform for raseriudbrud og gjort afstanden større mellem brugere med forskellige holdninger.

»Vores tilgang har haft en usund side-effekt på vigtige dele af det offentlige indhold, såsom politik og nyheder,« skrev et team af dataloger i et memo, som Wall Street Journal har fremlagt.

Memoet gjorde ledelsen opmærksom på et brev fra Jonah Peretti, CEO for BuzzFeed, der gjorde opmærksom på, at siden ændringen af algoritmen havde BuzzFeed oplevet konfliktskabende indhold gå viralt i højere grad end før, mens det pludselig var vanskeligt at få reach på ellers populært indhold som listicles med selvhjælpstips eller billeder af kæledyr. Peretti, altså chefen for en virksomhed, hvis forretningsmodel hviler på viralt indhold på sociale medier, advarede Facebook-toppen om risikoen ved at belønne kontroversielt indhold.

“MSI-ranking belønner i realiteten ikke indhold,som driver meningsfyldte sociale interaktioner,” skriver han i sin email til Facebook, og tilføjer, at hans medarbejdere føler sig “pressede mellem at producere dårligt indhold eller underpræstere.”

De lange kæders rang

Facebook satte sit “Integrity”-team, som arbejder med at forbedre kvaliteten og troværdigheden af indhold på platform, til at afsøge om en række modifikationer af algoritmen kunne lægge låg på tendensen til at belønne vrede og løgn, og samtidig minimere risikoen for at platformen bruges til systematisk udbredelse af misinformation.

Mark Zuckerberg afviste dog en del af de foreslåede løsninger, skriver Wall Street Journal, fordi han var bekymret for, om det ville modarbejde bestræbelserne på at få brugerne til at engagere sig mere med Facebook.

Integrity-teamet begyndte at fokusere på et bestemt aspekt af den ændrede algoritme, som opprioriterede visning i nyheds-feeds af opslag, som havde højere sandsynlighed for, at brugerne ville dele videre, efterhånden som opslaget bevægede sig nedad i kæden af videresendelser - det som Facebook kaldte “downstream MSI”.

Facebook beder løbende sine brugere om feedback på indhold, efter algoritmeændringen faldt tilfredsheden med indholdets kvalitet. Integrity-temaet analyserede svarene på “Worth Your Time”-spørgsmålet i brugerundersøgelserne for at finde ud af, hvilke rankingmodeller der mest effektivt kunne udpege det indhold, som brugerne ville finde det værd at bruge tid på. De fandt - ikke helt uventet - at en ranking som er målrettet til at matche opslag til brugerens præferencer, også er god til at forudsige en høj “Worth Your Time”-score.

Men det var næsten lige så effektivt at bruge en ranking-model, som forudsiger om opslaget vil få mange likes eller kommentarer. Høj sandsynlighed for likes og kommentarer gav også høj sandsynlighed for en god “Worth Your Time”-score, viste analysen.

Balladen om d_share_msi_score

Til gengæld viste analysen, at ranking-modeller til at forudsige større downstream-aktivitet var demonstrativt ubrugelige til at identificere det indhold, som brugeren selv ville have lyst til at modtage.

Og det var ikke kun gode instinkter, der fik datalogerne til at kigge på de lange kæder af videresendelser som et særligt råddent æble i tønden. Facebook havde allerede adgang til solide data om, hvad brugerne synes om indlæg, der er sendt videre i lange kæder fra venners og bekendtes egne venner og bekendte.

»Bemærk, at dette fund ligger i tråd med tidligere undersøgelser, hvor folk har fortalt os, at de anser engagement med videre-delinger (den type engagement der specifikt forudsiges af d_share_msi_score) for at være betydeligt mindre meningsfyldt end engagement med originale opslag,« skriver de i et afsnit med en diskret, men tydelig "hvad-sagde-vi"-tone.

Indignation ansporer til aktivitet

Ændringerne af algoritmen blev introduceret på et tidspunkt, hvor Facebook ifølge arbejdspapirerne bemærkede en bekymrende tendens til faldende aktivitet hos den enkelte bruger.

Det var et udtrykkeligt mål for MSI-strategien, at brugerne skulle bringes til at interagere mere på platformen.

Det var ikke en del af den offentliggjorte strategi, at færre brugere skulle klikke sig videre til hjemmesiderne for de udgivere, der fremstiller indholdet, som sendes rundt på sociale medier. Men det var en klar følge af ændringen. Store, professionelle udbydere - som nyhedsmedier - mistede natten over deres hidtidige reach og tabte trafik fra deres Facebook-opslag.

Facebook holder den proprietære algoritme for nyhedsfeeds meget tæt ind til livet og offentliggør sjældent detaljer om baggrunden for prioriteringen. Det er den hellige gral for SoMe-ansvarlige at gætte/analysere sig frem til, hvilke opslag der vil ramme lige i smørhullet af ranking-modeller i den sorte box og blive sendt i større omløb.

Det stod hurtigt klart, at algoritmen vægtede videredeling, og at sorteringshatten favoriserede de opslag, som chokerede eller skabte indignation.

Facebooks markedsanalytikere gav da også snart tilbagemelding til ledelsen om, at udgivere og politiske partier var begyndt at vægte sensationelt og forargeligt indhold, fordi det gav dem mere succes på Facebook.

»Mange partier [i Europa], herunder dem der har skiftet til mere negativt ladede indlæg, er bekymrede for betydningen i det lange løb for demokratiet,« lyder det i en intern Facebook-rapport, som ikke nævner specifikke politiske partier.

Ikke flere “deep reshares” af covid-information

I april 2019 foreslog en udvikler en måde at skrue ned for “deep reshares”, hvor brugere får vist opslag, der er slået op af folk som de hverken er venner med eller følgere af.

»Mens FB-platformen tilbyder folk en mulighed for at mødes, dele og engagere sig, er der den uheldige bivirkning, at skadeligt indhold og misinformation kan gå viralt, ofte før vi kan nå at opfange det og afbøde effekten,« skriver han i et memo, som Wall Street Journal citerer.

I foråret 2020 implementerede Facebook den foreslåede begrænsning af videresendelse af opslag, i første omgang dog kun for indhold, der handler om sundhed og politik.

Der er internt i virksomheden stadig pres for at udrulle ændringen til alle former for indhold, og for at få udført flere af de foreslåede ændringer af algoritmen.

Facebook: Bevidst misrepræsentation

Wall Street Journal har ikke delt dokumenterne med andre medier til verifikation, men Facebook har ikke på baggrund de offentliggjorte oplysninger af indhold afvist dokumenterne som falske. Til gengæld anklager Facebook avisen for "bevidst misrepræsentation" af indholdet i dokumenterne og for at tillægge både ledelsen og ansatte i Facebook "overdrevent skumle motiver".

I et blogindlæg, What the Wall Street Journal Got Wrong, afviser Nick Glegg, vice president hos Facebook, artikelseriens primære påstand, nemlig at Facebook udfører undersøgelser og derefter systematisk og med overlæg ignorerer de resultater, der er ubekvemme for virksomheden.


“The Facebook Files”.

Avisen Wall Street Journal har fået adgang til en række dokumenter fra Facebook, der omfatter interne arbejdspapirer, medarbejder-debatter, analyser, rapporter, resultater af eksterne undersøgelser samt udkast til præsentationer for topledelsen.

I en serie artikler - foreløbig er udgivet fem - beskriver avisen på baggrund af disse dokumenter, hvordan Facebook udadtil har afvist at kende til skadevirkninger, som indadtil var veldokumenterede, og hvordan udviklere og andre ansatte er blevet ignoreret, når de pegede på risikoen for skadelige følger både for den enkelte bruger og for samfundet som helhed.

Facebook Says Its Rules Apply to All. Company Documents Reveal a Secret Elite That’s Exempt

Mens offentligheden har fået at vide, at alle på Facebook er underlagt de samme regler, er et stigende antal udvalgte brugere - i 2020 var det 5,8 mio - blevet beskyttet af XCheck-programmet (udtales cross-check), som betød at afgørelser om dem blev sendt videre til en særlig VIP-vurdering, der ofte var betydeligt mere lempelig med sletning af opslag eller karantæne til brugere. I begyndelsen blev programmet kaldt “shielding”, og en intern gennemgang af programmet i 2019 kaldte særbehandlingen umulig at forsvare udadtil.

Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show

Dokumenter viser, hvordan Facebook de seneste tre år har udført flere undersøgelser af, hvordan billeddelingsplatformen Instagram, som Facebook er ejer af, påvirker sine brugere. Gentagne gange har medarbejdere rapporteret, at Instagram er skadelig for et antal af brugerne, hvoraf 40 procent er 22 år eller yngre. Mest mærkbar er effekten på teenagepiger.

Facebook Tried to Make Its Platform a Healthier Place. It Got Angrier Instead.

Gang på gang gjorde udviklere og analytikere i Facebook opmærksom på - først som advarsler, siden med dokumentation - at en ændring i 2018 af algoritmen for newsfeeds med henblik på at fremme bruges engagement omkring indhold og styrke de nære forbindelser, havde en uhyggelig bagside.

Facebook Employees Flag Drug Cartels and Human Traffickers. The Company’s Response Is Weak, Documents Show.

Interne Facebook-dokumenter viser, hvordan medarbejdere plantede stadig større og rødere advarselsflag på systematisk misbrug af platformen i udviklingslande, og peger på årsager til, at Facebooks egne foranstaltninger er utilstrækkelige.

How Facebook Hobbled Mark Zuckerberg’s Bid to Get America Vaccinated

I marts i år meddelte Mark Zuckerberg, at han ville sætte både sine personlige og virksomhedens ressourcer ind på at få 50 millioner amerikanere vaccineret mod Covid-19. Han fremhævede, at Facebook havde bragt vaccine-information ud til 2 milliarder mennesker. En snestorm af interne papirer op til den udmelding viser, at aktivister allerede var lykkedes med at indsætte Facebook som et våben til at undergrave tilliden vacciner og den øvrige corona-indsats, og at en stor del af vaccineinformationen på Facebook var negativ.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (11)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#2 Ove Andersen

Så Facebook bruger deres platform og brugere som verdens største sociale og psykologiske eksperiment. Med beviste hensigter om at skabe splid og disharmoni. Minder jo mere og mere om Skynet. Tænk hvis algoritmen kunne blive selvforstærkende og udspille hele menneskeheden mod hinanden, så ville Skynet ende som the Matrix..

Uetisk og usympatisk må siges at være en underdrivelse pm den virksomhed..

  • 15
  • 0
#3 Michael Strøm

Vi har alle et "frit" valg. Enten vælger vi at følge trop, som alle de mange der er i stald hos FB, eller også melder vi os ud.

Er der nok der siger fra, skal FB nok rette ind til højre, således de kan få deres Aktionærer tilfredsstillet igen.

I vores hverdag hvor alle folk lider af FOMO, kommer det dog næppe til at ske. Vi er alle så, åh og ih, for at blive set og ikke mindst hørt.

Nu skriver jeg ar vi alle har et "frit" valg om vi vil være med eller ej. Det er en sandhed med modifikationer. Vi bliver alle registreret på hjemme sider med Cookies og andre spidsfindigheder for at holde styr på vores preferencer i cyberspace. Selv os der har vendt FB ryggen. Jeg ved at deres argument er at når vi vælger at følge flokken, så har de alle de informationer de skal bruge fra dag 1.

Det stinker som et lig der har lagt i solen nogle dage.

Nu hører vi så at Whatsapp, som også er ejet af FB registrerer telefonnumre hos brugere, også de der ikke bruger Whatsapp for at have dem klar, når de vælger at bruge Whatsapp.

Det må snart til at holde op. Således vi igen kan bruge nettet og alle dets herligheder, uden at blive forfulgt i hoved og r..

  • 6
  • 1
#4 Claus Nedergaard Jacobsen Jacobsen

Vi har alle et "frit" valg. Enten vælger vi at følge trop, som alle de mange der er i stald hos FB, eller også melder vi os ud.

Det er det forfærdelige - et privat amerikansk produkt har nået en kritisk masse - som et sort hul - hvor det er umuligt at undslippe. Du kan melde dig ud, men det er det sorte hul ligeglad med. Så har du bare sat dig selv uden for indflydelse. Ingen indflydelse - eller indflydelse gennem de algoritmer, som FB selv dikterer? Pest eller kolera. Og i mange tilfælde forventer dine nærmeste, din arbejdsgiver eller din forening at de lige kan oprette en FB-gruppe til at koordinere nogle ting. Det er så nemt at flyde med strømmen og så svært at svømme imod.

Jeg tror ikke ændringen skal komme fra det enkelte individ, men via regulering af disse globale IT-mastodonter, som opererer udenfor national og territorial lovgivning ud fra devicen om, at "serverne står ikke hos jer". Margrethe Vestager har fat i noget af det rigtige, når hun vil omdefinere til at, at "hvis man er digitalt tilstede og driver digital forretning i et geografisk område", så er man også nødt til at følge det områdes lovgivning.

NB: Du taler med en, som stod imod fra 2005 til 2017, før han gav efter og oprettede en FB-konto.

  • 7
  • 0
#6 Anne-Marie Krogsbøll

"Datatilsynet i Norge vil ikke længere bruge Facebook til at kommunikere. Det er »for risikabelt«, skriver tilsynet på sin hjemmeside. Årsagen er Facebooks behandling af personoplysninger, siger Datatilsynets direktør, Bjørn Erik Thon. »Vi mener, at behandlingen af personoplysninger medfører en for høj risiko for brugernes rettigheder og friheder«, siger han. Datatilsynet skriver videre, at det har vurderet, at tilsynet med tilstedeværelse på Facebook ikke kan leve op til EU’s krav om databeskyttelse (GDPR) i forhold til personoplysninger. Norge er underlagt de samme dataregler som EU-landene. »Vi tror, at de, som måtte have et ønske om at besøge Datatilsynets hjemmeside, ville have haft en forventning om, at vi vidste, hvad som blev lagret, hvis de for eksempel klikkede ’like’ på vores side. Eller hvilken slags oplysninger, der blev registreret bare ved at besøge vores hjemmeside«, siger han. »Og det kan vi slet og ret ikke svare på«, understreger Thon." https://politiken.dk/viden/Tech/art8390087/Norges-Datatilsyn-dropper-Fac... https://www.personvernbloggen.no/ https://www.datatilsynet.no/rettigheter-og-plikter/hva-er-personvern/

  • 1
  • 0
#7 Anne-Marie Krogsbøll

"»Vurderingen sender et signal om, at virksomheder ikke kan bruge Facebook, hvis de skal lægge sig på det niveau, som Datatilsynet ligger til grund«, siger han." https://politiken.dk/viden/Tech/art8390087/Norges-Datatilsyn-dropper-Fac...

Så er det meget enkelt at afgøre, om man overholder love og regler. Mon de danske myndgheder fatter dette vink med en vognstang?

  • 2
  • 0
#8 Louise Klint

Gid det var så vel.

Men jeg er bange for, at de bare lukker øjnene. Stikker hovedet i busken til ”faren” er drevet over. Til det er passeret, glemt. Og så sker der ikke videre. Alt forbliver det gamle.

Men jeg håber da, at vores Datatilsyn svinger lidt med håndtasken.

Eller blidt og enkelt statuerer samme eksempel.

Politikerne vil nok næppe give afkald på denne åbenbaring af en propagandakanal, hvor man kan trutte direkte i proselytternes vener.

  • 1
  • 0
#9 Michael Strøm

" NB: Du taler med en, som stod imod fra 2005 til 2017, før han gav efter og oprettede en FB-konto."

Nej, jeg taler on en der var medlem nogenlunde fra begyndelsen, men forudså hvor monstreret bevægede sig henad, og vendte ryggen til.

Det er jeg på inden måde ked af.

  • 0
  • 0
#10 Bjørn Agger

[quote id=432089] NB: Du taler med en, som stod imod fra 2005 til 2017, før han gav efter og oprettede en FB-konto. [/quote

Da FB begyndte i 2005, så var jeg rimelig skeptisk. Jeg var faktisk så skeptisk, at jeg aldrig har lavet en konto. Jeg har på intet tidspunkt fortrudt mit valg 😎 På min PC dirigeres www.facebook.com til 0.0.0.0 via hosts 😊

Mvh Bjørn

  • 0
  • 0
#11 Sam Toft-Høj

Ej, hvor er alle jer, som har været FB-afholdende, bare så dygtiiiiiiiige :-)

Godt.

Og nu hvor I er blevet rost til skyerne. Kan vi så ikke snakke om artiklen i stedet for at snakke om, hvor dygtige I er?

  • 1
  • 3
Log ind eller Opret konto for at kommentere