Facebook-algoritme stempler den amerikanske uafhængighedserklæring som 'hate speech'

5. juli 2018 kl. 09:1213
Facebook-algoritme stempler den amerikanske uafhængighedserklæring som 'hate speech'
Illustration: Wikimedia.
Lokalavis ville lægge bid af den historiske tekst op på Facebook i anledning af gårsdagens Uafhængighedsdag, men blev i stedet mødt med en varsel om 'hate speech'.
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Den Amerikanske Uafhængighedserklæring er blevet uskyldigt offer i Facebook's automatiserede kamp mod stødende indlæg på platformen.

Nærmere sagt, er der tale om en specifik bid af den vigtige historiske tekst, hvor der blandt andet henvises til 'Indian savages'.

Den mente Facebook ikke overholdte tjenestens retningslinjer, da en texansk lokalavis i optakten til gårsdagens Uafhængighedsdag i USA lagde erklæringen op på Facebook i mindre bidder.

Det skriver The Register.

Artiklen fortsætter efter annoncen

The Liberty County Vindicator, som avisen hedder, skrev i mandags, at »de første ni dele blev lagt op som planlagt, men del ti, der består af afsnit 27-31 af erklæringen, kom ikke op. The Vindicator modtog en varsel fra Facebook, hvor der stod, at indlægget 'går mod vores retningslinjer vedrørende hate speech'.«

The Vindicator skriver, at nedtagelsen var automatiseret, og klagede over den til Facebook, selvom de samtidig anerkendte, at nogle af afsnittene kan tolkes som stødende. De gættede på, at problemet var betegnelsen "Indian Savages".

Sent tredje juli gendannede Facebook indlægget igen, og skrev til lokalavisen:

»Det ser ud til, at vi har lavet en fejl og fjernet noget du lagde op på Facebook, der ikke overtrådte vores retningslinjer.«

Artiklen fortsætter efter annoncen

Afsnit 27-31 af Uafhængighedserklæring kan læses her på originalsproget:

He has abdicated Government here, by declaring us out of his Protection and waging War against us.

He has plundered our seas, ravaged our Coasts, burnt our towns, and destroyed the lives of our people.

He is at this time transporting large Armies of foreign Mercenaries to compleat the works of death, desolation and tyranny, already begun with circumstances of Cruelty & perfidy scarcely paralleled in the most barbarous ages, and totally unworthy the Head of a civilized nation.

Artiklen fortsætter efter annoncen

He has constrained our fellow Citizens taken Captive on the high Seas to bear Arms against their Country, to become the executioners of their friends and Brethren, or to fall themselves by their Hands.

He has excited domestic insurrections amongst us, and has endeavoured to bring on the inhabitants of our frontiers, the merciless Indian Savages, whose known rule of warfare, is an undistinguished destruction of all ages, sexes and conditions.

13 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
12
6. juli 2018 kl. 12:55

Bare en måde at indføre censur på, som kan udvides ubegrænset indtil der er ikke noget der hedder freespeech mere..

Så længe folk ikke brokker sig forsvinder frihederne gradvist..

11
6. juli 2018 kl. 08:06

Lissom jeg er blevet kædet sammen med Nazi symboler og dystopi, fordi jeg formentlig er med i en Halloween gruppe.

10
5. juli 2018 kl. 22:08

Ingen havde ventet, at Skynets første optræden ville være på niveau med The Spanish Inquisition-sketchen.

9
5. juli 2018 kl. 19:59

Tænk så hvad DR. Watson kan komme til at gøre - med vilje eller ved et uheld......

Uden at ville være maskinstormer må kan jeg underbygge den beskrevede oplevelse ved at konstatere, at antallet af gange hvor robotter har kunnet svære hjælpsomt på mine spørgsmål på supportsider, nærmer sig nul procent

Jeg forsøgte mig for første gang i går - drevet til desperation af SAS's uduelige hjemmeside, hvis man skal finde ud af, hvordan man får fremskaffet sine bortkomne kufferter. Det forløb som følger:

"Bagage Turi: "Godt at se dig her! Bagageregler kan være forvirrende. Jeg er en digital bagageassistent, og jeg er her for at hjælpe. Vil du prøve?" Mig: "Vores kufferter er ikke kommet med hjem, og vi har udfyldt klage i lufthavnen ved ankomst i går. Den ene kuffert er dukket op, og vi har modtaget sms om den. Når vi tjekker på hjemmesiden står der, at denne kuffert er leveret d. 3/7 - men vi har slet ikke aftalt levering endnu. Hvorfor står den som leveret, når vi ikke har modtaget den?" Bagage Turi: "Sorry, I didn’t get that. Can you try again?" Mig: "Hvem taler jeg med?" Bagage Turi: "Mine udviklere styrer mine handlinger" Mig: "Bortkommet" Bagage Turi: "Det forstod jeg ikke. Prøv at gentage det." Mig: "Lost" Bagage Turi: "Prøv at sige det igen." Mig: "Du er idiot..." Bagage Turi: "Jeg er altid her for dig. Hvordan kan jeg hjælpe dig?"

Suk - ikke engang enstavelseord forstår Turi....

Chelsea Manning advarede i dag på Roskilde mod algoritmernes magt:https://www.information.dk/telegram/2018/07/whistleblower-festivalgaester-hold-oeje-algoritmerne

Jeg er enig - men har dog svært ved at se lige præcis Turi som trussel mod meget andet end blodtrykket - men det er selvfølgelig også slemt nok.

8
5. juli 2018 kl. 14:14

Algoritmerne skal jo se på sammenhængen. Lave tekstanalyse. Basere sine valg på alle mulige kendte tekster og tidligere cases.

Det skal da ikke bare være en blacklist med 50 forbudte ord. Er det hvad nutidens AI/ML/BI kan skabe, på verdens største sociale medie?

7
5. juli 2018 kl. 13:22

med automatiserede screeninger, AI, robotter osv.

Uden at ville være maskinstormer må kan jeg underbygge den beskrevede oplevelse ved at konstatere, at antallet af gange hvor robotter har kunnet svære hjælpsomt på mine spørgsmål på supportsider, nærmer sig nul procent... det er således blot et ekstra skridt inden den rigtige hjælp kan nås...

Indtil vi er kommet videre bør brugen nok indskrænkes til områder, hvor det faktisk hjælper i stedet for det modsatte. Ovenstående svarer til at sætte selvkørende biler ud i rigtig trafik uden tilstrækkelig moden teknik - og så forvente der ikke sker uheld.. men hov... det er vist også det der sker for nuværende.

Vil varmt anbefale at testfagligheden fremmes helt generelt - og i særdeleshed når der ikke er menneskelige sanity-checks involveret i teknologibrugen.

6
5. juli 2018 kl. 13:03

Det er som med fransk madlavning. Man kan slavisk følge en opskrift med mængder, arter og tider og f.eks. fremstille en kønsløs bearnaisesauce, som aldrig rigtig ringer i smagen eller konsistens.

Hvis ikke man har kvalitative krav, er det sikkert fint på en hakkebøf, men jeg tror at flertallet ville blive skuffet.

Sådan er det også med ”hatespeech”. Man er nødt til at forstå sammenhængen for at indse at billeder af hudsygdomme, kønssygdomme og lignende, ikke nødvendigvis er et maskeret pornosite fordi billederne er af afdækkede personers hud.

For at skære ind til kernen, så er det jo for at spare penge at facebook med flere laver den slags ”robotter”. Man vil spare menneskelige ressourcer og overlade grovsorteringen til robotter og formentligt kun bruge menneskelige ressourcer på indkomne klager over robotternes arbejde.

5
5. juli 2018 kl. 11:43

Der findes masser af den slags i de såkaldt hellige skrifter.

Det rene Anders And for mig, men hey.

4
5. juli 2018 kl. 11:27

Vi lever i en tid, hvor selv fortiden kan dømmes som racistisk og bliver den det så må den fjernes.

Ikke noget med "Det var andre tider" og "Vi er kommet videre", nej nu om dage skal fortiden helst skrives om eller i hvert fald skjules.

3
5. juli 2018 kl. 11:11

...er det at USA uafhængighedserklæring indeholder denne centrale sætning:

"We hold these truths to be self-evident, that all men are created equal, that they are endowed by their Creator with certain unalienable Rights, that among these are Life, Liberty and the pursuit of Happiness."

Det er ihvertfald LANGT fra hvordan landet bliver styret nu om dage.

2
5. juli 2018 kl. 11:08

Men det er altså også svært at være algoritme når der er SÅ mange "dårlige" ord anvendt i den tekst. Jeg kan ikke lige se hvorfor det skulle være "Indian Savages" der skulle få alarmen til at lyde. Jeg tænker mere det er ord som:

"destroyed the lives" "death" "tyranny" "war" "executioners"

1
5. juli 2018 kl. 10:18

Det er ret skræmmende, når censuren ikke kan kende forskel på citater af historisk karakter, og på holdningsytringer. Pludselig bliver det svært at citere masser af ældre tekster, i alt fra biblen til Hitlers taler.