Regeringen: Tech-giganter skal fjerne ulovligt indhold inden for 24 timer efter anmeldelse

23 kommentarer.  Hop til debatten
Fake News
Illustration: Voice of America / Public Domain.
Efter ulovlig deling af halshugningsvideo, vil regeringen pålægge techgiganter at fjerne ulovligt indhold inden for 24 timer efter anmeldelsen.
10. januar kl. 10:10
errorÆldre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Til februar fremsætter regeringen et lovforslag, der skal pålægge tech-giganter som Facebook at fjerne ulovligt indhold inden for 24 timer efter, at det er blevet anmeldt.

Det skriver DR på baggrund af en sag, hvor moderen til 24-årige Louisa Vesterager Jespersen, der er i december 2018 blev dræbt af terrorister i Marokko, gentagne gange fået tilsendt videoer over Facebook, hvor hun ser hendes datter blive halshugget.

»Vi mangler, at EU-landene bredt set kommer med. Men vi arbejder på det,« siger erhvervsminister Simon Kollerup til Danmarks Radio.

23 kommentarer.  Hop til debatten
Debatten
Log ind for at deltage i debatten.
settingsDebatindstillinger
21
11. januar kl. 15:44

Jeg ved ikke, hvilken dokumentation du har for denne påstand, men hvis det er sandt, så ligger problemet nok ikke i AI, men snarere i den konkrete AI.

Et smut forbi Youtube, hvor der søges på materiale, som er Copyright beskyttet, f.eks. BBC udsendelser, og du kan finde dem, med diverse alternative hacks, som ikke bliver fanget af filtrene. På nogle lyder værterne som Mickey Mouse, på andre mangler bunden, toppen eller den ene side af billederne. Har også set eksempler, hvor videoerne er ændret til et andet format, så alt ser lidt slankt og højt ud, eller omvendt, og så er der de spejlvendte.

Nogle af de tilrettede videoer holder i nogle dage, andre i uger, mens de mest kreative, som ikke er til, at holde ud at se på, kan holde i måneder, før de forsvinder.

19
11. januar kl. 13:50

I hvert fald ikke ret længe ad gangen, nogen med adgang til videoen ændrer bare lidt i opløsningen, afspilnings hastighed, beskæring etc. og så kan AI ikke længere genkende filen, og den kan nu deles igen, med hvem som helst. Der skal ikke ændres ret meget i hverken foto eller video, før det kun er mennesker, der kan se, at indholdet er det samme.

18
10. januar kl. 22:50

Spørgsmålet er bare, om det reelle problem ikke er, at det er for let at oprette anonyme eller falske profiler?

Det kræver jo et veludbygget nationalt person-identifikations-system. Man kan gøre det her i landet og et par andre steder. Der vil sikkert være lande, hvor man har meget lidt lyst til at lægge rigtig identitet til sin FB-profil eller andet. Måske er man lidt "på kant" med regeringen, måske går man ind for både prævention og abort, måske har et eller andet narko-kartel lyst til at statuere et eksempel, nogen vil gerne smadre homoseksuelle, andre vil smadre jøder ...

Facebook er næppe velegnet i nogen af de situationer, men det er det, der er.

Ikke at jeg har nogen gode ideer i stedet for.

17
10. januar kl. 21:52

Fokus er mest på hvor "umulig" en opgave det er at moderere og filtrere beskeder. Spørgsmålet er bare, om det reelle problem ikke er, at det er for let at oprette anonyme eller falske profiler?

Det betyder, at vi har sociale medier, hvor det reelt er konsekvensløst at overtræde brugerbetingelser og lovgivning - eller bare opføre sig som en almindelig idiot. Vi har ikke en chance for at vurdere de reelle afsendere og lave effektive begrænsninger af, hvem vi ønsker at modtage beskeder fra. Misinformation, propaganda og troldehære har frit spil.

Så er det virkelig en menneskeret at kunne ytre sig anonymt på sociale medier?

(Facebook mfl. har selvfølgelig ikke stor interesse i at begrænse antallet af brugere eller de mange shitstorme...)

16
10. januar kl. 20:23

Facebook bruger vist i omegnen af 3 milliarder dollars om året på moderation, hvilket inkluderer en stab på ca. 40.000 mennesker. Selvfølgelig kunne de hyre flere mennesker, men det vil næppe gøre en voldsom forskel når man ser på hvad de er oppe imod.

Det forstår jeg ikke. Hvis moderatorstaben i stedet var 4 millioner mennesker, ville det så ikke være nemmere? Der er eksempler i New Yorker-artiklen på svære spørgsmål, hvor Facebook-opslag kan være skrevet i et kodet sprog, eller om det er uklart om noget f.eks. er hævnporno eller bare selvlavet porno, men det har ikke noget at gøre med antallet af brugere. Jeg tror heller ikke der er nogen der forventer at Facebook foretager decideret opklaringsvirksomhed. Mit argument er mest at uanset antallet af brugere, så findes der et eller andet antal af moderatorer som ville resultere i at en anmeldelse kan resultere i begrundet medhold eller afvisning indenfor 24 timer. Om det nødvendige antal af moderatorer så gør at Facebook ikke længere er økonomisk rentabelt, det er et andet spørgsmål.

Ovenstående antager at sværhedsgraden ved at moderere en platform er en linær funktion af aktiviteten på platformen. Det synes for mig at være oplagt, men det kan godt være jeg tager fejl.

15
10. januar kl. 18:28

Hvad vil det sige? Jeg antager det har noget at gøre med at moderation af X bruger kræver X/K moderatorer, hvor K er lavt nok til at Facebook ville have brug for rigtig mange moderatorer.

Lige præcis, og resten står algoritmer for, som naturligvis heller ikke kan være 100% præcise, hvilket også beskrives af Martin Ruby, som er chef for Facebook i Norden.

Jeg synes i princippet ikke man kan undskylde dårlig moderation med at man har rigtig mange brugere. Man kan slippe afsted med det så længe ens platform er lille, fordi den så ikke har nogen egentlig samfundspåvirkning, men hvis man har en så stor platform at den kan begynde at skubbe hele samfundet i en (subjektivt vurderet) forkert retning, så har man også et ansvar.

Enig, men det er netop fordi Facebook har så mange brugere at moderationen er svær. At give platformene en arbitrær deadline på 24 timer, betyder at de i højere grad bliver nødt til at overmoderere for at være på den sikre side, hvilket heller ikke dur.

Man kan så enten reducere sin platform så den ikke er så stor, eller bruge penge på at begrænse skadevirkning (f.eks. intensiv manuel moderation). Måske kan sidstnævnte mulighed ikke økonomisk løbe rundt, men det er jo som sådan ikke samfundets problem.

Facebook bruger vist i omegnen af 3 milliarder dollars om året på moderation, hvilket inkluderer en stab på ca. 40.000 mennesker. Selvfølgelig kunne de hyre flere mennesker, men det vil næppe gøre en voldsom forskel når man ser på hvad de er oppe imod.

Hvis du er interesseret i hvor svært moderation er på en platform af Facebook's størrelse, kan jeg varmt anbefale denne gennemgang af hvad Facebook stod over for under Christchurch massakren: https://www.newyorker.com/news/news-desk/inside-the-team-at-facebook-that-dealt-with-the-christchurch-shooting

13
10. januar kl. 17:17

Mere lovgivning baseret på en forkert opfattelse af "moderation at scale"...

Hvad vil det sige? Jeg antager det har noget at gøre med at moderation af X bruger kræver X/K moderatorer, hvor K er lavt nok til at Facebook ville have brug for rigtig mange moderatorer. Måske er der endda brug for så mange moderatorer at Facebook så ikke længere kan løbe økonomisk rundt. Måske er det ikke en dårlig ting. Jeg har ikke på stående fod selv nogen holdning, men det er jo ikke usædvanligt at man med lovgivning forbyder bestemte erhverv der har så omkostningsrige eksternaliteter, at vi ikke ønsker de er en del af samfundet.

Jeg synes i princippet ikke man kan undskylde dårlig moderation med at man har rigtig mange brugere. Man kan slippe afsted med det så længe ens platform er lille, fordi den så ikke har nogen egentlig samfundspåvirkning, men hvis man har en så stor platform at den kan begynde at skubbe hele samfundet i en (subjektivt vurderet) forkert retning, så har man også et ansvar. Man kan så enten reducere sin platform så den ikke er så stor, eller bruge penge på at begrænse skadevirkning (f.eks. intensiv manuel moderation). Måske kan sidstnævnte mulighed ikke økonomisk løbe rundt, men det er jo som sådan ikke samfundets problem.

12
10. januar kl. 16:31

Gad vide hvem der kommer til at bestemme hvad der er ulovligt indhold?</p>
<p>Dommere?

Efter som der allerede er faldet fængselsdom for at dele den omtalte video, er det ikke så dyb en filosofisk betragtning som du selv tro. Det samme var tilfældet med videoen hvor midreårige havde sex, den tillod FB også deling af længe efter de burde være bekendt med indholdet.

Hvis det havde copyright beskyttet matriale, skulle de proaktivt fjerne det, men i dette tilfælde er moderen nødt til gentagne gange at anmelde videon og screenshots derfra, når de bliver sendt til hende.

10
10. januar kl. 15:50

Lovgivning er et langsommeligt og treægget sværd her.

Er der ikke nogle helt lavpraktiske muligheder, man kunne prøve? Jeg er ikke selv (længere) på facebook, men kan man ikke stadig blokere for beskeder fra alle andre end sine venner?

Hvis ikke man kan det, så kunne man måske downloade sine facebook data inkl. venneliste, nedlægge sin facebook profil, oprette en ny og så forbinde sig med sine venner igen. Og lukke så meget som muligt ned for sin profil, at den ikke er lige til at finde for uvedkommende.

Der er selvfølgelig også muligheden at droppe facebook, men hvis man bruger det meget for at holde social kontakt, så er det selvfølgelig ikke bare noget, man lige gør.

8
10. januar kl. 14:41

Ja. "Ulovligt indhold" er jf. dansk lovgivning.

Selvfølgelig er det i sidste ende dommere, der afgør, om noget er ulovligt.

Men spørgsmålet er, om der kommer en dommer ind over, hver gang en "tech-gigant" bliver bedt om at fjerne noget. I betragtning af, at der lægges op til, at indholdet skal fjernes indenfor 24 timer efter, at det er blevet anmeldt, kan det blive svært at nå. Det vil også lægge et voldsomt pres på domstolene.

Man bør også overveje, hvem der i givet fald ville være parter i sagen, hvis en dommer skal tage stilling. Det typiske billede med f.x. copyrightsager i børneterroristfilteret har netop været, at sagen har stået mellem ophavsretshaverrepræsentant og teleudbyder - og at den påståede lovbryder dermed ikke har været part i sagen. Som regel kæmper teleudbyderne ikke særlig hårdt for at forsvare uvedkommendes sag.

Med det nye lovforslag har de sociale medier 24 timer fra en vilkårlig anmeldelse til indholdet skal være fjernet. Hvis de ikke fjerner det, risikerer de, at en dommer senere hen siger, at det burde være blevet fjernet - og at de får en bøde. Hvis de fjerner det -og det nogensinde kommer for en dommer - risikerer de kun, at de får at vide, at det ikke behøvede at blive fjernet. Det koster dem ikke noget.

Det vil derfor være sikrest for dem bare altid at fjerne indholdet, uanset hvor tåbelig anmeldelsen er.

Gad vide om regeringen har overvejet, hvor nemt det er at skrive en bot, der automatisk anmelder alle opslag fra f.x. et givent politisk parti...

7
10. januar kl. 14:30

Det er jo nok de færreste som har et problem med at forbyde spredning af videoer med halsafhugning og at det skal slettes i hele fødekæden hurtigst muligt.

Hovedproblemet ligger i den fremherskende politiske kultur!

Det er forkert at sige, at man politisk ikke interesser sig for ”hovedproblemet”, men det er vigtigere at fremstå som handlekraftig og kunne løse de problemer som dukker op om morgen i radioavisen således at man i TV-avisen om aften har ”løse problemet”.

Når der så bliver valg eller man bliver presset politisk, så hiver politikeren Bingo-pladen med ”Bullshit-Bingo” frem og nævner alle de punkter ”man har gjort”.

Og bliver politikeren endelig fanget af en journalist, så er det altid ministeren og hans/hendes ministerium har ikke har gennemført de politiske hensigter ordentlig. Politikeren snakker aldrig om ”de politiske hensigter nogensinde havde en reel udsigt til at virke!”.

Hvis du er en indbrudstyv som har gennemskuet systemet, så du stemmer på DF. Simpelthen fordi DF altid snakker om minimums-ting som minimums straf, minimums normeringer, minimums responsetid osv. osv.

Nu for et par år siden vedtog man at der skulle 300 nye betjente på gaden. I dag er det et problem. Hvorfor spørger du? Fordi de laver politiarbejde, lyder svaret? Hvorfor er det et problem at de gør det de er ansat til, spørger du? Fordi anklagemyndigheden og domstolene ikke har fået flere ressourcer og derfor i realiteten er underbemandet. Så anklagemyndigheden og domstolene prioriterer sagerne og der ligger et indbrud ikke ret højt på listen. I visse politikredse gider de ikke en gang komme ud og skrive rapport om indbrud.

Og når det så er løst, så er den gal med kriminalforsorgen fordi de mangler fængselspladser (og sådan kan vi forsætte ned i fødekæden med resocialisering osv.).

Og hvad gør politidirektøren? Han/hun prioriterer politiets indsats i overensstemmelse med ”de politiske vinde” og med ”det muliges kunst” forsøger at få enderne til at hænge sammen styret af hans/hendes personlige ansættelseskontrakt og især de tilhørende personlige tillæg.

Og nu er vi tilbage til indbrudstyven. Fordi politidirektøren vil da ikke miste måske DKK 250.000 i årligt tillæg fordi hans politikreds ikke lever op til krav om responsetid ved visse (personfarlige) kriminalitetstyper.

Så de betjente som i gamle dage tog sig af indbrud og den slags. De bliver holdt tilbage som en reserve som kan indsættes. Der nytter det ikke noget at de er kørt ud yderst i politikredsen for at udfører en lavt prioriteret politiopgave som gadepatrulje, butikstyveri, indbrud, overtrædelse af polititilhold og lignende.

Og halsafhugningsvideoen, den ryger direkte i ”Børnepornofilteret” sammen med alt andet som intet har med børneporno at gøre, da embedsværket vil sige at ”vi” har en sikker og velafprøvet metode til at blokerer den slags, da embedsværket ikke ønsker yderligere detailregulering og har forstået at politikerne ikke virkeligheden ønsker at gå i dybden med problemet ”halsafhugningsvideoer”, men bare vil have et grønt opfyldt punkt på deres personlige ”Bullshit-Bingo Plade”.

Til slut, jeg ved godt at der ikke er meget IT i mit indlæg, men det er en seriøs forklaring på hvorfor folketingspolitikerne ikke laver den teknikske lovgivning som vi jo egentligt ønsker på problemet ”halsafhugningsvideoer”. Men viser hvor kortsigtede politikere er.

For når man ansætter 300 mand mere til en bestemt slags arbejde, så kræver det altså ikke ret meget erhvervserfaring at indse at enten ”fedter de tiden af” eller også at flaskehalsen bare flytter et andet sted hen.

6
10. januar kl. 13:27

Ingen tvivl om at risikerer de sociale medier store bøder hvis de ikke fjerner indhold inden 24 timer så vil de sikkert "overreagere" og fjerne alt der anmeldes, blot for at være på den sikre side..

Det vil så betyde at mindre grupper af "aktivister" kan få fjernet indhold ved at lave koordinerede "angreb" hvor de alle indenfor kort tid anmelder et indlæg med et budskab som de er modstander af, men som ikke reelt er ulovligt og så fjernes det automatisk.

4
10. januar kl. 11:48

Mere lovgivning baseret på en forkert opfattelse af "moderation at scale"...

Kunne politikerne ikke for en gangs skyld tage eksperter til råds, før de gør noget?

3
10. januar kl. 11:25

Til februar fremsætter regeringen et lovforslag, der skal pålægge tech-giganter som Facebook at fjerne ulovligt indhold inden for 24 timer efter, at det er blevet anmeldt.

What could Possibly go wrong?

2
10. januar kl. 11:02

Dommere?

Ja. "Ulovligt indhold" er jf. dansk lovgivning.

1
10. januar kl. 10:37

Gad vide hvem der kommer til at bestemme hvad der er ulovligt indhold?

Dommere?