Algoritmer fanger internettrolls efter blot 10 hadske indlæg

Antisociale brugere på internetforummer kan opdages af algoritmer, der er oplært i at opdage trolls.

Siden de første forummer dukkede op på internettet og andre onlinemiljøer, har der været brugere, som har spoleret fornøjelsen for andre for deres egen fornøjelses skyld. Men disse 'trolls' har nu fået en ny modstander, skriver MIT Technology Review.

En gruppe forskere fra Stanford University har nemlig udviklet et sæt maskinlæringsalgoritmer, der automatisk kan identificere den adfærd, der kendetegner en troll.

Algoritmerne er ifølge forskerne så præcise, at de kan opdage en troll ud fra blot 10 indlæg i en debat. Forskerne har oplært og testet algoritmerne på debatter hos en række store amerikanske websteder som eksempelvis CNN.com og IGN.com.

Algoritmerne har analyseret indholdet af indlæg fra i alt 10.000 brugere, der er blevet sat i karantæne af debatmoderatorerne på siderne, og ud fra dette datagrundlag har algoritmerne altså lært at opdage debatsabotørerne.

Forskellen mellem trolls og de øvrige debattører er angiveligt tydelig for algoritmerne, og forskerne håber derfor, at det kan hjælpe moderatorer med hurtigt at opdage nye trolls og forhindre dem i at sabotere debatten.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (10)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#2 Joakim Wriedt

Det er jo fint til at indsnævre feltet at kigge på for en admin, men jeg tvivler kraftigt på at det kan automatiseres på grund af falske positiver. Men for en administrator af et forum, vil det da klart give en fordel at kunne indsnævre til de mest primitive trolls.

Jeg gætter dog på at der stadig vil være problemer med de parametre den kigger på. Hvis den kun kigger på længde og readability index (lix?), så vil der være mange trolls som kan snyde algoritmen, ved at formulere sig bedre men stadig beholde den antisociale tone. Så for at den på nogen måde skal være effektiv, skal den dedektere den generelle tone og måske endda ironi i indlægget - det bliver rigtig spændende, hvis de kan lave en algoritme der kan det.

Som det er nu, så vil den måske være en hjælp til de banale trolls. Men på ingen måde en automatiseret løsning eller en hjælp til at fange de trolls som er lidt mere velformulerede.

  • 0
  • 0
#3 Hans Henrik Jakobsen

Et det en som kommer med negativ anmeldelser eller ikke lige ligner ind efter hvad moderator syntes er i orden?

Er det automat politiet som lige bliver indsat?

Gad vide om det kommer til at blive brugt her på Version2 når men brokker sig over deres massive overvågning som bliver sendt til diverse brokers og solgt for ussel mammon.

  • 2
  • 0
#5 Brian Hansen

Trolling kunne være at blande sig i et Greenpeace fora og spørge hvordan man nemmest får lavet en god vintermuffe af sådan en sælbaby :P

Der er stor forskel på at diskutere fordi man ikke har samme synspunkter, og vifte med den røde klud foran tyren for at udlede en reaktion.

  • 4
  • 0
#6 Kristian Lund

De sofistikerede trolls finder hurtigt ud af hvad der udløser algoritmens troll-regler

Het enig. Men heldigvis er de usofistikerede trolls i klart overtal - så at slippe for dem vil også være et fremskridt. Så er spørgsmålet så om det vil skabe nogle falske negative, måske blandt andre usofistikerede brugere...?

  • 2
  • 0
#9 Svend Eriksen

De sofistikerede trolls finder hurtigt ud af hvad der udløser algoritmens troll-regler. De sofistikerede trolls vil bruge et sprogbrug og ordvalg som de øvrige brugere, men alligevel være i stand til at ophidse og provokere

Det kommer vel an på, om algoritmerne kun kigger på, hvad der skrives, eller om de kigger på, hvordan det der skrives influerer debatten. Man kunne vel godt forestille sig, at en trolls indlæg afføder en ret genkendelig reaktion fra andre, der er involveret i debatten. På den måde bliver det ret vanskeligt for en troll at gøre noget for at undgå at blive banned.

  • 1
  • 0
Log ind eller Opret konto for at kommentere