Algoritmer fanger internettrolls efter blot 10 hadske indlæg

14. april 2015 kl. 10:4710
Antisociale brugere på internetforummer kan opdages af algoritmer, der er oplært i at opdage trolls.
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Siden de første forummer dukkede op på internettet og andre onlinemiljøer, har der været brugere, som har spoleret fornøjelsen for andre for deres egen fornøjelses skyld. Men disse 'trolls' har nu fået en ny modstander, skriver MIT Technology Review.

En gruppe forskere fra Stanford University har nemlig udviklet et sæt maskinlæringsalgoritmer, der automatisk kan identificere den adfærd, der kendetegner en troll.

Algoritmerne er ifølge forskerne så præcise, at de kan opdage en troll ud fra blot 10 indlæg i en debat. Forskerne har oplært og testet algoritmerne på debatter hos en række store amerikanske websteder som eksempelvis CNN.com og IGN.com.

Algoritmerne har analyseret indholdet af indlæg fra i alt 10.000 brugere, der er blevet sat i karantæne af debatmoderatorerne på siderne, og ud fra dette datagrundlag har algoritmerne altså lært at opdage debatsabotørerne.

Artiklen fortsætter efter annoncen

Forskellen mellem trolls og de øvrige debattører er angiveligt tydelig for algoritmerne, og forskerne håber derfor, at det kan hjælpe moderatorer med hurtigt at opdage nye trolls og forhindre dem i at sabotere debatten.

10 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
10
15. april 2015 kl. 15:37

Fx, hvis man her på version2 skriver man ikke syntes der er for meget overvågning, så kunne man hurtigt blive stemplet som troll.

8
15. april 2015 kl. 10:53

Hvad nu hvis trollen selv åbner indlægget?

4
14. april 2015 kl. 11:25

Mon det virker på John Strand ?

3
14. april 2015 kl. 11:15

Et det en som kommer med negativ anmeldelser eller ikke lige ligner ind efter hvad moderator syntes er i orden?

Er det automat politiet som lige bliver indsat?

Gad vide om det kommer til at blive brugt her på Version2 når men brokker sig over deres massive overvågning som bliver sendt til diverse brokers og solgt for ussel mammon.

5
14. april 2015 kl. 12:14

Trolling kunne være at blande sig i et Greenpeace fora og spørge hvordan man nemmest får lavet en god vintermuffe af sådan en sælbaby :P

Der er stor forskel på at diskutere fordi man ikke har samme synspunkter, og vifte med den røde klud foran tyren for at udlede en reaktion.

2
14. april 2015 kl. 11:10

Det er jo fint til at indsnævre feltet at kigge på for en admin, men jeg tvivler kraftigt på at det kan automatiseres på grund af falske positiver. Men for en administrator af et forum, vil det da klart give en fordel at kunne indsnævre til de mest primitive trolls.

Jeg gætter dog på at der stadig vil være problemer med de parametre den kigger på. Hvis den kun kigger på længde og readability index (lix?), så vil der være mange trolls som kan snyde algoritmen, ved at formulere sig bedre men stadig beholde den antisociale tone. Så for at den på nogen måde skal være effektiv, skal den dedektere den generelle tone og måske endda ironi i indlægget - det bliver rigtig spændende, hvis de kan lave en algoritme der kan det.

Som det er nu, så vil den måske være en hjælp til de banale trolls. Men på ingen måde en automatiseret løsning eller en hjælp til at fange de trolls som er lidt mere velformulerede.

1
14. april 2015 kl. 10:57

De sofistikerede trolls finder hurtigt ud af hvad der udløser algoritmens troll-regler. De sofistikerede trolls vil bruge et sprogbrug og ordvalg som de øvrige brugere, men alligevel være i stand til at ophidse og provokere.

9
15. april 2015 kl. 15:17

De sofistikerede trolls finder hurtigt ud af hvad der udløser algoritmens troll-regler. De sofistikerede trolls vil bruge et sprogbrug og ordvalg som de øvrige brugere, men alligevel være i stand til at ophidse og provokere

Det kommer vel an på, om algoritmerne kun kigger på, hvad der skrives, eller om de kigger på, hvordan det der skrives influerer debatten. Man kunne vel godt forestille sig, at en trolls indlæg afføder en ret genkendelig reaktion fra andre, der er involveret i debatten. På den måde bliver det ret vanskeligt for en troll at gøre noget for at undgå at blive banned.

6
14. april 2015 kl. 12:59

De sofistikerede trolls finder hurtigt ud af hvad der udløser algoritmens troll-regler

Het enig. Men heldigvis er de usofistikerede trolls i klart overtal - så at slippe for dem vil også være et fremskridt. Så er spørgsmålet så om det vil skabe nogle falske negative, måske blandt andre usofistikerede brugere...?

7
14. april 2015 kl. 13:32

Ok, nu hvor vi har en målestok for "trolling" som endda körer i "maskintid" så burde det väre muligt at bruge troll-filteret til at träne nye troll-bots så de bliver mere sofistikerede og undgår filteret.