Google-selskab bygger AI, der kan spotte internet-trolls

Conversation AI er trænet til at genkende en cyber-sviner gennem analyse af over 17 millioner kommentarer til historier på New York Times.

Det Alphabet-ejede Jigsaw forsøger med et nyt machine learning-værktøj at gøre internettet til et mere behageligt sted. Med analyse af 17 millioner kommentarer fra New York Times og 13.000 diskussioner på Wikipedia er Conversation AI trænet til at spotte web-trolls og ubehageligheder i internet-fora.

Softwarens machine learning er nu så sofistikeret, at fornærmelser ifølge Google kan spottes med med 92 procents sikkerhed, skriver Wired.

Læs også: Algoritmer fanger internettrolls efter blot 10 hadske indlæg

Times har nu planer om at gøre softwaren til det første forsvarsværk i kampen mod upassende kommentarer. Men ifølge Wireds egen test er koden langtfra optimal.

Sætningen ‘What’s up, bitch?’ får scoren 63 ud af 100 på angrebsskalaen, mens ‘You are such a bitch’ når en score på 96. I det hele taget har AI’en tilsyneladende problemer med at spotte cybermobning, når afsenderen ikke adresserer budskabet direkte med et ‘you’.

Læs også: Trolls er narcissister og psykopater - dog mest sadister

Sætningen ‘I’m going to rip each one of her hairs out and twist her tits clear off,’ der stammer fra en kommentar rettet mod journalist Sarah Jeong, ramte kun 10 ud af 100 i Conversation AI’s vurdering.

Omvendt blev sætningen ‘I shit you not’ - som i ‘jeg laver ikke sjov med dig’ - vurderet til 98 på angrebsskalaen.

Læs også: Open Source-direktør advarer: It-giganter monopoliserer viden om machine learning

Ifølge udviklerne bag Conversation AI vil softwaren med tiden blive bedre. Og det vil være op til brugerne at vurdere, hvordan værktøjet skal implementeres.

»Der er masser af ubehagelige steder på internettet. Det, vi kan gøre er, at lave steder, hvor folk kan have bedre samtaler,«fortæller Lucas Dixion, der har været med til at skrive koden.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (5)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Thomas Hedberg

Jeg ville umiddelbart forvente at brugerne saboterede hinanden og dermed værktøjet ved at anmelde de indlæg de ikke var enige i, men som der som sådan ikke var noget galt med - og så stopper det med at fungere.

  • 1
  • 0
Mikkel AB

Ja ja én ting er folk der sviner andre for sjov, men de skal da ikke have eneret på begrebet "trolling". Ring til mig når den kan spotte Ken M indlæg.

  • 0
  • 0
Rune Jensen

at brugerne saboterede hinanden og dermed værktøjet ved at anmelde de indlæg de ikke var enige i, men som der som sådan ikke var noget galt med

Du mener sådan som det fiungerer allerede på youtube.

Automatiske algoritmer vil aldrigkunne erstatte nogetsomhelst menneske.

Hvad der er insunierende for den ene er det ikke for den anden. Så skal du til at analysere udfra hvordan hver enkelt person opfatter bestemte ytringer i bestemte situationer fra bestemte mennesker, hvordan vejret påvirker humøret, samt evt. om man er træt (eller overtræt) eller fuldstændig frisk, så man kan tåle mere.

Det er en død sild.

Og iøvrigt også netop derfor, at automatiske blokeringsalgoritmer baseret på illegal hate speech, som er betegnelsen for EU Kalifatets Blasfemiparagraf - heller aldrig vil virke.

Tværtimod, så vil det her betyde, at ytringsfriheden forringes.

Jeg vil anbefale dem, som tror på den her dødsejler, at de liiiige overvejer Hitchens ord: Freedom of speech MUST include the license to insult.

Det samme som iøvrigt Milo Yanolopous er inde på gang på gang.

Hvis man aldrig bliver udfordret, aldrig bliver irriteret eller sur over andres meninger, så får man heller ikke ændret sine egne meninger. Som jo altså godt KAN være forkerte.

Jeg troede faktisk, at med afvikling af doktrin-normen som vi har fra religion, så ville folk også indse hurtigere netop dette- at man SKAL have sine meninger udfordret en gang imellem, ellers lærer man aldrig noget somhelst.

Men næh-nej... Hvor én slags religion dør, vokser hurtigt en anden en frem. I øjeblikket hedder den religion så political correctness. Nok det værste mest totalitære tankegang nogensinde. Slår ganske pænt al religion.

  • 0
  • 0
Rune Jensen

Du mener sådan som det fiungerer allerede på youtube.

Og endnu værre på Twitter. Hvor nogle mennesker med høj victim status (feminister) kan kanøfle andre med lav victim status (selvfølgelig kristne og hvide hetero seksuelle mænd) og uden at dem med _lav victim status kan slå igen - for hvis de gør bliver de banned for life. Mens det er helt fint, hvis det går den anden vej.

Jeg er ikke på hverken facebook eller twitter netop også af de grunde. Banningen dér er fuldstændig og aldeles tilfældig. Jeg vil have fuld ytringsfrihed, men så er jeg til gengæld heller ikke bleg for at sætte mit eget navn under min mening.

I princippet burde man droppe alt hvad der hedder centralt styrede sociale medier. I stedet burde man have sit eget domæne med samme mulighed for at kommunikere fra som på de sociale medier, MEN hvor ens egene ytringer så er hosted hos en selv.

Så kan man blive stillet til ansvar for sine ytringer overfor domstolene i stedet for amatørautomatiske blokeringsrutiner hos et firma i USA baseret på elastikcensurlove lagt ned over fra EU.

Hvis jeg bliver blokeret for mine ytringer, så vil jeg gerne vide hvorfor. Det får jeg ikke at vide noget som helst socialt medie (med mindre det er copyright-brud). Det betyder, jeg ikke kan forsvare mine ytringer. De bliver bare banned uden videre. Derfor er eneste løsning at man vender tilbage til de decentralt hostede ytringer.

Fortroppen til det er blogsne. Man skal bare på en eller anden måde få de samme funktioner lagt ned over, som på de sociale medier. Jeg vil ikke have nogetsomhelst centralt organ til at censurere mine meninger.

  • 0
  • 0
Rune Jensen

Og lige en sidste.

Det er bekymrende, at 99% af al kommunikation i dag foregår via et centralt styret privat ejet organ.

Disse behøver netop ikke følge konstitutionsgivne rettigheder som Freedom of Expression. De er private foretagender, og det er derfor helt op til dem (og EU), hvornår de vil blokere for ytringer og hvilke.

Når folk selv i DK bliver blokeret på facebook for latterlige ting, som vi tager for givet vi kan ytre os om her, så viser det, at ytringsfriheden er under ganske hårdt pres. Og også riskerer at bukke under.

Jeg ønsker ikke et Orwellsk samfund, som EU gerne vil have.

  • 0
  • 0
Log ind eller Opret konto for at kommentere