Google laver AI-værktøj i kampen mod børneporno

Illustration: Bigstock
Systemet hjælper moderatorer med at spore nyt krænkende indhold.

I kampen mod børneporno på nettet udgiver Google nu et gratis værktøj, der kan hjælpe med at identificere denne type indhold.

Det skriver The Verge.

De fleste redskaber, som man bruger i dag i kampen mod CSAM-indhold (child sexual abuse material), fungerer ved at dobbelttjekke billeder og videoer, der tidligere er blevet markeret som stødende indhold. Dette kaldes for crawler-software, og det er effektivt til at stoppe brugere i at dele krænkende indhold, der før er blevet identificeret som CSAM.

Udfordringen ligger i at få softwaren til at fange indhold, der ikke allerede er blevet markeret som ulovligt. For at opdage nyt indhold er ansatte moderatorer nødt til at kigge indholdet gennem selv.

Ved hjælp af kunstig intelligens skal Googles nye værktøj assistere moderatoreren med at opspore nye typer krænkende indhold. Modetaroren får her »fremhævet det indhold, der med stor sandsynlighed falder i kategorien CSAM-indhold,« skriver Google i deres pressemeddelelse.

Det nye værktøj har vist sig at være effektivt ved Googles tests. Her har moderatorer opdaget og reageret på 700 procent mere indhold om børneporno, end det var muligt at gøre uden værktøjet.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (0)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Log ind eller Opret konto for at kommentere