Rapport: Bing viser børneporno og foreslår relaterede søgninger

Illustration: Screendump/Bing
Hvis man søger på Bing med 'safe search' slået fra, er det ganske let at finde børneporno, og Bing foreslår sågar relaterede søgninger, som finder lignende materiale, viser en rapport lavet for TechCrunch.

Det kræver ikke mere end et par sekunder at finde børneporno på Microsofts søgemaskine, Bing. Med sikker søgning slået fra finder Bing det ulovlige materiale og foreslår andre søgninger med samme tema.

Det fremgår af en rapport udformet af onlinesikkerhedsvirksomheden AntiToxin for TechCrunch.

Ifølge rapporten får man intet ulovligt materiale, hvis man foretager de samme søgninger hos konkurrenten Google.

Læs også: Medie: Facebooks moderatorer holder videoer af børnemisbrug online

Uacceptabelt

»Disse resultater er klart uacceptable ifølge vores standarder og retningslinjer, og vi sætter pris på, at TechCrunch har gjort os opmærksomme på dem. Vi har med det samme fjernet resultaterne, men vi vil også forhindre lignende overtrædelser i fremtiden. Vi er fokuserede på at lære af situationen, så vi kan lave de fornødne forbedringer,« sagde Microsofts vicepræsident for Bing og AI-produkter, Jordi Ribas til TechCrunch.

Microsoft har siden 2009 udviklet antibørneporno-systemet PhotoDNA, men det har tilsyneladende ikke været tilstrækkeligt til at sikre Bing.

PhotoDNA fungerer som en database af hashes af kendt børneporno, som organisationer og forretninger kan kontrollere billeder imod uden at gemme det faktiske ulovlige materiale.

Vil ikke love menneskelig kontrol

Microsoft ville ikke udtale sig til TechCrunch om, hvor mange menneskelige moderatorer der arbejder på Bing, og ville ikke udtale sig om, hvorvidt virksomheden planlægger at ansætte flere moderatorer i fremtiden.

Diskussionen om menneskelige moderatorer er en genganger hos de store it-kæmper, som historisk har foretrukket at håndtere indhold ved hjælp af algoritmer frem for at ansætte mennesker. Efter det amerikanske præsidentvalg i 2016 og stor kritik af udbredelsen af fake news skruede Facebook voldsomt op for antallet af menneskelige moderatorer på platformen.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (0)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Log ind eller Opret konto for at kommentere