Rapport: Bing viser børneporno og foreslår relaterede søgninger
Det kræver ikke mere end et par sekunder at finde børneporno på Microsofts søgemaskine, Bing. Med sikker søgning slået fra finder Bing det ulovlige materiale og foreslår andre søgninger med samme tema.
Det fremgår af en rapport udformet af onlinesikkerhedsvirksomheden AntiToxin for TechCrunch.
Ifølge rapporten får man intet ulovligt materiale, hvis man foretager de samme søgninger hos konkurrenten Google.
Uacceptabelt
»Disse resultater er klart uacceptable ifølge vores standarder og retningslinjer, og vi sætter pris på, at TechCrunch har gjort os opmærksomme på dem. Vi har med det samme fjernet resultaterne, men vi vil også forhindre lignende overtrædelser i fremtiden. Vi er fokuserede på at lære af situationen, så vi kan lave de fornødne forbedringer,« sagde Microsofts vicepræsident for Bing og AI-produkter, Jordi Ribas til TechCrunch.
Microsoft har siden 2009 udviklet antibørneporno-systemet PhotoDNA, men det har tilsyneladende ikke været tilstrækkeligt til at sikre Bing.
PhotoDNA fungerer som en database af hashes af kendt børneporno, som organisationer og forretninger kan kontrollere billeder imod uden at gemme det faktiske ulovlige materiale.
Vil ikke love menneskelig kontrol
Microsoft ville ikke udtale sig til TechCrunch om, hvor mange menneskelige moderatorer der arbejder på Bing, og ville ikke udtale sig om, hvorvidt virksomheden planlægger at ansætte flere moderatorer i fremtiden.
Diskussionen om menneskelige moderatorer er en genganger hos de store it-kæmper, som historisk har foretrukket at håndtere indhold ved hjælp af algoritmer frem for at ansætte mennesker. Efter det amerikanske præsidentvalg i 2016 og stor kritik af udbredelsen af fake news skruede Facebook voldsomt op for antallet af menneskelige moderatorer på platformen.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
