For at komme kriminalitet, der har at gøre med misbrug af børn, til livs, vil EU-Kommissionen gøre brug af AI-værktøjer, der automatisk kan gennemtrawle beskeder for børnepornografisk indhold, før de afsendes, obligatorisk for digitale kommunikationstjenester som Telegram og WhatsApp.
Det fremgår i et lovforslag fra den 11. maj, der bygger videre på en EU-lov fra 2021, der gav kommunikationstjenesterne frivillig mulighed for at anvende screeningsværktøjerne.
Kommissionen anbefaler client-side screening
Ifølge konsekvensanalysen, Kommissionen har lavet forud for lovforslaget, har de frivillige foranstaltninger til bekæmpelse af seksuelt misbrug af børn online dog vist sig at være utilstrækkelige.
Flere medlemsstater har derfor lavet deres egne regler på området, hvilket komplicerer arbejdet i at bekæmpe misbrug af børn. Kommissionen argumenterer for, at lovforslaget vil ensrette og effektivisere en fælles-europæisk indsats mod deling af børnepornografi.
Derfor anbefaler Kommissionen nu, at alle udbydere af kommunikationstjenesterne på EU’s indre, digitale marked skal foretage en såkaldt ‘client-side screening’ af beskederne, før de afsendes.
Ved at scanne meddelelsens indhold og sammenholde det med en database med børneporno, ville udbyderne kunne forhindre delingen af indholdet og indsende informationer om delingen med EU-myndigheder og/eller efterforskningsenheder i medlemslandene.
Angreb på ret til privat kommunikation
Men i et brev til Kommissionen retter 99 forskellige organisationer (blandt andre europas største forening af journalister) hård kritik af lovforslaget.
Kritikken af lovforslaget tager udgangspunkt i, at en så omfattende masseovervågning vil gøre det umuligt for EU-borgere at have privat og sikker kommunikation online, fordi stater og virksomheder ville kunne overvåge beskeder, der ellers skulle have været krypterede.
Da Apple annoncerede, at de ville begynde at anvende clientside screenings i iMessage sidste år, blev udmeldingen også mødt af hård kritik.
Eva Galperin, der er direktør for cybersikkerhed i privatlivsorganisationen Electronic Frotnier Foundation (EFF), skrev dengang på Twitter, at »det er umuligt at opbygge et scanningsystem på klientsiden, som kun kan bruges til seksuelt eksplicitte billeder, der sendes eller modtages af børn.«
Ifølge de organisationer, der har underskrevet brevet, vil det netop gøre det mere sandsynligt, at andre aktører end udbyderne af kommunikationstjenesten også ville kunne tilgå brugernes private kommunikation - en påstand EFF fortsat bakker op.
I brevet understreges desuden, at kommissionen anbefaling af clientside screening vil gøre det umuligt for kommunikationstjenesten at udføre en egentlig end-to-end-kryptering, selvom screeningen foregår før afsendelse.
»Det ville være et angreb på vores ret til privat kommunikation uden fortilfælde,« skriver organisationer i brevet.
Ville overvågningen være i strid med dansk lov?
I et nyhedsbrev fra onlinemediet Panoptikon udtaler professor ved Juridisk Institut på Syddansk Universitet Sten Schaumburg-Müller, der blandt andet forsker i ytringsfrihed, at forslaget fra kommissionen er »et udtryk for et klassisk sammenstød mellem rettigheder«.
I nyhedsbrevet henviser han til Grundlovens paragraf 77, der lyder: »censur og andre forebyggende forholdsregler kan ingensinde på ny indføres«.
Ifølge Sten Schaumburg-Müller må »scanning for børneporno siges at være en forebyggende forholdsregel«, men på samme tid udtaler han, at hensynet til efterforskning af kriminalitet begået på bekostning af børn »vejer tungt«.
»Der er en dataminimeringsbestemmelse i GDPR, der kort sagt betyder, at det er fint at samle data ind med et specifikt, anerkendelsesværdigt formål for øje, men at man ikke skal høste alt muligt andet data. Det skal også tænkes ind her,« udtaler han til Panoptikon.
Adgang til kommunikation er vigtig brik i efterforskning
Et af de argumenter, både EU Kommissionen og den amerikanske organisation National Center for Missing & Exploited Children (NCMEC) fremhæver som modvægt til lovforslagets brud med ret til privat og anonym kommunikation er, at bevismateriale fra kommunikationstjenester udgør en anseelig brik i efterforskningsarbejde i forhold til netop børnepornosager.
I en artikel fra sidste år beskriver en journalist på Wired, hvor vigtigt samarbejdet mellem britiske efterforskningsmyndigheder og Facebook var for opklaringen af en sag, der endte med at fælde en serie-pædofil, der havde misbrugt og afpresset børn online i mindst fem år.
Efterforskningslederen udtaler til Wired, at bevismaterialet fra blandt andet Facebook var afgørende for opklaringen af sagen.
I artiklen står der videre, at Facebook stod for 20,3 ud af de 21,4 millioner indrapporteringer om misbrug af børn, NCMEC modtog i 2020. NCMEC vurderer, at end-to-end-kryptering på Messenger vil halvere antallet af indrapporteringer, og Meta har også selv kommenteret, at end-to-end-kryptering vil gøre det sværere for virksomheden at opspore materiale, der kan bruges i efterforskningsarbejdet.
Lovforslaget bliver fremlagt for Europa-Parlamentet, der skal afgøre, om forslaget skal gennemføres, til september.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
