EU-lovforslag vil gøre screening af beskeder for børnepornografi obligatorisk

19 kommentarer.  Hop til debatten
Overvågning
EU Kommissionen foreslår at gøre overvågning af beskeder sendt via online kommunikationstjenester obligatorisk i EU-landene. Lovforslaget skal behandles til september. Illustration: ninescene/Bigstock.
Kommissionen foreslår, at alle udbydere af digitale kommunikationstjenester skal screene beskeder for indhold, der viser seksuelt misbrug af børn, før de afsendes.
21. juli kl. 02:53

For at komme kriminalitet, der har at gøre med misbrug af børn, til livs, vil EU-Kommissionen gøre brug af AI-værktøjer, der automatisk kan gennemtrawle beskeder for børnepornografisk indhold, før de afsendes, obligatorisk for digitale kommunikationstjenester som Telegram og WhatsApp. 

Det fremgår i et lovforslag fra den 11. maj, der bygger videre på en EU-lov fra 2021, der gav kommunikationstjenesterne frivillig mulighed for at anvende screeningsværktøjerne. 

Kommissionen anbefaler client-side screening

Ifølge konsekvensanalysen, Kommissionen har lavet forud for lovforslaget, har de frivillige foranstaltninger til bekæmpelse af seksuelt misbrug af børn online dog vist sig at være utilstrækkelige. 

Artiklen fortsætter efter annoncen

Flere medlemsstater har derfor lavet deres egne regler på området, hvilket komplicerer arbejdet i at bekæmpe misbrug af børn. Kommissionen argumenterer for, at lovforslaget vil ensrette og effektivisere en fælles-europæisk indsats mod deling af børnepornografi. 

Derfor anbefaler Kommissionen nu, at alle udbydere af kommunikationstjenesterne på EU’s indre, digitale marked skal foretage en såkaldt ‘client-side screening’ af beskederne, før de afsendes. 

Ved at scanne meddelelsens indhold og sammenholde det med en database med børneporno, ville udbyderne kunne forhindre delingen af indholdet og indsende informationer om delingen med EU-myndigheder og/eller efterforskningsenheder i medlemslandene. 

Angreb på ret til privat kommunikation

Men i et brev til Kommissionen retter 99 forskellige organisationer (blandt andre europas største forening af journalister) hård kritik af lovforslaget. 

Kritikken af lovforslaget tager udgangspunkt i, at en så omfattende masseovervågning vil gøre det umuligt for EU-borgere at have privat og sikker kommunikation online, fordi stater og virksomheder ville kunne overvåge beskeder, der ellers skulle have været krypterede. 

Da Apple annoncerede, at de ville begynde at anvende clientside screenings i iMessage sidste år, blev udmeldingen også mødt af hård kritik

Eva Galperin, der er direktør for cybersikkerhed i privatlivsorganisationen Electronic Frotnier Foundation (EFF), skrev dengang på Twitter, at »det er umuligt at opbygge et scanningsystem på klientsiden, som kun kan bruges til seksuelt eksplicitte billeder, der sendes eller modtages af børn.« 

Ifølge de organisationer, der har underskrevet brevet, vil det netop gøre det mere sandsynligt, at andre aktører end udbyderne af kommunikationstjenesten også ville kunne tilgå brugernes private kommunikation - en påstand EFF fortsat bakker op

I brevet understreges desuden, at kommissionen anbefaling af clientside screening vil gøre det umuligt for kommunikationstjenesten at udføre en egentlig end-to-end-kryptering, selvom screeningen foregår før afsendelse. 

»Det ville være et angreb på vores ret til privat kommunikation uden fortilfælde,« skriver organisationer i brevet. 

Ville overvågningen være i strid med dansk lov?

et nyhedsbrev fra onlinemediet Panoptikon udtaler professor ved Juridisk Institut på Syddansk Universitet Sten Schaumburg-Müller, der blandt andet forsker i ytringsfrihed, at forslaget fra kommissionen er »et udtryk for et klassisk sammenstød mellem rettigheder«. 

I nyhedsbrevet henviser han til Grundlovens paragraf 77, der lyder: »censur og andre forebyggende forholdsregler kan ingensinde på ny indføres«. 

Ifølge Sten Schaumburg-Müller må »scanning for børneporno siges at være en forebyggende forholdsregel«, men på samme tid udtaler han, at hensynet til efterforskning af kriminalitet begået på bekostning af børn »vejer tungt«. 

»Der er en dataminimeringsbestemmelse i GDPR, der kort sagt betyder, at det er fint at samle data ind med et specifikt, anerkendelsesværdigt formål for øje, men at man ikke skal høste alt muligt andet data. Det skal også tænkes ind her,« udtaler han til Panoptikon. 

Adgang til kommunikation er vigtig brik i efterforskning

Et af de argumenter, både EU Kommissionen og den amerikanske organisation National Center for Missing & Exploited Children (NCMEC) fremhæver som modvægt til lovforslagets brud med ret til privat og anonym kommunikation er, at bevismateriale fra kommunikationstjenester udgør en anseelig brik i efterforskningsarbejde i forhold til netop børnepornosager. 

en artikel fra sidste år beskriver en journalist på Wired, hvor vigtigt samarbejdet mellem britiske efterforskningsmyndigheder og Facebook var for opklaringen af en sag, der endte med at fælde en serie-pædofil, der havde misbrugt og afpresset børn online i mindst fem år. 

Efterforskningslederen udtaler til Wired, at bevismaterialet fra blandt andet Facebook var afgørende for opklaringen af sagen. 

I artiklen står der videre, at Facebook stod for 20,3 ud af de 21,4 millioner indrapporteringer om misbrug af børn, NCMEC modtog i 2020. NCMEC vurderer, at end-to-end-kryptering på Messenger vil halvere antallet af indrapporteringer, og Meta har også selv kommenteret, at end-to-end-kryptering vil gøre det sværere for virksomheden at opspore materiale, der kan bruges i efterforskningsarbejdet. 

Lovforslaget bliver fremlagt for Europa-Parlamentet, der skal afgøre, om forslaget skal gennemføres, til september. 


 

19 kommentarer.  Hop til debatten
Debatten
Log ind for at deltage i debatten.
settingsDebatindstillinger
18
26. juli kl. 07:10

Det er som sædvanlig et lovforslag stillet af personer som enten ved for lidt om hvordan tingene virker, eller simpelthen er dumme som vådt bølgepap eller begge dele.

Hvordan skulle en AI overhovedet kunne skelne mellem et barn og en voksen? Det er lige alt dét at et menneske kan. Bevares, der kan da frasorteres på helt små børn, men hvordan med et 'barn' på 17 og en 'voksen' på 18??

Og så med hensyn til overvågning generelt: Jeg har selv engang været med i gruppen af "Hvis du ikke har noget at skjule, etc.", men har for mange år siden erkendt at det ikke er så simpelt.

Udviklingen i USA lige nu cementerer det problem som overvågnings-alarmisterne hele tiden har fremført: Det er muligt vi kan stole på den regering vi har lige nu, men det er på ingen måde sikkert at vi kan stole på den vi får senere.

Tåbeligt. Som om gerningsmænd så ikke bare finder andre måder at agere på...

Og derudover, så synes jeg vi er tilbage til argumenterne omkring telelogning... jeg er da ligeglad om de data og de metoder så er de mest effektive i verdenshistorien, og der bliver opklaret rekordmange sager inden for terror og børneporno... Jeg kunne ikke være mere ligeglad! Den slags argument med at resultaterne helliger ulovlige politimidler og -metoder er fuldstændig ugyldigt ift. debatten det krænker privatlivets fred. Vi snakker ikke etik her, vi snakker lov.

For det handler ikke om terror og børneporno. Det handler om politiet, der ikke kan finde ud af at passe deres arbejde ordentligt, og derfor ønsker at bruge ulovlige og grundrettighedskrænkende metoder til at opklare sager.

(Etik bør ikke indblandes i den her sag udover at sige "børneporno er ikke etisk". Bare for at komme politiets modargumentation a la "X er etisk forkert, derfor krænker vi rettighed Y for at komme X til livs" i møde)

16
23. juli kl. 22:55

Altså for at gøre det kort: Man vil forbyde end to end kryptering!

15
22. juli kl. 20:25

hvis man skulle detektere det præcist kræver det et meget ubehageligt læringsdatasæt hvis man vil undgå at billeder af børn der leger i søen udløser røde lamper hos PET.

Det kan tænkes at Politiet har lavet tests med det krimininelle materiale de har tilgængelig, men det vil være at åbne pandoras æske mht læk, deep fakes osv at bruge det til en offentlig tilgængelig service. Modsvaret til det er naturligvis politistat... altså politiet skal køre deres egen algoritme på alles beskeder

14
22. juli kl. 15:59

Det lyder som om det bliver svært at implementere.

Selv hvis det kun er hashværdier man vil bruge til at tjekke mod en kendt EU database bliver det vidst en ret høj datastrøm.

Hvad sker der så hvis EU serveren går ned eller bliver blokeret i et DOS angreb, bliver alle former for digital skriftlig kommunikation i EU så blokeret?

Hvad sker der hvis det man har tænkt sig at sende får samme hashværdi som et kendt billede? Bliver meddeles blokeret, bliver man flagget eller anmeldes man til politiet så automatisk?

Kan malware spoofe hash værdien så et potentielt offer kommer i fedtefadet?

Hvis man tænker det skal være en form for deep learning kan den jo også tage fejl.

13
22. juli kl. 10:49

Hvor mange af disse politikere bruger børneporno ? Eneste grund til at gøre dette ville være for at flytte børneporno til et medie hvor vi ikke har mulighed for at følge det og slå ned på eventuelle krænkere ? Synes der er rigtig meget moderne lovgivning der kun facilitere undertrykkelse og ikke langsigtet konsekvens vurdering.

11
21. juli kl. 22:38

Hmm.. Samme kommission som står bag GDPR?

Vil de virkelig også prøve at pille ved fundamentet for demokratiet, borgerne privatliv fra hinanden. Så oven i købet med så lumsk et argument.

Hvis det (hypotetisk set), for argumentets skyld, handlede om børns sikkerhed. Så er det jo ret væsentligt at få afgjort om det, at nogen er besiddelse af disse "kendte" billeder fra en eksisterende database, er med til at øge sandsynligheden for overgreb fra disse mennesker (med denne seksualitet, hvor problematisk, ubehagelig og usmagelig den end måtte være). Sat lidt på spidsen er det vel forbrydelsen man bør undgå og forfølge og ikke nødvendgivis "lysten", juridisk set. (af frygt for at blive misforstået her, så prøver jeg ikke på nogen måde at legitimere at nogen har disse tilbøjeligheder, blot konstaterer at disse eksistere)

Med ovenstående i minde, virker det lidt difust hvad de egentligt forventer. Det bliver så blandet sammen med et eksempel fra England hvor FB hjalp med en efterforskning, som vel ikke har så meget med client side screening at gøre..

Forslaget svare til at man forbød toiletterdøre i hele EU, da dette ville kunne mindske overgreb. Jeg er oven ikøbet ret sikker på at dette ikke forbryder sig mod grundlovens grundprincipper og det har helt sikker en større effekt.

Jeg er nok bare blevet for gammel her, men det virker som om man altid kan trække en ny kanin op af hatten (terror, overgreb på børn osv.) hver gang man ønsker at indskrænke borgernes frihedsrettigheder og privatliv yderligere.

10
21. juli kl. 21:52

Målet helliger åbenbart midlet.

Når man ser hvorledes det britiske politi har set igennem fingrene med at etnisike piger, også mindreårige systematisk er blevet udnyttet sexuelt og groomet i mange år af hovedsageligt pakistanske indvandrer så er forslaget hul i hovedet. Udover det selvfølgelig bryder med de mest elementære og grundlæggende menneskerettigheder, nem at kunne kommunikere fortroligt med andre.

9
21. juli kl. 17:52

Client-side screening opnås vel ved upload på image-serveren.

Hvis det også virker på prækrypterede filer, så ved man om krypteringen (ikke) er "sikker" ellers er det næste vel forbud imod kryptering af den type forbindelser.

Selve screeningen kan måske klares på en SaaS-server med RPC fra image-serveren. Om det så bliver gratis må tiden vise?

8
21. juli kl. 17:40

Jeg er lettere forvirret.

Kræver det ikke, at formodede overgrebspersoner bruger et sprog, der entydigt kan henføres til overgreb?

Den sag wired henviser til, brugte den allerede det værktøj, der ønskes?

Hvordan får de rette myndigheder adgang, skal de have en retskendelse?

Gælder screeningen så også sms, email, breve, teams, skype, Instagram og telefonsamtaler?

Ellers har de formodede gerningspersonder jo mange andre redskaber til kommunikation.

5
21. juli kl. 12:44

Det er et lov foreslag, ikke en lov. Så der er et stykke endnu inden det bliver bestemt, ratificeret, og implementeret. Så der er rig mulighed for at politikere og andre interessenter kan modificere foreslaget.

Det er tvivlsomt at det dræber alle startups og innovation. Fra foreslaget:

For at muliggøre innovation og sikre proportionalitet [...] bør udbyderne have en vis fleksibilitet til at udforme og gennemføre foranstaltninger [...] og de måder, hvorpå de pågældende tjenester anvendes.

Fra Version2 artiklen:

Derfor anbefaler Kommissionen nu, at alle udbydere [...] skal foretage en såkaldt ‘client-side screening’

De ord er ikke brugt i foreslaget. Så der må være tale om journalistens vurdering. Jeg kunne godt tænke mig at vide, hvad i teksten der ligger til grund for konklusionen at det må være client-side.

12
22. juli kl. 07:56

Fedt. Tak. Det vil jeg tage et kig på.

3
21. juli kl. 10:09

Det dræber da max alle startups og inovation. der er jo ikke nogle små virksomheder der har kapacitet til at implementere sådan et system i en ny løsning

2
21. juli kl. 08:00

Umiddelbart er det udbyderen af en chat service som straffes for ikke at overholde loven. så måske vi alle skal til at bruge distribueret chat / p2p

Der er heldigvis løsninger på vej:https://github.com/TryQuiet/monorepo

1
21. juli kl. 07:08

Hvad er så næste skridt , når man opdager, at der er brugere, der krypterer før de sender, så det er krypteret data, der bliver tjekket? Skal der så være overvågning af alle devices, så man ved, at der ikke bliver krypteret ?

4
21. juli kl. 11:52

Der står client-side check, det må vel betyde at beskeden scannes inden den sendes (og evt. krypteres).

19
26. juli kl. 12:33

Hvad så hvis brugeren sender en fil, der er blevet krypteret udenfor chat-programmet? Den eneste løsning på det er konstant at scanne alle filer der bliver tilføjet til telefonens filsystem, så man kan fange filen inden den bliver krypteret.

Brugeren kan så i stedet sende et link til en krypteret fil på en server, og så er vi faktisk ude i, at alle filer der findes på en computer som kan forbindes til internettet skal skannes for børneporno, inden vi er i mål.

1984, here we come!!

7
21. juli kl. 16:52

Det er jo kun et spørgsmål om at bruge et andet program til at lave den kryptering.