EU-lovforslag vil gøre screening af beskeder for børnepornografi obligatorisk

Det er som sædvanlig et lovforslag stillet af personer som enten ved for lidt om hvordan tingene virker, eller simpelthen er dumme som vådt bølgepap eller begge dele.

Hvordan skulle en AI overhovedet kunne skelne mellem et barn og en voksen? Det er lige alt dét at et menneske kan. Bevares, der kan da frasorteres på helt små børn, men hvordan med et 'barn' på 17 og en 'voksen' på 18??

Og så med hensyn til overvågning generelt: Jeg har selv engang været med i gruppen af "Hvis du ikke har noget at skjule, etc.", men har for mange år siden erkendt at det ikke er så simpelt.

Udviklingen i USA lige nu cementerer det problem som overvågnings-alarmisterne hele tiden har fremført: Det er muligt vi kan stole på den regering vi har lige nu, men det er på ingen måde sikkert at vi kan stole på den vi får senere.

Tåbeligt. Som om gerningsmænd så ikke bare finder andre måder at agere på...

Og derudover, så synes jeg vi er tilbage til argumenterne omkring telelogning... jeg er da ligeglad om de data og de metoder så er de mest effektive i verdenshistorien, og der bliver opklaret rekordmange sager inden for terror og børneporno... Jeg kunne ikke være mere ligeglad! Den slags argument med at resultaterne helliger ulovlige politimidler og -metoder er fuldstændig ugyldigt ift. debatten det krænker privatlivets fred. Vi snakker ikke etik her, vi snakker lov.

For det handler ikke om terror og børneporno. Det handler om politiet, der ikke kan finde ud af at passe deres arbejde ordentligt, og derfor ønsker at bruge ulovlige og grundrettighedskrænkende metoder til at opklare sager.

(Etik bør ikke indblandes i den her sag udover at sige "børneporno er ikke etisk". Bare for at komme politiets modargumentation a la "X er etisk forkert, derfor krænker vi rettighed Y for at komme X til livs" i møde)

Altså for at gøre det kort: Man vil forbyde end to end kryptering!

hvis man skulle detektere det præcist kræver det et meget ubehageligt læringsdatasæt hvis man vil undgå at billeder af børn der leger i søen udløser røde lamper hos PET.

Det kan tænkes at Politiet har lavet tests med det krimininelle materiale de har tilgængelig, men det vil være at åbne pandoras æske mht læk, deep fakes osv at bruge det til en offentlig tilgængelig service. Modsvaret til det er naturligvis politistat... altså politiet skal køre deres egen algoritme på alles beskeder

Det lyder som om det bliver svært at implementere.

Selv hvis det kun er hashværdier man vil bruge til at tjekke mod en kendt EU database bliver det vidst en ret høj datastrøm.

Hvad sker der så hvis EU serveren går ned eller bliver blokeret i et DOS angreb, bliver alle former for digital skriftlig kommunikation i EU så blokeret?

Hvad sker der hvis det man har tænkt sig at sende får samme hashværdi som et kendt billede? Bliver meddeles blokeret, bliver man flagget eller anmeldes man til politiet så automatisk?

Kan malware spoofe hash værdien så et potentielt offer kommer i fedtefadet?

Hvis man tænker det skal være en form for deep learning kan den jo også tage fejl.

Hvor mange af disse politikere bruger børneporno ? Eneste grund til at gøre dette ville være for at flytte børneporno til et medie hvor vi ikke har mulighed for at følge det og slå ned på eventuelle krænkere ? Synes der er rigtig meget moderne lovgivning der kun facilitere undertrykkelse og ikke langsigtet konsekvens vurdering.

Hmm.. Samme kommission som står bag GDPR?

Vil de virkelig også prøve at pille ved fundamentet for demokratiet, borgerne privatliv fra hinanden. Så oven i købet med så lumsk et argument.

Hvis det (hypotetisk set), for argumentets skyld, handlede om børns sikkerhed. Så er det jo ret væsentligt at få afgjort om det, at nogen er besiddelse af disse "kendte" billeder fra en eksisterende database, er med til at øge sandsynligheden for overgreb fra disse mennesker (med denne seksualitet, hvor problematisk, ubehagelig og usmagelig den end måtte være). Sat lidt på spidsen er det vel forbrydelsen man bør undgå og forfølge og ikke nødvendgivis "lysten", juridisk set. (af frygt for at blive misforstået her, så prøver jeg ikke på nogen måde at legitimere at nogen har disse tilbøjeligheder, blot konstaterer at disse eksistere)

Med ovenstående i minde, virker det lidt difust hvad de egentligt forventer. Det bliver så blandet sammen med et eksempel fra England hvor FB hjalp med en efterforskning, som vel ikke har så meget med client side screening at gøre..

Forslaget svare til at man forbød toiletterdøre i hele EU, da dette ville kunne mindske overgreb. Jeg er oven ikøbet ret sikker på at dette ikke forbryder sig mod grundlovens grundprincipper og det har helt sikker en større effekt.

Jeg er nok bare blevet for gammel her, men det virker som om man altid kan trække en ny kanin op af hatten (terror, overgreb på børn osv.) hver gang man ønsker at indskrænke borgernes frihedsrettigheder og privatliv yderligere.

Målet helliger åbenbart midlet.

Når man ser hvorledes det britiske politi har set igennem fingrene med at etnisike piger, også mindreårige systematisk er blevet udnyttet sexuelt og groomet i mange år af hovedsageligt pakistanske indvandrer så er forslaget hul i hovedet. Udover det selvfølgelig bryder med de mest elementære og grundlæggende menneskerettigheder, nem at kunne kommunikere fortroligt med andre.

Client-side screening opnås vel ved upload på image-serveren.

Hvis det også virker på prækrypterede filer, så ved man om krypteringen (ikke) er "sikker" ellers er det næste vel forbud imod kryptering af den type forbindelser.

Selve screeningen kan måske klares på en SaaS-server med RPC fra image-serveren. Om det så bliver gratis må tiden vise?

Jeg er lettere forvirret.

Kræver det ikke, at formodede overgrebspersoner bruger et sprog, der entydigt kan henføres til overgreb?

Den sag wired henviser til, brugte den allerede det værktøj, der ønskes?

Hvordan får de rette myndigheder adgang, skal de have en retskendelse?

Gælder screeningen så også sms, email, breve, teams, skype, Instagram og telefonsamtaler?

Ellers har de formodede gerningspersonder jo mange andre redskaber til kommunikation.

Det er et lov foreslag, ikke en lov. Så der er et stykke endnu inden det bliver bestemt, ratificeret, og implementeret. Så der er rig mulighed for at politikere og andre interessenter kan modificere foreslaget.

Det er tvivlsomt at det dræber alle startups og innovation. Fra foreslaget:

For at muliggøre innovation og sikre proportionalitet [...] bør udbyderne have en vis fleksibilitet til at udforme og gennemføre foranstaltninger [...] og de måder, hvorpå de pågældende tjenester anvendes.

Fra Version2 artiklen:

Derfor anbefaler Kommissionen nu, at alle udbydere [...] skal foretage en såkaldt ‘client-side screening’

De ord er ikke brugt i foreslaget. Så der må være tale om journalistens vurdering. Jeg kunne godt tænke mig at vide, hvad i teksten der ligger til grund for konklusionen at det må være client-side.

Det dræber da max alle startups og inovation. der er jo ikke nogle små virksomheder der har kapacitet til at implementere sådan et system i en ny løsning

Umiddelbart er det udbyderen af en chat service som straffes for ikke at overholde loven. så måske vi alle skal til at bruge distribueret chat / p2p

Der er heldigvis løsninger på vej:https://github.com/TryQuiet/monorepo

Hvad er så næste skridt , når man opdager, at der er brugere, der krypterer før de sender, så det er krypteret data, der bliver tjekket? Skal der så være overvågning af alle devices, så man ved, at der ikke bliver krypteret ?