Kunstig intelligens 'afklæder' danske kvinder til falske nøgenbilleder

Kunstig intelligens kan regne ud, hvordan kvinderne ser ud uden tøj på. Illustration: Jakub Jirsak/Bigstock
Ukendte personer bruger kunstig intelligens til at 'afklæde' kvinder på billeder, hvor de har tøj på. Det er sket for mindst 25 danske kvinder, og ifølge politiet risikerer bagmændene bøde og fængsel.

25 danske kvinder har fået delt falske nøgenbilleder, som er manipuleret med kunstig intelligens, på det sociale medie Reddit.

Det skriver DR.

Flere af kvinderne har delt billeder på Instagram, hvor de har tøj på. Ukendte personer har brugt en bestemt hjemmeside til på 30 sekunder at ‘afklæde kvinderne’ på billederne, da den via kunstig intelligens kan regne ud, hvordan de ser ud uden tøj på. Den falske krop, som computeren genererer, passer til ansigtet på billederne. Tidligere var det mere normalt at manipulere ansigtet til at skabe falske nøgenbilleder, ved at putte en bestemt kvindes ansigt på en allerede nøgen kvindes krop.

Læs også: Sikkerhedsekspert: »Det er frygteligt nemt« at hacke andres sociale medie-konti

Ifølge Flemming Kjærside, kommissær i Rigspolitiets Nationale Cyber Crime Center (NC3), er fænomenet mere og mere almindeligt på internettet:

»Nettet flyder over med kendte mennesker i alle mulige situationer, så det er nemt at finde et billede og sætte det ind i en grafisk kontekst eller generere en nøgen krop,« siger han til DR og uddyber:

»Generelt set på det område, vi kalder ‘digitale sexkrænkelser’, har vi de seneste par år set en ganske eksplosiv stigning.«

Ifølge kommissæren, er det juridisk ligegyldigt om man deler falske eller rigtige nøgenbilleder - politiet vil forfølge sagerne på samme måde. Man kan risikere bøde, fængsel og at skulle betale personlig erstatning til den forurettede.

Læs også: 26-årig sigtet: Stjal intime billeder fra over 500 piger og kvinder

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (12)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#1 Børge Svingalius

Muligheden for at manipulere billeder har eksisteret... siden der kom billeder til. Forskellen, som DR også påpeger, er at det er meget nemt idag at generere 'virkelighedstro' manipulationer, som eksempelvis at afklæde en menneskekrop. At det er nemt betyder selvfølgelig også at flere gør det. Om man synes det er moralsk i den ene eller anden boldgade er en smagssagfor mig at se, det vigtige spørgsmål er hvordan man håndterer det juridisk og lovmæssigt.

Ifølge kommissæren, er det juridisk ligegyldigt om man deler falske eller rigtige nøgenbilleder - politiet vil forfølge sagerne på samme måde. Man kan risikere bøde, fængsel og at skulle betale personlig erstatning til den forurettede.

Det er en definitionsmæssig, moralsk og realitets-filosofisk gråzone og mulig glidebane. Med dette argument kunne jeg 'male' et billede efter hukommelse af en person jeg engang havde set, lave personen nøgen på maleriet, og med dette argument kunne jeg blive straffet for at dele det...? Selvom det hele var fra erfaringen. Og hvad betyder "nøgenbillede" egentlig? Skal hele kroppen være afdækket, noget af den, gennemsigtigt tøj, "suggestive" osv. Hvordan identificerer man personer - er det ansigtet, kroppen, bestemte træk? Hvad hvis jeg skifter hovedet ud, eller fødderne?

Pointen er at det er temmelig individuelt hvad man kan anse som krænkende, og at spille ind på den bane, rent juridisk, er en glidebane hvis ikke man sætter absolutte grænser for loven. Jeg anfægter ikke at nogle mennesker kan føle sig udstillet og manipuleret, og det er skod og urimeligt, men 'ansvaret' hvis man overhovedet kan tale om sådan et er for mig at se langt lang større end ham i indslaget. Det handler om teknologisk mulighed kombineret med en bestemt digital kultur og digital samt traditionel dannelse og respekt (eller mangel på samme).

Som med rigtig mange andre ting i vores samfund, sådan som jeg ser det, er der på kort tid sket en udvikling i forskellen på dannelse/opdragelse/respekt/kærlighed og kontrol/straf/konsekvens/mistro. Med andre ord er tankegodset blevet til damage-control fremfor forebyggelse <- Det er ganske vist lidt off-topic/perifert for lige denne sag, I know, men jeg synes sgu det er ret vigtigt, for det er sørgeligt synes jeg.

  • 16
  • 0
#2 Ditlev Petersen

Med dette argument kunne jeg 'male' et billede efter hukommelse af en person jeg engang havde set, lave personen nøgen på maleriet, og med dette argument kunne jeg blive straffet for at dele det...? Selvom det hele var fra erfaringen.

Man kunne måske også blive straffet for et maleri, der ligner en bestemt person, enten det nu er tilfældigt, eller fordi man engang har set vedkommende, og kun har en svag eller ubevidst erindring om dette.

Altyså da Corel afbillede Hedy Lamarr på deres indpakning, var det åbenbart nemt nok juridisk, men hvordan beviser man, at et billede er "stjålet/misbrugt"? Og at det ikke er det?

Altså de her synth-porneobilleder kan jo rimelig nemt genkendes, da navn, ansigt og baggrund formodentlig er intakt. Men i næste version bliver den slags måske også også "justeret".

  • 5
  • 0
#3 Claus Bobjerg Juul

Ifølge kommissæren, er det juridisk ligegyldigt om man deler falske eller rigtige nøgenbilleder - politiet vil forfølge sagerne på samme måde. Man kan risikere bøde, fængsel og at skulle betale personlig erstatning til den forurettede.

Gad vide om vi får en ny umbrella sag?

Det er en definitionsmæssig, moralsk og realitets-filosofisk gråzone og mulig glidebane. Med dette argument kunne jeg 'male' et billede efter hukommelse af en person jeg engang havde set,....

Jep, korrekt, at fjerne muligheden for at fremstille noget som ikke er sandt, vil for en kunstmaler være det samme som at krænke hans/hendes ytringsfrihed.

  • 5
  • 0
#5 Karsten Bang

Er der overhovedet nogen klar grænse mellem hvornår det er falske billeder, og "blot" noget der ligner vildt godt.

I animationsfilmen Beowulf er der eks. en afklædt Angelina Jolie. Eller dvs. der er en afklædt 3D-animeret figur der ligner Angelina Jolie. Hvornår kan man hævde det blot er en god efterligning, og hvornår er det en kopi der bryder privatlivets fred / copyright osv. (I dette tilfælde har Angelina vist selv været inde over .... men i princippet)

Hvis der bliver solgt en porno-dukke der ligner Mette fra Rødovre (fiktiv person) uhyggeligt meget, har hun så overhovedet nogle retsmæssige muligheder. Det behøver jo ikke nødvendigvis være baseret på et Facebook billede, men kan være lavet af en kunstners fri fantasi (ja måske hans fantasier om Mette)

  • 12
  • 0
#6 Michael Cederberg

... men måske kunne dette høre ind under injurielovgivningen som har en paragraf om ærekrænkelse. Det er som andre har beskrevet håbløst at opfatte dette som digitalesexkrænkelser alt den stund at det ikke er personen der vises på billedet men en computers gæt på samme baseret på viden om alle mulige andre personer end netop den der lægger ansigt til.

Jeg kan til gengæld fint forstå at det ikke er sjovt at blive udsat for. Alas, det bliver noget svært at dæmme op for. Hvis jeg fx. publiserer min AI sådan at folk kan køre algoritmen lokalt på deres computer så er det meget meget svært at se noget ulovligt ved dette. Det er således først når billeder offentliggøres til et større publikum at man reelt kan og bør sætte ind.

  • 8
  • 0
#7 Henrik Eriksen

Jeg husker fra min barndom hvor computerspil og andre programmer ikke var beskyttet af copyright og anden ophavsret. Det stod der simpelthen ikke noget om i loven. Alle spil og programmer kunne frit kopieres og distribueres uden konsekvenser.

Det blev yderligere forstærket af, at producenterne simpelthen ikke forstod, at en menneskets dybeste drømme netop var gjort til virkelighed: At man rent faktisk kunne spise kagen og stadigvæk beholde den.

Det er således ikke første gang, at vi står med en problematik som loven ikke kan/har taget højde for.

Jeg har i mange år tænkt på, at hvad sker der i fremtiden? Og hvordan vil loven håndtere det?

Nu står vi med kunstige nøgenbilleder, som ikke er til at skelne fra ægte. Hvad står vi med næste gang?

Jeg læste engang en sci-fi historie, hvor en videnskabsmand lavede et apparat hvor man kunne se enhver historisk hændelse ethvert sted på planeten: Cæsar i sin stridsvogn, D-dag i Normandiet, Sin datters fødsel otte år tidligere. Begejstret og i strid med loven offentliggjorde han sin opfindelse, så alle kunne bygge et apparat magen til og opleve historiens vingesus. Myndighederne tog fat i ham for at forhindre det, men for sent! Hvad var problemet? Nemlig at 'historien' ikke først begynder for ti eller tyve år siden, men for mindre end ét nanosekund siden! Man kunne med andre ord se alt hvad der sker lige nu! Ingen havde noget privatliv længere, alle kunne se alt hvad man lavede, uanset hvor man var.

Det fik mig til at tænke. Allerede i dag kan man med avanceret maskineri se rundt om hjørner og sågar gennem vægge. Prøv at ekstrapolere disse fremskridt: Scenariet fra den historie kan være tættere på end vi bryder os om.

Hvad vil loven gøre ved det? Hvad vil vi gøre ved det? Hvad kan vi gøre ved det?

Tilbage til nutiden, så tror jeg vi bliver nødt til at trække på skuldrene. Hvis nogen synes det er sjovt at lave et kunstigt nøgenbillede af mig, min kone eller sågar min mindreårige datter, hvordan kan det på nogen måde lade sig gøre at forhindre gennem lovgivning? Jeg siger ikke at vi ikke kan lave love omkring det. Jeg siger bare, at vi ikke kan håndhæve pågældende love.

Jeg forstår fuldt ud hvordan det føles for de få udvalgte at blive eksponeret på denne måde, men inden for nogle årtier bliver det forhåbentlig sådan en slags 'Nå, nu har de også lavet porno med mig i. Gudfader!'

Til gengæld håber jeg ikke det bliver en ny psykologisk målestok for (specielt unge) mennesker. 'Der er ikke nogen som har lavet kunstige nøgenbilleder med mig i endnu. Jeg er sikkert ikke pæn nok...!'

  • 4
  • 0
#9 Henrik Eriksen

Deepfake-videoer begynder jo også at blive mere og mere aktuelt. Det kan misbruges til meget andet og værre end at manipulere med nøgenhed.

Du har fuldstændig ret, og det er langt mere hårrejsende.

Når en eller anden ligeyldig person kan få folk skræmt fra vis og sans omkring f.eks. vaccinationer gennem opslag og youtube-videoer, hvad kan en (fake) udgave af Obama, Bill Gates eller lignende så ikke udrette?

  • 3
  • 0
#10 D- -K

Lovgivningen er let:

Du må kun dele/distribuere nøgenfotos af personer, der har givet dig direkte samtykke hertil eller indeholder en "licens" for de professionelle

Hvis du genererer noget, må du ikke dele, sælge eller fremvise det.

Det næste step i udviklingen er meget værre : Med AI'en tilknyttet AR i en smartphone/cloud-tjeneste til, i realtid, at generere falske live billeder (på gågaden, til håndboldkampen el.lign).

Hvis dét så streames live på FakeBook? Fra et overvågningskamera på strøget? Hvis det generes på en cloud-tjeneste og der er en læk? Hér tror jeg politiets arbejde bliver svært!

  • 1
  • 0
#11 Henrik Eriksen

Lovgivningen er let:

Nej. Lovgivningen er svær!

Hvis jeg genererer nøgenbilleder eller andet upassende materiale på min computer, vel at mærke ud fra min egen fantasi og uden at tage afsæt i en eksisterende persons billeder, kan jeg udmærket risikere at resultatet alligevel ligner en eller anden eksiterende person på planeten.

Og da man normalt tager afsæt i det man kender, så er risikoen for en lighed med personer jeg tidligere har set endnu større.

Nu skal vi til at bevise om jeg gjorde det med vilje eller om jeg var i god tro eller hvad man nu kalder det.

Hvilke rettigheder har jeg, hvis nogen laver noget jeg ikke bryder mig om, men med en mandsperson som ligner mig? Hvordan beviser man overhovedet noget her?

Man kan jo ikke forlange, at kunstnere som tegner eller genererer billeder til reklamer eller mere eller mindre acceptable politiske budskaber, skal rende igennem en liste af snart syv milliarder mennesker for at sikre sig at den figur de protrætterer ikke ligner en eller anden.

  • 3
  • 0
Log ind eller Opret konto for at kommentere