Harry Potter-skuespilleren Emma Watson og popstjernen Taylor Swift har i den seneste tid kunne se deres ansigter blive klippet ind i pornografiske videoer på internettet.
Fænonomet er kendt som deepfake og har for alvor taget fart siden december 2017, hvor en bruger på Reddit viste, hvordan han bruger machine learning og neurale netværk til at bytte ansigter på kendte mennesker og pornoskuespillere.
I januar publicerede en anden Reddit-bruger så værktøjet FakeApp, som på en brugervenlig måde gør det muligt at bytte ansigter på mennesker i videoer og gifs.
App'en er i skrivende stund blevet downloadet over 100.000 gange.
Ansigtsbyttet bliver muligt, fordi Reddit-brugerne har brugt en kombination af open source-software, der anvender machine learning, eksempelvis Googles TensorFlow
Nu har Twitter, Pornhub, Gfycat og Discord alle meldt ud, at de fjerner alle former for deepfake-videoer.
Det gør de med henvisning til, at de betragter det som hævnporno, når internetbrugere bruger værktøjet Fakeapp til at klippe billeder af kendte menneskers ansigter ind i pornografiske videoer.
»Vores brugerbetingelser tillader os at fjerne indhold, som vi finder anstødeligt. Vi fjerner aktivt den type indhold,« skriver en talsperson fra Gfycat til The Verge.
Også det store porno-site Pornhub er nu begyndt at fjerne de såkaldte deepfakes.
»Vi accepterer ikke nogen former for indhold, hvor der ikke er givet samtykke på vores side, og vi fjerner denne type indhold, så snart vi bliver opmærksomme på det,« skriver Pornhub til Motherboard.
På Reddit, som fænomenet er vokset ud af, og hvor FakeApp er publiceret, har man ikke forbudt deepfakes, medmindre der er tale om børnepornografi.
Reddit-tråden med deepfakes har over 91.000 følgere, og størstedelen af indlæggene handler om netop pornografi, hvor kendte menneskers ansigter er klippet ind.
At bytte ansigter ud på billeder er ikke nyt. Det sociale medie Snapchat har haft funktionen i flere år, ligesom FaceApp gør dig i stand til at se en yngre eller ældre version af dig selv.
Men med de nye machine learning-værktøjer er kvaliteten forbedret markant.
Hvorfor blande hævnporno ind i det her?
Der er tale om brud på ophavsretten og et værktøj, der spredes med netop det formål (ja, alle billedredigeringsværktøjer kan bryde ophavsretten, men her reklameres der jo specifikt med netop det...medmindre der "disclaimes" ud af den problematik).
Når snapchat har funktionaliteten, skyldes det, at man ved upload giver snapchat (og facebook/google/alle, deres betingelser siger det samme) lov til at redigere i ens "værk", hvorfor der via "indbyggede" værktøjer ikke er samme problem.
Men tilbage til porno (film generelt) refresh'en trenden; det er altså helt almindeligt brud på ophavsretten og skal bekæmpes/dæmmes op for, på præcis samme måde som man gør med Hollywood film osv. (når de krænkende værker uploades til sociale medier).
og samme teknologi kan bruges til at lave film med afdøde skuespillere. derudover kan man også få en eller anden til at sige ting de aldrig har sagt. den teknologi kommer til at give en masse problemer hvis der ikke kommer styr på det meget hurtigt.
Det må vi på en måde håbe på at der ikke kommer.
Den positive side af "problemet" er at den sociale kontrol man p.t opbygger via masseovervågning, "slut-shaming", hävnporno, facebook/linked-in -profilering og alt muligt andet "digitalt", bliver helt värdilöst når alle og enhver har "väret med" i mindst 50 Sengekants-film og på en anden film sniffer et kilo kokain - i hvert fald fölge Google video search.
Hvis man ikke kan bruge en Google sögning til noget som helst fornuftigt så forsvinder Googles dominans. Heller ikke dårligt.
Pandoras æske er åben, og den udvikling ville være kommet på et eller andet tidspunkt og fra en eller anden side.
Det vil være ligeså svært at prøve at stoppe det, som at øse vand med en si.
Og at tro det kan forbydes er naivt, for det er jo "bare" billedbehandlingsprogrammer, så skal alt der kan redigere billeder og film forbydes?
Dog kan man sige, som med æsken, at håbet der bliver tilbage er, som Frithiof også er inde på, at stort set alt cyberindhold bliver udvandet eller ikke til at stole på i så høj en grad at al overvågning og snagen falder til jorden, så det eneste der igen bliver validt er den fysiske relation mellem levende mennesker.
Det kommer der aldrig styr på, for når først en teknologi er sluppet løs, så forsvinder den aldrig igen.