Harry Potter-skuespilleren Emma Watson og popstjernen Taylor Swift har i den seneste tid kunne se deres ansigter blive klippet ind i pornografiske videoer på internettet.
Fænonomet er kendt som deepfake og har for alvor taget fart siden december 2017, hvor en bruger på Reddit viste, hvordan han bruger machine learning og neurale netværk til at bytte ansigter på kendte mennesker og pornoskuespillere.
I januar publicerede en anden Reddit-bruger så værktøjet FakeApp, som på en brugervenlig måde gør det muligt at bytte ansigter på mennesker i videoer og gifs.
App'en er i skrivende stund blevet downloadet over 100.000 gange.
Ansigtsbyttet bliver muligt, fordi Reddit-brugerne har brugt en kombination af open source-software, der anvender machine learning, eksempelvis Googles TensorFlow
Nu har Twitter, Pornhub, Gfycat og Discord alle meldt ud, at de fjerner alle former for deepfake-videoer.
Det gør de med henvisning til, at de betragter det som hævnporno, når internetbrugere bruger værktøjet Fakeapp til at klippe billeder af kendte menneskers ansigter ind i pornografiske videoer.
»Vores brugerbetingelser tillader os at fjerne indhold, som vi finder anstødeligt. Vi fjerner aktivt den type indhold,« skriver en talsperson fra Gfycat til The Verge.
Også det store porno-site Pornhub er nu begyndt at fjerne de såkaldte deepfakes.
»Vi accepterer ikke nogen former for indhold, hvor der ikke er givet samtykke på vores side, og vi fjerner denne type indhold, så snart vi bliver opmærksomme på det,« skriver Pornhub til Motherboard.
På Reddit, som fænomenet er vokset ud af, og hvor FakeApp er publiceret, har man ikke forbudt deepfakes, medmindre der er tale om børnepornografi.
Reddit-tråden med deepfakes har over 91.000 følgere, og størstedelen af indlæggene handler om netop pornografi, hvor kendte menneskers ansigter er klippet ind.
At bytte ansigter ud på billeder er ikke nyt. Det sociale medie Snapchat har haft funktionen i flere år, ligesom FaceApp gør dig i stand til at se en yngre eller ældre version af dig selv.
Men med de nye machine learning-værktøjer er kvaliteten forbedret markant.
