Deepfakes forventes at blive næste trin i »informationskrig«

Illustration: Jakob Møllerhøj
Amerikanske politikere frygter at videomanipulation, i form af såkaldte Deefakes, vil blive anvendt til at sprede misinformation på sociale medier. Derfor fremsætter kongressen nu et lovforslag for at kriminalisere skadelige deepfakes.

Et lovforslag mod computermanipuleret video, såkaldte deepfakes, fremsættes nu i USA's kongres. Deepfakes går dermed fra at være et redskab brugt til at lave pornofilm, til at man nu frygter, at det vil blive endnu et våben i misinformation op til et fremtidigt præsidentvalg. Det skriver Berlingske .

»I takt med at deepfake-teknologien bliver mere avanceret og mere tilgængelig, kan den udgøre en trussel mod USAs offentlige orden og nationale sikkerhed og få store konsekvenser for offensive kampagner rettet mod USA,« skrev lovgivere ifølge CNN

I slutningen af sidste år, fremlagde den republikanske senator, Ben Sasse, et lovforslag for at kriminalisere ondsindet skabelse og udbredelse af deepfake, det blev midlertidigt forsinket af en nedluknking af den offentlige sektor, fremsættes nu igen. Den republikanske senator, Marco Rubio, sagde under en senatshøring sidste år, at han tror på, at deepfake vil blive brugt i den »næste bølge af angreb mod USA og andre vestlige demokratier«

Også Adam Schiff, der er demokrat og har formandsposten i efterretningsudvalget i Repræsentanternes Hus, har udtrykt bekymring over deepfake-teknologien. Han har tidligere ytret at teknologien »snart kan bruges af ondsindede udenlandske aktører«, samt at »Deepfakes – videoer af ting, som aldrig blev optaget og aldrig sagt – kan nu skræddersyes til at splitte amerikanerne og kaste benzin på bålet i stort set enhver kulturkrig,«

Læs også: Forskere advarer mod AI-baserede videoer: Kan misbruges til påvirkning af valg

Fra porno til propaganda

»Deepfakes« teknologien er en kombination af film og Deep Learning, hvor man med skræddersyet maskinlæring manipulerer eksisterende billedmateriale ved at kombinere det med et falsk billedlag.

Teknologien gør det muligt, relativt hurtigt og nemt, at klippe eksempelvis et vellignende, computergenereret ansigt ovenpå videomateriale af en krop. Det blev oprindeligt udviklet til at sætte berømte skuespillerinders ansigt på pornografisk materiale – men teknologien er også anvendelig på andre emner, eksempelvis på fuldt påklædte politikere.

Teknologien er endnu ikke overbevisende i billedmateriale af høj opløsning, men da en del videomateriale deles over sociale medier i lav opløsning, frygtes det, at man vil kunne bruge teknologien til at producere og sprede videomateriale som kan påvirke den offentlige debat. Eksempelvis demonstrerede BuzzFeed, at man kan immitere en politiker ganske overbevisende.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (3)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Simon Mikkelsen

Det eneste effektive våben i kamp mod misinformation (aka fake news) er en velinformeret befolkning. Man skal være klar over, at lige så vel som de etablerede medier af og til løber med en halv vind, kan ting der står online, billeder og selv video nemt manipuleres. Det starter allerede ved forældrene, men i særdeleshed i skolen. Det er rigtig nemt at publisere materiale til mange mennesker, uden at man kan se afsenderen, og vi er højest 100 ms væk fra det værste skurke på Jorden.

Log ind eller Opret konto for at kommentere