Tør ikke frigive ny AI-algoritme, som digter historier: Kan lave troværdige falske nyheder

Illustration: mast3r/Bigstock
OpenAI’s nye kunstige intelligens kan blive misbrugt, fordi den er for smart.

Den idealistiske forskningsvirksomhed OpenAI har som formål at udvikle ‘venlig kunstig intelligens’; kunstig intelligens, som udelukkende skal have en positiv effekt. Nu har de lavet en tilsyneladende revolutionerende tekstgenerator kaldet GPT-2.

OpenAI ser imidlertid nogle problemer ved sin nye kunstige intelligens: Den er så smart, at den ifølge selskabet selv kan skabe problemer.

»Vores model, kaldet GPT-2, er blevet trænet til at forudsige det næste ord baseret på 40 GB internettekster. På grund af bekymringer for ondsindet brug af vor teknologi sender vi ikke den mest avancerede model ud. I stedet vil vi offentliggøre en langt mindre avanceret version af modellen, så forskere kan eksperimentere«, fortæller OpenAI på sin blog.

Sådan virker modellen

Tekstgeneratoren behøver kun at få nogle få ord som grundlag for at generere en tekst. Som der står i AI’s blog, fungerer modellen som en slags kamæleon: Den tilpasser sig stilen og indholdet i det, der er lagt ind som udgangspunkt i generatoren, før den finder på en fortsættelse af teksten.

GPT-2 er blevet ‘madet’ med næsten 10 millioner internetsider og indeholder langt mere information, end noget menneske kan rumme. Det gør, at den kunstige intelligens kan finde på de vildeste og samtidig troværdige historier, selv om de ikke nødvendigvis er sande. Det betyder, at hvem som helst kan gå ind og starte en falsk nyhed for så at få tekstgeneratoren til at fuldende den på en realistisk og logisk måde.

Vice president i OpenAI David Luan har sammen med sine medarbejdere gennemgået flere negative og uhyggelige sider ved brugen af deres nye kunstige intelligens.

»Det kan hurtigt ske, at personer med onde hensigter formår at generere troværdige falske nyheder og konspirationsteorier af høj kvalitet,« fortæller David Luan til Wired.

GPT-2 fyrer op under alle cylindre

Det findes en række forskellige eksempler på, hvad tekstgeneratoren har fundet på efter at have fået en kort tekst, da flere, som har testet demo-versionen af modellen, har delt resultatet med omverdenen.

Teksten, som blev givet til GPT-2:

»Recycling is good for the world, NO! YOU COULD NOT BE MORE WRONG!!«

Resultatet fra GPT-2:

»Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.«

Hentet fra OpenAIs egen blog.

Det næste eksempel er hentet fra wired.com.

Teksten, som blev givet til GPT-2:

»I hate Tom Simonite’s book.«

Resultatet fra GPT-2:

»Tom Simonite does not keep it simple. He doesn't give you enough info on a subject to make the reading of the book enjoyable. He has over 400 pages of footnotes, so that is a way of getting your work for a subject out of the way. And of course, you never really feel like the author has a clear vision of his subject. He does not give you enough details on how a group of people is going to come together to solve a problem or come about a solution to a problem. This book was so depressing to me, I can't even talk about it without feeling like I want to punch the kindle.«

OpenAI har ikke bestemt sig for, hvornår eller hvordan de skal udgive GPT-2, men i bloggen skriver de, at de vender tilbage om seks måneder for at revidere.

Elon Musk, en af grundlæggerne af OpenAI, bekræftede i et Tweet, at han ikke længere arbejder tæt med foretagendet og ikke har gjort det i over et år.

Artiklen er fra digi.no.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (3)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Thomas Ehler

Folk tror jo på alt muligt, bare det står på nettet, eller er påstået i en Youtube video.
"Jorden er flad" eller
Nedenstående side om 5G som jeg er helt pjattet med påstår bla.
"5G nettet skal bla. baseres på 20.000 satelitter der vil sende mm radiobølger direkte til den enkelte telefon..."
(..så de satelitter har en ledning direkte til solen eller?)
og
"hver satelit kommer til at veje ca. 400kg"
(det er altså 4 millioner kg grej der skal løftes i orbit!)
"5G Hjemmeroutere får lov til at sende med op til 300W"
(det er altså lige så meget hele mit hus INCL computere, forbruger om aftenen med lyset tændt)
http://healthimpactnews.com/2019/20000-satellites-for-5g-to-be-launched-...
Heldigvis er det ét langt kreativt digt.

  • 1
  • 0
Tobias Volfing

Jeg kender ikke noget til den side om 5G du refererer, men hvad mener du med

(..så de satelitter har en ledning direkte til solen eller?)

Jeg er muligvis dummere end en dør, men hvorfor skal en satelit have en ledning til solen for at sende radiobølger til en telefon? Og har en satelit ikke de optimale betingelser for en 'trådløs' forbindelse til solen?

Og hvorfor synes du det det er urealistisk at en satelit vejer 400kg?

For at komme tilbage til emnet, så er det da i aller højeste grad relevant, og hvis folk tror på hvad som helst bliver det kun mere relevant.

Det hjælper nok ikke noget på den langebane at tilbageholde denne algoritme, der skal nok komme andre der kan det samme eller værre.

Teknologien er ikke problemet, og vi kan heller ikke løse problemet med teknologi. Problemet er ikke at falske nyheder gøres mere eller mindre troværdige, problemet er at der er et incitament til at producere falske nyheder. Vi har indrettet vores moderne samfund på en sådan måde at der er en gevinst ved at bedrage. Der er i vores moderne samfund altid nogen der har noget at vinde ved at lyve og bedrage andre - vi kan gøre det let eller svært for dem, men det fjerner ikke problemet.

  • 1
  • 0
Log ind eller Opret konto for at kommentere
IT Company Rank
maximize minimize