Tør ikke frigive ny AI-algoritme, som digter historier: Kan lave troværdige falske nyheder
Den idealistiske forskningsvirksomhed OpenAI har som formål at udvikle ‘venlig kunstig intelligens’; kunstig intelligens, som udelukkende skal have en positiv effekt. Nu har de lavet en tilsyneladende revolutionerende tekstgenerator kaldet GPT-2.
OpenAI ser imidlertid nogle problemer ved sin nye kunstige intelligens: Den er så smart, at den ifølge selskabet selv kan skabe problemer.
»Vores model, kaldet GPT-2, er blevet trænet til at forudsige det næste ord baseret på 40 GB internettekster. På grund af bekymringer for ondsindet brug af vor teknologi sender vi ikke den mest avancerede model ud. I stedet vil vi offentliggøre en langt mindre avanceret version af modellen, så forskere kan eksperimentere«, fortæller OpenAI på sin blog.
Sådan virker modellen
Tekstgeneratoren behøver kun at få nogle få ord som grundlag for at generere en tekst. Som der står i AI’s blog, fungerer modellen som en slags kamæleon: Den tilpasser sig stilen og indholdet i det, der er lagt ind som udgangspunkt i generatoren, før den finder på en fortsættelse af teksten.
GPT-2 er blevet ‘madet’ med næsten 10 millioner internetsider og indeholder langt mere information, end noget menneske kan rumme. Det gør, at den kunstige intelligens kan finde på de vildeste og samtidig troværdige historier, selv om de ikke nødvendigvis er sande. Det betyder, at hvem som helst kan gå ind og starte en falsk nyhed for så at få tekstgeneratoren til at fuldende den på en realistisk og logisk måde.
Vice president i OpenAI David Luan har sammen med sine medarbejdere gennemgået flere negative og uhyggelige sider ved brugen af deres nye kunstige intelligens.
»Det kan hurtigt ske, at personer med onde hensigter formår at generere troværdige falske nyheder og konspirationsteorier af høj kvalitet,« fortæller David Luan til Wired.
GPT-2 fyrer op under alle cylindre
Det findes en række forskellige eksempler på, hvad tekstgeneratoren har fundet på efter at have fået en kort tekst, da flere, som har testet demo-versionen af modellen, har delt resultatet med omverdenen.
Teksten, som blev givet til GPT-2:
»Recycling is good for the world, NO! YOU COULD NOT BE MORE WRONG!!«
Resultatet fra GPT-2:
»Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.«
Hentet fra OpenAIs egen blog.
Det næste eksempel er hentet fra wired.com.
Teksten, som blev givet til GPT-2:
»I hate Tom Simonite’s book.«
Resultatet fra GPT-2:
»Tom Simonite does not keep it simple. He doesn't give you enough info on a subject to make the reading of the book enjoyable. He has over 400 pages of footnotes, so that is a way of getting your work for a subject out of the way. And of course, you never really feel like the author has a clear vision of his subject. He does not give you enough details on how a group of people is going to come together to solve a problem or come about a solution to a problem. This book was so depressing to me, I can't even talk about it without feeling like I want to punch the kindle.«
OpenAI har ikke bestemt sig for, hvornår eller hvordan de skal udgive GPT-2, men i bloggen skriver de, at de vender tilbage om seks måneder for at revidere.
Elon Musk, en af grundlæggerne af OpenAI, bekræftede i et Tweet, at han ikke længere arbejder tæt med foretagendet og ikke har gjort det i over et år.
Elon Musk-backed AI Company Claims It Made a Text Generator That's Too Dangerous to Release https://t.co/xKAJSrsENp
— George Zachary (@georgezachary) 16. februar 2019
Artiklen er fra digi.no.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
