Forskere lukkede fejlkonfigureret chatbot - skabte øjeblikkelig frygt for fjendtlig AI

Adskillige medier har de sidste dage berettet om forskere hos Facebooks paniske deaktivering af chatbots, efter de opfandt deres eget sprog. Grunden skal dog findes i manglende indstilling af rammerne for forsøget.

Facebook-forskere lukkede for uger siden et chatbot-eksperiment, der ikke gav det ønskede resultat. Flere steder på internettet blev det til historien om de paniske Facebook-forskere, som, da de så, hvor frygtelig deres egen kreation var - et 'Oppenheimer øjeblik' - skyndte sig at lukke ned for de to AI'er.

Ren og skær panik og frygt.

De omtalte chatbots havde - i et forsøg på at kommunikere effektivt - opfundet, hvad der med god vilje kan kaldes et nyt sprog.

Og selvom den historie måske falder ind i et ret så populært Terminator-inspireret narrativ om AI's snarlige verdenserobring, var det altså ingenlunde tilfældet. Det skriver adskillige medier, heriblandt Gizmodo.

Glemte at holde det grammatisk

Det var hensigten med eksperimentet, at skabe en AI, som brugere kunne kommunikere med uden at opdage, at de kommunikerer med en AI. En chatbot, som kan lære fra menneskelig interaktion og forhandle med en end-user, uden at vedkommende er klar over, at de forhandler med en robot.

Men da forskerne satte de to AI's til at kommunikere med hinanden, glemte de at sætte robotterne til at holde sig til forståeligt engelsk. Angiveligt derfor krængede sproget hurtigt over i den uforståelige samtale, som i de sidste par dage har floureret på diverse sociale- og asociale medier. Og derfor valgte de at lukke eksperimentet ned.

Så dermed ikke sagt, at robotterne ikke snart vil overtage verdensherredømmet, men de to chatbots (Alice og Bob) er nok ikke der, vi bør kigge hen.

AI-armlægning

Historierne om den løsslupne AI følger i halen på en løbende debat mellem Elon Musk, bag firmaer som Tesla og SpaceX, og Facebook-stifter Mark Zuckerberg.

Sidstnævnte erklærede i sidste uge, at han var optimistisk med hensyn til AI, og kaldte det 'uansvarligt' at påstå, at intelligente robotter potentielt kan lede til dommedag.

Den kommentar faldt Elon Musk, der gentagne gange har advaret mod AI, for brystet. Serieiværksætteren svarede igen på Twitter ved at kalde Zuckerbergs forståelse for emnet 'begrænset'.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk

Følg forløbet

Kommentarer (9)

Kommentarer (9)
Nicolaj Rosing

Med al respekt for en nyere tids største iværksættere - jeg er stor fan af Musk iøvrigt - men i denne sammenhæng holder jeg med Zuckerberg.
Hvordan i alverden skulle vi kunne modellere og programmere begreber som bevidsthed og sjæl når vi stort set ikke aner hvad det består af? Ingen naturlov kan forklare bevidsthed. Vi ved dårligt nok om vi er den eneste art der har en selvopfattelse der er sammenlignelig med vores. Vi ved ret beset ikke hvordan vores egen biologiske computer virker. Selvfølgelig kan man indenfor et meget begrænset domæne lave et program som får en computer eller en robot til at udvise noget der ligner menneskelig intelligens, altså simuleret intelligens, men jeg er sikker på at det stadig ligger mange år ud i fremtiden at se en computer bestå Turing testen for alvor - desværre. Jeg ville rigtig gerne opleve det og vide hvordan det virker

Peter Christiansen

Jeg er selv stor fan af Elon Musk, når det kommer til hans store innovative væsen og det at han ikke er bange for at starte noget nyt, selv om det ikke er mainstream.

Han er bla. skyld i at USA på sigt igen får sig et rumprogram. Pt. er de afhængige af rusland mht. af fragte astronauter.

Selv om jeg er stor fan af ham, er jeg også opmærksom på de ting der ikke er så heldige og der hæfter jeg mig ved hans konstante ræd for AI, uden at delagtiggøre lytteren i hvad specifikt ved AI i vor tid der gør ham så bange.

Vi er alle klar over de dommedagsscenarier der findes på området men hvad i NUTIDEN gør Elon musk så bange, hvad er hans forståelse i forhold til Zuckerbergs og vores andres? Hvad ved han som vi andre ikke gør.? Eller er han bare bange pga. diverse scifi scenarier?

Martin Hoffmann

Hvordan i alverden skulle vi kunne modellere og programmere begreber som bevidsthed og sjæl når vi stort set ikke aner hvad det består af?

Helt enig, men det er jo heller ikke det der er bekymringen (når man kommer lidt udenfor sci-fi genren).
Den største bekymring er kompetence, snarere end intelligens som vi forstår det. Ingen ond vilje er nødvendig.
Jeg mener det er Nick Bostrom som opstillede papir-clip-problemet, som ganske vist er et stykke ude på overdrevet, men som alligevel illustrerer problemet ganske godt.
Forestil dig at du bygger en maskine der bliver sat til at lave papirclips. Du beder den lave så mange som muligt, og lader den ellers passe sig selv. Efter et stykke tid bliver den opmærksom på at den på et tidspunkt vil løbe ind i et råstof-problem, og begynder at indse at løsningen er at udvinde metal af andre ting. Selv mennesker indeholder metal nok til at lave mindst et par clips.
Et mere jordnært eksempel er den intelligente bil, som får ordren: "Få mig til lufthavnen så hurtigt som muligt!". Du skal nok komme frem, men du vil være dækket af bræk og meget rundtosset.
Historien om Kong Midas er heller ikke helt ved siden af.

Det er netop ved at lære maskinen menneskelige værdier at vi undgår de helt store katastrofer.

Med hensyn til bevidsthed, så ændrer det ikke så forfærdeligt meget ved frygten for AI såfremt det skulle vise sig at det er en "emergent property" af de evner vi giver den, men det indfører nogle moralske og filosofiske implikationer ved at slukke for den.

Der findes et par informative TED-talks om problemet.
Søg efter Sam Harris eller Nick Bostrom.

Nicolaj Rosing

Jeg er ingeniør og ikke filosof og har derfor svært ved at abstrahere fra de mere jordnære og åbenlyse problemer med F.eks papirclips problemet. Mange af de bekymrede eksperter forudsiger fremtiden ved at ekstrapolere udfra en virkelighed de tror forskerne har forstået, men min påstand er at premisen er forkert eller i det mindste noget usikker og derfor kan estimaterne for hvornår disruption eller en singularitet indtræder være endog meget forkerte. Jeg er sikker på, at for at AI kan bestå Turingen testen kræver det en stor portion selvopfattelse af systemet, som igen kræver bevidsthed, følelser og evnen til at løse et problem uden forudgående viden. Disse begreber kan med nutidens værktøjer ikke programmeres alene af den grund at vi ikke forstår dem til bunds men bl.a også fordi vi stadig ikke har den fornødne teknik til at kode dem. Nævn et programmeringssprog der 'kan mere' end Lisp, udviklet i 1950'erne. Hurtigere og større computere er ikke nok. Indtil alle disse 'praktiske' problemer, som af nogle opfattes som små bump på vejen og af andre som næsten uoverstigelige er løst, så behøver vi efter min mening næppe være SÅ bekymret på den korte bane. Der er masser af andre ting at bekymre sig om synes jeg, vores reproduktionsevne, konsekvenserne af global opvarming, voldsomme pandemier, potentielle naturkatastrofer, terrorisme, for nu bare at nævne et par stykker.

Martin Hoffmann

Jeg er sikker på, at for at AI kan bestå Turingen testen kræver det en stor portion selvopfattelse af systemet, som igen kræver bevidsthed, følelser og evnen til at løse et problem uden forudgående viden. Disse begreber kan med nutidens værktøjer ikke programmeres alene af den grund at vi ikke forstår dem til bunds men bl.a også fordi vi stadig ikke har den fornødne teknik til at kode dem.

Jeg skal huske at sige at jeg ikke selv er synderligt bekymret, men der er dog nogle argumenter som jeg ikke kan skyde ned.

Jeg fastholder at AI'en ikke behøver nogen menneskelige egenskaber eller ond vilje for at skabe problemer, og derfor er Turing-testen ikke en indikator for hvorvidt en AI bliver farlig eller ej.

Det du skriver med at løse problemer uden forudgående viden er jeg heller ikke enig i. Det er muligt at det blot er et spørgsmål om definition af begreberne, men det forekommer mig at Machine Learning netop gør det.
Faktisk er det jo notorisk skjult for os, hvordan de systemer kommer frem til et givent resultat i mange tilfælde.

Der var jo en Amerikansk stat som brugte Machine Learning til at afgøre (eller ihvertfald influere afgørelsen) hvorvidt en fange skulle indstilles til prøveløsladelse. Det viste sig at den ret hurtigt blev racistisk, og afslog sorte prøveløsladelse fordi den vurderede at de havde større risiko for at lave ny kriminalitet.

Det er naturligvis langt til dommedagsprofetierne og singulariteten, men jeg synes ikke vi kan udelukke at Machine Learning kunne gå hen og blive lidt for smart.
Hvis et program får lov til at redigere sin egen kode er der jo ikke langt til generel evolution, bortset fra at den vil foregå lyn-hurtigt.

Nicolaj Rosing

Jeg fastholder at AI'en ikke behøver nogen menneskelige egenskaber eller ond vilje for at skabe problemer, og derfor er Turing-testen ikke en indikator for hvorvidt en AI bliver farlig eller ej.


God pointe angående Turing testen. Den køber jeg. Desuden tror jeg vores synspunkter er meget ens angående bekymring for den totale disruption på kort sigt. Jeg medgiver at det på længere sigt kan blive et problem hvis den teknologiske udvikling fortsætter som forventet, med mindre man tror på at den stopper eller at vi af uransalige årsager skulle miste interessen for at udvikle vores teknologi. Denne diskussion får dog hurtigt karaktér af religion eller spekulationer om at vi allesammen blot er en simulation og dér stopper min indsigt og interesse.
Bortset fra det så vil jeg anbefale dig at se filmen Idiocracy. Ikke en specielt god film, men alligevel tankevækkende satire lidt i samme boldgade, bare med 'modsat fortegn'. Her omhandler plottet et problem med menneskets faldende intelligens fremover. Måske ikke helt modsat fortegn når det kommer til stykket.

Log ind eller opret en konto for at skrive kommentarer

Pressemeddelelser

Affecto Denmark reaches highest Microsoft Partner level

Affecto Denmark, a leading provider of data-driven solutions, has reached the highest level in the Microsoft partner ecosystem: Managed Partner.
22. jun 2017

Innovate your business with Affecto's IoT Explorer Kit

Are you unsure if Internet of Things fits your business strategy?
31. maj 2017

Big Data Lake Summit: Fast and Trusted Insights

If you want to outpace, outsmart and outperform your competition in a digital world, you need trusted data that can be turned into actionable business insights at speed.
24. apr 2017