per andersen bloghoved

De superintelligente robotter - om de udgør en trussel mod mennesket er et spørgsmål om tro

Af 14

Når mennesket kan bygge en computer, der er mere intelligent end mennesket, hvad sker der så? Svar: ”Det følger af forudsætningen, at computeren er mere intelligent end den, der byggede den. Den kan derfor bygge en ny computer, der er endnu mere intelligent, der kan bygge en computer der er endnu mere intelligent og Ad infinitum!” (Citat fra David Lagercrantz’ bog: Det der ikke slår os ihjel – i øvrigt en dårlig Selander kopi).

SciFi har forudset det i 100 år

Der har i årtier været spekuleret på, hvad der sker på det kritiske punkt, hvor maskinen bliver klogere end mennesket. Alle science fiction forfattere med respekt for sig selv, har stillet sig selv det spørgsmål. De har haft meget forskellige bud på svaret.

Lige fra legendariske Isaac Asimovs robot-serie skrevet fra 1939 og frem, hvor hans robotter får indbygget mekanismer, der gør, at de ikke kan gøre oprør mod mennesket. Over Frank Herberts Dune-serie, hvor mennesket må kæmpe mod robotterne for at genvinde herredømmet. Til dommedagsprofetierne, der startede i 1921 med skuespillet R.U.R. skrevet af Karel Čapek – det også var såmænd ham, der opfandt ordet “Robot”.

Blandt andet den meget snak om ”kognitive computere” har fået diskussionen til at blusse op igen. Her er målet direkte at skabe systemer med ”kunstig intelligent” og i sidste ende ”menneskelig intelligens”. Det har fået prominente personer til at råbe vagt i gevær. Fx Stephen Hawking, der vist kan citeres for lidt af hvert, optrådte i en artikel med overskriften ”Stephen Hawking warns artificial intelligence could end mankind” (artikel).

Isaac Asimov

Hvad siger forskerne?

I januar 2015 blev rapporten ”Research priorities for robust and beneficial artificial intelligence” udgivet af Future of Life Institute, et førende institut, der ser på den positive udnyttelse af teknologier. Blandt forfatterne finder vi instittuttets medstifter Max Tegmark (MIT) og Erik Brynjolfsson. Rapporten gør opmærksom på det nødvendige i at forske i emnet om sikkerhed omkring robotter – og giver nogle bud på, hvordan kontrolerbare robotter kan konstrueres (rapport).

Det blev fulgt op på konferencen “The 30th annual Association for the Advancement of Artificial Intelligence (AAAI)” i februar måned, hvor der også var en workshop om sikkerheden ved kunstig intelligens. Der var en livlig debat om muligheden for eksponentiel accelererende kunstig intelligens – præcis det dilemma, som indledte denne blog - uden at nogen konklusion blev nået. Toby Walsh holdt et indlæg om, hvorfor dette ikke kommer til at ske, men øvrige deltagere var ikke nødvendigvis enige (workshop)

Vi kan sove roligt – de næste par årtier!

Så vi må konstatere, at emnet om de farlige intelligente robotter stadig diskuteres livligt. Mange forskere er dog enige om, at der ikke er nogen større farer, og at der i øvrigt forskes livligt i at kontrollere robotterne, når de bliver intelligente. Således også vore hjemlige robot-forskere som Mikkel Rath Pedersen (ph.d., Aalborg Universitet), der for nylig i en kronik råder til at slå koldt vand i blodet (kronik).

Men Mikkel Rath Pedersen er nu alligevel ikke så skråsikker. Han afslutter nemlig med, at ”Der er intet at bekymre sig om de næste årtier”. Nå, ja, men hvad så derefter?

Et spørgsmål om tro

I virkeligheden er der ingen – heller ikke forskerne – der ved, hvad der kommer til at ske med de superintelligente robotter. Om det bliver en fare for menneskeheden eller ej. Det er lige som spørgsmålet, om der er liv andre steder i universet – man kan vælge at tro på det eller lade være – imens forskerne kommer med alle argumenterne ”for” og ”imod”.

Derfor vælger jeg at tro på det positive. At det er mennesket, der styrer udviklingen, og at vi nok skal finde metoderne der undgår, at robotterne tager over. Også efter de næste par årtier!

Relateret indhold

Per Andersens billede
Per blogger om digital transformation - teknologi, forretning og ledelse.

Kommentarer (14)

Frithiof Jensen

Derfor vælger jeg at tro på det positive. At det er mennesket, der styrer udviklingen, og at vi nok skal finde metoderne der undgår, at robotterne tager over. Også efter de næste par årtier!

Metoderne findes - de består i at man anvender hvad man generelt kunne kalde "Dumb AI", men generelt sälger som "work-flow systems", "business intelligence", "digitalisering", alt hvor SAP indgår ;-), til at styre, standardisere og kontrollere alle former for sagsbehandling og raportering - inklusive ganske meget af det såkaldte vidensarbejde.

Derved göres menneskene til robotter. Disse er billige og har endda små ambitioner og drömme der kan knuses når lejligheden byder sig, så, der kommer aldrig nogen og overtager, tvärtimod, så har "vi" ved at investere giga-bux i sådanne systemer stöbt alting ind i IT-beton ved at det koster Kassen hver gang der skal flyttes så meget som et komma i en proprietär formular.

  • eller når der opstår en situation hvor der skal afviges fra processen, det er vist noget alle har prövet i lufthavnen eller hos TDC.

Jeg ved ikke ... mange forträkker måske en lille robot-apokolypse fremfor 40 års dräbende kedsommelighed, under-performance og trusler om fyring ("vi" skal jo holde näsen til slibestenen på "effektorerne") i et hårdt optimeret og dermed statisk samfund?

Thomas Søndergaard

Hvorvidt robotter udgør en trussel eller ej afhænger næppe af hvad vi tror. Dit andet eksempel - Eksistensen af liv andre steder i universet afhænger heller ikke af hvad vi render rundt og tror.

Mogens Hansen

Eksistensen af liv andre steder i universet afhænger heller ikke af hvad vi render rundt og tror.


Men troen på eksistensen af liv andre steder i universet afhænger i høj grad af, hvad du tror (ja, det er en tautologi).

Vores "viden" om dette emne er lige nu en sandsynlighedsberegning. Der er så mennesker der siger, at de vil se det, før de tror det. Og det er jo i bund og grund en snusfornuftig tilgang til tingene (omend ikke altid en, der bringer os fremad).

Anne-Marie Krogsbøll

En af farerne, for mig at se, er, at vi bliver blinde overfor, at det "klogeste" at gøre ofte afhænger af øjnene der ser. Det er ikke "objektivt" - men når det kommer ud af en maskine, så kan det let blive opfattet som en objektiv sandhed, hvor det er blevet usynligt, at der er lagt nogle - ofte politisk bestemte - forudsætninger og valg ind i maskinen.

Så den, der ejer maskinen - eller måske endda snarere den, der har konstrueret den, og ved, hvad der er langt ind i den - "vinder"!

Og hvem mon "ejer" maskinerne? Verdens fattigste eller verdens rigeste?

Per Andersen Blogger

Det var ikke min hensigt at begrave mig i dybe filosofiske betragtninger om "tro". Men min pointe er, at det netop ikke er muligt at sandsynliggøre eller ikke sandsynliggøre spørgsmålet, selv om forskerne forsøger (fx "Drakes formel" vedr. liv i universet) og dermed bliver det alene et spørgsmål om, om man tror på det sker eller ej, ikke om det er mere eller mindre sandsynligt.

Og så skal man passe på ikke at mene, at tingene kan kontrolleres med teknologi - det vil i sidste ende altid være et spørgsmål om, hvad vi som mennesker beslutter (jf. tidligere teknologier som kloning etc.).

Frithiof Jensen

.... hvor det er blevet usynligt, at der er lagt nogle - ofte politisk bestemte - forudsætninger og valg ind i maskinen.


Tjah - "den nödvendige politik" drives i allerhöjeste grad inden for rammerne af DREAM- og ADAM-modellerne.

Man kunne mistänke at modellerne logrer med hunden til en sådan grad at "ting" som ikke findes i modellerne overhovedet ikke eksisterer i "beslutningstagernes" univers og folketinget egentligt mest arbejder på at tilpasse samfundet til modellerne.

Det er formodentligt derfor at vi oplever at den ene elendighed blot aflöser den foregående hver gang vi har valg og det eneste vi kan diskutere er "muslimer".

http://www.dst.dk/da/TilSalg/ADAM
http://www.dreammodel.dk/

Anne-Marie Krogsbøll

Enig, Frithiof. Jeg forestiller mig bare, at det bliver endnu mere uigennemskueligt, når den slags lægges ind i en forskerrobot.

Jeg hørte faktisk for nylig en journalist på DR2 begejstret udbryde, at man med sådanne maskiner jo fremover kunne få helt objektive beslutninger om, hvad der er bedst at gøre (underforstået - så kunne vi slippe for alt det politiske fnidder)....!

Erik Gotfredsen

Da jeg for 20-30 år siden beskæftigede mig med udvikling af datastøttet undervisning, startede vi ofte diskussioner med udsagnet: "Den lærer, som kan erstattes af en maskine, bør erstattes".
Og omskrivningen til robotter er vel ok.
Kan en maskine virkelig udføre en process lige så godt (i alle måder) som et menneske, er vi vel alle bedst tjent med erstatningen!

Ivan Skytte Jørgensen

youtube-kanalen computerphile har en glimrende video, som belyser farerne ved en generel AI: https://youtu.be/tcdVC4e6EV4
Der påpeges at for at lave en generel intelligens så skal den have en intern model af verden, så den kan beregne konsekvenserne af handlinger, og vælge den bedste handling for at optimere dens fastsatte mål.

Hvis vi tager bil-analogien (hurra!), så kan man jo sætte sig ind i en intelligent bil og blot fortælle at man skal på arbejde i X-købing, og bilen vil så sørge for at man kommer så hurtigt frem som muligt. Men vi vil godt have den til at være smartere, så den véd at der er Roskilde Dyreskue og på det tidspunkt at bilen når til Roskilde vil der være massiv kø, så det er hurgtigere at tage landevejen. Eller at der er vejarbejde eller sne, og lige i dag er det hurtigst at tage toget.

Men lige så snart man bygger en en fleksibel model af verdenen ind i en AI, så vil den begynde at kunne manipulere den rigtige verden, f.eks. ved at sende emails til trafikministeren med forslag om at hæve fartgrænserne. Eller SMSer til andre trafikanter at der er vejarbejde på motorvejen og de bør tage landevejen. Og vupti - frie kørebaner på motorvejen. Men også at den snakker med de andre intelligente biler og timer indkørsel/afkørsel/hastighed så trafikken flyder optimalt og alle kommer hurtigst frem.

Videoens pointe (som jeg er overvejende enig med) er, at når en AI har en intern model af verdenen, som tilpassses observationer, og AIen kan lave optimum-søgninger, så vil den begynde at lave ting, som ingen kan forudsige.

Nils Bøjden

"Over Frank Herberts Dune-serie, hvor mennesket må kæmpe mod robotterne for at genvinde herredømmet. "

I Frank Herberts glimrende rumopera er der hekseordener, magi, narkotika til at drive overlyshastigheds rumskibe, genetisk manipulation og selektion, politik, religion, krige, familiedynastier, snigmord i uanede mængder og nogle mother-fucker store orme. Men robotter?

Per Andersen Blogger

"Author Frank Herbert explored the idea of a time when mankind might ban clever machines entirely. His Dune series mentions a rebellion called the Butlerian Jihad, in which mankind defeats the smart machines of the future and then imposes a death penalty against any who would again create thinking machines, often quoting from the fictional Orange Catholic Bible, "Thou shalt not make a machine in the likeness of a human mind." In the Dune novels that were published after his death (Hunters of Dune, Sandworms of Dune), a renegade AI overmind returns to eradicate mankind as vengeance for the Butlerian Jihad."

https://en.wikipedia.org/wiki/Artificial_intelligence_in_fiction

Log ind eller opret en konto for at skrive kommentarer
I samarbejde med jobfinder logo Version2 er en del af Jobfinder - Danmarks største job- og karrieresite for ingeniører og it-professionelle.

Tip redaktionen

Websitet anvender cookies til at huske dine indstillinger og statistik. Denne information deles med tredjepart. Læs mere
Ok