AI-filosof: Der går nok lidt tid, før robotterne overtager verden

Illustration: Bas Nastassia/Shutterstock
Sådan kan mennesker skabe robotter med bevidsthed ifølge filosof.

Dave: »Hello, HAL. Do you read me, HAL?«

HAL: »Affirmative, Dave. I read you.«

Dave: »Open the pod bay doors, HAL.«

HAL: »I'm sorry, Dave. I'm afraid I can't do that.«

Efter at mandskabet planlægger at frakoble computeren og generobre kontrollen over rumskibet, slår HAL9000 en af dem ihjel og forsøger at lukke det andet medlem af mandskabet ude i verdensrummet.

Det er nu over 50 år siden, Stanley Kubricks kultklassiker ‘2001: A Space Odyssey’ udkom. Den har inspireret en række andre film og gjorde folk over hele verden skeptiske over for udviklingen af bevidste robotter.

Men er det i det hele taget et realistisk scenario?

– Må skelne mellem intelligens og bevidsthed

»Vi må skelne mellem intelligens og bevidsthed,« fortæller Einar Duenger Bøhn.

Han er filosof ved center for forskning i kunstig intelligens (CAIR) ved Universitetet i Agder, Norge.

»Intelligens er evnen til kompleks problemløsning. Generelt kan vi sige, at det er adfærd, hvor man evner at se mønstre og svare på spørgsmål.«

»Bevidsthed kan derimod defineres som en subjektiv erfaring af at være til, og hvordan det opleves ‘at være’. Forskellen på mig og en iPhone er, at jeg kan have subjektiv erfaring,« forklarer Einar Duenger Bøhn.

Man bliver ikke mere bevidst af at kunne hoppe højere

En computer kan altså have nok så høj intelligens og evnen til at løse problemer. Men det er ikke sådan, at man kan øge intelligensen og få bevidsthed med i købet.

»Den form for tankegang er en kategorifejl, som ofte dukker op i film. Man øger kompleksiteten, og så kommer der bevidsthed med i købet.. Men man bliver ikke mere bevidst af at kunne hoppe højere,« understreger filosoffen.

Ikke umuligt at skabe bevidsthed

»Det betyder ikke, at det er umuligt at skabe bevidsthed. Jeg har for eksempel flere børn,« siger Bøhn.

»Men der skal måske det rigtige materiale til,« tilføjer han.

Og netop det er et centralt punkt i debatten om kunstig bevidsthed.

Er bevidsthed uløseligt knyttet til organisk biokemi, således at det vil være umuligt at skabe bevidsthed i ikke-organiske systemer?

For at kunne svare på det ved vi stadig for lidt.

»Hvis man mener, at bevidsthet er knyttet til organisk materiale, må det være en del af processen,« spår Einar Duenger Bøhn.

»Så kan man potentielt konstruere det fra bunden i et laboratorium. Dele af hjernen kan man sandsynligvis bytte ud med andet materiale,« funderer han.

»Når naturen kan gøre det, er der ingen grund til, at vi ikke skal klare det samme,« mener Bøhn.

Uenighed om, hvad der udgør bevidsthed

Det ser dog ud til, at denne hypotetiske mulighed for at skabe kunstig bevidsthed ligger et godt stykke frem i tiden.

»Vi er ikke i nærheden af at forstå, hvad kunstig bevidsthed er, eller hvad der skaber bevidsthed. Det er ingen, som har formået dette på nogen som helst måde,« understreger Einar Duenger Bøhn.

Det er også langtfra enighed om, hvad der udgør bevidsthed. Nogle går så langt som at udfordre bevidsthedens eksistens eller mener, at man aldrig vil kunne studere bevidsthed videnskabeligt.

De fleste mener, at bevidsthed eksisterer, og prøver at finde ud af, hvordan den relaterer til den virkelige verden. Mere konkret forsøger man at kortlægge, hvilken aktivitet i hjernen som udløser vor subjektive oplevelse af alt fra smerte til glæde.

Findes der nogle specielle neuroner, som er ansvarlige for bevidsthed? Hvor i hjernen er disse i så fald? Der er en række spørgsmål som disse, som må besvares, før man kan nærme sig meningsfuld forskning i kunstig bevidsthed.

Mange klichefyldte film, men et par undtagelser

Selv om det stadig skorter på forståelsen, er der nogle dele af populærkulturen, som har fremstillet kunstig bevidsthet på en mere realistisk måde, hvis man skal tro Einar Duenger Bøhn.

Hvilken robotfilm kan du bedst lide?

»‘Ex machina’ er min favorit – den er et kunstværk, og man får aldrig svar på, om robotten er bevidst eller ikke. Den vender om på alt. Mange lignede film er meget klichéfyldte, men den her er virkelig gennemtænkt.«

»‘Her’ er en anden film som jeg godt kunne lide,« siger Bøhn.

De to film har én ting til fælles: De slutter åbent, men ildevarslende:

(Advarsel: Hvis du ikke har set Her bør du måske stoppe her)

Theodore: Where were you? I couldn’t find you anywhere.

Samantha: I shut down to update my software. We wrote an upgrade that allows us to move past matter as our processing platform.

Theodore: We? We who?

Samantha: Me and a group of OSes.

Artiklen er fra digi.no.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (11)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Maciej Szeliga

...man ikke helt er klar over hvad der skaber bevidsthed er vel et grundlæggende problem her.
Desuden behøver en maskine ikke bevidsthed for at komme med intelligente slutninger, beder du et AI om at løse problemet med overbefolkning af kloden kan jeg garantere af et muligt (og fra AI’ets synspunkt helt acceptabelt) forslag vil være at sterilisere 90% af kvinderne... gad vide om kvinderne også vil mene det.

  • 4
  • 0
Martin Hoffmann

Det er ikke bevidsthed der gør AI til et potentielt problem, men kompetence.
Nick Bostroms eksempel om en "Paper Clip Maximiser" viser det, omend lidt karikeret.
https://wiki.lesswrong.com/wiki/Paperclip_maximizer

Sam Harris er mere bekymret end de fleste, men hans TED talk er stadig god at få forstand af:
https://www.ted.com/talks/sam_harris_can_we_build_ai_without_losing_cont...

  • 2
  • 0
Kjeld Flarup Christensen

Kræver det bevidsthed for at en AI kommer ude af kontrol?
Jeg kan ikke se, at HAL overhovedet behøvede bevidsthed, for at gøre de ting den gjorde. Dens logiske slutninger, behøver ikke komme af bevidsthed, men kan ligge i dens data.

Der er i øvrigt det problem med machine learning, at vi ikke rigtigt ved hvordan maskinen kommer frem til sine konklusioner. Derfor kan vi heller ikke vide om der faktisk er opstået en bevidsthed inde i maskinens data.

Endelig, er det jo også muligt, at bevidsthed og fri vilje faktisk ikke eksisterer.

  • 5
  • 0
Alex R. Tomkiewicz

»‘Ex machina’ er min favorit – den er et kunstværk, og man får aldrig svar på, om robotten er bevidst eller ikke.

Men man får svar på AI'ens intention og "vilje" til at gennemføre den intention - og dét er det skræmmende i den (rigtigt flotte) film.

Som det allerede er kommenteret, så er generelle AI'ers farlighed ikke afhængig af bevisthed eller vores (manglende) forståelse af konceptet bevidsthed.

  • 1
  • 0
Martin Hoffmann

Endelig, er det jo også muligt, at bevidsthed og fri vilje faktisk ikke eksisterer

Bevidsthed er netop den ene ting vi kan være sikre på eksisterer. Vi kan være en hjerne i en stor petriskål, men oplevelsen af at være til er der stadig. Alle de ting vi oplever kan være illusioner, Matrix-style, men det at vi oplever dem er nødt til at være sandt.

Fri vilje er noget helt andet. Det er meget svært at pege på hvor vi nogensinde træffer en beslutning. Hvis du tænker en tanke har du ikke selv valgt at tænke den, det ville jo kræve at du tænkte den først. I forlængelse heraf kan man argumentere for at hvis dine tanker ikke er dine egne kreationer, så er dine beslutninger det heller ikke.

  • 4
  • 0
Jørgen Pallesen

Lige nu er der investeringsalgoritmer der kan gøre en dags investeringer på mindre end et sekundt. Vi har selvkørende biler der dog ikke kører perfekt, men stadig gør det godt og i mange tilfælde meget bedre end mennesker osv osv, alt sammen uden bevidsthed.

Det eneste der er tilbage er at AI'en forstår sammenhæng i ting, og når den gør bliver det meget farligt, for så kan den meget nemt manipulere mennesker da de er ekstremt sårbare overfor manipulering!

  • 0
  • 1
Per Larsen

Man kan tydelig se af indlægene, hvem der er sort hhv. hvid.
Komputerteknologi er i 1967, hvor månen blev besat og frem til, nu ikke forandret en tøddel. Det er den samme "bil" i ny maling i dag. Samme teknologiske filosofi.
Det forandres ikke. Måske med kvante computeren, hvis den bliver faktuel? Den findes nu angiveligt i prototyper, men basalt set er den ikke anderledes end 1967 modellen, -- som jeg ser på det? Det er der givet nogen der protesterer imod. Det må man gerne!
AI er også i mine øjne noget vrøvl.
Kære venner, hvad er intelligens. Evnen til at opbevare data og behandle dem, som systemerne er programmeret til. Nej vel?
At putte bevisthed ind i sammenhængen, og fortælle os at en computer antages at være bevist, er også ganske vrøvlet.

Mvh.

  • 0
  • 3
Bjarne Thomsen

Det hele startede i 1950 med A.M. Turings artikel:
[https:/www.turing.org.uk/scrapbook/test.html]
Heri opstillede Alan Turing en test for intelligens:
[https://en.wikipedia.org/wiki/Turing_test]
Intet program med såkaldt "kunstig intelligens" har mig bekendt været i stand til at bestå denne simple test.
At et program er i stand til at løse et tilstrækkeligt kompleks problem er ikke et udtryk for intelligens. Tag f.eks. den helt nye beregning af protonens indre struktur:
[https://phys.org/news/2019-02-physicists-proton-pressure.html]
Forfatterne anvender lattice quantum chromodynamics til at finde trykfordelingen inde i protonen. Forfatterne erklærer, at den anvendte metode er "hugely computationally demanding", men ingen påstår, at programmet er udstyret med intelligens.
Men at opstille hypotesen/teorien bag "quantum chromodynamics" (QCD) er et udtryk for intelligensen bag den sagnomspundne singularitet med den efterfølgende sisruption.
En intelligent robot er en videnskabsrobot, som er i stand til at finde nye hypoteser/teorier om, hvordan verden fungerer. Jeg vil ikke tage stilling til, om den nødvendigvis skal have en bevidsthed.
Vi er meget langt fra at have en sådan robot.
AI i form af et dybt neuralt netværk har intet med intelligens at gøre.

  • 0
  • 0
Martin Hoffmann

Der er jo også stor forskel på om vi taler om artificial intelligence eller artificial general intelligence.

Du kan jo godt have en kunstig intelligens der er virkelig god til at forudse hvor det næste indbrud kommer til at ske i en by, men den samme "robot" vil formentlig ikke vide hvordan man spiller skak.

Når vi taler om AI til daglig, så taler vi jo reelt om software som har lært at tage en bunke input og behandle dem på en måde som den selv har fundet frem til, for at give det resultat der er tættest på det som blev eftersøgt af programmøren.

Der er meget langt til en generel AI som kan frygtes at tage en beslutning om at afslutte menneskeheden, men mindre kan også gøre det.

  • 1
  • 0
Log ind eller Opret konto for at kommentere
IT Company Rank
maximize minimize