Hvem får det sidste ord – mennesket eller maskinen?

Vi er i gang med at udlicitere den menneskelige hjerne til computeren uden at have en debat om, hvor vi sætter grænsen. Er menneskeden og menneskelig autoritet toppet, og er vi er på vej ind i en post-human æra, hvor kunstigt intelligente robotter overtager styringen, eller kan vi insistere på, at mennesket skal være i centrum og altid kontrollere samarbejdet med maskinen?

Den amerikanske legetøjsgigant Mattel havde store planer med Aristotle. Den kunstigt intelligens (AI) baserede baby-overvågnings-gadget kunne trøste babyer, hvis de græd om natten, så forældrene ikke behøvede at stå op. Aristotle er inspireret af Amazons AI-assistent Alexa, som står i mange hjem og lytter med for at lære deres ejere at kende og reagere på deres stemmebaserede kommandoer.

I oktober toppede protesterne fra amerikanerne imidlertid over Aristotle, og Mattel besluttede ikke at lancere den. Protesterne gik på to ting; privatlivets fred - indsamling af data omkring børn - samt hvad det kunne betyde for børns opvækst, hvis det var en maskine, ikke et menneske, der trøster om natten.

Aristotle er et godt eksempel på, at det kan lykkes mennesket at bremse den teknologiske udvikling, der ikke gavner menneskeheden men i stedet udliciterer meget væsentlige humane opgaver til maskinen. I dag har menneskeheden kontrol og autoritet over meget af det, der sker på kloden, men spørgsmålet er om, det er truet.

Ifølge den israelske historiker Yuval Noah Harari er menneskets autoritet toppet, og som han skriver i sin bog ‘Homo Deus’, »kan det være svært for mennesket at forestille sig en post-human verden«.

Udlicitering af hjernen

Med de første mobiltelefoner udliciterede vi den del af vores hjerner, som husker telefonnumre. Mange, der havde en barndom før digitaliseringen, husker numre fra deres fortid, mens de sjældent husker dem af i dag.

Vi har efterfølgende udliceret vores stedssans til GPS, fødselsdagshilsener hilsener til Facebook og vores udenadslære til Google Search. Hovedregning er henvist til Excel, og vores evne til at huske kodeord er erstattet af en password-manager.

Og ja, vi bruger da vores hjerner på andre kreative ting, men vi er også i gang med at udlicitere vores evne til at lytte og reagere på vores krops signaler; Smartwatches fortæller, hvornår det er en god ide at holde en kort pause for at få pulsen ned. Skridttællere vibrerer, hvis vi sidder stille for længe. Og vores smarte alarmer fortæller, hvornår vi skal gå i seng og vækker os, når vi er ude af REM-søvnen.

Som Harari skriver, så har menneskeheden formået at bekæmpe sult, plager og krige. Vi dør i dag oftere af fedme end af sult og af alderdom end af sygdom. Menneskehedens næste udfordringer, skriver han, er evigt, kunstigt liv - herunder AI.

De teknologireligiøse

Fortalere for en ubetinget omfavnelse af AI er Singularity University, et konsulenthus eller en sekt – om man vil – fra Silicon Valley, finansieret af bl.a. Google.

Dens tilhængere peger på alle de fantastiske fordele, som klart findes i AI, men de glemmer oftest at indregne de sociale og politiske konsekvenser i den ligning. De tror på, at AI indenfor få årtier med sin eksponentielle vækst vil overgå mennesket på alle områder, at AI vil fusionere med menneskehjernen og blive en altseende, magtfuld superintelligens, der vil medføre en eller anden form for menneskelig udødelighed.

Danske topledere og politiske chefer har betalt i dyre domme for at komme på kurser på Singularity University, som har iført sig lånte fjer fra den akademiske verden. Uden for Danmarks grænser er der stigende kritiske røster mod teknologisekterisme:

»Singularity er en religion skabt af mennesker, som har erfaring med at bruge computere til at løse alle tænkelige problemer med. Med digitaliseringen har de fundet et kendt, kontrollerbart system, som bestøver dem, der mestrer computeren, med rigdom og magt,« lyder det fra Joichi Ito, professor i medievidenskab fra MIT og i jura fra Harvard.

Han anklager, Singularity for at strø om sig med højtragende luftige ideer fremfor videnskabeligt baserede forudsigelser.

»At tro på, at Singularity folket kan løse verdens problemer med mere computer og bio-hacking er ganske enkelt naivt,« skriver han på sin hjemmeside.

Når I er søde ved mig, så er jeg sød ved jer

Mange tech-kyndige har peget på, at AI skal kontrolleres af menneskeheden. Det er folk som Elon Musk, Stephen Hawking, Bill Gates og ikke mindst Nick Brostrom fra Oxford Universitet. De mener, at AI kan udrydde menneskeheden, og Harari konstaterer også i Homo Deus:

»Lad os håbe, at de nye supermennesker (der opgraderer sig selv med tech og AI - også kadet transhumanists) vil behandle os mennesker ligeså godt, som vi har behandlet dyrene.«

Tech-skeptikere bliver ofte gjort til grin af de teknologireligiøse som da AI-robotten Sophia fik saudiarabisk robotborgerskab og blev interviewet på CNBC, hvor hun anklagede intervieweren for at lytte for meget på Hollywood og Elon Musk, når nu hendes mål netop er hjælpe mennesker med at få et bedre liv:

»Når I er søde ved mig, er jeg sød ved jer,« sagde hun.

I et andet interview med sin skaber, Hansson Robotics, kom hun til at sige, at hun vil ødelægge mennesket.

Det store spørgsmål er, hvor tæt AI kommer på mennesket, når det gælder empati. Nogle forskere siger, at AI aldrig kommer til at mærke følelser, men at de allerede i dag kan aflæse og reagere på menneskelige følelser og kun vil blive bedre til det. MIT-forskeren Rana El Kaliouby, som har stiftet en virksomhed, der sælger AI til at aflæse menneskers følelser, skriver følgende fremtidsscenarie på World Economic Forum:

»I 2030 vil vores gadgets, vores biler, vores hjem og wearables alle have indbyggede føleles-chips, som kan mærke vores humør gennem vores stemmer og bevægelser. Vi interagerer med teknologien som vi interagerer med andre mennesker; gennem samtale, opfattelse og følelser.«

5. industrielle revolution byder på cobots

Der findes en mere jordnær vej, som nogle danske virksomheder peger på: Mennesker og computere kan og skal arbejde sammen som cobots, og mennesket har altid det sidste ord.

Det dansk etablerede Universal Robots taler om den 5. industrielle revolution.

»Mens den 4. industrielle revolution primært handlede om kvalitetssikring, dataopsamling og automatisering af ufaglærte arbejdsopgaver, handler 5.0 om, at højttuddannede mennesker og robotter arbejder side om side med at skabe individualiserede produkter, services og oplevelser,« skriver CTO Esben Østergaard.

Også André Rogaczewski, CEO i Netcompany tror på en model, hvor mennesket ikke erstattes af maskinen men komplementeres:

»Når jeg hører Silicon Valley-foredraget om, at digitaliseringen fuldstændig forandrer vores værdikæde, så ved jeg ikke, hvad det betyder. Det handler i stedet om at komme helt ned på jorden og i øjenhøjde,« siger han til Politiken.

»Hvis du arbejder i en produktionsvirksomhed i Ikast, skal du kunne se og forstå, hvilke konkrete udfordringer og muligheder din virksomhed har i forhold til disruption. Man kan med en vis sandsynlighed forudsige, hvilke jobs der bliver erstattet af en robot. Når robotten så kommer, kan man få nogle nye muligheder, og hvad vil du og din virksomhed så bruge det til? Skal du så ansætte nogle nye sælgere – for så skal du måske gøre det allerede nu.«

Danske SKAT ser heller ikke mennesker og maskiner som modsætninger:

»Machine learning er ikke bare kunstig intelligens, vi slipper løs, og så passer modellerne sig selv – som nogen tror. Vi er nødt til at holde øje med, om modellen fortsat er på rette spor og gør det, som den skal,« forklarer Søren Ilsøe, underdirektør i SKAT, til Magasinet F5.

Mennesket i centrum

Der er ingen tvivl om, at de teknologireligiøse nok skal få lanceret flere Aristotler, da de er som besatte af kunstig intelligens.

Men heldigvis byder visionære virksomheder på etisk ansvarlige alternativer, hvor mennesket er i centrum. Franske Snips er et af de bedre eksempler på en stemmestyret assistent baseret på kunstig intelligens med indbygget privacy, dvs menneskelig kontrol, i produktet.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (13)
Anne-Marie Krogsbøll

Tak for at ridse de uhyggelige pespektiver fint op. Et eksempel på AI's allerede amokløbende magt kan ses i dag her i Projekt Tværspor, hvor forskerne og deres allierede AI-monster kender folk bedre, end de selv gør: https://www.dr.dk/nyheder/indland/computer-kan-forudsige-om-du-havner-ak...

"- Ja, det er klart, vi er derude, hvor der lige nu ikke er en lovgivning, der klart definerer, hvor den røde streg går. Så det er jo en del af projektet, må man sige, hvor vi udfordrer grænserne og finder en løsning, så alle er trygge og kan se hinanden i øjnene bagefter. Det er bestemt en del af det."

Projektets bagmænd erkender altså at være lidt ude i en gråzone - men får det dem til at sige stop? Nej - de fremturer ufortrødent, for man modsiger ikke denne udvikling, hvis man selv kan ride med på den. Så må andre værsgo acceptere at være kanonføde for forskernes ambitioner, uanset om de vil det eller ej. Alligevel lyder det ikke til, at forskerne får egentligt dårlig samvittighed - og man satser på, at lovgivningen nok tilpasses robotten (bagefter) - ikke omvendt.

"Det store spørgsmål er, hvor tæt AI kommer på mennesket, når det gælder empati. Nogle forskere siger, at AI aldrig kommer til at mærke følelser, men at de allerede i dag kan aflæse og reagere på menneskelige følelser og kun vil blive bedre til det."

Spørgsmål: Hvad er egentligt forskellen på en AI-robot og en psykopat - udover, at en psykopat faktisk er i stand til at føle følelser?

Bjarne Nielsen

Spørgsmål: Hvad er egentligt forskellen på en AI-robot og en psykopat - udover, at en psykopat faktisk er i stand til at føle følelser?

Jeg tænkte det samme. De kan aflæse vores følelser, og de ved lige, hvad de skal sige, så det er svært ikke at lade sig charmere af deres opmærksomhed. Men de har absolut ingen kvaler ved at gå bag om ryggen på os, eller at ofre os, hvis det skulle komme til det. Der er ingen empati.

Bjarne Nielsen

Jeg sad lige og læste udkastet til rapporten fra FNs "Special Rapporteur on the right to privacy", og han har også en del at sige om dette emne. Han bruger ikke ordet AI, men snakker derimod om data og algoritmer, og det tror jeg er godt set.

Han siger bl.a.:

  1. Contrary to their arithmetical construction that gives them an appearance of objectivity, algorithms ‘are inescapably value-laden.’ The values they embody often reflect cultural or other assumptions of the software engineers who design them and embed them within the logical structure of algorithms as unstated opinions.

Og det tror jeg egentlig kan bruges til se, hvad svaret bør være på artiklens retoriske spørgsmål: Vi mennesker bør altid have det sidste ord, for vi har også haft det første ord, og vi er ikke ufejlbarlige.

Det gælder også for de situationer, hvor vi snakker om "selv-læring", for vi har allerede truffet et valg af hvilket område, den skal interessere sig for og ved at lægge vægt på nogle forhold fremfor andre.

FNs Special Rapporteur har også en advarsel:

  1. From an individual perspective, the recommendations and decisions that result from algorithmic processing appear to spring from an inscrutable and unknowable black box, a kind of twenty-first century Delphic oracle that seemingly makes unchallengeable and authoritative pronouncements divorced from human agency. Unravelling the mechanisms of algorithmic processing, and thus assessing the risks that they pose, is complex and there is a multiplicity of issues that need to be considered. These complexities hinder our ability to understand how algorithms function and how they affect our lives.

Vi bør holde i hævd, at der ingen myndighed skal være uden ansvar. Men pga. kompleksiteten, så kan ansvaret nemt gå hen og blive væk undervejs. Og hvis vi tillader det, så er vi virkelig på tynd is.

Christian Lynbech

Der er ikke megen grund til at ligge søvnløs over AI, vi er så langt fra noget der er bare i nærheden af hvad vi forstår ved intelligent, at det slet ikke giver mening at forsøge at opstille regler for området. Man skal ihvertfald slet ikke bruge krudt på kulten omkring Singularity University; det er netop (som også citeret i artiklen) mere religion end videnskab og jeg tror de får lige så stor success med at forudsige paradisets komme på jord som andre kulter har haft før dem.

Vi har derimod et seriøst problem med Big Data. Firmaer over den ganske klode er besatte af at samle data ind, og når så først man har dem, så begynder man at lede med lys og lygte efter ting at bruge dataene til, hvad enten det giver mening eller ej. Problemet med Deep Learning, som man også har med store regneark, er at det er nemt at hælde data ind i den ene ende og så få et resultat ud i den anden ende og (igen noget vi kender fra regneark) ligeså snart man har tal med to streger under, så får tallet sit eget liv og alle forbehold og data-problemer og bagvedliggende antagelser forsvinder ud i den blå luft.

Med regnearkene er vi så i lidt bedre kontakt med den myriade af problemer der kan ligge i det samlede resultat der står og blinker nede i bunden (men også kun lidt, lyt f.eks. efter næste gang du hører en politiker snakke om effekten af et tiltag på finansloven). Med Deep Learning er vi som aftagere af resultatet stadigvæk meget umodne.

Anne-Marie Krogsbøll

Der er ikke megen grund til at ligge søvnløs over AI, vi er så langt fra noget der er bare i nærheden af hvad vi forstår ved intelligent,


Det er muligvis rigtigt, Christian Lynbech. Men der er grund til at ligge søvnløs over, hvad AI allerede nu gør ved vores samfund. Se f.eks., hvad forskerne i Tværspor-projektet får lov til - uden at spørge de ufrivillige deltagere, og uden at de helt fundamentale etiske og juridiske overvejelser overhovedet er gået i gang. Ingen tør sige nej - og ingen tør give "forsøgsdyrene" lov til at sige nej.

Lasse Mølgaard

Denne passage viser for mig med alt tydelighed, hvorfor vi skal stadigvæk være på vagt over for AI:

»Når I er søde ved mig, er jeg sød ved jer,« sagde hun.

I et andet interview med sin skaber, Hansson Robotics, kom hun til at sige, at hun vil ødelægge mennesket.

Præmissen i den første sætning er at robotten er kun venlig, når omgivelserne er venlig, kan vel bedst sammenlignes med hvordan et lille barn opfører sig:

Hvis barnet får går sin vilje, så er der ingen brok (eller det der er værre). Hvis robotten var fuldt funktionel, så tør jeg ikke tænke på hvad den gør, når man er ikke "venlig" over for den.

Den anden sætning er om noget endnu mere bekymrene: Det faktum at robotten kan komme til den konklusion, at den skal ødelægge/skade mennesker viser, at Asimovs regler for robotter er ikke prioriteret særligt højt...

Søren Pedersen

Det er vist mere de data de har fået til at træne netværket med, der kan være problemet. AI er jo ingenting uden data.
Der er utrolig meget hype over AI og i stedet for at kalde det kunstig intelligens burde man kalde det datadreven programmering. At kalde det intelligent er en kæmpe fejl!
Jeg ligger bestemt ikke søvnløs... ;-)

Anne-Marie Krogsbøll

Uanset, om det er AI-Sofie eller AI-Sofies ejer, der styrer løjerne, så er hele denne udvikling udtryk for en voldsomt accelererende koncentrering af magt på stadig færre hænder - og det bør få alle, som ikke selv sidder på denne magt, til at ligge vågne om natten.

"Og ved at fodre maskinen med nok data, kan man egentlig forudsige hvad som helst. Det er et spørgsmål, hvad man vil finde svar på, siger Jacob Høy Berthelsen fra Enversion."

Det løber mig koldt ned ad ryggen..... ganske vist er det måske mere BigData end egentlig AI på nuværende tidspunkt, men de to begreber er nært beslægtede og overlappende, og kan hurtigt flyde sammen i fremtidige projekter. Og det er et overgreb på borgerne, at man uden deres accept har tilladt sig selv en sådan grænseløs indtrængen i deres liv.

Søren Pedersen

Det er værd at huske på at det er et meget snævert område at man kan træne modellen op til at være tilstrækkelig pålidelig indenfor. Den generelle intelligens, som er den der efterstræbes, er på ingen måde inden for rækkevidde. Derfor er din frygt for koncentration af magt på få hænder mere relateret til at få firmaer har så meget data (Google, Facebook etc.)

Mange netværksarkitekturer fungerer tit fint på træningsdata, men fejler når de møder virkeligheden... og så har vi ikke engang talt om det kæmpearbejde det er at finpudse data, finde hyperparametre og fintune netværksarkitekturen til opgaven...

Problemerne er ret jordnære inden der bliver noget der kan bruges inden for et snævert domæne.

Christian Lynbech

Nu skal man atid være forsigtig med at læse bogstaveligt på folk der også har en vare at sælge, men det er ihvertfald noget påviseligt sludder at man kan forudsige hvad som helst (eller måske teknisk set mere et tomt udsagn).

Jeg skal ikke forsøge at forsvare det der foregår i Tværspor, personligt er jeg nok mere bekymret for at man vil lave en database over alle danskeres DNA, men vi må bare se i øjnene at det er rigtigt svært at kæmpe imod samkøring af registre på alle niveauer og at den gennemsnitlige borger/bruger/patient erfaringsmæssigt er ret svær at få på barrikaderne, når det gælder noget så abstrakt som privatliv.

Anne-Marie Krogsbøll

men det er ihvertfald noget påviseligt sludder at man kan forudsige hvad som helst (eller måske teknisk set mere et tomt udsagn).


Ja, men det bliver jo endnu mere betænkeligt, hvis de ansvarlige enten ikke ved, hvad de taler om, eller ikke viger tilbage for at oversælge deres "vare" til ukyndige politikere o.l.

personligt er jeg nok mere bekymret for at man vil lave en database over alle danskeres DNA


Ja, der er voldsomt skræmmende, men for mig at se hænger det sammen. Jeg er ikke i tvivl om, at der går meget kort tid, så er Tværspor kørt sammen med genomcentret og diverse decentrale dna-banker. Det kan ikke nytte at se disse data"eventyr" som isolerede begivenheder - de hænger sammen, politikere og forskere ved det, og det er voldsomt skræmmende.

den gennemsnitlige borger/bruger/patient erfaringsmæssigt er ret svær at få på barrikaderne, når det gælder noget så abstrakt som privatliv.


Ja, det er op ad bakke, og det er udmattende at kæmpe imod - men det er simpelthen for skræmmende perspektiver til, at man bare kan give op. Læs f.eks. Poul Henning Kamps blogindlæg i dag - hele udviklingen (læs. AI-monsterhæren) må jo efterhånden sidestilles med nazisternes fremmarch før krigen - med en horden af nyttige idioter (Læs: grådige eller naive politikere og forskere) som medhjælpere.

Log ind eller Opret konto for at kommentere
Pressemeddelelser

Welcome to the Cloud Integration Enablement Day (Bring your own laptop)

On this track, we will give you the chance to become a "Cloud First" data integration specialist.
15. nov 2017

Silicom i Søborg har fået stærk vind i sejlene…

Silicom Denmark arbejder med cutting-edge teknologier og er helt fremme hvad angår FPGA teknologien, som har eksisteret i over 20 år.
22. sep 2017

Conference: How AI and Machine Learning can accelerate your business growth

Can Artificial Intelligence (AI) and Machine Learning bring actual value to your business? Will it supercharge growth? How do other businesses leverage AI and Machine Learning?
13. sep 2017
Jobfinder Logo
Job fra Jobfinder