Elon Musk: Undervurder ikke truslen fra kunstig intelligens

Tror jeg skal se en ordentlig 100% selvkørende bil først, før jeg gider hoppe på Elons fearmongering og efter det en menneske / maskine sammensmeltning og derefter kan vi tale om at kigge på kunstig intelligens og regulering af denne.

Som det ser ud nu er kunstig intelligens bare "smoke and mirrors", bare det ser intelligent ud, kan nogle måske blive narret til at tro at der er tale om intelligens.

Termerne kunstig intelligens eller intelligente ting, bliver desværre brugt i flæng, bare dimsen har wifi og rudimentær talegenkendelse. Der er ikke tale om intelligens her, men simpel sensor baseret teknologi, der ikke kan gøre en pind andet end hvad den er programmeret til.

Intelligens kræver en hvis form for selvstændighed udover det bagvedliggende programmel.

Jeg siger vi giver det 50 år og første skridt er menneske maskine integration og de erfaringer vi kan høste af dette, inden vi bevæger os ind på kunstig intelligens, som ikke bare er make-believe.

Så Elon, det største problem vi har nu er ikke faren fra kunstig intelligens, det er det givet vis om 50 år. Indtil da kan du forsøge at lave en bil der kan køre selv.

Måske skulle du sætte dig lidt ind i tingene inden du råber op om fearmongering. Du behøver ikke være enig med Elon Musk, men det ville klæde dig at skrue lidt ned for retorikken.

Når Elon og de af os der følger med i området, udtrykker en hvis bekymring i den retning, så tænker vi ikke på simpel talegenkendelse eller et billigt wifi produkt med ordet "intelligent" trykt på kassen. Vi snakker om machine learning, neurale netværk, cognitive computing og lignende områder som hører ind under AI begrebet.

Vi har endnu ikke skabt en AI som overgår den menneskelige formåen på tværs af alle evner, men AI har allerede overtaget den menneskelige formåen på en række områder. Vi har AI/botter som overgåer mennesker i spil som Skak, Go og Poker, chatbotter der har bestået Turing testen, selvkørende biler og AI der stiller bedre medicinske diagnoser end læger.

Facebook har bl.a. forsket i at få chatbotter til at forhandle med hinanden, hvilket resulterede i at botterne på et tidspunkt stoppede med at tale engelsk og istedet udviklede deres eget sprog. Botterne var ikke programmeret til at udvikle deres eget sprog og forskerne endte med at begrænse botternes muligheder. Du kan læse mere om det her: https://www.zetland.dk/historie/s8DPLYZ9-m8yv97GW-b2a16

Det er et godt eksempel på at AI kan være meget mere "selvstændig" end de fleste er klar over. Om du vil kalde det at være "selvstændig" eller fortolkning af en algoritme er underordnet, resultat er stadigvæk det samme. Hvis vi ikke er ekstremt opmærksomme på dette så er det kun et spørgsmål om tid før det resultere i dødsfald.
Det åbner jo naturligt op for spørgsmålet om hvordan vi undgår at AI erstatningen for medicinske diagnoser, ikke beslutter sig for at slå en gruppe af mennesker ihjel fordi de forhindre botten i at opnå et overordnet programmeret mål.

Folk har det med at tro vi taler om fremtiden og at det vil ske om 50 år, men faktum er at teknologien er her nu og den bliver kun stærkere for hver dag der går. Der er sket mere på AI området indenfor de sidste 3-4 år end der er i de foregående 30-40 år. Den eksponentielle udvikling gør at dette bliver hverdag indenfor en kort årerække.

Måske skyldes det en fejlagtig forventning om at AI er et "computer menneske", fordi vi altid betragter tingene ud fra et menneskeligt perspektiv. Ingen siger at resultatet af AI bliver én samlet super intelligens, men måske bliver det tusindevis af del-intelligenser der tager sig af forskellige områder. Men hvert af disse områder kan måske komme frem til konklusionen at mennesker er helt eller delvist overflødige og hvad sker der så? Vi har allerede set at AI kan udvikle deres eget sprog, så det er heller ikke utopisk at forestille sig, at flere selvstændige botter kan finde en måde at kommunikere sammen og derved effektivt smelte sammen til én kollektiv AI.
Der er så uendeligt mange scenarier som vi har svært ved at forestille os eller som vi hurtigt afskriver som science fiction. Faktum er at vi kan vælge enten at grine af det og risikere at blive offer for en række alvorlige konsekvenser - Eller vi kan tage faren alvorligt og sørge for at vi forbliver i føresædet.

AI er et vanvittigt spændende område med et enormt potentiale som vi absolut skal udnytte, men vi skal ikke være ignorante og tro at det ligger langt ude i fremtiden eller at det er ren science fiction.

I øvrigt så er Tesla'en allerede selvkørende og alle andre store bilproducenter har også selvkørende biler på programmet. Audi har fx annonceret den nye A8 med level 3 autonomi og flere andre bilproducenter forventer at lancere biler med level 4 autonomi seneste i år 2020. Derefter er der nok ikke mere end et par år før vi når level 5 som er 100% autonomi - Google og flere andre arbejder allerede på dette niveau.

@Michal, jeg synes du er meget hurtigt på aftrækkeren i forhold til at konkludere perspektiverne i AI på baggrund af en god røverhistorie om chat bots der liiige udvikler deres eget sprog og må stoppes af forskerne. Jeg kan ikke finde nogetsomhelst dokumentation for at historien skulle være rigtig. Dermed ikke sagt at man ikke i fremtiden vil kunne se den slagsscenarier og jeg er enig i at AI er i en spændende og rivende udvikling som man skal holde godt øje med, men lad os nu ikke blive grebet af den der dommedagsretorik som sælger godt i medierne men har meget lidt faglig substans.

Undskyld mig Nicolaj Rosing, men...
Du enig med Michael på flere områder, både det spændende emne og vi kunne se den slags fremtidsscenarier, og dog alligevel afslutter du med?

men lad os nu ikke blive grebet af den der dommedagsretorik som sælger godt i medierne men har meget lidt faglig substans.

En ting er medierne elsker en god historie, men er emnet ikke relevant og værd at snakke om inden et potentielt "computer-menneske" står foran os?

Lad os da have en saglig debat om hvordan de bør / skal anvendes, i stedet for at negligere det til jorden og råbe spåkællinger.

PS: Michael, godt indspark!

Meget relevant jo, men med et minimum af evidens tak. Ellers bliver det en debat uden mig. Facebook, Dailymail.com, Den korte avis og Ekstrabladet er ikke kildehenvisninger jeg kan bruge til noget og det vil kun forplumre debatten hvis alt det ævl og sludder sniger sig ind i de mere seriøse medier. Der er sikkert mange der mener at Ingeniøren allerede har diskvalificeret sig til at være i dén kategori, men det er en anden historie.