»AI skal ikke have etisk særstatus - det er et freakin' regneark«

Illustration: kentoh, BigStock
Skrækscenarier for AI er ren vrøvl - det er ikke mere etisk vanskeligt end alt andet, mener Chief Data Scientist Morten Middelfart.

Det er noget vrøvl at diskutere særskilt etisk kodeks for brugen af AI, og du kan lige så godt frygte et stort regneark, som du kan frygte en kunstig superintelligens.

Sådan lyder budskabet fra Morten Middelfart, grundlægger af og Chief Data Scientist hos Lumina Analytics, på konferencen Data Day '19, der i sidste uge fandt sted i København.

»Selvfølgelig skal vi være etiske. Men det skal vi saftsuseme da også, når vi laver et ERP-system eller skriver lovgivning,« sagde Morten Middelfart fra scenen.

»Machine learning og kunstig intelligens er bare dovne måder at programmere på. Selvfølgelig skal vi være anvarlige for, at man ikke gør åndssvage ting, men det er bare computere, det er ikke intelligens, og det fortjener ikke nogen særstatus i forhold til, hvordan vi etisk bør forholde os til mange andre ting i vores liv.«

Morten Middelfart, der har to ph.d.'er i rygsækken, udviklede i 90'erne den software, som efter et opkøb blev til Targits BI-løsning. I 2014 forlod han rollen som CTO i Targit og har siden startet både Lumina Analytics og Social Quant, og han bestrider desuden rollen som CIO for Genomic Expression Inc.

Læs den fulde artikel på DataTech, hvor Morten Middelfart uddyber sin tanker om AI og sammenligner frygten med 00'ernes snak om selvreplikerende nanorobotter.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (10)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

Der er to påstande i Midelfarts indlæg:

1) Det er vrøvl at diskutere særskilt etik for AI:

Her er jeg enig. Dataetiske råd og den slags er spin og røgslør, fordi man i virkeligheden ønsker at luske diverse dybt uetiske overgreb på mennesker og menneskerettigheder igennem under radaren. Den slags bliver ikke mere etisk af at køre igennem et Dataetisk Råd. Hvis man respketerede almindelige menneskerettighder på dataområdet, såsom retten til privatliv og kravet om samtykke i alle situationer, ville man ikke have brug for den slags.​

2) Der er ikke grund til at frygte AI, for det er bare et stort regneark.

Tænk så meget vrøvl fra en mand med to ph.d-er i rygsækken. Det kan da netop få mig til at frygte alt, hvad folk med de holdninger har adgang til og magt over. At AI bare er meget avancerede regneark er jo på ingen måde noget argument for, at der ikke er noget at frygte, når disse regneark er i hænderne på totalitært tænkende pengemænd, embedsmænd og politikere. Mage til stråmand!

Middelfart springer let og elegant over det faktum, at AI - uanset om det bare er store regneark - i praksis er så komplicerede beregninger på så uigennemskueligt grundlag, at vi mister forståelsen af, hvad der foregår i den sorte box, og at vore topembedsfolk og politikere er i fuld gang med at lægge magten i samfundet ind i den sorte box, som de ikke engang selv kan gennemskue. Og det faktum, at AI lever af at stjæle vores privatliv og reducere os til dataslaver i dataherremænds storstalde.

Middelfart, som så vidt jeg kan regne ud lever af AI, er ude i et spin-ærinde for at komme advarende røster og regulering ift. AI i forkøbet. Argumentet er lige så lidt overbevisende som at sige, at der ikke er grund til at frygte atomvåben - det er bare en samling blik og møtrikker og grundstoffer.

  • 9
  • 3
Morten Andersen

Jeg er sådan set enig i at frygten for AI er overdrevet - AI's evner i praksis er meget langt fra de dystopiske forestillinger nogen har. Når det er sagt, så er argumentet noget vrøvl. Jovist, AI kan opfattes som "et stort regneark" idet regneark er Turing-komplette. Men "stort" betyder i denne sammenhæng billioner af regneark-celler og sammenhænge. De færreste har formentlig intuition for hvad så stort et regneark kan, da det ikke kan sammenlignes med husholdningsregnskabet (eller firma-regnskabet!) hverken i størrelse eller struktur, så sammenligningen er irrelevant. Size matters! En menneskehjerne kan ligeså vel siges at være et stort regneark.

  • 5
  • 0
Morten Brørup

Morten Middelfart har en glimrende pointe, som jeg grundlæggende er enig i: AI er bare et stort regneark.

Men der er forskel på regneark.

Normalt kan outputtet fra et regneark forklares og eftervises på basis af inputtet og formlerne i regnearket. Med andre ord: Det kan normalt beskrives og dokumenteres, hvordan man er kommet frem til resultatet, og at resultatet er korrekt. Og en uvildig revisor kan kontrollere, at output stemmer på basis af input og de benyttede formler.

Regneark (herunder AI) kan dog blive så store og komplekse, at det ikke længere er realistisk at beskrive regnearkets formler. Dermed kan man ikke længere kontrollere regnearkets resultater.

Jeg er overbevist om, at AI ville være fremragende til at foretage ejendomsvurderinger; for der er jo masser af data om handelspriser m.m., man kan træne et AI-baseret ejendomsvurderingssystem med. Men det er politisk og retssamfundsmæssigt uacceptabelt at kræve ejendomsskat på grundlag af en beregnet ejendomsværdi, som man ikke kan forklare, hvordan man har regnet sig frem til. (Credits: Tak til min bror, der arbejder med dette, for en tidligere diskussion herom.)

mvh
Morten Brørup
CTO, SmartShare Systems

  • 8
  • 0
Tylon Foxx

Jeg har for nylig haft en lignende diskussion på StackOverflow's Worldbuilding sektion, med en bruger der søgte argumenter for at begrænse en AI's kompetencer og formåen. Der kommer derfor et lidt filosofisk rettet standpunkt.

Jeg vil argumentere for at det vi kalder AI i dag ikke i og for sig er "sand" AI. Især taget i betragtning af at vi ikke har en form for AI, der fx. er kreativ og tager eget initiativ. Hvis en AI i sandhed er i stand til at tænke og agere 100% som vi mennesker, så kommer der en meget gyldig grund til at de skal have etisk særstatus, endda på lige fod med os kødvæsener.

Derfor er det vigtigste nok at opdele hvad der i sandheden er en AI (en maskine der kan tænke og agere som mennesket) frem for de "AIs" vi har i dag (en simulation der kan udføre én eller flere funktioner, men som er bundet af sin programmering)

For at bringe et eksempel på banen, vil jeg bruge terminologien fra spilserien Mass Effect; Her skelnes der mellem AIs og VIs (Virtual Intelligence), ret flot endda.
En AI, er i spillene definerede som "levende" maskiner, hvad enten det er i form af en "hive mind", eller i form af en robot eller et program der kan agere som et levende væsen (Tænk Data og EMH'en fra Star Trek fx.) I og med at de bl.a. er drevet fremad af samme instinkter og erfaringer som os (bl.a. overlevelsesinstinktet og opdragelse/træning), gør også i sidste ende at de vil forlange samme rettigheder som os.
En ægte AI er mærkbar i og med at den ikke nødvendigvis er bundet af sin programmering, fx. kunne både VIKI og Sonny i filmen "I, Robot" selv vælge om de ville følge Asimov's robot-love, modsat deres mere primitive inkarnationer.
En ægte AI vi også kunne se og mærke at den i sandhed er en slave... vel og mærke hvis vi behandler denne som "bare et regneark"

Der hvor Virtuel Intelligens kommer ind i billedet, er at programmet i sig selv er lavet kun til at udføre bestemte opgaver. Det kan være at håndtere regneark, agere turguide eller hælpe med huslige gøremål. Hovedsagen er at en VI sagtens kan simulere en personlighed, men den er stadig bundet af sin programmering... fx. sæt en husrobot til at arbejde på et metalstøberi, og dens VI vil ikke kunne tilpasse sig opgaven. Ikke desto mindre, kan en VI heller ikke se sig selv "i det store billede"; at den er en slave for sin ejer.

Der hvor vi står nu, er i begyndelsen af VI-fasen. Vi kan simulere en personlighed, og vi kan til dels "oplære" denne personlighed. Men robotter og vores "AIs" kan stadig ikke selv tage initiativet til at lære for sig selv eller tage egne beslutninger for deres liv... langt mindre male et originalt mesterværk.

Jeg vil ikke blot argumentere for at Morten Middelfart's argument er "kødcistisk", men at det, når ægte AIs bliver tilgængelige for os, kan blive meget farligt for os kødvæsener. Ja, I dag er såkaldte AIs bare store regneark eller databaser.... men vi løber i hastige skridt mod noget der er meget mere skræmmende for menneskeheden... en livsform (omend af metal og plastic) der ikke bare bliver mindst lige så intelligent som os, men også meget, meget nemt kan udkonkurrere os som livsformer.

Derfor skal AI behandles med respekt.

Men grundet marketingsnak er de to termer blandet sammen... Vi har ikke i sandhed lavet eller mødt en ægte AI, men det er vigtigt at skelne, igen fordi en sand AI vil kunne se og opfatte at den er en slave hvis den bliver behandlet som sådan.
Så er mit spørgsmål til jer; hvad har vores historie vist om slaveri?

Konsekvensen af et fejltrin på det punkt?... Jeg vil bare råde jer til at se de to seneste episoder af serien The Orville... :-)

  • 1
  • 0
Jakob Skov

Vi når lidt tilbage til at retssikkerhed bliver en by i Rusland hvis vi ikke stiller samme retslige/etiske krav for nutidens AI og menneskelig sagsbehandling.

Det er også derfor at Gladsaxe-modellen er så vigtigt et dilemma:
Personer i afdelingen har ikke adgang til de data man ønsker at bruge fordi proportionen i "masse-overvågningen" af input-dataene ikke retfærdiggøres af resultaterne.
Derfor bliver AI en måde at omgå lovens intention ved at kalibrere et vægtningssystem til at "støtte" sagsbehandling med udvalg af de mest "interessante" fremtidige potentielle sager.
Pludselig er det brogede til sorte etiske som lovligt blevet i orden!

AI er et af de områder hvor implementeringen let går over og bliver til en bortforklaring af hvor ubehagelig dens input og metoder egentligt er. En slags moralsk og/eller legal hvidvask, hvor man blot skjuler det beskidte arbejde ved at lade en computer stå for det ("black box" bliver en box man lægger det beskidte arbejde over i)! Hvis man spørger sig selv om man fandt det i orden hvis en person gjorde det (etisk/legalt) inden man satte den slags data-anvendelse i sving ville meget være vundet.

  • 5
  • 0
Gert Madsen
  • 3
  • 0
Log ind eller Opret konto for at kommentere
IT Company Rank
maximize minimize