Intelligent software kan overgå mennesket i at knuse data - men være svær at kontrollere

GOTO Copenhagen 2015: Begreber som deep learning og neurale netværk er begyndt at dukke op uden for rent akademiske kredse som følge af, at den kommercielle it-branche har fået øjnene op for maskinlæring til at udnytte enorme datamængder. Men det er et område, som er fyldt med faldgruber.

Princippet bag neurale netværk er at lade computeren lære på en måde, der simulerer neuronerne i vores hjerne. Men intelligent software har den fordel, at selv data der er uforståelige for et menneske, kan fortolkes af softwaren .

Derfor vil intelligente systemer kunne supplere mennesker, fordi vi netop kan give dem nye sanser eller nye måder at bearbejde data på, som vi ikke selv er i stand til.

»Deres levetid kunne eksempelvis være meget længere - eller meget kortere. Vores hjerne opfatter verden med en bestemt hastighed. Hvad vil en maskine, som kun sanser én gang pr. årti - eller hvert nanosekund - ikke kunne fortælle os?« sagde co-founder af Magnitude Labs i San Francisco, Julie Pitt, på den netop afholdte GOTO udviklerkonference i København.

Intelligente systemer vil også kunne udstyres med en sans, som kan opfatte trafikken på internettet, bevægelser på finansielle markeder eller vejrmønstre - og herudfra afkode mønstre, som mennesker ikke vil være i stand til.

Hjerne: minimer antallet af overraskelser

For at forstå både fordele og ulemper ved at lade computeren efterligne hjernens måde at lære på, er man nødt til at se på, hvordan hjernen lærer, og bruge biologiens og neurologiens begreber.

Julie Pitt vil bygge intelligente systemer ud fra princippet om fri energi i biologiske systemer, free energy principle, som tager udgangspunkt i, at biologiske organismer tilsyneladende stritter imod varmelærens anden hovedsætning ved at opretholde et niveau af relativ orden.

Fri energi er en matematisk beskrivelse af, at et biologisk system - og vores hjerner - populært sagt tilpasser sine handlinger til at minimere mængden af overraskelser.

Vores hjerners indlæring bygger på input fra vores sanser, som sammenholdes med en model af verden. Modellen består af en række antagelser om verden omkring os, som bruges til at udvælge den mest sandsynlige fortolkning af et væld af blandede sanseinput.

Omvendt bruger vores hjerne også modellen til at forudsige, hvilke sanseinput der vil følge efter en bestemt handling.

Vi er eksempelvis i stand til at gå - som oftest netop uden de store overraskelser - fordi hjernen arbejder ud fra en model med antagelser om, hvilke sanseinput hjernen får, når vi bevæger vores muskler i en bestemt rækkefølge. Efter den har modtaget sanseinput, der fortæller os, at vi står oprejst på en plan overflade.

Software igennem indlæringsproces - som børn

Software baseret på de samme principper skal gennem en indlæringsproces på samme måde, som et barn skal lære at gå. Læringen foregår grundlæggende ved, at input, der giver mening i forhold til modellen, forstærker modellen.

Derfor er det nemmere for børn at lære, fordi deres model endnu ikke er opbygget. Det er sværere at ændre ved modellen.

Princippet fra biologisk læring kan bruges til at beskrive et sæt algoritmer, som ud fra input kommer med forudsigelser, som giver færrest overraskelser.

Man vil også efterligne hjernens evne til at udvælge de input, der giver bedst mening i forhold til hjernens forventninger. På samme måde som de elektriske signaler fra vores nervesystem. Selv om de ikke er umiddelbart læsbare, så har vores hjerne lært at fortolke dem.

I softwaresammenhæng betyder det, at der bliver plads til støj i data, fordi algoritmerne vil kunne udvælge de data, der passer bedst på den model, som computeren udvikler.

Julie Pitt sammenlignede de intelligente computersystemer med androiden Data fra tv-serien Star Trek: The Next Generation, som er en computer, men som alligevel interagerer med de almindelige computere i tv-serien via tastatur og skærm.

»Jeg undrede mig altid over, hvorfor Data interagerer med computerne som et menneske, når han selv er en computer. Men det giver mening, hvis du ser på, at han er nødt til at lære ved at danne sig en model af verden ligesom et menneske, fordi han er en android,« sagde Julie Pitt.

Da en android har en krop med arme, hænder og fingre, samt bruger syn og hørelse til at sanse omgivelserne, så ville det ikke passe med hans hjernes model at kommunikere via Bluetooth med computeren på rumskibet.

Den tilsvarende begrænsning løber intelligente softwaresystemer ind i. De opbygger også en model ud fra input, og modellen formes dermed af de 'sanser', softwaren har til sin rådighed.

»En intelligent maskine vil også have et miljø, den interagerer med og lære gennem sine erfaringer og udnytte den læring,« forklarede Julie Pitt.

Et miljø behøver imidlertid ikke være helt så bogstaveligt som for Data fra Star Trek. Det vil kunne være et miljø af data fra - som nævnt - trafik på nettet, de finansielle markeder eller vejret.

Men det indebærer i sagens natur, at mennesket må afgive en del af den kontrol, vi er vant til fra almindelige computere, når vi lader computeren lære på samme måde som vores hjerner.

Stadig brug for den traditionelle computer

Ifølge Julie Pitt vil sådanne intelligente systemer ikke erstatte traditionelle computere, men snarere vil de intelligente systemer selv være afhængige af computere til opgaver, som en traditionel computer er bedre til at løse.

Intelligente computere har nemlig også begræsninger i forhold til et traditionelt stykke software.

»En intelligent computer vil ikke være lige så god til at lægge to flydende kommatal sammen som en von Neumann-maskine. En traditionel computer vil også være bedre til afvikle programkode,« forklarede datalog Julie Pitt i sin præsentation på udviklerkonferencen GOTO i København.

I praksis har vi endnu kun løftet den første flig af mulighederne inden for kunstig intelligens som et nyt redskab for mennesket. Derfor kan der også vise sig at være begrænsninger i, hvor intelligente systemer vi er i stand til at skabe.

»Først og fremmest vil softwaren ikke være deterministisk, og vi kan ikke genskabe resultater, når softwaren skal operere i et miljø med mange støjkilder. Vi kan ikke bare sætte breakpoints i koden, og vi kan ikke teste softwaren, så vi vil kunne blive overrasket over resultaterne,« forklarede Julie Pitt.

Det kan også vise sig at være svært at skalere fra meget specialiserede intelligente systemer til systemer, som kan løse en helt ny opgave, uden at skulle gennem en ny, lang læringsproces.

Hvis det eksempelvis viser sig at være svært at opbygge et neuralt netværk, der er mere intelligent end en lille gnaver, så vil vi måske skulle udvikle en form for flokintelligens, hvor mange individuelle netværk arbejder sammen for at løse et problem.