Test din egen etik mod den selvkørende bil
Skal du køre den gamle dame og den kriminelle ned, eller skal du køre ind i betonklodsen, så det kun er lægen og de tre katte, der dør?
Det er ét af de scenarier, MIT's Moral Machine online-test kan udsætte dig for (bemærk at billederne kan tage lang tid om at loade færdig). Den sætter dermed fokus på ét potentielt etisk dilemma, som programmører af software til selvkørende biler står over for.
Testen er en variant af et klassisk filosofisk problem, the Trolley Problem, som stiller spørgsmålet: Hvis du sidder i en sporvogn, der ikke kan stoppe, og er på vej til at køre fem mennesker ned, vil du så trække i et håndtag, der sender sporvognen over på et andet spor, hvor den kun vil køre en enkelt person ned?
Det etiske problem er især en udfordring af utilitarismen, der i sin grundform sigter mod at maksimere den samlede lykke i samfundet. For utilitaristerne er det oplagte svar, at vælge at ofre den ene person frem for de fem.
Eller som Spock og Kaptajn Kirk sagde det i Star Trek II: The needs of the many outweigh the needs of the few.
Det bliver straks mere kompliceret, hvis man tilføjer yderligere information til problemet, som eksempelvis, at én af de fem vil blive den nye Hitler. Denne stribe fra Existential Comics belyser fint, hvor langt ud man kan tage sporvognsdilemmaet.
MIT's test gør det tilsvarende svært at finde en oplagt løsning, der altid kan bruges på problemet. Skal man eksempelvis altid ofre de fodgængere, der går over for rødt, frem for dem, der går over for grønt, også selvom det så betyder, at bilen skal skifte vognbane?
Først mig selv
En undersøgelse foretaget af MIT og University of California, hvor folk blev bedt om at tage stilling til udvalgte varianter af dilemmaet, viste, at flertallet foretrak at redde dem selv, hvis de selv sad i den selvkørende bil, skriver Gizmodo.
Svaret på sporvognsdilemmaet er, at der ikke er noget let svar. Det er et etisk dilemma, hvor det altid vil være muligt at finde varianter, hvor ekstra information får dig til at ændre dit svar eller tvivle på dit tidligere svar.
Hvis man træder væk fra den utilitaristiske tilgang, så er et andet syn, at et menneskeliv ikke kan værdisættes. Skaden er så at sige uendelig stor, uanset om der bliver dræbt én eller fem personer.
Det taler for én af to løsninger, nemlig enten altid at ofre bilens passagerer, når ulykken er uundgåelig, eller altid at redde passagererne.
Det tætteste på et rigtigt svar er, som er at erkende ligesom den kunstige intelligens i Wargames-filmen, at den eneste måde at vinde på, er slet ikke at spille spillet.
For den selvkørende bil er et godt svar altså, at bilen altid skal forsøge at undgå at blive udsat for sporvognsdilemmaet. Det er ikke så fjernt, som det måske kan lyde, for det er dét, vi allerede gør med menneskelige chauffører, hvor hastighed og afstand altid skal tilpasses, så vi kan nå at bremse, hvis et barn løber ud på vejen, eller bilen foran os pludselig bremser.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
