Tesla: Den værst tænkelige kombination
Det ser ud til at Teslas autopilot kombinerer ulemperne ved manuel kørsel, og ved en eller anden form for automatisk kørsel. Vi er langt fra de avancerede etiske diskussioner, om hvordan en bil med autopilot hellere skal ramme en enkelt person end en hel børnehave på udflugt, hvis bremserne svigter.
I det aktuelle tilfælde opdagede kameraet og systemet i en Tesla model S ikke en lastbil med en anhænger som svingede og krydsede Teslaens vejbane. Resultatet var at Teslaen kørte ind under anhængeren og ramte undervognen, så føreren blev dræbt.
Det er nævnt at anhængeren var hvid, og at solen stod lige bag den, og at det var derfor Teslaens kamera ikke kunne opfange den. Det er også blevet nævnt, at føreren af en almindelig bil også ville have svært ved at opfatte anhængeren med solen i øjnene.
Det er måske ikke hele forklaringen. En ejer af en Tesla skrev på et diskussionsforum i forbindelse med et andet uheld, at det lod til at Teslas autopilot havde svært ved at klare når biler skulle flette sammen. Det er også nævnt at autopiloten har svært ved at klare når en bil skifter vognbane og trækker ud foran en Tesla.
Det er nævnt flere gange, at designerne af Teslas system går ud fra at føreren er opmærksom, og kan gribe ind, hvis systemet ikke kan klare en situation i trafikken, og Tesla skrev i deres erklæring efter uheldet, at deres system var lavet så det nudgede – puffede til føreren – for at han eller hun skulle holde hænderne på rattet.
Her kommer problemerne. Der er en del beretninger om førere af Teslaer, som trods pufferi tager hænderne væk fra rattet og laver alt muligt andet. Desuden er der forskel på at have hænderne på rattet, og at være opmærksom på trafikken.
Hvis føreren af en bil skal køre manuelt og er opmærksom, kan han eller hun reagere på 0,2 sekunder. Hvis føreren ikke er opmærksom og først skal opdage at der er en kritisk situation og så finde ud af at reagere, kan reaktionstiden typisk være på omkring 2 sekunder, svarende til omkring 40 meters ekstra kørsel ved 80 km/t. Det er endda kun hvis føreren lige netop kigger fremad og får øje på den situation, der er ved at opstå.
Det er et klassisk problem ved udformning af kontrolsystemer. Den letteste udvej er at opgive at lave systemer som kan klare de vanskelige situationer, og i stedet give operatøren ansvaret for at klare dem. Resultatet er bare at operatøren sidder nærmest passiv i lange perioder, og endda kommer ud af træning, og så alligevel skal reagere hurtigt og korrekt, hvis der ikke skal ske et uheld.
https://www.theguardian.com/technology/2016/jun/30/tesla-autopilot-death-self-driving-car-elon-musk
