Denne artikel handler om EU’s nye retningslinjer for anvendelsen af kunstig intelligens (AI), som skal positionere Europa til en ledende rolle på området i en global kontekst. Forslaget risikerer at lægge en alvorlig dæmper på vores IT-innovation, men før vi dykker ned i det, skal vi ca. 10 år tilbage og en tur til Japans hovedstad Tokyo.
Min hustru og jeg bor og arbejder i byen – hun som engelsklærer for japanske skolebørn, og jeg som konsulent i det japanske udenrigsministerium. Vi skal være der ca. et år og undervejs oplever vi mange ting der fremhæver hvor anderledes en kultur Japan har, når den sammenlignes med Danmark og med Europa for den sags skyld.
En oplevelse står dog særligt klart frem. Min kære hustru var på vej til arbejde med metroen da hun ser at der på stationen er noget på færde. Nogle metroansatte løber forvildede rundt mens en vogn holder stille. Da hun kommer nærmere, møder der hende et sælsomt syn.
I den ene ende af metrovognen ligger en ældre dame alene og bevidstløs i en akavet stilling. I den anden ende står en hel række medpassagerer klemt op mod væggen – passive og med blikket den modsatte retning. Min hustru gør det som jeg tror de fleste af os ville gøre i situationen – hun løber ind og forsøger at give hjertemassage og mund-til-mund.
Nu er hun så tilfældigvis også en ret skrap sygeplejerske med erfaring fra kardiologisk afdeling, og det lykkes hende at holde nogenlunde liv i damen indtil redningsfolkene ankommer adskillige minutter senere, og damen har mén, men slipper fra situationen med livet i behold, takket være min hustru. Spørgsmålet som hun og jeg så talte længe om bagefter var så – hvorfor gjorde ingen noget?
Et par dage senere blev vi inviteret til en ”samtale” med distriktets brandchef, hvor vi blev hentet i en fin bil med chauffør og fik taget billeder til lokalavisen, med overrækkelse af et smukt, håndlavet heltediplom, og under samtalen blev min hustru spurgt om hvad der dog fik hende til at gribe ind i situationen. Vi måtte forsigtigt sige at det var normalen hvor vi kom fra.
Hvad vi lærte af oplevelsen er at Japans kultur er særligt præget af ”skam”, og at grunden til at ingen hjalp den døende kvinde, var frygten for den skam der ville være forbundet med at fejle eller måske endda gøre situationen værre. Situationen fremhæver den moralske værdi af at gøre noget godt over for værdien at undgå at gøre noget ondt, og vigtigheden af en balance mellem de to.
Hvis vi udelukkende forsøger at undgå minusser på kontoen i den utilitaristiske kalkule, og dette på bekostning af at vi misser nogle væsentlige plusser undervejs – så risikerer vi at stå med et langt fra ønskeligt udfald, og nu vender vi så tilbage til EUs nye retningslinjer for anvendelsen af AI. Skaberne gør sig nemlig skyldige i helt samme tilgang!
Fokus er nemlig udelukkende på at undgå onder, uden det store hensyn til hvordan goder som innovation og fremskridt bremses eller ligefrem umuliggøres. Der bør altid være en samvittighedsfuld vægtning mellem de to, men her lader det altså til at vægten er tippet fuldstændig til den ene side.
Jeg vil ikke dykke for meget ned i detaljerne, men de to overvejende udfordringer er som jeg ser dem:
1: Definitionen af AI er alt for bred. Ud over decideret machine learning inkluderer det også RPA, statistik og endda videns- og logik baserede tilgange! Det betyder at regulativerne kan ramme rigtig bredt.
2: Krav til dokumentation og test der viser at man lever op til EUs regler, er ekstremt komplekse og op til fortolkning af de forskellige EU medlemslande som hver især skal sikre implementeringen. Som vi kender det fra GDPR kan det gå ud over innovationshøjden, men hertil kommer også at AI-drevne løsninger akklimerer sig et skiftende datalandskab, og derfor vil skulle genbesøges konstant for at sikre at man efterlever gældende retningslinjer. Dette bliver endnu mere udtalt for de løsninger der falder under ”high risk AI” – en definition som også vil være ganske uklar i mange konkrete tilfælde.
Den moralfilosofiske pointe er at et overdrevet fokus på at undgå onder ikke fuldstændigt må overskygge vores ansvar for at handle på det godes potentiale, og det er nemlig præcis det jeg oplever gennemsyrer EU’s udspil ift. AI regulering.
I IT Branchens udvalg for Digitale Erhverv, havde vi en diskussion om netop dette, i forberedelse af vores notat på det nye AI udspil til Folketingets EU udvalgs overvejelse, og konklusionen var den samme. Startups og SMV’er i Danmark risikerer simpelthen at knække halsen på det.
Energistyrelsen opgjorde i sin Basisfremskrivning 2020 fra juni, at de danske drivhusgasudledninger skal beskæres med 20 millioner ton CO2 for at sikre klimalovens mål om 70 procent reduktion i 2030, målt i forhold til basisåret 1990. Siden da er der sket ganske lidt, og ingen reelle, upopulære ofre er gjort. I stedet læner man sig op af formodninger om at vi når det gennem ny, "avanceret teknologi".
Det er slående hvordan denne tankegang og så det udspil fra EU som vi potentielt kan være underlagt om 3 år, står i så stærk kontrast til hinanden, og man må bare håbe at udspillet barberes ned til noget mere praktisk tilgængeligt inden det skal implementeres.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
