EU udstikker retningslinjer for udvikling af kunstig intelligens

Illustration: Jakub Jirsak/Bigstock
Syv retningslinjer skal ifølge EU sikre udvikling af troværdige AI-systemer.

EU præsenterede mandag et sæt retningslinjer for, hvad virksomheder og offentlige myndigheder bør tænke over, når de beskæftiger sig med udvikling af tjenester, der bruger kunstig intelligens.

Det skriver The Verge og flere andre medier.

De nye retningslinjer skal blandt andet sørge for, at AI-software ikke er forudindtaget, når det gælder race eller køn. Derudover må softwaren ikke ignorere eller se bort fra menneskelige observationer, som en læge for eksempel kan have i forbindelse med diagnosticering af en sygdom. Og så vil EU have, at AI-softwaren skal være gennemsigtig og i stand til at forklare, hvordan den eksempelvis er kommet frem til en bestemt diagnose.

EU har bedt en gruppe bestående af 52 eksperter om at nedfælde i alt syv betingelser til fremtidige AI-systemer – nogle af dem mere abstrakte end andre.

De syv krav er:

  • Den menneskelige vurdering og autonomi skal altid have forrang for AI-software. Folk skal ikke manipuleres eller tvinges til noget af kunstig intelligens. Derudover skal mennesker kunne overvåge og afbryde enhver beslutning, som AI-softwaren laver.

  • AI skal være sikker og præcis. Softwaren skal være pålidelig, og den skal ikke være let at kompromittere fra eksempelvis eksterne angreb.

  • Personoplysninger, der indsamles af AI-systemer, skal behandles sikkert og privat. De skal ikke være lettilgængelige for hvem som helst, og det skal ikke være nemt at stjæle oplysninger fra AI-systemet.

  • Data og algoritmer i et system med kunstig intelligens skal være tilgængelige, og softwarens beslutninger skal være forståelige og sporbare for mennesker. Operatøren af systemet skal dermed kunne forklare AI-systemets beslutninger.

  • Ydelser med AI skal være tilgængelige for alle uanset køn, alder, race eller andre karakteristika. Derudover må systemet ikke være forudindtaget på baggrund af disse oplysninger.

  • AI-systemet bør være bæredygtigt og være med til at fremme positive sociale forbedringer.

  • AI-systemer skal være reviderbare, og de skal dækkes af eksisterende whistleblower-ordninger, så ulemper eller fejl i systemet kan blive rapporteret og anerkendt.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (11)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Simon Rigét

punkt 4 er vel nærmest en anakronisme: "softwarens beslutninger skal være forståelige og sporbare for mennesker"

Så er neurale netværk vel udelukket, derved at de netop ikke kan gøre rede for, hvordan de træffer beslutninger. (Forestillingen om at mennesker kan, er vist også mest et fromt ønske :)

... Men ellers syntes jeg at det er fremsynet at begyden at opstyille nogle retnignslinjer.
Især Punkt 1. kan være fint, når det ikke er en selvkørende bil i myldretiden. Men jeg savner nogle klarere borgerrettigheder (for mennesker ;) og noget om ejerskab af data.

Anne-Marie Krogsbøll

Men jeg savner nogle klarere borgerrettigheder (for mennesker ;) og noget om ejerskab af data.


Enig - jeg er lidt i tvivl om, om det ligger i denne passus:
•Den menneskelige vurdering og autonomi skal altid have forrang for AI-software. Folk skal ikke manipuleres eller tvinges til noget af kunstig intelligens. "

Men det ville nok være for godt til at være sandt, hvis det skal forstås sådan, at man heller ikke kan tvinges til at afgive sine data...

Martin Sørensen

punkt 4 er vel nærmest en anakronisme: "softwarens beslutninger skal være forståelige og sporbare for mennesker"

Så er neurale netværk vel udelukket, derved at de netop ikke kan gøre rede for, hvordan de træffer beslutninger.


Et NN kan vel netop gøre meget præcist rede for hvordan den er kommet frem til en given beslutning. Det vil være meget komplekst at se på hvis beslutningen er truffet på baggrund af hundredevis af parametre, men det vil være helt sort/hvidt i modsætning til en beslutning fra et menneske som vil være truffet på en lang række bevidste og ubevidste parametre, og vægtene på de enkelte parametre vil være noget mere diffus og kan skjule uhensigtsmæssige forbehold som f.eks. personlige finansielle interesser.
Det er ikke fordi jeg mener at beslutninger bør træffes af algoritmer. De vil ikke være perfekte, men er rigtigt gode værktøjer til at hjælpe den person der i sidste ende skal træffe beslutningen.
Jeg vil f.eks. være meget nervøs hvis algoritmer får magten til at detonere en atombombe uden menneskelig indblanding, også selv om man designer det sådan at 10 uafhængige algoritmer skal være enige før det kan lade sig gøre.

Martin Sørensen

punkt 4 er vel nærmest en anakronisme: "softwarens beslutninger skal være forståelige og sporbare for mennesker"

Så er neurale netværk vel udelukket, derved at de netop ikke kan gøre rede for, hvordan de træffer beslutninger.


Et NN kan vel netop gøre meget præcist rede for hvordan den er kommet frem til en given beslutning. Det vil være meget komplekst at se på hvis beslutningen er truffet på baggrund af hundredevis af parametre, men det vil være helt sort/hvidt i modsætning til en beslutning fra et menneske som vil være truffet på en lang række bevidste og ubevidste parametre, og vægtene på de enkelte parametre vil være noget mere diffus og kan skjule uhensigtsmæssige forbehold som f.eks. personlige finansielle interesser.
Det er ikke fordi jeg mener at beslutninger bør træffes af algoritmer. De vil ikke være perfekte, men er rigtigt gode værktøjer til at hjælpe den person der i sidste ende skal træffe beslutningen.
Jeg vil f.eks. være meget nervøs hvis algoritmer får magten til at detonere en atombombe uden menneskelig indblanding, også selv om man designer det sådan at 10 uafhængige algoritmer skal være enige før det kan lade sig gøre.

Mht. punkt 5 så er medicinske algoritmer vel forhåbentligt ikke omfattet? Her vil man vel netop gerne behandle folk forskelligt på baggrund af race, køn osv. da der er medicinske årsager til det.

Edit: Beklager dobbelt-posten - troede at jeg redigerede den anden men åbenbart ikke..

Martin Sørensen

Du kan nok gøre rede for en masse vægte i nettet. Du kan nok også genskabet beslutningen. Men du kan sjældent gøre rede for, hvorfor disse vægte, stod netop som de gjorde.


Dén udregning kan man også gøre rede for men den er så stor og ugennemskuelig at der næppe er nogen der kan bruge det til noget..

Men det er vel netop meningen med NN - at de kan finde mening/sammenhæng i kæmpe mængder data. Jeg har bare svært ved at så hvordan man skal kunne gøre beslutninger gennemskuelige, men det må man kunne lave en lang række forskningsprojekter på. De færreste mennesker kan sige at de træffer helt rationelle beslutninger, og selv dommere som burde dømme på et objektivt grundlag gør det ikke altid i praksis da der ofte er uskrevne regler der kan tippe en dom i den ene eller anden retning.

Ditlev Petersen

Dén udregning kan man også gøre rede for men den er så stor og ugennemskuelig at der næppe er nogen der kan bruge det til noget..


Man kan forestille sig (rettere JEG kan forestille mig) at man lader et andet computersystem analysere det neurale netværk og aflevere en rapport i retning af: NN er tilbøjelig til (uld i mund er ikke forbeholdt mennesker) til at udpege personer som suspekte, hvis de har mørk hud eller fregner. NN kan ikke i praksis se forskel på kvinder og langhårede mænd. Pandaer bliver opfattet som bjørnebanditter. Osv. osv.
Rapportern kunne laves ved at lade systemet aflevere en række prøvebilleder (hvis der nu er tale om ansigtsgenkendelse og lignende) og så se, hvordan NN vurderer dem. Altså "supersystemet" skal ikke analysere de enkelte vægte i NN og hvordan de er opstået, men afprøve mulige skævheder og fordomme ved en lang række tests. Give en generel vurdering af NN.

Problemet bliver så, hvordan man laver sådan et supersystem generelt anvendelig og dog så obskurt, at udviklerne af NN ikke kan snøre det. Men hvis mennesker ikke uden videre kan afprøve et NN (det kan de dog faktisk på den skitserede måde), så kan en computers evner inden for idiotarbejde gøre stor gavn.

Log ind eller Opret konto for at kommentere