New Zealand indfører krav til brug af algoritmer i forvaltningen

Illustration: ismagilov/Bigstock
De nye standarder skal sikre, at borgerne oplever brugen af algoritmer som fair og transparent, når der bliver taget beslutninger baseret på algoritmer - som det for eksempel var tilfældet i Gladsaxe Kommunes projekt.

Den new zealandske regering har vedtaget et sæt standarder, der skal virke som guideline for, hvordan regeringskontorer skal bruge algoritmer. Standarderne er efter sigende de første af i slags på verdensplan og skal forbedre datatransparens og –ansvarlighed. Det skriver ZDnet.

Læs også: AI-professor kritiserer model bag børneprofilering: »En god illustration af forskellen på transparens og forklarlighed«

Statistikminister James Shaw udtaler i forbindelse med vedtagelsen, at brugen af algoritmer og beslutninger på baggrund heraf ’ikke er uden risici’, og at det derfor er vigtigt, at folk føler sig sikre på, at algoritmerne bliver brugt på en ’fair, etisk og transparent’ måde.

I alt 21 regeringskontorer og ministerier skal følge de nye standarder, og det forpligter dem til at forklare, hvordan beslutningerne er blevet truffet på baggrund af algoritmer og sikrer, at dataene er rigtige til formålet og fri for bias.

Danmark tøver

I Danmark har der været flere eksempler, hvor algoritmerne i offentlige projekter er blevet anklaget for at være uigennemsigtige.

Læs også: AI-professor kritiserer model bag børneprofilering: »En god illustration af forskellen på transparens og forklarlighed«

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (10)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#2 Claus Bobjerg Juul

Siger New Zealand ikke indirekte at AI er no-go, Altså AI hvor grundlaget for en beslutninger ikke kan forklares.

Til mit kendskab findes der endnu ikke en AI, hvor det kan forklares hvordan AI'en er kommet frem til en resultat.

Det New Zealand har gang i, lyder som en god og fair måde at bedrive myndighed på.

  • 6
  • 0
#3 Bjarne Nielsen

Til mit kendskab findes der endnu ikke en AI, hvor det kan forklares hvordan AI'en er kommet frem til en resultat.

https://en.wikipedia.org/wiki/Explainable_artificial_intelligence

Det er ikke nemt, for en ting er at komme med en forklaring, men er det en rimelig og forståelig forklaring, eller er det en bortforklaring?

Og er det nu nok? Knivloven er til at forklare, men hvad med alle gråzonerne og de anerkendelsesværdige formål?

Hvad gør man, hvis betydende faktorer "tilfældigvis" ikke er en del er input-vektor-rummet? Hvad gør man, hvis forhold, som kunne være udslagsgivende er misrepræsenteret, og derfor ikke vurderes som betydende? Eller urimelige input (vi har set kommuner tilbyde børnehave til 104-årige eller noget i den stil).

Hvordan sikrer man at aktive modstandere ikke kan simulere eller på anden vis regne ud, præcis hvor grænsen går, og hvilke argumenter, som skal til at overbevise? Tænk adversarial patterns og udbytterefusionsskandalen.

Og når vi er igang, kan vi så få en følsomhedsanalyse på afgørelsen/forklaringen. Ville udfaldet have været anerledes, hvis faderens skonummer havde været et nummer større? Eller moderen var blevet ansat i december fremfor i januar?

En rimelig og forståelig forklaring er en god start, men det er slet ikke nok.

Reglerne i NZ ser umiddelbart ud til at være en god start, selvom der er meget at arbejde med. Så venter vi bare på, at der kommer "40 benspænd".

  • 2
  • 0
#6 Aksel Koplev

Mange love kan ikke forklares. Et simplet eks. loven om indfødsret siger direkte for, at for at få indfødsret skal du være dansk. Nu er 'dansk' som sådan ikke let at forklare såeh... (det er en følelse)

Men du kan slå loven op, du kan få adgang til det relevante udvalgs betænkning fra lovens behandling. Du kan få agtindsigt i diverse dokumenter om loven o.s.v. Det er derfor tilgængeligt for dig, hvad der i sammenhængen menes med "dansk".

Det er fundamentalt anderledes end at grundlaget findes i flere tusinde liners programkode.

  • 0
  • 0
#7 Jan Ferré

Nu skal man jo altid passe på med sælgere! Det er deres opgave at sælge skidtet, ikke at gøre sig moralske overvejelser.

Hvis man kunne indstille sig på, at AI (i bedste fald) kan løfte en finger - fremhæve, at her er ting, der skal overvejes nærmere - så ville jeg nok ikke være så nervøs. Det er samme funktion som det kan have at spørge en kollega - i mange tilfælde vil bare det at beskrive situationen få spørgeren til at tænke nye tanker.

Men AI kan (så vidt jeg ved) ikke afgøre noget som helst med stor sikkerhed for udfaldet. Det er bare svært at få sælgerne til at lade være med at påstå det.

Så måske kan vi ønske os et AI-baseret konversations-apparat?

  • 0
  • 0
#8 Karl Johan Simonsen

AI dækker over mange forskellige teknikker og den mest "kendte" er rigtig nok en black box. I hvert tilfælde tidligere studerede man under AI også fx rule-based systems hvor experter/sagkyndige formulerer et omfattende sæt af regler. Her kan systemet liste hvilke regler der i en given situation giver anledning til resultatet. Derimod er rule-based machine learning noget andet som jeg ikke har viden om.

Desuden er der Bayesian network hvor systemet også kan vise de beregnede sandsynligheder i netværkets knudepunkter. Og man har mulighed for at spore baglæns fra resultatet eller forlæns fra input samt lave følsomshedsanalyser. Se fx Hugin og Munin på [https://www.hugin.com/index.php/history/]

  • 0
  • 0
#10 Jørgen L. Sørensen

Det må være en menneskeret at svar er dokumenterede

Ja - og ifølge forvaltningsloven (men så laver Borgen nok en regel om at AI er en retsregel):

§ 22. En afgørelse skal, når den meddeles skriftligt, være ledsaget af en begrundelse, medmindre afgørelsen fuldt ud giver den pågældende part medhold.

§ 24. En begrundelse for en afgørelse skal indeholde en henvisning til de retsregler, i henhold til hvilke afgørelsen er truffet. I det omfang, afgørelsen efter disse regler beror på et administrativt skøn, skal begrundelsen tillige angive de hovedhensyn, der har været bestemmende for skønsudøvelsen.

Stk. 2. Begrundelsen skal endvidere om fornødent indeholde en kort redegørelse for de oplysninger vedrørende sagens faktiske omstændigheder, som er tillagt væsentlig betydning for afgørelsen.

https://www.retsinformation.dk/eli/lta/2014/433

  • 0
  • 0
Log ind eller Opret konto for at kommentere