Synspunkt: Flyt fokus fra selvkørende sagsbehandling til sammenhæng mellem praksis, lov og data

Det kan godt gå for hurtigt med at tage data og AI i brug, men det kan kun gå for langsomt at lære, hvordan vi bruger teknologien ansvarligt, skriver professor Thomas Troels Hildebrandt i dette indlæg.

Teknologi har hjulpet os med at forstå verden, øge vores levestandard og håndtere sygdomme. Og kunstig intelligens er en særlig fascinerende teknologi, fordi vi med maskinlæring og data kan lave algoritmer, der giver løsninger på problemer, vi ikke selv ved hvordan vi skal løse.

Flere rapporter beskriver de fantastiske muligheder, der ligger foran os. Verden over skydes der store summer i udvikling og forskning i brugen af data og kunstig intelligens, og der eksperimenteres i både offentlige myndigheder og private virksomheder. Det kan kun gå for langsomt.

Samtidig advarer andre rapporter om farerne ved, at teknologi og data anvendes forkert, og at det går alt for hurtigt med eksperimenterne. Det er derfor ikke mærkeligt, at debatten hurtigt bliver polariseret.

Ansvarlig kunstig intelligens

Som professor i datalogi, født et par år efter Datalogisk Institut på Københavns Universitet (DIKU) blev etableret, er jeg vokset op samtidig med datalogien i Danmark.

I flere forskningsprojekter og innovationsnetværk samarbejder jeg med virksomheder og offentlige institutioner for at undersøge og udvikle metoder til, hvordan data, logik og kunstig intelligens kan anvendes ansvarligt.

Vejen til effektiv digitalisering

I 2017 fik jeg støtte fra innovationsfonden sammen med en række offentlige og private partnere i forskningsprojektet Effective, co-created and compliant adaptive case management for Knowledge workers til at udvikle metoder til effektiv, samskabt digitalisering af sagsbehandlingen i kommunerne, der kan tilpasses praksis og benytte data til at give bedre sagsforløb.

Efter godt tre år har vi nu løsninger udviklet af EcoKnow-partneren DCR Solutions, der gør det muligt digitalisere lovgivningen forståeligt og gennemsigtigt, og hvor sammenhængen mellem de digitale regler og lovgivningen kan spores. Det gør det nemt at kontrollere de digitale regler og ændre dem, hvis lovgivningen ændrer sig.

Teknologien kan bruges som en service i skyen, hvor kommuner deles om digitale lovmodeller og er på vej ud i flere kommuner via brugerklubben SBSYS og en open source sagsbehandlingsklient, der kan arbejde sammen med eksisterende ESDH-systemer.

Teknologien anvendes også i løsninger fra Infoventure, der blandt andet bruges i Aalborg kommune til at præsentere vejledninger for medarbejdere indenfor ældre- og handicapområdet og analysere compliance for sagsbehandlingen udført i Cura-systemet fra Systematic.

Endelig kan den bygges ind i maven på andre leverandørers systemer og er f.eks. allerede integreret i Enterprise Information Management systemet KMD WorkZone, der anvendes af mange styrelser og universiteter.

Ikke alle data er lige lette at vaske

Med hensyn til at bruge data blev det dog hurtigt klart, at det slet ikke var klart, hvordan de data, der findes i de nuværende sagsbehandlingssystemer, hænger sammen med praksis og virkeligheden uden for systemerne.

Imens andre aktører udviklede algoritmer til at støtte sagsbehandling i kommunerne baseret på maskinlæring, som det efterfølgende har været svært at forklare og forsvare brugen af, havde vi som mål først at forstå arbejdspraksis, hvilke problemer det kunne give værdi at løse og om man kunne bruge data og AI forsvarligt til at løse dem.

Det er velkendt, at der i forbindelse med AI projekter ofte finder en større datavask sted, hvor forkerte data rettes og manglende data tilføjes. F.eks. blev der oprettet 100.000 nye adresser i Danmark. Men, ikke alle data er lige så lette at vaske og benytte som adresser.

Som beskrevet i to artikler fra EcoKnow-projektet, der i starten af året blev optaget på den internationale konference for computer-støttet samarbejde (CSCW), er det ikke alle data, der registreres, og sagsbehandlingssystemer kan ofte bruges på mange forskellige måder, uden at de bruges forkert.

Det er derfor ikke altid nemt at se i databasen for jobcenteret, hvornår en sag er begyndt eller hvornår og hvorfor den er stoppet. Det gør det svært at bruge data til f.eks. at forudsige, hvor lang tid det tager at få job. Og som vi beskriver i en anden artikel, så er forudsigelser af længden af ledigheden måske slet ikke det rigtige eller mest værdifulde problem at løse og slet ikke med kunstig intelligens.

Svært at få adgang til forståelig dokumentation

Selv hvis data er vasket, og udviklerne ved, hvor de kommer fra, og hvad de betyder, så er det svært for udenforstående at få adgang til forståelig dokumentation for, hvilke data algoritmer er trænet på, og hvilke begrænsninger de har.

Som beskrevet i en tidligere artikel synspunkt, påpegede det nu fyrede medlem af Googles data-etik-gruppe, Timnit Gebru, i en artikel udgivet i 2019 sammen med flere fagfæller, at der endnu ikke findes standarder for, hvordan man dokumenterer algoritmer lavet ved hjælp af maskinlæringsalgoritmer og data.

Derfor gik jeg i EcoKnow ind i arbejdet med udvikling af standarder for AI sammen med Dansk Standard. Det har blandt andet resulteret i de første to Public Available Specifications (PAS) inden for kunstig intelligens, for henholdsvis gennemsigtighed og anvendelse af kunstig intelligens til beslutningsstøtte i det offentlige.

Skal anbefalingerne fra EcoKnow og de to specifikationer sammenfattes i tre bud kunne det være:

1) Skab sporbar sammenhæng mellem arbejdspraksis, lovgivning og data.

2) Brug tid på at forstå arbejdspraksis: Hvilke problemer vil det give værdi at løse?

3) Brug forståelige algoritmer, hvor der om nødvendigt kan gives en forklaring på algoritmens svar.

DCR-teknologien udviklet i EcoKnow til at lave digitale lovmodeller understøtter alle tre bud: De digitale lovmodeller sikrer at sagsforløb dokumenteres gennemsigtigt i forhold til de handlinger og tidsfrister, der er krævet i lovgivningen, uden at sagsbehandleren skal søge og slå op i lovtekster. Den bedre dokumentation kan hjælpe til at kunne forstå arbejdspraksis. Og endelig kan teknologien bruges til at give anbefalinger, der kan forklares ud fra lovgivningen.

Danmark står stærkt

Der er mange andre kraftfulde AI-teknologier, som lover selvkørende biler og sagsbehandling, men som endnu ikke er klar til at blive testet på mennesker.

Heldigvis står vi stærkt i Danmark i forhold til at få en endnu bedre forståelse af sammenhængen mellem algoritmer, data, mennesker og lovgivning.

For nyligt blev det offentliggjort, at Dansk Standard kommer til at stå for sekretariatet for den kommende fælles tekniske komité, CEN-CLC/JTC 21, for AI i Europæisk standardisering.

DIKU ligger som top 5 i verden, hvis man zoomer ind på kombinationen af forskning i klassiske algoritmer, behandling af naturlig sprog (NLP) og menneske-maskin-interaktion (HCI) – herunder computer-støttet samarbejde.

DIKU har også flere forskningsprojekter indenfor AI sammen med juridisk fakultet og spiller en afgørende rolle inden for AI i det nye nationale forskningscenter Digital Research Centre Denmark støttet af innovationsfonden og Villum og Velux fondens store forskningsprojekt Algoritmer, Data og Demokrati der blev sat i gang 9. april i år.

Disse initiativer giver en fantastisk mulighed for samarbejde på tværs af de datalogiske forskningsmiljøer, i samarbejde med andre fagligheder, myndigheder og private virksomheder. Og det er nødvendigt. Det kan nemlig godt gå for hurtigt med at tage data og AI i brug.

Men det kan kun gå for langsomt at lære, hvordan vi bruger teknologien ansvarligt.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (0)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Log ind eller Opret konto for at kommentere