LEDER Stop den frie leg i det offentliges AI-eksperimenter

Kunstig intelligens kan hjælpe Danmark med at løse store samfundsudfordringer som at frigøre hænder til borgernær velfærd og hjælpe os til at bruge vores ressourcer bedre i den grønne omstillings navn. Sådan lød det fra en begejstret digitaliserings- og ligestillingsminister Marie Bjerre (V), da Digitaliseringsstyrelsen i sidste uge gjorde status over kommuner og regioners forsøg med AI-teknologi på tværs af alt fra beskæftigelse til sundhed og administration.

I en rapport samler styrelsen op på 28 såkaldte signaturprojekter, der er sat i søen i 2020 og 2021 med det formål at identificere konkrete eksempler på, at den kunstige intelligens kan gøre nytte i den offentlige sektor.

Når man nærlæser resultaterne, er det dog svært at mønstre den samme begejstring og optimisme som den nyslåede digitaliseringsminister. Digitaliseringsstyrelsen zoomer ind på syv projekter, der blev afsluttet frem mod april 2022, og i en pressemeddelelse fremhæver styrelsen to projekter med særlig lovende resultater.

Det ene handler om, at Norddjurs har fået en algoritme til at sortere de e-mails, der kommer til kommunens hovedpostkasse. Det gør sorteringen 66 procent hurtigere, end før man havde algoritmen – ganske glimrende, men automatisk mailsortering er langt fra at være en teknologisk landvinding, og eksempelvis begyndte Københavns Kommune at kigge på det for flere år siden. Så selvom det er fint, at den elektroniske post på Djursland nu bliver sorteret mere effektivt, har kommunen reelt set bare fået to millioner kroner i statsstøtte for at hyre en privat it-leverandør til at udvikle et produkt, der allerede fandtes derude.

Det andet fremhævede projekt ligger i Aalborg, hvor man har brugt to år og fire millioner kroner på at udvikle en prototype på et AI-system, der skal hjælpe kommunen ved at forudse, om en borger kan have gavn af et træningsforløb. Igen et ganske glimrende formål. Men graver man et spadestik dybere, står det klart, at man stadig er langt fra at kunne sætte strøm til systemet. Modellen skal videreudvikles, den tekniske infrastruktur skal på plads, og der skal laves aftaler med private leverandører, der kan stå for driften, kan man læse, hvis man kommer langt nok ned i rapporten.

Når man bruger en automatisk sortering af e-mails og et projekt, der end ikke er klar til at gå i drift, som de forbilledlige eksempler på gevinster ved AI i det offentlige, tyder alt på, at man reelt ikke har så meget at vise frem. Fiaskoer er der til gengæld masser af.

Som Version2 i den seneste tid har afdækket, falder jobcentrenes machine learning-projekter på stribe, og otte års forsøg på at bruge AI-modeller til at få de ledige hurtigere i arbejde ser ud til at være slået endegyldigt fejl.

Over en bred kam har konklusionen i både stat og kommuner været, at de anbefalinger og forudsigelser, algoritmerne producerer, har så ringe en kvalitet, at man reelt ikke kan bruge dem til noget. Sagsbehandlernes arbejdsbyrde bliver ikke mindre, de ledige bliver ikke ansat mere, og som professor Thomas Hildebrandt har sagt til Version2, må man efterhånden konkludere, at det strider mod bedre vidende, når man forsøger at bruge AI til at sænke ledigheden.

Mindst lige så beskæmmende er det dog, at diverse forsøg med kunstig intelligens i jobcentrene går til grunde, allerede inden det bliver relevant at diskutere resultaterne. Kommunerne har nemlig slet ikke lovhjemmel til at profilere arbejdsløse danskere med algoritmer, og derfor har to ud af de tre resterende forsøg med AI-på beskæftigelsesområdet da også valgt at smide håndklædet i ringen i erkendelse af, at man simpelthen var i færd med at gøre noget ulovligt. I det sidste projekt – i Syddjurs Kommune – har man trykket hårdt på pauseknappen, mens man håber på alligevel at få Datatilsynets velsignelse til at fortsætte.

Det er slemt nok i sig selv, at borgere og sagsbehandlere i årevis har været prøveklude for jubeloptimistiske AI-projekter, der har vist sig i bund og grund at være milliondyrt, ulovligt tidsspilde på skatteydernes regning. Men de kuldsejlede beskæftigelsesprojekter illustrerer et større strukturelt problem i den måde, det offentlige jagter den hellige AI-gral på. I Digitaliseringsstyrelsens rapport står det klart, at jura og datakvalitet er blandt de største udfordringer på tværs af alle projekterne.

Det er åbenlyst uacceptabelt at igangsætte borgerrettede teknologiprojekter uden at have juraen på plads. Når man går i gang med at bygge et AI-system, inden man har styr på sine data, svarer det i bedste fald til at specialbygge tog til at køre på en specifik strækning, inden man har undersøgt, om der overhovedet er lagt skinner.

Kunstig intelligens rummer ganske givet et vist potentiale i den offentlige sektor, og på sundhedsområdet har vi allerede set glimrende resultater inden for eksempelvis screening for brystkræft. Men når så mange lokale projekter begår de samme basale fejl, er det på tide, at Digitaliseringsstyrelsen gør nåleøjet en smule mindre. Staten må som minimum kræve en seriøs business case og en juridisk og teknisk forundersøgelse, inden den giver kommuner og regioner skattekroner til at kaste sig over AI. Alt andet lugter af teknologibegejstret gummistempel.