Det offentlige er tvunget til at lytte, når borgerne siger nej til AI-bonanza

Det offentlige er tvunget til at lytte, når borgerne siger nej til AI-bonanza
Illustration: Rasmus Meisler.
I en af branchens mest anerkendte årlige udgivelser slår et repræsentativt udsnit af landets borgere fast, at der skal være mennesker bag beslutningerne. Det er et helt afgørende signal til it-beslutningstagerne i det offentlige Danmark, der drømmer om omfattende udbredelse af kunstig intelligens.
Analyse25. november 2021 kl. 11:30
errorÆldre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

It-beslutningstagere på tværs af det offentlige Danmark drømmer hede drømme om en omfattende udrulning af kunstig intelligens (AI) i den offentlige sektor. Men både borgere og eksperter er bekymrede over en fremtid, hvor kunstig intelligens træffer beslutninger i sager i det offentlige.

At ambitionerne er enorme står klart, efter Rambøll i samarbejde med Dansk IT igen i år har udgivet rapporten ‘IT i praksis', der af mange anses for et seriøst bud på en temperaturmåling af de digitale udfordringer i både den offentlige og den private sektor.

»AI ser ud til at blive en af de teknologier, som flest myndigheder vil tage i brug for første gang i løbet af de kommende tre år,« fastslår rapporten, der uddyber:

»Sideløbende med udviklingen inden for AI forventes initiativer til styring af big data at opleve en tilsvarende stærk vækst. Tilsammen vil de to udviklingsområder dominere datadrevet digitalisering hos en stor del af myndighederne. Rambøll vurderer, at det er en effektiv tilgang, der understøtter, at nye løsninger bygger på et afklaret datagrundlag.«

I rapporten har 92 it-ansvarlige og 81 forretningsansvarlige fra stat, regioner og kommuner svaret på et spørgeskema, som konsulenthuset har uddelt. Her gør repræsentanterne for det offentlige ambitionsniveauet soleklart, når det kommer til udbredelsen af kunstig intelligens.

Log ind og få adgang
Du kan læse indholdet ved at logge ind eller oprette dig som ny bruger.
Debatten
Log ind for at deltage i debatten.
settingsDebatindstillinger
10
28. november 2021 kl. 10:30

Det kan jo faktisk klares.</p>
<p>Chefen, som har indført et givet AI-værktøj til sagsbehandling får en minimumsstraf på 1 måned bag tremmer, hvis han ikke kan komme med en begrundet forklaring på en afgørelse.</p>
<p>Så er det bal lukket.

så skal der bygges virkelig mange fængsler. Den manglende transparens er en naturlig konsekvens ved brug af teknologien. Hvis der var en analytisk måde at nå frem til samme resultat behøvede vi den slet ikke

Omvendt vil chancen for at borgerne bliver behandlet på en ensartet måde alt andet lige være større, noget jeg bestemt godt kunne tænke mig gjorde sig gældende i den offentlige forvaltning. Forskelsbehandling medfører uretfærdighed, i modsætning til individuel vurdering som ikke er det samme. Sidstnævnte kan dog godt vise sig svært at implementere i software.

Endelig er der nogle forhold omkring sikkerhed der skal implemteres. Sålænge en Britta Nielsen helt analogt kan dræne statskassen for over 100 millioner kroner over en dekade uden noget opdager det, så er vi ikke for godt kørende i forvejen. Det bliver kun sværere med den ny teknologi, selvom det næppe bliver Britta typer der fremover får mulighed for uautoriseret at få fingrene i fælleskassen. Om det er en trøst ved jeg ikke

8
27. november 2021 kl. 19:13

Politikerne bør:

  • Ikke indføre nye love før de har undersøgt, hvordan eksisterende love virker,
  • Simplificere lovene, så beslutningerne er nemmere at tage, når det korrekte beslutningsgrundlag er tilvejebragt,
  • Ikke detaillovgive, men give fagpersoner ansvaret for en faglig baseret beslutning.

Love og bekendtgørelse for beskæftigelsesområdet fylder udskrevet flere meter. Der er bekendtgørelse der modsiger hinanden. Det er samme situation på socialområdet. Der er mange ulykkelige skæbner og enormt mange skattekroner tabt på dårlige beslutninger på de to områder, som er taget på et ringe beslutningsgrundlag og uklare love og bekendtgørelse (Velfærdssamfundet - en illusion, Nick Allentoft, https://denoffentlige.dk)

Vi har i dag ikke et velfærdssamfund men velfærdsstat. Vi kan med AI få en kynisk velfærdsstat med overvågning og robotbeslutninger, som ingen kan retsforfølge. Se filmen Brazil for at få en idé om fremtiden med AI, hvor en alimdelig borger bliver gjort til terrorist af systemet pga. en flue.

7
27. november 2021 kl. 13:11

Er en model af det danske samfund, som i mange år er blevet konsulteret inden økonomiske politikker er indføres, så på den måde har været i computernes magt i mange år.

6
26. november 2021 kl. 12:02

Stor appetit på automatafgørelser i det offentlige, tilsyneladende uden særlig skelen til transparens, retsikkerhed, egenkontrol eller tilsyn, men som til gengæld behandler alle ens og uden tøven.

Det kan jo faktisk klares.

Chefen, som har indført et givet AI-værktøj til sagsbehandling får en minimumsstraf på 1 måned bag tremmer, hvis han ikke kan komme med en begrundet forklaring på en afgørelse.

Så er det bal lukket.

Mit gæt er, at dette, ligesom anden digitalisering, for embedsværket handler om at smyge sig udenom ansvar.

5
26. november 2021 kl. 06:57

kommer forhåbentlig til at kræve at der SKAL være mennesker bag og adgang til mennesker der kan forklare ..... det er i hvert fald en vigtig del af dataetikken, men det er og bliver Amazon nok aldrig

4
25. november 2021 kl. 22:49

Stor appetit på automatafgørelser i det offentlige, tilsyneladende uden særlig skelen til transparens, retsikkerhed, egenkontrol eller tilsyn, men som til gengæld behandler alle ens og uden tøven. Altsammen uden at lytte borgerne ønsker, behov eller meninger. De borgere, som de angiveligt er sat i verden for tjene.

Og imens i det private: https://noyb.eu/en/black-box-amazon-algorithm-discriminates-customers - kunder nægtes per automatik kredit, uden forklaring og uden mulighed for få sin sag behandlet. Hvorfor? Jo ...:

Ironically, Amazon justifies this by saying that customer service cannot see the exact reason for the rejection "for data protection reasons".

Vi holder vores bevæggrunde hemmelige for din egen skyld, og ikke fordi at vi ikke selv kan gennemskue dem, mmm, mmm! Og fordi ... forretningshemmeligheder! Eller noget.

Fagre nye verden, indeed. Der lyder som en stor bjørnetjeneste.

3
25. november 2021 kl. 22:02

Prøv at spørge borgerne om de vil bruge skattepenge på skrankepaver og såkaldte "kolde hænder", eller om de vil overlade det til computere, så bliver resultatet nok et andet.

2
25. november 2021 kl. 19:18

"It-beslutningstagere på tværs af det offentlige Danmark drømmer hede drømme om en omfattende udrulning af kunstig intelligens (AI) i den offentlige sektor. Men både borgere og eksperter er bekymrede over en fremtid, hvor kunstig intelligens træffer beslutninger i sager i det offentlige."

Hvordan kan det være nået dertil, når det samtidig viser sig, at:

"Det er således særdeles bemærkelsesværdigt, at 70 procent af de adspurgte borgere mener, at det "er vigtigt, at afgørelser træffes med menneskelig involvering«, mens blot 15 procent af de adspurgte svarer, at det er i orden, at der ingen menneskelig indblanding er, når der træffes beslutning."

Det er det allermest tydelige symptom på/bevis på, at vi bliver kuppet. Der er tale om en IT-boble - et seperat segment i toppen af samfundet, som kører sin egen dagsorden, som lige præcist går ud på at kuppe samfundet/befolkningen ved simpelthen at køre under radaren. Hele tanken er, at befolkningen ikke skal opdage, hvad der foregår, og ikke skal høres, før det er for sent - som når Google uhindret har fået lov til at beslaglægge folkeskolen, og pludselig er argumentet, at "Hvad skal vi ellers bruge? Hvad er alternativet?"

"Hvis man ikke fra offentlig side på uklædelig vis vil tromle en teknologisk udrulning ud over befolkningen,.."

Men det vil man! Tech-giganterne og deres lobbyisterne har talt - og betalt - og dikteret!

1
25. november 2021 kl. 14:57

...bør Politikerne nok FORSTÅ at de er dem som er NEMMEST at erstatte med et AI - så inden de går i overdrive med AI implementeringer så skal de tænke sig gevaldigt om.

Jeg kan se en hel del meget arbejdsløse Cand. Polit. mv. løbe desperat rundt i gaderne når SkyNet overtager deres funktioner.

THANK YOU AI!