Myndigheder satser stort på AI: Her er de sidste 12 signaturprojekter

Det vil man aldrig kunne løse. Bias er nemlig forskellen mellem virkeligheden, og så det en bestemt gruppe mennesker fejlagtigt tror er virkeligheden.

Bias kan være mange ting, og det er korrekt, at hvis man bliver normativ, så kan virkeligheden vise sig at være endog ganske stædig.

Men den bias, som man typisk taler om, er "automation-bias", og det er kort sagt, det som sker, når vi mennesker bliver udsat for teknik - for så er der en kedelig tendens til at vi tager vores abehjerner under armen, og gør dumme ting. Og det har meget lidt at gøre med at vi angiveligt skulle ønsketænke.

Det er menneskeligt at fejle, men for virkelig at effe op på stor skala, så kræver det ofte bistand fra kunstig intelligens.

Relativt små og velafgrænsede.

nemlig det allestedsnærværende "bias"-problem?</p>
<p>Har man glemt det (det vil være pinligt), eller er det så betændt og uløseligt, at man bevidst har "glemt" det?</p>
<p>Eller: Har man løst det?

Præmissen følger af det kommunale selvstyre. På samme måde skal kommunerne hver især være eksperter i mange forskellige ting. Fordi grundloven

// Jesper

Er jeg den eneste der ser listen af projekter og tænker at de IT-problemer der beskrives algoritmisk kunne håndteres med basal aritmetik og nogle if-sætninger?

Hvorfor skal 98 decentrale kommuner og 5 regioner opbygge kapabiliteten til at udvikle løsninger der indeholder AI ? Hvilken værdi bringer det for os borgere ?

Jeg vil mene, at hele præmissen for det der skrives her er forkert.

For nylig løftede Digitaliseringsstyrelsen sløret for 12 nye signaturprojekter, der skal give flere erfaringer med brugen af kunstig intelligens i kommuner og regioner.</p>
<p>Digitaliseringsstyrelsen har valgt at kalde deres projekter, der beskæftiger sig med kunstig intelligens, for signaturprojekter. Formålet er at afprøve teknologien i forskellige dele af den offentlige sektor. Man kan også bruge ordet flagskibsprojekt, fortæller Digitaliseringsstyrelsen til Version2.

Hvorfor skal 98 decentrale kommuner og 5 regioner opbygge kapabiliteten til at udvikle løsninger der indeholder AI ? Hvilken værdi bringer det for os borgere ?

Det er lidt det samme som at sige at alle kommuner skal udvikle evnen til at kunne udvikle med INSERT BUZZWORD TECHNOLOGY HERE.

Måske ville det enormt meget mere mening hvis Digst., Statens IT og Kombit udviklede den IT faglige kapabillitet til at rådgive og facilitere en udvikling af IT, der bruger AI hvis det er relevant.

Altså at man udviklede de steder, hvor der skal/bør være/er IT faglige kompetencer, der skal kunne håndtere AI i en IT udviklings faglig kontekst.

Hvis man ser på projekterne bærer de i høj grad præg af at være Hammer der leder efter et søm. Eller vi har det her problem, nu kan vi få lov til at bruge en hammer til at skrue den her skrue i, måske virker det (Hail Mary) og ellers så projekter der kører aligevel, så lad os få dem på BuzzWord listen her.

Mn kan jo lige se på et par af projekterne.

Beslutningsstøtte til behandling af kommunale aktindsigtssagerMåske skulle man hellere se på at 'aktindsigt enable' sagsbehandligssystemerne, således at man til enhver tid kan trække en 'aktindsigt ready' version af en sag ud. Det underliggende problem er jo en umoden (ift. opgaven) datamanagement ift. at behandle folks data. Så måske skulle man hellere starte der.

Optimeret bygningsanvendelse med kunstig intelligensDet må være en practical joke.

Forbedret beskæftigelsesindsats gennem Process MiningDet her er jo en typisk Hail Mary. Svaret vil jo bare være, Starte en Pandemi, hvor der er brug for mange folk til at teste og vaccinere andre.

Bedre diagnostik af gravide ved hjælp af kunstig intelligensLyder som en kanon ide.

Kunstig intelligens til forebyggelsen af underernæring og indlæggelse af ældreSelve projektet er jo en glimrende ide, men AI ? Det lyder lidt som et projekt der skal/burde køre aligevel, hvor AI bare bruges til at få projektet nemmere igennem.

Øget kontinuitet i ældreplejen ved hjælp af kunstig intelligensMåske skulle man bare bruge pengene på at ansætte nogle flere i ældreplejen ?

Resten af projekterne er .. ja .. jeg synes det er kritisk, at man pitcher en besparelse, når der for nogle af dem nok nærmere er en potentielt kvalitets løft.....

// Jesper

Egentlig var det den slags, jeg troede, at Datatilsynet og Dataetisk råd skulle tage sig af.

Det er rigtig godt, at AMK bliver ved med at blande sig.

Nu hvor vi nærmer os at en PhD er standarden i IT-uddannelser - med hvad deraf følger - er det måske på tide, at normalisere lønnen i denne "branche". Staten har ikke i det lange løb råd til at fortsætte.

Når ægte kærlighed til faget igen bliver motivationen bliver resultaterne måske mere derefter, når "håndværkerne" tør sige fra overfor "spareøvelserne".

og automatisk journalisering af mails. Det må da lige være guf for diværste ministerier

Altså at der skulle gælde samme regler for alle? Er du gal.

Hvad skulle så blive det næste på myndighedsniveau?

Bøder til ansvarlige for lovbrud?

Fyring af chefer, som svigter deres ansvar?

Det går da virkeligt ikke, kan du nok se.

og automatisk journalisering af mails. Det må da lige være guf for diværste ministerier :-) Undskyld.

Måske endda med udviddelsen SmartSMS Undskyld!!

På besøgsplanlægning i ældreplejen synes jeg ikke det giver mening at bruge AI, det er jo standard optimeringsproblem (ligesom skemaplanlægning). Vi har endda lave det tilbage i nullerne i et af hjemmeplejesystemerne, men dat det var vigtigere at spare køretid (penge) end antallet af forskellige besøgende, blev prioriteten af kontinuiteten altid meget lav (nærmest ikke en prioritet).

..., også ift. disse "signatur-projekter", nemlig noget med egentlig godkendende instanser, kan læses i dette indlæg:https://pro.ing.dk/datatech/holdning/replik-professionsetik-ai-udviklere-loeser-ikke-problemet?utm_source=newsletter&utm_medium=email&utm_campaign=datatech

Egentlig var det den slags, jeg troede, at Datatilsynet og Dataetisk råd skulle tage sig af. Har "signatur-projekterne" været en gang rundt om Datatilsynet?

Jeg har kendskab til besøgsplanlægningen i ældreplejen. Og det er hovedrystende, men . .

Man kunne forbedre det væsentligt, hvis man droppede sin kontrolliderlighed, og lod hjælperne lægge planen selv.

Alternativt kunne man finde andre opgaver til de folk i besøgsplanlægningen, der tilsyneladende ikke kan, eller vil læse et kort.

Der er altså ikke behov for noget AI til at løse den slags selvskabte problemer.

Jeg ved ikke i hvor høj grad det gælder de øvrige projekter, men det er altså tåbeligt at kaste penge efter problemer, hvor løsningen kun kræver at man åbner sine øjne.

Erfaringsopsamlingen viser, at projekterne særligt oplever udfordringer med data, jura og it-infrastruktur.

" Fakta: God råd til nye projekter I temperaturmålingen giver projektlederne for en række igangværende projekter gode råd til nye signaturprojekter med udgangspunkt i de ting, som de selv ville have medtænkt i dag, hvis de skulle starte forfra. Der er 10 gode råd, blandt andet følgende: Skab overblik og forstå databehovet Undervurder ikke ressourcebehovet i at sikre det juridiske grundlag Dan et overblik over eksisterende og potentielt kommende it-systemer Alle som påvirkes af projektet skal høres Reserver tid til at sammensætte projektgruppe med rette kompetencer"

Er der nogen her i tråden, som ikke ville have kunnet skrive disse gode, men aldeles generelle og banale, råd selv - helt uden at bruge et par år og mange millioner på at opsamle og formulere de erfaringer?

Underskrift projektet ?

Måske er det mig, der overser det, men har man i erfaringsopsamlingen helt glemt at samle op på det (næst)allerstørste problem i disse projekter, næst efter privatlivsproblematikken i mange af dem, nemlig det allestedsnærværende "bias"-problem?

Har man glemt det (det vil være pinligt), eller er det så betændt og uløseligt, at man bevidst har "glemt" det?

Eller: Har man løst det?

Reelt set kunne V2 bare linke til Digitaliseringsstyrelsen på denne artikel.

Jeg mangler V2 kommer op af lænestolen og stiller kritiske spørgsmålstegn ved Digitaliseringsstyrelsens info.

Hvordan føles fx smartmail af borgeren? Er der nok personlig kontakt i disse kunstig intilligens projekter? Sikkerhed af data? og - som Anne-Marie har skrevet - hvad er status på de første projekter?

Tak for link, Snurre Jensen, men som du kan se, har jeg selv nået at finde det - og blive skuffet.

Tænker du på noget som denne: https://digst.dk/media/24196/temperaturmaaling-af-signaturprojekterne-endelig.pdf ?

Nu er forløbet med signaturprojekter ikke en årlig begivenhed men et forløb der blev vedtaget tilbage i 2019 jf, https://www.regeringen.dk/media/7248/aftale-om-kommunernes-oekonomi-for-2020.pdf .

(håber links virker)

Hov, jov - jeg fandt faktisk en erfaringsopsamling:https://digst.dk/digital-transformation/signaturprojekter/signaturprojekternes-erfaringer/

Her kan man læse bl.a.:"Erfaringsopsamlingen viser, at projekterne særligt oplever udfordringer med data, jura og it-infrastruktur. Det kan eksempelvis være utilstrækkelig datakvalitet, usikkerhed om GDPR og manglende infrastruktur til datadeling, der udforer projekterne."

"Temperaturmålingen viser de vigtigste udfordringer Temperaturmålingen har identificeret en oversigt over de primære udfordringer for arbejdet med kunstig intelligens i den offentlige sektor: Utilstrækkelig datakvalitet, datamængde og manglende fælles datastandarder Juridiske udfordringer herunder om GDPR i dataanvendelsen og generelt Udfordringer med it-infrastruktur blandt andet begrænset teknisk adgang til data og datadeling mellem systemer. Manglende juridiske kompetencer og forståelse for kunstig intelligens. Usikkerhed om etisk retning, ansvarlig anvendelse og manglende transparens. Udfordringer med organisering herunder manglende ledelsesopbakning og projektforankring. Udfordrende samarbejde med leverandører."

    Jamen, har man så fundet løsningerne på disse "udfordringer"? For erfaringsopsamling er ikke meget værd, hvis man ikke også fsinder løsnigner, *inden* man sætter horder af nye projekter i søen.  Her kan man så læse følgende:

" Fakta: God råd til nye projekter I temperaturmålingen giver projektlederne for en række igangværende projekter gode råd til nye signaturprojekter med udgangspunkt i de ting, som de selv ville have medtænkt i dag, hvis de skulle starte forfra. Der er 10 gode råd, blandt andet følgende: Skab overblik og forstå databehovet Undervurder ikke ressourcebehovet i at sikre det juridiske grundlag Dan et overblik over eksisterende og potentielt kommende it-systemer Alle som påvirkes af projektet skal høres Reserver tid til at sammensætte projektgruppe med rette kompetencer"

Ja - gode råd - men *ingen* løsninger.

Hvad nu, hvis der ikke kan findes løsninger på en del af problemerne, eks. etikken og GDPR? Skrinlægger man så projekterne? 

Det tør jeg næsten vædde på, at man ikke gør... Det er det fine ved trojanske heste, at når "fjenden" opdager, hvad man har gang i, er det for sent at gøre noget ved. 

(undskyld formatteringen - den kan jeg ikke gennemskue at rette op på)

Der har allerede været gang i "signaturprojekter" i flere år. Findes der en rapport med erfaringsopsamling fra de allerede eksisterende projekter?

Ville det ikke være en god idé at samle op på disse, inden man går i gang med nye?

Og - igen, igen: Baseret på tidligere artikler har Dataetisk Råd sandsynligvis ikke vurderet projekterne, men blot givet nogle generelle "råd" (kopieret fra tidligere), hvorved de har reduceret sig selv til gummistempel for "flagskibsprojekter", som nok snarere burde hedde "rambukprojekter" eller "trojanske heste til nedbrydning af modstand mod AI i det offentlige".