Techkommission: Det offentliges anvendelse af algoritmer skal reguleres

20. maj kl. 08:556
Techkommission: Det offentliges anvendelse af algoritmer skal reguleres
Illustration: Bigstock.
Da regeringen præsenterede sin nye digitaliseringsstrategi håbede Formand for Djøfs TechDK Kommission Stine Bosse, at der ville følge rammelovgivning med, der skulle sikre, at det offentliges anvendelse af algoritmer sker etisk korrekt. Det skete ikke, men det haster med at få det udarbejdet, siger hun.
Artiklen er ældre end 30 dage

Det er ikke tilstrækkeligt blot at sende flere penge efter dataetisk råd og datatilsynet, når etik skal indtænkes i, hvordan den offentlige sektor skal anvende algoritmer i den borgernære sagsbehandling. Der skal i stedet udarbejdes en politisk rammelovgivning.

Det er budskabet Stine Bosse, som er formand for Djøfs TechDK Kommission til de danske lovigvere. Det skriver Altinget Digital.

Læs også: CFCS hæver trusselsniveauet: Risikoen for pro-russiske hackerangreb stiger

For godt fjorten dage siden præsenterede regeringen sin nye digitaliseringsstrategi, og det var ifølge Stine Bosse en kærkommen lejlighed til at tage stafetten videre fra Djøfs TechDK Kommissions analyse af den digitale forvaltning og rette op på nogle af de fejl, som analysen påpeger.

Artiklen fortsætter efter annoncen

Direkte adspurgt, om ikke de styrkelser af dataetisk råd og datatilsynet med millionbeløb, som strategien lægger op til, er nok, svarer Stine Bosse til Altinget:

Læs også: Ekspert går i rette med hovedargument mod forsvarsforbehold: »Det er minimalt, hvad Danmark går glip af i øjeblikket«

»Fint nok, de anerkender det. Men politikerne skal sige 'vi ved godt, der skal laves et stykke politisk rammelovgivning, som styrer de her ting', så ville jeg sige, at det er superfint. Så har de forstået det. Det haster.«

6 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
6
2. juni kl. 16:15

Hvorfor er der lige fokus på det offentlige? Jeg er betydeligt mere bekymret for kommercielle aktørers anvendelse af algoritmer. Der er i forvejen stor kontrol med offentlige myndigheders omgang med data. Knap så meget med private brug af data.

5
25. maj kl. 11:16

Tjah, når skiftende regeringer sprøjter opportunistisk lovgivning ud som skidt fra en spædekalv, er der få eller ingen, af de arme dlævle, som skal administrere sammensuriet, der har en østasiats chance for at enttangle skidt fra kanel, og gennemskue, hvad der egentlig gælder for den pågældende klient, som er den, der normalt ved allermindst om sin egen reelle situation.

Og så er det jo dejligt at have en algoritme at vaske hænder i.

4
25. maj kl. 06:43

Automatiseret sagsbehandling - når det er svært at få stoppet systemets "fejl" (er det nu er fejl, eller er det en feature?), selv når det er en klar og gennemskuelig "fejl", hvordan vil det så ikke være, hvis der er tale om en kompliceret BlackBox sagsbehandlingsalgoritme/AI?https://www.dr.dk/nyheder/indland/kommunalt-it-system-fratager-automatisk-borgere-kontanthjaelp-i-strid-med-loven

De borgere, som ikke har kræfter og evner til at klage og protestere, kommer til at betale prisen (men det er måske netop den ønskede feature - her og i kommende AI-systemer?)

Dette er åbenbart en klar og gentagen "fejl", der rammer borgere landet over - hvordan kan det være, at den ikke lynhurtigt er blevet rettet?

Hvilken topembedsmand sidder og gnider sig i sine små f.... hænder over at have fået indført denne automatik, der rammer de svageste? For nogen har vel taget stilling til den feature (det tror jeg, det er) - det er vel næppe bare en kodefejl?

3
21. maj kl. 21:51

Ikke kun etik, men hele landets sikkerhed er på spil

Måske faktisk IT-kyndige personer kunne luge ud i de værste misforståelser, inden problemerne opstår. F.eks. var anbefalingen om at slette SMS-beskeder inden de var journaliserede ikke produktiv, men gjorde bare problemet værre.

1
20. maj kl. 09:57

"Da regeringen præsenterede sin nye digitaliseringsstrategi håbede Formand for Djøfs TechDK Kommission Stine Bosse, at der ville følge rammelovgivning med, der skulle sikre, at det offentliges anvendelse af algoritmer sker etisk korrekt. Det skete ikke, ..."

Er det mon en forglemmelse?

Garanteret ikke, for regeringen er blevet tudet ørerne fulde om dette i årevis. Så der være tale om ond vilje. Og det er jo meget foruroligende, for det viser jo, at vi har en regering, som ikke vil overholde etik og menneskerettigheder, såsom retten til privatliv.

Alex Vanopslagh, som jeg ellers sjældent er enig med, har i dag et debatindlæg i Information om regeringens manglende vilje til at anerkende principper omkring menneskerettigheder.

Jeg synes virkelig, at det bliver tiltagende foruroligende så mange eksempler, der efterhånden er på regeringens vilje til at "gå til grænsen (og over), og løbe en procesrisiko".

Hvor går grænsen efterhånden for, hvor langt denne regering er villig til at gå?

Et livsvigtigt spørgsmål, når algoritmerne er på hastig og uhindret fremmarch i samfundet.