Dataetisk Råd: Offentlige AI-pilotprojekter bør bygge på frivillighed og valgfrihed
Det offentlige Danmark eksperimenterer med kunstig intelligens og machine learning i forvaltning og behandling. En række piloter – signaturprojekter – skal få gang i udviklingen af AI i den offentlige sektor. 33 procent af myndighederne anvendte sidste år machine learning og AI, og 91 procent forventer at tage teknologierne i brug i løbet af de næste par år.
Ideen er, at kunstig intelligens kan være med til at effektivisere den offentlige sektor. Projekterne afvikles inden for sundhed, social- og beskæftigelsesområdet samt tværgående sagsbehandling.
De offentlige myndigheder har bedt Dataetisk Råd, der blev nedsat i 2019, om at kigge nærmere på etikken i pilotprojekterne.
Version2 har begæret aktindsigt i svarene fra rådet, og det er dokumentationen fra den begæring, der ligger til grund for oplysningerne i denne artikel.
Rådets umiddelbare refleksioner over tværgående dataetiske tematikker og problemstillinger i projekterne udmøntes i at »der er mange spændende og perspektivrige projekter spredt ud over flere områder.«
Kontrol med bias
På det overordnede niveau skriver rådet i et notat dateret 29. maj sidste år:
»Det er vigtigt at sikre de rette kompetencer i projekterne – både konkret i forhold til it-forståelse og kommunikation, men også generelt i forhold til at sikre, at projekterne lever op til principper om gennemsigtighed, dataetik mv.«
Der foreligger en væsentlig kommunikationsopgave i, at borgerne kommer til at føle sig trygge, når det offentlige anvender kunstig intelligens.
»Samtidig bør medarbejderne forstå, hvordan de kan bruge teknologierne, især i formidlingen til borgerne, fordi mennesker stoler på mennesker – i mindre grad på robotter. Derudover er it-forståelse vigtigt, blandt andet i forhold til at vurdere, om systemerne kan det, som producenten påstår, og at man er i stand til at kontrollere det.«
Det er også vigtigt at være opmærksom på, hvordan data anvendes, påpeger rådet. Det gælder eksempelvis personhenførbare data, hvor GPS-data ikke kan være anonyme. Derudover bør projekterne stille sig spørgsmål om, hvordan der udføres kontrol med bias i datasættet, og hvordan det sikres, at der ikke bruges mere data end nødvendigt, således som det såkaldte proportionalitetsprincip kræver.
»Endvidere er det centralt, at erfaringsopsamlingen i projekterne indeholder både positive og negative gevinster, herunder hvordan projektet opleves ud fra et borgerperspektiv.«
Gennemsigtighed, frivillighed og lighed
Dataetisk Råds anbefaler også, at projekterne baseres på gennemsigtighed for borgerne. Der bør informeres klart og forståeligt om behandlingen af borgernes data, det enkelte projekts formål, funktion, sikkerhed og begrænsninger.
Signaturprojekterne, der involverer borgernes data, skal bygge på frivillighed og valgfrihed for borgerne.
»Endelig er det Dataetisk Råds anbefaling, at der tænkes lighed ind i udviklingen af projekterne med henblik på at mindske problematiske bias i data. Det er endvidere rådets anbefaling, at der målrettet arbejdes for at også ressourcesvage og udsatte borgere får gavn af den teknologiske udvikling.«
For at sikre at databehandlingen sker under hensyntagen til de personer, den berører, anbefaler rådet endvidere, at de signaturprojekter, der i sidste ende sigter imod at forbedre forholdene for borgere eller med arbejdere, inddrager relevante faggrupper, brugergrupper og organisationer i overvejelserne af signaturprojekternes fordele og ulemper - også i dataetisk henseende.
Rådet henviser også til dets datasamkøringsværktøj, der gik i luften i november sidste år.
Læs også: DataTech: Nyt værktøj giver dataetisk vurdering ved samkøring i det offentlige
Dataetisk Råd har udarbejdet to værktøjer til at understøtte etiske overvejelser i forbindelse med samkøring af data i den offentlige sektor: Et dataetisk vurderingsskema og en konsekvensanalyse.
Fremover vil Dataetisk Råd modtage en opsummering af projekternes årlige statusrapporteringer, som blandt andet indbefatter etiske og datamæssige problemstillinger.
Retssikkerhed, rettigheder og samfundsmæssige værdier skal dokumenteres
Den 5. maj i år afgav Dataetisk Råd høringssvar over projektforslag til nye kommunale og regionale signaturprojekter, på bud af Digitaliseringsstyrelsen, Kommunernes Landsforening og Danske Regioner.
De i alt 27 projektforslag fordeler sig på på tre forskellige områder: klima (tre projektforslag), velfærd, herunder sundhed (15 forslag), og administration (ni forslag).
Dataetisk Råd finder det generelt positivt, at man med en række nye kommunale og regionale signaturprojekter ønsker at afsøge mulighederne for anvendelse af ny teknologi og herunder kunstig intelligens i den offentlige sektor.
Anvendelse af kunstig intelligens i den offentlige sektor er stadig på et tidligt stadie. Med signaturprojekterne kan der høstes erfaringer med anvendelse af teknologien med henblik på at udnytte teknologiske muligheder til at give en bedre og mere effektiv service til borgere og virksomheder.
Samtidig kan projekterne give indsigt i teknologiens begrænsninger og udfordringer, herunder i forhold til de dataetiske overvejelser som anvendelse af kunstig intelligens i den offentlige sektor giver anledning til.
Dataetisk Råd anbefaler, at det overvejes og udtrykkeligt dokumenteres, hvilke etiske overvejelser, der ligger til grund for projekterne i forhold til retssikkerhed, grundlæggende rettigheder og grundlæggende samfundsmæssige værdier.
Rådet opfordrer til, at projekterne løbende og i afrapporteringen forholder sig til, dokumenterer og evaluerer etiske problemstillinger i forbindelse med projekterne, så det sikres, at relevante overvejelser og hensyn til etiske værdier integreres i databehandlingen.
Hvad nytteværdi har ny teknologi
Dataetisk Råd finder det generelt positivt, at en række af signaturprojekterne tematisk er udvalgt inden for områder, der ikke i sig selv synes at involvere borgernes personlige oplysninger.
»Denne udvælgelse flytter fokus fra spørgsmålet om, hvad vi kan bruge borgernes personlige oplysninger til, til spørgsmålet om, hvad ny teknologi og data i bred forstand har af nytteværdi.«
Rådet anbefaler dog samtidigt, at det overvejes og beskrives præcist, hvilke data der skal anvendes, herunder fra hvilke datakilder samt hvor følsomme disse data anses for at være.
Indhold, omfang og deling af borgernes personlige data skal begrænses mest muligt og ikke opbevares længere end højst nødvendigt. I den forbindelse fremhæves databeskyttelsesreglernes krav til formålsbegrænsning, tidsbegrænsning og dataminimering.
Rådet anbefaler også, at fejlsikring og sikkerhed i forhold til opbevaring og eventuel deling af data tænkes ind tidligt i projekterne, således at systemer baseret på kunstig intelligens kan håndtere fejl eller uoverensstemmelser og reagere hensigtsmæssigt. Systemer og data må heller ikke utilsigtet bliver tilgængelige for uvedkommende personer og skal på anden måde være modstandsdygtige over for angreb og forsøg på manipulation af data eller algoritmer.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
