Databeskyttelseskommissær (Beauftragter, red.) for Schleswig-Holstein Marit Hansen, som også er kommissær for informationsfrihed, er bekymret for, at brugen af kunstig intelligens og algoritmer i den offentlige forvaltning skaber en ny situation med afgørelser, der ikke er til at forstå for borgerne.
»Den offentlige forvaltnings afgørelser skal være gennemskuelige - det grundlæggende forfatningsmæssige princip ændres ikke ved brug af teknologi. Vi har brug for garantier for troværdighed og kvalitet ved udnyttelse af alle de teknologi, vi tager i brug. Det krav er ikke tilstrækkeligt opfyldt med de nuværende teknologier, og med selvlærende og stadigt foranderlige systemer bliver det endnu vanskeligere,« siger hun ifølge en meddelelse.
Der findes ikke et helt korrekt dansk ord for det tyske Beauftragter; det nærmeste, man kommer, er nok 'kommitteret', men det klinger ikke helt korrekt. I mange sammenhænge vil direktøren for en styrelse være en analogi. Det bliver ikke bedre af, at de enkelte delstater har forskellige love og regler, og en 'Beauftragter' opfattes som politisk udvalgt for en valgperiode, med hovedvægt lagt på den rådgivende side, og ingen til begrænsede forvaltningsmæssige magtbeføjelser og ingen egentlige juridiske beføjelser. I store, men ikke hundrede procent dækkende, træk er der tale om en rådgivende funktion for det politiske plan. Ikke så løsrevet som f.eks. Etisk Råd, men på linje med chefen for en styrelse, og uden de beføjelser som for eksempel en ombudsmand har.Er en Beauftragter en kommissær?
Databeskyttelseskommissæren har i samarbejde med andre føderale og statslige repræsentanter udsendt en officiel holdningsskrivelse (et såkaldt positionspapir, PDF) omhandlende gennemsigtighed i anvendelsen af algoritmer i forvaltningen, kaldet 'Transparens i forvaltningen også ved brug af algoritmer og kunstig intelligens'.
Ifølge kommissariatet, Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein (ULD), undersøger den offentlige forvaltning for tiden, hvorvidt algoritmer og fremgangsmåder, der involverer kunstig intelligens, kan forenkle opgavevaretagelsen i det offentlige.
Oftest involveres der dog ikke persondata, men faktaorienterede data i forbindelse med vejrudsigter, undersøgelse af broers stabilitet, planlægning af vejtrafik eller føringen af el-kabler.
Men hvad betyder udviklingen for retten til information, spørger kommissærerne. Hvad betyder det for det bagvedliggende princip om adgangen til at kontrollere forvaltningens handlinger?
Kommissærerne for informationsfrihed understreger i den forbindelse myndighedernes pligt til - inden en beslutning om at anvende redskaberne tages - at undersøge, om de understøtter, at grundlæggende rettigheder overholdes; ikke alle former for databehandling er tilladt.
Samtidig fremhæves forvaltningens ansvar for at sikre tilstrækkelig gennemsigtighed.
Det ville være betydeligt enklere, hvis udviklerne af sådanne systemer allerede i planlægningsfasen tilgodeså transparenskrav - i betydningen 'Transparency by Design', anfører ULD i skrivelsen.
»Lovgiverne i forbundstaten og delstaterne opfordres også til at øge indsatsen for 'transparensforeskrifter', for eksempel i lovgivningen omkring adgangen til information eller i fagorienterede love,« lyder det.
»Holdningsskrivelsen har gjort det klart for os, at der er behov for at reagere. Vi ser frem til at drøfte konkret, hvordan de krav, der skal efterleves, kan implementeres. Forskning i kunstig intelligens, som bør bidrage med belysning af området og gøre redskaberne forståelige ('forklarlig kunstig intelligens') kan også spille en vigtig rolle her. Og selvfølgelig ser jeg ikke kun problemer for dataanvendelsen, men også privatlivsudfordringer, da algoritmer og kunstig intelligens behandler personlige oplysninger,« udtaler Marit Hansen.
Version2-læser Kurt Friis Hansen har bidraget med oversættelse.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
