Teknologirådet: Drop etiske guidelines og stil tekniske krav til ordentlig AI

Artmagination / Bigstock Illustration: Artmagination / Bigstock
Regeringens nationale AI-strategi er uambitiøs og mangler konkrete krav til brugen af AI, mener direktøren for Teknologirådet.

Dette er en forkortet artikel fra DataTech, et nyt PRO-medie fra Ingeniøren om data og analytics.

Regeringens nationale AI-strategi, som kom i marts, er decideret uambitiøs, mener Teknologirådets direktør, Lars Klüver.

Strategien oplister blandt andet en række principper for, hvordan man kan udvikle etiske AI-løsninger, men ifølge Teknologirådets direktør er der behov for konkrete krav fremfor guidelines og principper.

Ifølge Lars Klüver er det allerede nu muligt at indføre en række krav om ansvarlighed i de tekniske systemer. Han foreslår blandt andet, at der kommer konkrete regler for, at det offentlige undergår en audit for bias, når de køber et AI-system.

Derudover fremhæver han, at man kan udvikle systemer, der kan lære af sensitive data uden rent faktisk at have adgang til den data, så f.eks persondata ikke risikerer at blive lækket.

En anden mulighed er teknisk at implementere consent-systemer, som kontrollerer brugen af persondata, så det ikke er op til den enkelte udviklers ansvarlighed og etik at bruge data, de ikke må, fordi de simpelthen ikke får mulighed for det.

Derudover fremhæver Teknologirådets direktør, at der bør investeres mere i at lave systemer, som sikrer ansvarlighed og etik i forbindelse med AI-systemer; f.eks ved at afsætte midler til virksomheder som både kan og vil lave sikkerhedssystemerne.

Ifølge Lars Klüver er det realistisk, at AI-området i fremtiden vil blive reguleret på en såkaldt case-by-case basis. Han anerkender nemlig, at det er svært at lave generelle retningslinjer for, hvilke risici der er ved et bestemt system.

Han mener derfor, at ansvarligheden omkring AI-systemer kan sikres, hvis man f.eks etablerer en godkendelsesordning ved en myndighed, som så vurderer, hvordan virksomheder implementerer AI-systemer og så godkender det eller ej.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (2)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Jakob Skov

Det største problem er den retslige stilling: Kan man stille spørgsmål ved validiteten af et specifikt resultat (principielt har man den mulighed hvis vi da ønsker en retsstat fremadrettet)? En audit er en præ-screening og er derfor ikke nok ift. ie. individuel stillingtagen til "korrelation ikke lig kausalitet"-spørgsmål i retslig sammenhæng. Det gælder også selvom man brander det som "beslutningsunderstøttende værktøjer"!

En fuld åbenhed om indholdet af AI'en er en mulighed, men det er næppe så sjovt for profitsøgende entiteter at skulle udstille den forretningshemmelighed de ikke kan beskytte ved anden IP!
Derfor er AI ikke så oplagt for private firmaer at tilbyde det offentlige i forbindelse med sagsbehandling.

Teknikkerne er brugbare og i en hvis grad undervurderet i forbindelse med forskning og udvikling, men det vil kræve at KL og datasælgerne stikker piben ind og lader praktisk anvendelse og forskning være separate tilgange som ikke smider værktøjernes brugbarhed i grams ved at anvende dem på en vis der stiller borgerne dårligere retsligt og ødelægger fremtidig anvendelse fordi man ikke udviser rettidig omhu!

Samtidig stiller det også krav til myndighederne ift. dataskabelse og åbenheden. Står den praktiske anvendelse mål med indsamlingen eller er det samme problemstilling som politiets fartfælders økonomiske "windfall" for det offentlige?

  • 3
  • 0
Per Larsen

Jeg forstår ikke begrebet "...ordentlig AI". Hvad er det?

Hvis ellers de systemer der udvikles af - mennesker - overholder div. lovgivning, herunder GDPR osv, kan der da ikke være noget problem.

Problemet er de persongallerier omkring udvikling og implementeringsproceesser - senere brugerne, der ikke forstår omfanget af, hvordan et kompleks system skal kvalificeres, valideres, ---- testes. --- Det koster "bare".
Det er sådan set ganske ligegyldigt, om det er under begrebet AI eller simpel "EDB", som det var navngivet i gl. dage.

mvh.

  • 3
  • 0
Log ind eller Opret konto for at kommentere
IT Company Rank
maximize minimize