Professor om algoritmer: Målet med teknologi er også at fremme tillid, sikkerhed og retfærdighed

Professor Christina Lioma fra Datalogisk Institut på Københavns Universitet står i spidsen for den datalogiske del af ​​projektet Algoritmer, data og demokrati. Illustration: Algoritmer, data og demokrati
Tempoet i den teknologiske udvikling accelererer tendenser i samfundet i retning af populisme, polarisering, konspirationer, konflikter og øget ulighed. Det problem vil forskningsprojekt kigge nærmere på.

Digitalisering er blevet et slagord for vækst og velstand i samfundet, men det er også blevet en kontroversiel og medvirkende årsag til tillidskriser i samfundet.

Det mener professor Christina Lioma fra Datalogisk Institut på Københavns Universitet (DIKU).

Sammen med mange andre forskere er hun en del af et nyt, bredt konsortium, der har modtaget 100 millioner kroner til at undersøge, hvordan data og algoritmer kan bruges til at støtte samfundet og styrke demokratiske processer, der løser de nuværende udfordringer.

»Tempoet i den teknologiske udvikling accelererer tendenser i samfundet i retning af populisme, polarisering, konspirationer, konflikter og øget ulighed. Det er en sammenfletning af miljømæssige, sociale, politiske og økonomiske kriser og skaber generel mistillid til samfundets traditionelle institutioner,« mener hun.

Forskerne i projektet 'Algoritmer, data og demokrati' (ADD), går sammen på tværs af discipliner og universiteter for at undersøge præcist, hvordan dette skal tackles.

»Målet med teknologi er at støtte folks velbefindende, individuelt men også som et samfund, fremme tillid, sikkerhed, retfærdighed og gennemsigtighed,« lyder synspunktet.

Læs også: Dansk forskning med 100 millioner kroner i ryggen skal sikre tillid til algoritmer

Står i spidsen for den datalogiske del af ​​projektet

Christina Lioma er til daglig leder af forskningssektionen Machine Learning på DIKU og vil stå i spidsen for den datalogiske del af ​​projektet.

Hendes arbejde vil fokusere på tre kerneproblemer i kunstig intelligens i dag.

Den første er, at søgemaskiner og social medieteknologi generelt er utilsigtet designet til at sprede falske nyheder med clickbait i stedet for rent faktisk at sprede nøjagtige oplysninger, simpelthen fordi denne type indhold er meget klikbare og genererer trafik.

Det andet problem er, at det er umuligt at udelukke bias fra de data, der genereres af samfundet og bruges til at træne AI-algoritmer. Der vil altid være bias med hensyn til en eller anden dimension, såsom køn, alder, hudfarve, seksuel orientering, politisk overbevisning, indkomst eller uddannelsesniveau, med mere.

Det tredje kerneproblem, som Christina Lioma arbejde vil fokusere på er forholdet mellem overparameterisering og generalisering i deep learning.

Du kan høre mere om projektet 'Algoritmer, data og demokrati', når Christina Lioma taler på dette års InfoSecurity-messe, som afholdes d. 29.-30. september 2021 i Øksnehallen, København.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (11)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
#1 Johnny Hansen

Tempoet i den teknologiske udvikling accelererer tendenser i samfundet i retning af populisme, polarisering, konspirationer, konflikter og øget ulighed

Sæt tempoet ned?

Målet med teknologi er at støtte folks velbefindende, individuelt men også som et samfund, fremme tillid, sikkerhed, retfærdighed og gennemsigtighed

Det er som om det står i skærende kontrast med virkeligheden, endda ud fra hendes egen observation. De skal nok bare justere "algoritmerne"...

  • 7
  • 5
#2 Lars Pedersen

"Det andet problem er, at det er umuligt at udelukke bias fra de data, der genereres af samfundet og bruges til at træne AI-algoritmer. "

Har man overvejet, at denne berygtede bias i virkeligheden befinder sig inde i hovedet på folk, og at AI'ens data beskriver verden ganske godt som den er?

Ja, jeg ved det. Det er en red pill for de fleste. Især for dem der drømmer om at verden var et bedre sted.

  • 2
  • 8
#3 Lars Pedersen

"falske nyheder med clickbait i stedet for rent faktisk at sprede nøjagtige oplysninger, simpelthen fordi denne type indhold er meget klikbare"

Hvem klikker på falske nyheder? Jeg har aldrig gjort det.

De eneste falske nyheder jeg klikker på, er links til historier i mainstreammedierne, f.eks. at syrere eller afghanere er højt uddannede og vil bidrage positivt til samfundet. Eller at sorte bliver behandlet racistisk af politiet, eller at kvinder undertrykkes af mænd, eller at uddannelse kan skabe større lighed i samfundet. Tænker forskerne mon på at begrænse denne type af artikler i søgeresultaterne, eller er det noget andet?

  • 1
  • 12
#4 Niels Madsen

"Sammen med mange andre forskere er hun en del af et nyt, bredt konsortium, der har modtaget 100 millioner kroner til at undersøge, hvordan data og algoritmer kan bruges til at støtte samfundet og styrke demokratiske processer, der løser de nuværende udfordringer."

Så man har opfundet et nyt redskab, og nu skal tidligere redakaber (menneskelig betjening f.eks) vige pladsen. For nyt er godt per definition.

Det tænkte nogle også da røntgenstråling bliv opdaget. Det blev med.stor succes brug til alverdens nyttige.formål, f.eks kunne man i finere skotøjsbutikker ved selvsyn på en flouruserende skærm se om de nye sko trykkede..Det var i begyndelsen en stor succes.

Mht. bias, hvodan er sammensætningen i dette nye, "brede" konsortium mon. Der er næppe mangel på cand.polit'er tænker jeg. Men er IT politisk forening eller open source bevægelsen mon også velrepræsenteret? Hvad med borgerrettighedsjurister?

  • 6
  • 4
#5 Niels Madsen

Fra anden artikel: "De 100 millioner kroner er tildelt projektet af Villum Fonden og Velux Fonden. Det ledes af professor Sine Nørholm Just fra Institut for Kommunikation og Humaniora ved RUC."

Hmm. "Institut for Kommunikation og Humaniora"... Man har tydeligt valg at sætte nogen i førersædet som har spidskompetencer indenfor ML/AI og disse teknologiers styrker og begrænsninger.

  • 7
  • 1
#9 mikkel Holm

»Målet med teknologi er at støtte folks velbefindende, individuelt men også som et samfund, fremme tillid, sikkerhed, retfærdighed og gennemsigtighed,« lyder synspunktet.

Kan kun trække på smilebåndet her. Forskermiljøet i Danmark er alt andet end åbent omkring hvilke data de forsker i. Før forskerne indser at de er en del af problemet, kommer vi som samfund ikke videre. Sålænge forskerne bruger tid på luftkasteller, vil tilliden blive ved med at dale og datagrundlaget blive dårligere - på vej mod ubrugeligt. Hvem vil give korrekt data, der senere samfundsmæssigt kan stille en ringere, når tilliden er væk?

  • 5
  • 0
#10 Bjarne Nielsen

Man har tydeligt valg at sætte nogen i førersædet som har spidskompetencer indenfor ML/AI og disse teknologiers styrker og begrænsninger.

Hvis man vil se på den samfundsmæssige betydning af biler, så sætter man jo heller ikke en kemi-ingeniør med tætte forbindelser til olieindustrien i førersædet, vel?

De, som tænker i tandhjul, og deres sælgere, har været alt-dominerende ganske længe, så det er tid til give plads til dem, som er gode til at tænke i sammenhænge, mennesker og samfund.

Vi har alt for længe kun talt om, hvad vi kan - det er også tid til at tænke lidt over, hvad vi vil…! Og hvad det, som vi kan og gør, kan gøre ved os.

  • 2
  • 0
#11 Jens D Madsen

Der er tendens til, at vi i dag gerne bruger AI til stort set hvadsomhelst: Til at tage beslutninger, til at vurdere for os, til at finde de rette løsninger osv. Alt sammen noget, som vel burde være gjort af mennesker?

Det, som teknologi er egnet til, er at være en maskine. At de ting, hvor der er et system, der kan vi kode systemet ind i en maskine, og den fungerer ens hver gang. Vi kan opskrive funktionen, vi kan bevise den, og vi kan vise at det fungerer. Dette er den klasiske brug af teknologi.

Nu er vi kommet dertil, at man vil bruge teknologi til at erstatte mennesket. Ikke kun slavearbejdet, hvor vi skulle gøre det samme igen og igen. Men også vurderinger og beslutninger.

Er vi i virkeligheden ikke inde på et forkert spor? Burde vi ikke tilbage til, at maskiner er maskiner, hvis funktion er indiskutabel, og bevisbar.

Altså - bør vi overlade politiske og andre beslutninger, som tidligere blev gjort af mennesker, til teknologi og AI?

  • 5
  • 2
Log ind eller Opret konto for at kommentere