AI kryber ind i investerings-beslutninger, men vi overser langsigtede effekter af bias, mener forsker

AI kryber ind i investerings-beslutninger, men vi overser langsigtede effekter af bias, mener forsker
Illustration: Drozd Irina, Bigstock..
Det første selskab er blevet købt og solgt alene på baggrund af et AI-system. Men vi snakker for lidt om de langsigtede effekter ved at overlade investeringsbeslutninger til algoritmer, mener professor.
23. december 2021 kl. 03:45
errorÆldre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Mange effekter af bias i ML-systemer kan være nemme at opdage, hvis man tester efter det. Du kan måle, hvis et system tager beslutninger på en måde, der diskriminere mod kvinder eller minoritetsgrupper. Men de langsigtede bivirkninger af bias i ML-systemer er langt sværere at forudse - og bliver forsømt.

Det mener Alf Mikael Rehn, der er professor på Institut for Teknologi og Innovation på SDU.

Som en del af det storstilede forskningsprojekt Algorithms, Data & Democracy, der er støttet af Villum-fonden med 100 millioner over 10 år, er Alf Mikael Rehn i færd med at undersøge effekten af brugen af AI til at guide investerings-beslutninger.

»En større og større mængde af venturefonde investerer allerede kraftigt i algoritmiske logikker,« forklarer han.

»EQT, som vi har arbejdet med, har udviklet et AI-system kaldet Motherbrain, der allerede har foretaget det første køb af en virksomhed fuldstændig algoritmisk drevet og solgt en virksomhed fuldstændig algoritmisk drevet. Det er ikke science fiction. Det sker i dag.«

Men når black box-AI kryber ind i investeringsbeslutningerne, tillader vi algoritmer at påvirke innovationsbaner uden at vide det fuldt ud, hvad dette fører til, påpeger professoren.

Log ind og få adgang
Du kan læse indholdet ved at logge ind eller oprette dig som ny bruger.
Debatten
Log ind for at deltage i debatten.
settingsDebatindstillinger
7
24. december 2021 kl. 12:17

Det er som om Version2 konstant har sølvpapirshatten på og ser trusler og problemer med AI som "kryber" ind allevegne. Hvorfor ikke have en mere videnskabenlig indstilling?

Version2.dk er ikke, og har aldrig været særligt objektivt.

Ideologien er "venstrefløjs-frihedsorienteret", dvs. man er imod økonomisk frihed men for individuel frihed. Med alle de selvmodsigelser det indebærer. Se f.eks. deres kritiske vinkel på AI i skattevæsnet.

Samtidig har man en forkert opfattelse af virkeligheden som er nærmest woke. Dvs. man ser gruppeforskelle som udtryk for diskrimination i stedet for genetisk bestemt. Deraf kommer de evindelige artikler om "bias" i AI som noget forkert og ondt.

Når man læser Version2.dk skal man ikke forvente logik og rationalitet, men i stedet en selvmodsigende stærkt ideologisk dagsorden.

6
24. december 2021 kl. 03:49

Og hvis ikke der fandtes "dovne" mennesker, så ville menneskeheden have et problem - de fleste opfindelser udspringer fra en "doven" betragtning om, at dette må kunne gøres lettere.

Og det er præcis grunden til, at "innovation" ikke lader sig "topstyre", som en minister forsøgte sig med for en del år siden. Bureaukrater og lignende kan kun forsinke udvikling. Som du selv er inde på.

Men hvis hvis "ny erkendelse" ikke kommer ud eller "overhøres", kan der gå lang tid ...

5
23. december 2021 kl. 12:16

»Hvis denne bureaukrat, der arbejdede med en temmelig doven programleder, ikke havde taget en million væk fra meget kritiske projekter og lagt det ind i denne meget spekulative projekt, ville vi ikke have Facebook i dag. I hvert fald ikke på den måde, vi har det,« siger Alf Mikael Rehn.

Så var der nok en eller anden der havde fået sat noget i værk et halvt år senere, og protokollen havde måske været anderledes (endog bedre fra fødslen måske?), men der var nok kommet noget alligevel (og hvis vi så ikke havde fået Fæcesbog, så ville det jo kun være rigtig godt).

Det er forkert at antage at en og kun en opfindelse er unik og aldrig erstattelig - de fleste opfindelser er i virkeligheden bare evolution.

Og hvis ikke der fandtes "dovne" mennesker, så ville menneskeheden have et problem - de fleste opfindelser udspringer fra en "doven" betragtning om at dette må kunne gøre lettere.

Tilsvarende inden for patentverdenen - mange opfindelser er ideer som måske mange kommer på mere eller mindre samtidig (bla. fordi de er oplagte i tidsånden), men ham der først får patentet er vinderen, nogen gange til stor skade for innovationen.

Mht. investering, så er min personlige mening at allerhelst så burde fondsbørser nedlægges, således at dem der ville investere skulle gøre det direkte i de virksomheder de kunne se et potentiale i, så det blev de reelle værdier der kom til at sætte dagsordnen, ikke fiktive gevinster - dette er selvfølgelig naivt, men hvis man så i det mindste kunne beherske pyramidespillet, således at alle aktier skulle være navnenoteret, og der var en karansperiode på handler, så ville vi få en meget mere stabil verden.

4
23. december 2021 kl. 11:57

(magtens tredeling) er et problem

Det er det også idag, hvor næsten alle medlemmer af regeringen (den udøvende magt) er medlemmer af folketinget (Den lovgivende magt)

3
23. december 2021 kl. 11:31

Som en del af det storstilede forskningsprojekt Algorithms, Data & Democracy, der er støttet af Villum-fonden med 100 millioner over 10 år, er Alf Mikael Rehn i færd med at undersøge effekten af brugen af AI til at guide investerings-beslutninger.

Dette er faktisk i sig selv et "skræmmeeksempel", AI som "børsspekulant". Givet uoverskueligheden af LongBias er det et potentielt farligt område at begive sig ud i. Ikke AI som sådan men nærmere ML. Helt uden at vide hvor godt det vil virke.

Mennesker begår fejl fx har LD-Fonde mistet over 30 % (i visse grupper) at opsparenes penge siden 2017. Men uhæmmet AI kan måske klare det endnu dårligere?

Vi kan "fyre" et menneske, der klarer noget dårligt. Man skal dog også være opmærksom på at "at begå fejl" er en væsentlig del af udvikling. Så ensidigt fokus fører ikke nødvendigvis noget bedre sted hen. Det bar det jeg mente, da jeg for nylig opfordrede til "mere humaniore" i STEM-uddannelserne - ikke som sidefag, men som nødvendigt supplement til STEM-personers ud- (og livs-) syn.

Man kunne fx gøre obligatorisk at nye MSc + PhD har 5 års arbejde i udlandet; før de og deres uddannelse kan bruges herhjemme.

Som modgift mod den endemisk voksende selvfedme.

2
23. december 2021 kl. 11:30

Denne kommentar er mest til Version2. Mange af AI artiklerne handler om bias og hvordan dette er problematisk. Ironisk nok så virker Version2 (til trods for sit ingeniørmæssige ophav) selv meget biased i sin dækning af AI-området. Det er som om Version2 konstant har sølvpapirshatten på og ser trusler og problemer med AI som "kryber" ind allevegne. Hvorfor ikke have en mere videnskabenlig indstilling? Denne artikel omhandler et spændende emne, nemlig long bias og behøver ikke at fungere som udråbstårn for farligheden af AI. I stedet kunne Version2 have lavet en overskrift som: "Dansk forsker: Husk at undersøge Long Bias ved brug af AI". Den er stadig catchy, kritisk vinklet og vækker interesse (læseren vil tænke: "Hvad er long bias?"), men den er ikke normativ overfor AI. Jeg synes Version2 gør udbredelsen af AI i samfundet en kæmpe bjørnetjeneste ved sin negative holdning. I bør huske, at mange kun læser overskrifter og suser videre til næste overskrift. Her er long bbias jo det egentlig clou, men det finder man først ud af, hvis hele artiklen læses. Så ser man også at Mikael Rehn næppe vil bruge ordet "kryber" om brugen af AI. ADD er ikke nedsat for at smadre AI, men for at vi kan blive bedre til at sikre, at AI bliver brugt på den rigtige måde og ikke får negativ påvirkning af samfundet. Det vil klæde Version2 at udvise nysgerrighed og bringe de kritiske og nye vinkler under den paraply fremfor at udvise frygt som i dag.

1
23. december 2021 kl. 09:24

»Mange store innovationer er startet som virkelig fjollede eksperimenter,« siger han og nævner ARPANET - forløberen til internettet - som eksempel.

Ud fra dette - nok så relevante eksempel - kunne man tænke sig et andet:

Erstat folketingsvalg med en AI-proces, der hvert 4. år - udfra "debatten og folkestemningen" udpejer 179 personer til at sidde i den lovgivende forsamling de næste 4 år. Det er en borgerpligt, som ingen kan frasige sig og lønnen fastlægges pr time som gennemsnit af private timelønninger, for den tid man faktisk er på "Borgen".

Det er mange problemer (det er "et skræmmeeksempel"), men suppleret med en "forfatningsdomstol" kunne det måske virke?

Regering og domstole (magtens tredeling) er et problem, men det kan nok også løses.