Skal politiet med algoritmer forudsige, hvem der begår kriminalitet? KU søger nu et svar

Illustration: PathDoc/Bigstock
To forskere skal udvikle et etisk kodeks, som beskriver ansvarlig forskningspraksis inden for AI, men også rejse en generel etisk debat om, hvad vi vil med kunstig intelligens.

Over de næste to år skal to forskere fra Københavns Universitet undersøge de etiske dilemmaer i forbindelse med brug af kunstig intelligens. De skal bl.a. følge AI-forskningen på nært hold, implementere etikken i undervisningen og udvikle et etisk kodeks, som beskriver ansvarlig forskningspraksis inden for AI, fortæller universitetet i en meddelelse, der udgives senere i dag.

De to forskere er Peter Sandøe, der arbejder som professor i bioetik på både Science og Sund, og Sune Hannibal Holm, der lige nu er lektor i filosofi på Hum, men fra 1. januar skifter til en stilling på Science.

»Det er vigtigt, at vi som universitet får manifesteret, at når vi involverer os i ny teknologi som AI, så sker det på en ansvarlig måde, og det bliver diskuteret indgående, hvad vi vil med den,« siger Sune Holm og Peter Sandøe, som de næste to års tid skal undersøge de etiske AI-krinkelkroge til bunds, ifølge KU.

Og der er ifølge universitetet nok af både muligheder og dilemmaer at tage fat på, når det handler om kunstig intelligens: Hvem har ansvaret, når en førerløs bil kører galt? Er det OK, at politiet bruger algoritmer til at forudsige, hvem der begår kriminalitet? Eller at kommunen bruger sociale data til at overvåge særlige grupper?

AI-udvikling

AI-udviklingen er allerede godt i gang. På Datalogisk Institut på Københavns Universitet åbnede i februar i år Science AI Centre, som bruger kunstig intelligens til at analysere store mængder data fra andre videnskaber på Det Natur- og Biovidenskabelige Fakultet på Københavns Universitet.

Også andre tiltag er sat i søen. Version2 har tidligere omtalt et stort tværfagligt og tværinstitutionelt samarbejde, som skal gøre kommunal sagsbehandling lettere ved at bruge AI og process mining.

Dansk politi har udtalt sin interesse for Predictive Policing. Men datagrundlaget i dansk kriminalitet er dog foreløbig for småt til, at det giver mening.

Fremme nuanceret debat

Som eksempel på et af de etiske dilemmaer, der tidligere har fyldt meget i offentligheden, nævner forskerne tidligere årtiers diskussioner om genmodificering af bl.a. planter og fødevarer. Her har skeptikernes stemme og frygten for ny teknologi ført til, at nye teknologiske muligheder er blevet valgt fra på et spinkelt videnskabeligt grundlag.

Deres pointe med den sammenligning er, at debatten skal være balanceret, oplyst og nuanceret, så man i fællesskab kan drage nytte af nye teknologier på en måde, hvor ikke alene videnskaben og virksomhederne, men også befolkningen føler sig hørt.

»Vi har ikke løsningen på, om kunstig intelligens og brugen af algoritmer er rigtig eller forkert, men vi skal forsøge at forstå de overvejelser, der ligger hos både skeptikerne og dem, der gerne vil skubbe bag på udviklingen,« siger Peter Sandøe.

Forskerne er meget opmærksomme på konsekvenser, hvis vi som samfund ikke får skabt en nuanceret debat om emnet.

»Det kan koste samfundet både velstand og velfærd, hvis ikke man gør det. Hvis de produkter, som vores forskere er med til at udvikle til fx sundhedsvæsnet, skal gøre en forskel, så skal de kunne afsættes. Og det kan de kun, hvis vi har haft en diskussion om, hvordan produkterne kan anvendes både til gavn for og med respekt for borgerne,« siger Sune Hannibal Holm.

En del af forskning og undervisning

I løbet af projektet skal de to etikere følge forskere på Science AI Centre (Datalogisk Institut) og andre relevante danske og internationale forskningsmiljøer for at få førstehåndsviden om de mest presserende problematikker i forhold til etik og normer for god praksis på området.

De skal også arrangere debatter og workshops og bidrage til at designe et etisk kodeks, som beskriver ansvarlig forsknings- og innovationspraksis inden for kunstig intelligens. Samtidig skal de implementere den etiske dimension i undervisningen, så de studerende tager den med sig ud i virkeligheden.

»Meget af den viden, som de studerende kommer til at beskæftige sig med, skal de tage med ud i en samfundsmæssig praksis. De skal udvikle programmer, som får stor indflydelse på folks dagligdag, og som derfor hurtigt får en værdimæssig og etisk karakter,« siger Peter Sandøe, og Sune Hannibal Holm tilføjer:

»Hvis vi er lykkedes, når vi er færdige, så kan de studerende ikke undgå at lære om etik i forhold til brugen af kunstig intelligens på deres studie. Målet er også, at vores resultater bliver en integreret del af forskningen,« siger han.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (19)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Bjarne Nielsen

Bruce Schneier er inde på emnet i sin seneste bog, og problemet med automatisering er netop at det er automatiseret ... der er ikke nogen form for sund fornuft inde over, som kan undre sig. Bremsen mangler.

Han nævner selv de automatiske handelssystemer, som formåede at gå amok og ruinere deres skabere (heldigvis slap vi andre relativt uskadt, men det var vist mere held end noget andet).

Og, som han påpeger, det hjælper ikke noget at have et menneske med i loopet, hvis det menneske de facto bare er et gummistempel. Hvis en AI siger "kræft" eller "ikke kreditværdig", så vil det kræve megen indsigt og stort mod at gå op imod det. Hvis pointen med automatisering er at de-skille så "alle har adgang til en ekspert", så findes indsigten ikke. Hvis pointen med automatisering er at kunne processere så meget mere, så kan et menneske næppe følge med, og så bliver kontrollen ikke reel, men overfladisk.

Derfor er jeg også ambivalent i forhold til f.eks. "digitaliseringsklar lovgivning". Jeg er helt med på, at vores love gerne må blive simplere og mere præcise, men jeg er utryg ved, at man skulle automatisere brugen af dem (og for at det gør det muligt at lave langt mere detaljeret og uoverskuelig lovgivning).

Vi skal også være pinligt bevidst om mulighederne for manipulation. Hvor lang tid tog førend chatbotten Tay var blevet manipuleret? Det kan også ske for de systemer, som vi vil indsætte i f.eks. sundhedsvæsenet - f.eks. vil det være yderst lukrativt for et uærligt medicinalfirma, hvis det uset ville kunne sætte fingeren på vægten under træningen - og det vil have langt værre konsekvenser.

Der er stort potentiale, men vi skal være villige til at tage livtag med udfordringerne - og vi skal være villige til at sige nej, hvor der ikke er propertionalitet imellem de to, eller hvor det ikke er klar endnu.

Heino Svendsen

at politiet nu går ud og anholder folk FØR forbrydelsen..

Hensigten er vel at udpege kriminalitet FØR, den opstår, så man enten kan afskrække ved tilstedeværelse eller anholde OPFOR i selve handlingen.

I USA, hvor man kører med samme system (Palantir Gotham, mener jeg), blev politiet anklaget for at være racistisk forudindtagede ved at konkludere, at en gennemsnitlig kriminel i visse områder af L.A. var en 15-20 årig arbejdsløs afro-amerikaner.. Systemet kan ud fra datakilder "forudsige", at der er større chance for, at der sker fx. "samling af mange individer med holdning xx på sted yy på fredag kl.. 19-20"..

Straf og strafudmåling kræver vel stadig en vis form for bevisførelse og ikke blot "fordi vi siger det" ? Hvis man vælger at fjerne bevisførelsen fra retssystemet, er det ligegyldigt, om der er tale om AI eller ej, så har vi skiftet system.

Men det åbner stadig en debat omkring hvem, som angiver de parametre, som betegner individer som "fjender af staten"... For en "fjende af staten" er vel alle, som ikke deler den siddende regerings holdninger og/eller mener, at man skal holde øje med de, som holder øje med borgerne. Dvs. en hel del Version 2 brugere er "fjender af staten".

Lasse Frøding

Bankernes kreditværdighedsprogrammer Giver mange mennesker en dårlig kreditværdighed SOM ikke er rigtig. Bankerne ønsker en sikkerhed for deres penge på 100%, og giver er derfor ikke lån til mange kreditværdige. Det koster dem mange penge. Det samme vil ske ved kriminaliteten. Verden er IKKE sort/hvid, den er varieret menneskelig.

Allan S. Hansen

Hensigten er vel at udpege kriminalitet FØR, den opstår, så man enten kan afskrække ved tilstedeværelse eller anholde OPFOR i selve handlingen.

Men fordi algoritmerne ikke er perfekte og dermed forudsigelsern, så vil politiet stå med kampklædte folk på et gadehjørne til "afskrækning" og så sker kriminaliteten et andet sted mens normale folk så vil blive skræmt væk også.

Ja, det kan tænkes politiet kan fange nogle i handlingen; men det ville de også have kunnet med alimindelig politi arbejdet. Det kræver sandsynligvis ikke mange års erfaring med et område at lære hvor og hvordan kriminalitet opstår; så det er måske lige så meget et resultat af hvordan omstruktureringer og prioriteter har været i de sidste mange år.
Og på den anden side - hvor mange ressourcer bliver så tilsvarende brugtt på udvikling og mistolkninger og fejl agtige konklusioner ift. hvad kunne være brugt på politi folk og arbejde?

Ninett Fischer Jensen

Ak, hvorfor er det kommet dertil, at jeg får en ubehagelig rumlen i maven, hver gang ordet "ETIK" føres frem i medierne?

To forskere, som KU nu officielt har udnævnt til ETIKERE, tilkendegiver i nærværende artikel et ønske om, at debatten m.h.t. implementering af ny teknologi i samfundet, skal ske på et mere NUANCERET grundlag, "hvor ikke alene videnskaben og virksomhederne, men også befolkningen føler sig hørt."

Som eksempel på U-NUANCERET debat henviser de to etikere til tidligere årtiers debat om genmodificerede afgrøder. Omkring denne debat påpejer de "at nye teknologiske muligheder er blevet valgt fra på et spinkelt videnskabeligt grundlag."
Så vidt jeg husker, var netop denne debat meget NUANCERET og præget af forbrugernes ønske om, at følge FORSIGTIGHEDSPRINCIPPET, fremfor at springe ud i det ukendte. Så det er da et ret dårligt eksempel.

Den ene af etikerne har gennem mange år (2004-2010) været i advisory board på et amerikans funderet projekt "HarvestPlus", hvor man af-tester genmodificerede afgrøder i fattige lande. Afgrøder bliver v.h.a. "Biofortification" (nyt smart ord for genmanipulation) beriget med vitaminer. Men selvom "HarvestPlus" altså i mange år har indrulleret fattige bønder fra underudviklede lande, til at være prøvekaniner på deres krop, såvel som på deres jordlodder, så er det stadig ikke lykkes videnskaben og virksomhederne at overbevise WHO om, det med biofortication er en god ide.
Så hvornår kommer den videnskabelige evidens for at genmodifikation er vejen frem?
Er det ikke at nedgøre os forbrugere på falskt grundlag, når vi af de to etikere beskyldes for, at koste samfundet penge, fordi vi vælger* "fra på et spinkelt videnskabeligt grundlag."*?

Den anden af etikerne har som interesseområde bl.a. forsigtighedsprincippet og spørgsmålet om forskellen imellem menneske og maskine.

Hvad er en etiker?
En etiker er i Kierkegaards betydning en person, der vil, vælger og handler.
Det kan man vel frit oversætte til, at de to KU-etikere har en agenda. Når jeg læser nærværende artikel får jeg indtryk af, at deres agenda er, at signalere til politikere og virksomheder, at de gør klogt i at sende penge i retning af KU, hvis de satser på en simplere fremtid. En fremtid hvor konstellationen universitet/virksomhed opgraderes til "gudelignende" status. En fremtid hvor de "troende" kaster al skepsis bort og, med rette samfundssind, stiller både krop og pengepung til rådighed for de produkter, som "guderne" nu engang allerede har haft besværet med at udvikle.

Det hjalp på den rumlende mave med et "surt opstød".

https://www.harvestplus.org/
https://www.who.int/elena/titles/biofortification/en/

Anne-Marie Krogsbøll

Den ene af etikerne har gennem mange år (2004-2010) været i advisory board på et amerikans funderet projekt "HarvestPlus", hvor man aftester genmodificerede afgrøder i fattige lande.


Godt set, Ninett Fischer Jensen. det er jo ligesom, når det dataetiske råd hovedsageligt består af industrirepræsentanter.

Og hvor har etikken fået plads, når man sætter skibe som dette i søen? Har man spurgt befolkningen om denne satsning på at sælge os som forsøgsdyr? Og læg mærke til bestyrelsesmedlemmerne:
"NY ORGANISATION SKAL BRINGE
FLERE KLINISKE FORSØG TIL DANMARK
I dag, d. 5. december, blev Foreningen til fremme af kliniske forsøg i Danmark etableret ved en stiftende generalforsamling. Foreningen fik sit navn Trial Nation, og rummer de to initiativer Én Indgang og NEXT. Trial Nation er resultatet af et bredt politisk samarbejde mellem Erhvervsministeriet, Sundheds- og Ældreministeriet, danske life science-virksomheder og Danske Regioner. Den nye organisation skal gøre det nemmere og mere attraktivt for globale virksomheder at foretage kliniske forsøg i Danmark – til gavn for patienter, forskning og samfundsøkonomien.
Således er de forskellige indgange til klinisk forskning nu samlet ét sted. Det betyder, at det bliver langt nemmere og dermed meget mere attraktivt for virksomheder at lægge forsøg i Danmark. Det kommer til at gavne de danske forskningsmiljøer, vores sundhedsvæsen, og ikke mindst danske patienter, der vil få hurtig adgang til ny og innovativ medicin.
Stiftelsen af den nye forening til fremme af kliniske forsøg står som et af de helt centrale initiativer i regeringens vækstplan for life science. For overordnet set bidrager mere klinisk forskning til udvikling af det danske sundhedsvæsen og til nyere og bedre behandling af patienterne. Samtidig skaber det bedre muligheder for, at virksomhederne kan udføre kliniske forsøg og få dokumentation for, at deres produkter er sikre og har en effekt. Og det er helt afgørende for, at nye produkter kan ramme markedet og bliver taget i brug i det danske sundhedsvæsen, siger erhvervsminister Rasmus Jarlov.
Også hos Sundheds- og Ældreministeriet er der massiv opbakning til Trial Nation:
Ved at forbedre mulighederne for, at der kan foretages kliniske forsøg i Danmark, sørger vi nu for, at det danske sundhedsvæsen bliver ved med at udvikle sig. Sammenlægningen af de nuværende to indgange for life science-virksomheder i Danmark til én skaber en stærk national organisation – alt sammen til gavn for patienterne. Sammen med de øvrige initiativer i vækstplan for life science skaber vi stærke forskningsmiljøer, nye arbejdspladser og vækst. Det er jo svært ikke at glæde sig over, siger sundhedsminister Ellen Trane Nørby.
De to organisationer NEXT og Én Indgang har i høj grad overlappende opgaver, processer og målsætninger, så det giver god mening at sammenlægge dem under en fælles ledelse. Med Trial Nation får vi et koordinerende sekretariatet, der er bakket op af stat, regioner og virksomheder, samtidig med, at vi bibeholder det nære kendskab til sundhedsvæsenet i de enkelte regioner. Det er et helt unikt set-up, som man ikke har andre steder i verden, og det kommer til at placere Danmark i toppen, når det gælder kliniske forsøg.
Det er glædeligt, at vi nu får én samlet og stærk organisation. På den måde kan vi forhåbentlig tiltrække endnu flere kliniske forsøg til Danmark. Det betyder også, at patienter her i landet kan være blandt de første, der får gavn af ny, virksom medicin – i øvrigt i et setup, hvor høje standarder for patientsikkerhed har topprioritet. Flere kliniske forsøg kan være en af vejene til at løfte behandlingen i vores sundhedssystem. Og lige præcis derfor investerer regionerne ressourcer og penge i den nye organisation, siger Stephanie Lose, formand for Danske Regioner.
Den nye bestyrelses medlemmer: Thomas Kongstad Petersen (LEO Pharma), Søren Riis (Oticon), Dorte Klokker (Roche), Frederik Nielsen (Novartis), Helle Hartnack (Abbvie), Kasper Lindgaard (Erhvervsministeriet), Annemarie Lauritsen (Sundheds- og Ældreministeriet), Søren Pihlkjær Hjortshøj (Region Nord), Claus Thomsen (Region Midt), Kim Brixen (Region Syd), Jesper Grarup (Region Sjælland) og Per Jørgensen (Region Hovedstaden)
I valget af navn har det været vigtigt for os, at navnet kunne fungere internationalt. Én af vores kerneopgaver er at tiltrække internationale banebrydende forsøg til gavn for vores eget sundhedsvæsen, life science-sektoren og ikke mindst danske patienter.
Vi skal derfor kunne markedsføre os i udlandet, og det giver et navn som Trial Nation os rig mulighed for. I medicinalverdenen, hvor vi bevæger os, er ordet "Trial" instinktivt genkendeligt og ved at koble det sammen med "Nation", håber vi at signalere, at i Danmark er kliniske forsøg ikke en bibeskæftigelse for ildsjæle, men et satsningsområde bakket op af staten og samfundet som helhed. "

Måske ikke politirelevant - men i høj grad etik-problematik-relevant - eller mangel på samme.

Heino Svendsen

Nej, men det er et meget potent værktøj at have i kassen.

Enig, , men alle værktøjer kan (mis)bruges... Bare se på en hammer eller en skruemaskine.. Rigtig nyttige i byggebranchen.. og til at påføre andre "ubehag" under "intensiv forhør"...

Jeg er ikke så nervøs over for værktøjerne... Jeg er mere nervøs for de tåber, som beslutter sig for hvordan, de skal bruges (politikere, staten, politiet etc. )

Christian Nobel

Jeg er ikke så nervøs over for værktøjerne... Jeg er mere nervøs for de tåber, som beslutter sig for hvordan, de skal bruges (politikere, staten, politiet etc. )

Det er sådan lidt våbenargumentet, og det er i teorien rigtigt.

Men praksis kan vi se i USA, hvor der jo flyder med våben, hvilket bla. har medført at børn er kommet til at skyde deres forældre når de legede røvere og soldater.

Så nogen gange er der måske ting man bare slet ikke skal lave.

Heino Svendsen

Det er sådan lidt våbenargumentet, og det er i teorien rigtigt.

Men praksis kan vi se i USA, hvor der jo flyder med våben, hvilket bla. har medført at børn er kommet til at skyde deres forældre når de legede røvere og soldater.

Så nogen gange er der måske ting man bare slet ikke skal lave.

Tjo, det kan der være noget om.. Men nu sker de fleste ulykker med våben , hvor børn skyder deres forældre (eller andre børn) ved, at forældrene opbevarer våbnene forkert (lader dem ligge fremme, i sokkeskuffer eller i tasker)...

Log ind eller Opret konto for at kommentere
Pressemeddelelser

Welcome to the Cloud Integration Enablement Day (Bring your own laptop)

On this track, we will give you the chance to become a "Cloud First" data integration specialist.
15. nov 2017

Silicom i Søborg har fået stærk vind i sejlene…

Silicom Denmark arbejder med cutting-edge teknologier og er helt fremme hvad angår FPGA teknologien, som har eksisteret i over 20 år.
22. sep 2017

Conference: How AI and Machine Learning can accelerate your business growth

Can Artificial Intelligence (AI) and Machine Learning bring actual value to your business? Will it supercharge growth? How do other businesses leverage AI and Machine Learning?
13. sep 2017
Jobfinder Logo
Job fra Jobfinder