Britisk politi vil bruge AI mod voldelig kriminalitet - før det sker

9 kommentarer.  Hop til debatten
Britisk politi vil bruge AI mod voldelig kriminalitet - før det sker
Illustration: Pixabay-bruger Lechenie-narkomanii.
Alvorlige etiske problemer med systemet, mener det nationale institut for kunstig intelligens.
5. december 2018 kl. 11:16
errorÆldre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Politi i Storbritannien ønsker at forudsige alvorlige voldelige forbrydelser ved hjælp af kunstig intelligens - også kaldet predictive policing.

Det skriver New Scientist.

Personer, der ifølge systemet er voldelige forbryderspirer, vil blive tilbudt interventioner, såsom rådgivning, for at afværge potentiel kriminel adfærd.

Systemet, der hedder National Data Analytics Solution (NDAS), bruger en kombination af kunstig intelligens og statistikker til at prøve at vurdere risikoen for, at nogen begår eller bliver offer for kriminalitet med skydevåben eller kniv, samt sandsynligheden for, at nogen bliver offer for slaveri.

Artiklen fortsætter efter annoncen

West Midlands Police leder projektet og skal producere en prototype senest ​​til marts næste år. Systemet designes, så enhver politistyrke i Storbritannien kan bruge det.

Version2 har tidligere omtalt, hvordan et tilsvarende system i Chicago skulle identificere borgere, som med størst sandsynlighed vil begå kriminalitet af voldelig art. Systemet virkede dog ikke.

Herhjemme har op imod 15.000 brugere i politiet og hos PET adgang til avanceret data analytics, der kan forudsige, hvor og hvornår en bestemt kriminalitetsform må forventes at forekomme.

Storbritanniens nationale institut for datalogi og kunstig intelligens, Alan Turing Institute, har gennemgået systemet i en rapport. Og er kritisk over for retssikkerheden med sådanne systemer:

Ifølge New Scientist siger rapporten, at der er 'alvorlige etiske problemer' med NDAS, og der stilles spørgsmål ved, om det er i offentlighedens tjeneste at skride ind på et tidspunkt, hvor et individ ikke har begået en strafbar handling. Selvom intentionerne er gode, tager systemet ikke højde for disse og andre spørgsmål, og mangel på præcision i forudsigelserne er grund til bekymring.

9 kommentarer.  Hop til debatten
Debatten
Log ind for at deltage i debatten.
settingsDebatindstillinger
8
6. december 2018 kl. 11:33

Hvorfor rejser denne udvikling ikke et ramaskrig medierne?

Et uheldigt sammenfald af interesser:

De der ejer Medierne ved hvilken side af brödet som smörret sidder på (og medierne er ikke nogen gylden forretning längere).

Journalisterne ved at hvis man först har "undersögende journalist" på CV'et, så behöver man ikke at spilde tiden med at skrive en ansögning til et höjt betalt job som "Kommunikationsrådgiver" i et ministerie.

Den bedrestillede del af befolkningen ved at politikerne og ministerierne gör sådan cirka hvad der passer dem så länge det ikke er "klart ulovligt". Men, de har også erfaret at man ikke kan slippe af med bare een af de ansvarlige for selv de värste skandaler, fordi et såkaldt "bredt flertal i folketinget" altid holder hånden under "systemet" så de har opgivet (og de läser ikke längere aviser af hensyn til blodtrykket, hvilket presser medierne og journalisterne).

Den ikke-bedrestillede del af befolkningen er udsat for et konstant bombardement af reformer, besparelser og uoverskuelige digitale "lösninger" så de har slet ikke tid til bekymre sig om andet end om de har råd til huslejen eller bilen näste måned.

6
6. december 2018 kl. 09:08

Ja, desværre enig, Heino Svendsen. Men jeg tror trods alt, at det vil give et give i mange, hvis de vidste, at de nu profileres med det formål at forudsige deres adfærd. Og at det vel er indført "under radaren"? Dem, jeg har talt med om sagen, er i hvert fald rystede.

5
6. december 2018 kl. 09:00

Og når de må ift. overførselsindkomster, så må det offentlige vel pludseligt også i mange andre sammenhænge? Hvorfor rejser denne udvikling ikke et ramaskrig medierne?

Hvad tror du, optager flest mennesker?

Kardishians nye frisure eller IT? Der er flere seere / læsere i at fortælle om Justin Bieber end om IT... og så kan man altid snige noget ind ad bagdøren...

Tror ikke, at nogen partier tager IT (eller danskerne) seriøst - bare se på S, som havde Trine Bramsen som IT-ordfører... det var en hån mod IT folk...

4
6. december 2018 kl. 07:51

Fremtiden er her allerede. En bekendt har sendt mig dette citat fra de skrivelser, Udbetaling Danmark sender ud til folk i forbindelse med pensioner etc:

"Udbetaling Danmark kan træffe afgørelser, der alene er baseret på automatisk behandling. De automatiske afgørelser træffes fx ved, at Udbetaling Danmark indhenter oplysninger fra offentlige registre, der maskinelt sammenholdes med oplysninger i din sag, og som tilsammen afgør, om du er berettiget til boligstøtte. Vi kan også automatisk behandle data til profilering, dvs. til at kunne forudsige en bestemt adfærd. "

Hvor er dette kommet fra? Kan nogen huske, at det har været debatteret i forbindelse med et lovforslag?

Derudover fremgår det også af skrivelsen, at:Der er fremsat et lovforslag om, at Udbetaling Danmark også skal behandle dit personnummer til brug for pensionsinstitutternes rådgivning om pensionsforhold. "

Så nu kan det offentlige også stjæle privatlivet med det formål at videregive det til markedsføring?

Og når de må ift. overførselsindkomster, så må det offentlige vel pludseligt også i mange andre sammenhænge? Hvorfor rejser denne udvikling ikke et ramaskrig medierne?

3
5. december 2018 kl. 13:54

</p>
<p>Problemet er dog også, at i visse regioner er visse befolkningsgrupper overrepræsenteret i statistikkerne..

Helt klart, men man ender typisk med at overfitte[0] systemet. I USA er eksemplet at minoriteterne bliver overrepræsenteret. De er i forvejen overrepræsenteret i kriminalitetsstatistikkerne (bl.a. pga. socioøkonomiske årsager), men det er selvforstærkende. Minoriteter opfattes som værende mere kriminelle, og så bliver de et hyppigere mål for tilfældig ransagning etc., og så forstærker man sin fordom yderligere.

Der har ikke været mange succesfulde pilot-tests sammenlignet med antal fiaskoer....

[0] https://en.wikipedia.org/wiki/Overfitting

1
5. december 2018 kl. 13:05

Predictive policing er afprøvet utallige gange og steder, og giver typisk samme resultat hver gang: fordomsfulde og racistiske forudsigelser.

Hvorfor så det? Fordi den kunstige intelligens bliver trænet med fordomsfulde inputs. Garbage in -> garbage out.