En politistyrke i regionen Kent i Storbritannien bruger en algoritme til at hjælpe med at beslutte, hvilke forbrydelser der kan opklares og bør efterforskes. Som følge heraf efterforsker politiet nu kun omkring halvdelen af anmeldte overgreb og andre typer lovovertrædelser.
Algoritmen sparer tid og penge, men har rejst bekymringer for, at den indeholder menneskelig bias. Værktøjet bruges i øjeblikket kun til vurdering af overfald og tilsvarende kriminalitet, men kan udvides til at omfatte andre slags lovovertrædelser i fremtiden. Det skriver New Scientist.
Før algoritmen, som har navnet EBIT, efterforskede politistyrken omkring 75 procent af de pågældende sager. Det tal er nu faldet til 40 procent, som følge af algoritmen
EBIT udregner en sandsynlighedsscore for at en forbrydelse er mulig at opklare. Politiet i Kent har anvendt systemet i et år til at vurdere chancen for at forbrydelser kan opklares, så som overfald og trusler på gaden.
Men fordi teknologien baserer sine forudsigelser på tidligere sager, kan bias i disse tidligere efterforskninger blive forstærket af algoritmen. Eksempelvis vil manglende kameraovervågning i områder ofte føre til, at politiet beslutter ikke at forfølge sager disse steder. Det kan give ringere stilling for borgere i sådanne områder.
Tillige er der problemer med manglende anmeldelser i områder, hvor tilliden til politiet er lav. Det betyder, at algoritmerne foretager forudsigelser baseret på et delvist billede.
Derfor vil bias i tidligere efterforskning indgå i algoritmen, hvor denne bias tillige vil blive forstærket. Det mener forskeren Joshua Loftus fra det amerikanske Stanford University.
Politiet i Kent oplyser, at for de typer forbrydelser, som EBIT bruges til, er manglende anmeldelser ikke et problem, og at det ikke bør begrænse anvendelsen af algoritmen.
