AI-system kritiseres for at diskriminere mod handicappede forældre i amerikanske børnesager
Et AI-værktøj, der skal hjælpe socialarbejdere med at vurdere, om børn lider misrøgt i hjemmet, bliver i øjeblikket undersøgt af de lokale justitsmyndigheder i den amerikanske delstat Pennsylvania for mulig diskriminering af forældre med handikap, deriblandt forældre med psykiske problemer.
Det skriver Ars Technica.
Læs også: Amerikanske myndigheder ignorerer 60 procent af it-sikkerhedsanbefalinger
Værktøjet, The Allegheny Family Screening Tool, analyserer hundredvis af data om hver person involveret i en sag om mulig misrøgt af børn. Blandt andet data om børn, forældre og andre medlemmer af hustanden med handikap, hvilket bidrager til en samlet risikoscore, der kan understøtte beslutningen om, hvorvidt et barn skal tvangsfjernes fra hjemmet.
Kritikere hævder, at fordi handikaprelaterede datapunkter bidrager til denne risikoscore, så er familier med handikap mere tilbøjelige til at blive undersøgt af de sociale myndigheder, hvilket kan være i strid med lovgivningen.
Læs også: Britiske myndigheder advarer mod russisk-baseret hackergruppe: Angriber politikere og forskere
I danske farvande har der i Aarhus Kommune været en sag om prædiktive algoritmer i børne- og familiesager, der i forbindelse med projektet Underretninger i Fokus blandt andet fik kritik for ikke at være transparent.
Det projekt blev siden lukket.
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
