New York City foreslår ny lov mod AI-diskrimination på jobmarkedet

Hvis lovforslaget bliver gennemført, skal virksomheder fremover fortælle jobkandidater, hvis de er blevet evalueret med software. Illustration: Sam valadi via Wikipedia
Beslutningstagere i New York City vil lovregulere virksomheders brug af algoritmer i rekrutteringsprocesser for at modvirke, at softwaren diskriminerer mod nogle befolkningsgrupper.

Byrådet i New York City har fremsat et nyt lovforslag, der skal forhindre diskriminerende algoritmer i at få for meget magt i ansættelsesprocesser.

Det skriver Ars Technica.

Algoritmerne er blevet et almindeligt værktøj for mange virksomheder, der skal ansætte nye medarbejdere. Men ifølge mediet er flere eksperter og menneskerettighedsgrupper bekymrede for, at softwaren vil diskriminere mod nogle samfundsgrupper.

I 2018 kasserede Amazon en software, der diskriminerende mod kvinder i hyringsprocesser, når den tog udgangspunkt i tidligere ansættelsesmønstre.

Hvis lovforslaget bliver til virkelighed, skal virksomheder fremover fortælle nye potentielle medarbejdere, når de er blevet evalueret ved hjælp af algoritmer i ansættelsesprocessen. Og firmaer, der leverer softwaren, skal løbende tjekke, at den ikke diskriminerer.

Flere steder i USA er man begyndt at regulere brugen af algoritmer, der kan have en stor indvirkning på menneskers liv. For eksempel har 10 amerikanske byer forbudt myndigheders brug af software til ansigtsgenkendelse.

Julia Stoyanovich, direktør hos Center for Responsible AI ved New York University, håber på, at lovforslaget bliver til virkelighed, da det ifølge hende vil gøre befolkningen mere bevidst om, hvor stor en indflydelse algoritmer har, og det kan skabe en stærkere offentlig debat.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (0)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Log ind eller Opret konto for at kommentere