Byrådet i New York City har fremsat et nyt lovforslag, der skal forhindre diskriminerende algoritmer i at få for meget magt i ansættelsesprocesser.
Det skriver Ars Technica.
Algoritmerne er blevet et almindeligt værktøj for mange virksomheder, der skal ansætte nye medarbejdere. Men ifølge mediet er flere eksperter og menneskerettighedsgrupper bekymrede for, at softwaren vil diskriminere mod nogle samfundsgrupper.
I 2018 kasserede Amazon en software, der diskriminerende mod kvinder i hyringsprocesser, når den tog udgangspunkt i tidligere ansættelsesmønstre.
Hvis lovforslaget bliver til virkelighed, skal virksomheder fremover fortælle nye potentielle medarbejdere, når de er blevet evalueret ved hjælp af algoritmer i ansættelsesprocessen. Og firmaer, der leverer softwaren, skal løbende tjekke, at den ikke diskriminerer.
Flere steder i USA er man begyndt at regulere brugen af algoritmer, der kan have en stor indvirkning på menneskers liv. For eksempel har 10 amerikanske byer forbudt myndigheders brug af software til ansigtsgenkendelse.
Julia Stoyanovich, direktør hos Center for Responsible AI ved New York University, håber på, at lovforslaget bliver til virkelighed, da det ifølge hende vil gøre befolkningen mere bevidst om, hvor stor en indflydelse algoritmer har, og det kan skabe en stærkere offentlig debat.
