Indhold fra DataTech25. august
Apple-algoritme anklages for at diskriminere mod kvinder
Illustration: ismagilov/Bigstock.
Succesfuld dansk it-iværksætter anklager Apple for at diskriminere mod kvinder.
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.
Selvom et gift par har haft delt økonomi gennem rigtig mange år, så tilbyder Apple via sit kreditkort Apple Card manden 20 gange større kredit end kvinden.
Det skriver danske David Heinemeier Hansson i en række tweets, hvor han ikke lægger fingrene imellem med sin kritik af Apples politik.
Manden bag Ruby on Rails og Basecamp er specielt ophidset over, at Apple tilsyneladende ikke kan forklare, hvorfor Apples kreditpolitik er, som den er.
Flere gange forklarer repræsentanter for Apple, at det skyldes algoritmen, der står bag kreditpolitikken.
Artiklen fortsætter efter annoncen
Hvordan algoritmen egentlig fungerer, er der tilsyneladende ikke nogen, der kan forklare.
»Det er bare sådan algoritmen er«
David Heinemeier Hansson skriver blandt andet om sin hustrus forsøg på at finde ud af, hvorfor der er så stor forskel på hendes og Davids kreditgrænser:
»Hun talte med 2 Apple-repræsentanter. Begge venlige, høflige folk, der repræsenterer et fuldstændigt forkasteligt og fejlende system. Den første person sagde 'Jeg ved ikke hvorfor, men jeg sværger, at vi ikke diskriminerer, DET ER BARE SÅDAN ALGORITMEN ER'. Jeg tager ikke pis. 'DET ER SÅDAN ALGORITMEN ER!” råber David Heinemeier Hansson på Twitter.
Senere opsummerer danskeren efter at have kontaktet flere Apple-repræsentanter, tjekket sin og hustruens kreditscore – her var hustruens faktisk bedre end Davids – samt tjekket med Goldman Sachs, der har udviklet systemet til at vurdere kreditværdighed i forbindelse med Apple Card:
Artiklen fortsætter efter annoncen
»Lad mig opsummere. Apple tilbyder et kreditkort, der baserer sin kreditvurdering på en blackbox-algoritme som 6 forskellige repræsentanter fra Apple og GS (Goldman Sachs, red.) ikke har indsigt i. Endda adskillige ledelseslag. En intern undersøgelse. DET ER SÅDAN ALGORITMEN ER!«
Han fortsætter med at råbe sin frustration ud i Twitter-sfæren:
»Så ingen forstår ALGORITMEN. Ingen har mulighed for at undersøge eller checke ALGORITMEN. Men stadigvæk er alle som vi har talt med fra både Apple og GS SÅ SIKRE PÅ at ALGORITMEN ikke er forudindtaget og diskriminerer på nogen som helst måde. Det er førsteklasses ledelsesmæssigt kognitivt dissonans.«
Hustrus kreditgrænse hæves – algoritme uændret
Det ender med, at Davids hustru får opgraderet sin kreditgrænse, så den matcher Davids egen, men det er egentlig ikke det, det handler om, skriver David på Twitter.:
»Det er også fucked up at de vælger at hæve min kones kreditgrænse uden at adressere årsagen til problemet. Lad os bestikke den højtråbende person på twitter, så vi ikke behøves at undersøge vores fejlagtige blinde tro på ALGORITMEN,« skriver David Heinemeier Hansson, der med mere end 355.000 Twitter-følgere til sin verificerede Twitter-konto har en del mere pondus og klout end andre på Twitter.
I kommentarerne til Davids tweets er der en del mænd, der skriver, at de også er blevet tildelt langt større kreditgrænse end deres hustru.
Deriblandt Apple-medstifteren Steve Wozniak:
»Jeg er en nuværende Apple-ansat og stifter af virksomheden og det samme skete for os (10x) til trods for at vi ikke har nogen adskilte aktiver eller konti. Nogle siger at skylden ligger hos Goldman Sachs, men da Apple er impliceret, bør de dele ansvaret.«
Version2 har for en god ordens skyld bedt Apple om en kommentar til sagen. Vi vender tilbage, såfremt der er nævneværdigt nyt at fortælle i den forbindelse.
Denne artikel er gratis...
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
