Apple-algoritme anklages for at diskriminere mod kvinder

Succesfuld dansk it-iværksætter anklager Apple for at diskriminere mod kvinder.

Selvom et gift par har haft delt økonomi gennem rigtig mange år, så tilbyder Apple via sit kreditkort Apple Card manden 20 gange større kredit end kvinden.

Det skriver danske David Heinemeier Hansson i en række tweets, hvor han ikke lægger fingrene imellem med sin kritik af Apples politik.

Manden bag Ruby on Rails og Basecamp er specielt ophidset over, at Apple tilsyneladende ikke kan forklare, hvorfor Apples kreditpolitik er, som den er.

Flere gange forklarer repræsentanter for Apple, at det skyldes algoritmen, der står bag kreditpolitikken.

Hvordan algoritmen egentlig fungerer, er der tilsyneladende ikke nogen, der kan forklare.

»Det er bare sådan algoritmen er«

David Heinemeier Hansson skriver blandt andet om sin hustrus forsøg på at finde ud af, hvorfor der er så stor forskel på hendes og Davids kreditgrænser:

»Hun talte med 2 Apple-repræsentanter. Begge venlige, høflige folk, der repræsenterer et fuldstændigt forkasteligt og fejlende system. Den første person sagde 'Jeg ved ikke hvorfor, men jeg sværger, at vi ikke diskriminerer, DET ER BARE SÅDAN ALGORITMEN ER'. Jeg tager ikke pis. 'DET ER SÅDAN ALGORITMEN ER!” råber David Heinemeier Hansson på Twitter.

Senere opsummerer danskeren efter at have kontaktet flere Apple-repræsentanter, tjekket sin og hustruens kreditscore – her var hustruens faktisk bedre end Davids – samt tjekket med Goldman Sachs, der har udviklet systemet til at vurdere kreditværdighed i forbindelse med Apple Card:

»Lad mig opsummere. Apple tilbyder et kreditkort, der baserer sin kreditvurdering på en blackbox-algoritme som 6 forskellige repræsentanter fra Apple og GS (Goldman Sachs, red.) ikke har indsigt i. Endda adskillige ledelseslag. En intern undersøgelse. DET ER SÅDAN ALGORITMEN ER!«

Han fortsætter med at råbe sin frustration ud i Twitter-sfæren:

»Så ingen forstår ALGORITMEN. Ingen har mulighed for at undersøge eller checke ALGORITMEN. Men stadigvæk er alle som vi har talt med fra både Apple og GS SÅ SIKRE PÅ at ALGORITMEN ikke er forudindtaget og diskriminerer på nogen som helst måde. Det er førsteklasses ledelsesmæssigt kognitivt dissonans.«

Hustrus kreditgrænse hæves – algoritme uændret

Det ender med, at Davids hustru får opgraderet sin kreditgrænse, så den matcher Davids egen, men det er egentlig ikke det, det handler om, skriver David på Twitter.:

»Det er også fucked up at de vælger at hæve min kones kreditgrænse uden at adressere årsagen til problemet. Lad os bestikke den højtråbende person på twitter, så vi ikke behøves at undersøge vores fejlagtige blinde tro på ALGORITMEN,« skriver David Heinemeier Hansson, der med mere end 355.000 Twitter-følgere til sin verificerede Twitter-konto har en del mere pondus og klout end andre på Twitter.

I kommentarerne til Davids tweets er der en del mænd, der skriver, at de også er blevet tildelt langt større kreditgrænse end deres hustru.

Deriblandt Apple-medstifteren Steve Wozniak:

»Jeg er en nuværende Apple-ansat og stifter af virksomheden og det samme skete for os (10x) til trods for at vi ikke har nogen adskilte aktiver eller konti. Nogle siger at skylden ligger hos Goldman Sachs, men da Apple er impliceret, bør de dele ansvaret.«

Version2 har for en god ordens skyld bedt Apple om en kommentar til sagen. Vi vender tilbage, såfremt der er nævneværdigt nyt at fortælle i den forbindelse.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (11)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Martin Kofoed

Algoritmen tager aldrig fejl. Velkommen til din nye kreditvirkelighed. Forvent snart fejlfrie algoritmer til udredning af sygdomme, afgørelse af retssager og den slags.

Måske har algoritmen bare erfaret, at hendes sko er 20 gange dyrere end hans? Vi finder nok aldrig ud af det.

  • 8
  • 1
Christian Münster

Jeg flyttede for nogle år siden fra Nørrebro NV til midten af sønderjylland.
I den forbindelse blev min kasko-forsikring på bilen forhøjet 3500,-
- Det skal siges jeg var langt over 30 og jeg havde måske en enkelt skade i historikken.

Jeg ringede så ind og hørte hvorfor min forsikring næsten var fordoblet, hvis jeg skulle hive et tal ud af luften, vil jeg mene jeg har fjernet 70% risiko for sammenstød med andre biler og elemener (kbh vs Sønderjylland).

Kort sagt var svaret: Jamen, sådan har systemet placeret dig (Algoritmen)

Naturligvis er jeg ikke kunde hos dem mere.

  • 4
  • 2
Tommy Calstrup

Computere er derimod ufejlbarlige....eller nååh nej, det er jo altid en IT fejl, når noget går rigtigt i ged, og ingen kan gøres ansvarlige.

Algoritme forfattere er ufejlbarlige, for de arbejder med matematik, på højt niveau, som ingen andre forstår. Holbergs "Erasmus Montanus" er stadig aktuel.

  • 5
  • 0
Jakob Damkjær

Der er åbentbart en del der ikke helt har erfaring med kreditrating...

Denne historie mangler helt og aldeles at skrive hvilken FICO scored de to mennesker har...

Hvis du fx har været udsat for et identitets tyveri og identitet tyven i har brugt den til at tage et lån ud som du ikke var bekendt med men tyven selvfølgeligt ikke betaler tilbage... det er dårligt men i USA er det endnu mere dårligt fordi det kan godt være at du ikke skal betale lånet men din FICO score (eller kreditværdighed) bliver negativt påvirket af at "du" har haft et lån du ikke betalet af på...

Hvis du låner til fx en bil eller et hus men du ikke kan betale dine rater fordi du blev syg eller mistede dit job... så er en yderliger skade at din FICO rating bliver negativt påvirket... selv om du betaler lånet ud og finder en aftale med banken så vil din FICO score stadig være negativt påvirket...

Hvis du IKKE låner penge vil det også påvirke din FICO score negativt... Så der er folk der låner penge i USA bare for at ha pengene stående og betale den tilbage for at vise at de kan betale af på et lån... så de effektivt betaler renten på lånet for at i fremtiden få bedre låne og kredit betingelser...

Ja det er monstrøst FUCKED UP... men det er ikke Apple eller GS der gør det... Det er de firmaer GS har outsourcet FICO score ratingen til der benytter og "udvikler" den algoritme... og deres (kredit scoring firmatet) algoritme har deres kunder (Apple og GS) slet ikke adgang til... det er en foretningshemligheder... Så stort HURRA for folk der har minimal forståelse for at kreditrating scoring i USA er FUCKED UP.

Det er oven i købet et produkt man køber i USA at få sin FICO score at vide...

Så for at opsumere så kan det sagtens være at konen ikke har haft et fast job mens hun tog sig af børnene og derned IKKE havde nogen kredit kort hun brugte i hendes navn (ikke positiv FICO score) og hun i hendes ungdom havde et billån hun ikke kunne betale et par rater på fordi hun blev arbejdsløs en kort periode (negativ FICO score) eller at hun efter universitetet ikke kunne finde et job med det samme og ikke kunne betale en rate eller to på sin studiegæld (negativ FICO score)... eller hendes moster blev syg og istedet for at betale et forbrugslån af med de aftalte rater reducerede et par rater og betalte til hendes mosters sundheds udgifter (negativ FICO score)...

Men mange af de her ting er meget meget private... som ingen virksomhed der faktisk har en PR afdeling ville melde ud... man skal jo nødigt sige djævlens navn højt... og bare give ham der udvikleren der er ret højtråbende kone en højere kredit rating selv om de ikke kan ha en fælles FICO score... Den er nemlig 100% personlig.

  • 1
  • 1
Dan Mygind

Hej Jakob,

Der er et link i artiklen (det drukner nok lidt i alt råberiet:-)) til et tweet fra David Heinemeier Hansson, hvor han skriver:
"So obviously we both furiously signup for the fucking $25/month credit-check bullshit shakedown that is TransUnion. Maybe someone stole my wife’s identity? Even though we’ve verified there was nothing wrong previously. Guess what: HER CREDIT SCORE WAS HIGHER THAN MINE!!!"
https://twitter.com/dhh/status/1192945760909676544

  • 1
  • 0
Bjarne Nielsen

Jakob, tak for et indblik i et nærmest kafkask algoritme- og procedure-tyranni, som kan ramme dem af os, som berøres af, hvad der sker i USA, uden at vi ved det eller uden at vi kan gøre noget. Og så skal vi oveni betale for at få en forklaring!

Ikke at man ikke også kunne få en brutal behandling af "systemet" tidligere, heraf det gode, gamle ord "skrankepave", men vi blev trods alt dengang efterladt med et flig af en illusion af et håb om, at der var et menneske inde bag ved, som kunne være modtagelig for fornuft.

Nutidens "skrankepaver" er nu bliver industrialiseret, meget billigere, mere udbredte, og blottet for enhver skygge af menneskelighed.

Og at det så ikke kan forklare hvad Apple og GS har gang i, gør det kun mere absurd.

  • 2
  • 0
Log ind eller Opret konto for at kommentere