Ikke kun AI: Amazons medarbejdere lytter med til Alexas samtaler

Illustration: JuanCi / Bigstockphoto.com
Ansatte hos Amazon skal analysere og give feedback på kundernes samtaler med deres Alexa-enheder i et forsøg på at forbedre tjenesten.

Amazon har ansat tusindvis af medarbejdere verdenen over til at lytte med til kundernes samtaler med deres Alexa-enheder. De ansattes arbejde består af at transskribere og kommentere kundernes interaktioner som et supplement til Alexa-enhedens egen optagelse og nedskrivning af interaktioner og samtaler.

Det skriver Bloomberg.com

De ansatte hører op til 1.000 lydbider dagligt af folks samtaler med Alexa-enhederne. De ansatte skal udover transskribering også give feedback på interaktioner med Alexa-enheden, men Amazon fortæller, at de ansatte til denne slags arbejde ikke har mulighed for at identificere de kunder, hvis samtaler de lytter med til.

»Ansatte har ikke direkte adgang til information, der kan identificere personer eller konto, som en del af deres arbejdsrutine,« siger en talsperson fra Amazon i en mail til Bloomberg.

Bloomberg har gennemgået billeder, der viser den information, som de ansatte hos Amazon modtager, når de får tilsendt optagelser fra kundernes samtaler med Alexa-enheden. De ansatte får ikke tilsendt kundens fulde navn og adresse, men får dog kundens fornavn, brugernummer og serienummeret på kundens Alexa-enhed.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (9)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

"Amazon har ansat tusindvis af medarbejdere verdenen over til at lytte med til kundernes samtaler med deres Alexa-enheder. De ansattes arbejde består af at transskribere og kommentere kundernes interaktioner som et supplement til Alexa-enhedens egen optagelse og nedskrivning af interaktioner og samtaler."

Hvor længe har det foregået? Står det nogen steder i de brugerbetingelser, brugerne accepterer - iøjenfaldende, og i forståeligt sprog, så brugerne faktisk bliver klare over det? Nå nej, det fremgår af Bloomberg-artiklen, at det ikke er tilfældet.

Hvordan kan det gå til, at den slags foregår, åbenbart i længere tid, uden at det straks bliver afsløret og slået ned med hård hånd? Har alle disse medarbejdere på gulvet afgivet NDA's under trussel om hårde straffe? Nå ja, det står i Bloomberg-artiklen, at det har de - men hvad er begrundelsen for disse NDA´s? Det fremgår vist ikke. Det kunne være rart at vide - man kunne jo mistænke, at det ikke er meningen, at brugere/kunder skal skræmmes væk af den oplysning.

Det siger vel noget om den skræmmende hemmelighedsfuldhed og lovløshed, der hersker indenfor overvågningskapitalismen. Hvis det er lovligt, er det endnu en af de efterhånden mange blinkende røde advarselslamper, som omgiver os under overvågningskapitalismen, og som stort set overhøres/overses af vore magthavere og beslutningstagere, som fortsat hellere end gerne vil flette finger med tech-giganterne/diktatorerne/algokraterne.

  • 7
  • 3
Jan Thomsen

Hej Anne-Marie,
velkommen til fagre nye verden hvor TV, bærbar, telefon - og vil også snart køleskab strygejern og toiletrulleholder skal have indbygget video kamera og mikrofon. Og så tror jeg vi endnu har tilgode at se hvad IoT bølgen har af intelligent agents o.a. kreativt junk som vi ikke vidste vi havde brug for, og som med stor sikkerhed er bygget med indbyggede sikkerhedshuller med ringe udsigt til løbende opateringer. Vi har jo allerede set at Samsung TV og smartphones er blevet aflyttet af leverandørerne, og i jagten på profit er er al moral og etik blevet en eftertanke. Eneste forsvar er at undlade at købe disse dimser som af ren og skær dovensbab tilbyder os at være vores digitale tjenere uden at vi forstår at de samtidig overvåger os og udnytter os. Jeg er dog bange for at man fremover vil have svært ved at finde udstyr som ikke indeholder den slags trojanske heste.

Personligt har jeg sat et stykke pap over videokameraet på min bærbare, og hevet ledningerne af mikrofonen. Men kreativiteten overstiger nok dette lidt komiske tiltag :-) Det nyeste jeg hørte var at den bærbares højttaler i visse tilfælde også kunne udnyttes til aflytning idet den fungerer efter samme elekromagnetisk princip som mange mikrofoner gør. Faktisk kom jeg i tanke om at jeg som knægt havde lavet et samtaleanlæg med en anden knægt i den ejendom jeg boede i.

Desværre har vores politikere ikke fornødent mod til at opsætte nogen klare krav til virksomhederne. Det ville eksempelvis være godt om leverandører af dimser var tvunget til at producere udstyre uden IoT, video og mikrofoner, som supplement til den uundgåelige tsunami af "Intelligent Devices" som kan se om mælken i dit køleskab er sur eller om du drikker for mange bajere.
Med tiden så kan vi spille endnu mere tid med alverdens Apps til at styre al den ligegyldige "Intelligens" og få mulighed for at udvikle vores paranoia i takt med pressens rapporter om spionering af alle aspekter af vores privatliv og snesevis af "smart devices" med indbyggede sikkerhedshuller som ingen af leverandørerne gider opdater når først de har fået pengene.

Fagre nye verden. Personligt vil jeg forsøge at dæmme op for overflødige dimser med indbygget spionudstyr men jeg forudser at inden længe vil man blive betragtet som en gammel kværulant. Jeg er desværre bange for at facebook generationen alt for ofte har deponeret deres fornuft og ukritisk kaster sig ud i brug af "Gratis" ydelser, og unødige Apps og dimser som spionerer på dem. Men der er ikke noget som er gratis. Personligt har jeg udskiftet Gmail med en betalt service Protonmail som jeg oplever har en erklæret målsætning om at beskytte ens privatliv så man ikke skal gennem den daglige dosis af "uundværige" tilbud om ting man aldrig havde drømt om at købe.

Nå, nu smutter jeg lige ned af sæbekassen ..... :-)

  • 9
  • 1
Hans Nielsen

Nu er det jo ikke HER tale om overvågning.
Men den del af samtalen som påtages og sendes, når aktiveringsordret er brugt.

Et eller andet sted i slutbruger aftalen, har man sikkert sagt ja til det.
Og man kan også selv, til enhvert tid se og høre hvad der er optaget, også slette det, hvis man ønsker dette.

Jeg tror ikke at Amazon så gemmer og bruger dette alligevel, hvis det kom frem, vil det koste dem så meget.
At bare tanken på det, ud over det ulovelig, eller umoralske vil holde dem tilbage,

Men der burde nok, hvis man bruger denne fremtgangsmåde, stå mere udføreligt, at de ting man siger, også kan blive læst eller set af rigtige mennesker, og ikke en algoritme. Ligesom det også sker på gmail.

Men jeg tror at både, lonalisten og i andre kommentator glemmer at det ikke er en samtale. ALexa bruger BRING, og hun er dummere end vådt bølgepap. Meget af det optagen er enten forsøg på kommandoer, eller google ligende forespørgelse, som går galt. Man kan ikke have en samtale med Alexa. Med google går det lidt bedre, sikkert på grund af forskellen på Goolge og Bing.

Det jeg prøver at sige, er at de samtaler som personer overhøre, nok er de forsøg, hvor man ønsker at vride halsen om på Alexa, som melidenheds dræb, på grund af dumhed. Det kan en computer algorimte, svært forstå, eller forbedre.

Igen det får mig ikke til at smide den ud. Amazon er ikke ude i noget fordækt. De sælger Alexa enheder for at sælge mere på Amazon, ikke andet. Og det er også derfor at den i den sidste ende taber til google.
Google laver deres enheder for at levere information, noget som de lever af.

I den sidste ende, så gider man ikke at have en sælger konstant inden for døren, men gerne et lexicon.

Men begge enheder er gode kotroleheder til smarthome. Og man kan, hvis man ønsker det, trække styringen hjem i en rasbery pi, så man selv har kontrol over det.

  • 1
  • 2
Cristian Ambæk

Velkommen til at de organisationer som er formet for at varatage borgeres interesser er så korrupte at de ikke straks indsætter et forbud imod produktet eller hele firmaets portfolio af produkter indtil de retter ind for derefter at give bøde og eventuelt fængselstraff til de firmaet hvis ledelse har så en malplaceret praksis.

Der er intet nyt under solen, korruptionen stikker dybt og dem som ikke er korrupte har ingen rygrad.

Tænk bare tilbage til Apple's... 4G? Da de lancerede de første iPads, bad Apple om at blive godkendt til 4G på deres WiFi, men de levede kun op til 3G-LTE standarden. Apple sagde "fuk off" og gjorde hvad de ville, det var ikke kun falske reklamer de solgte deres produkter under, de røv rendte også de eksisterende standard og firmaer der levede op til kravene.

Det er alt sammen dybt godnat, men folk er griske, korrupte og firmaer kan altid finde medarbejdere der gør alt for penge.

Om det er det her eller Danske IT folk som laver løsninger til kommuner, regeringen, FE, Politiet / andre for at de kan udspionere borgere gør ingen forskel.

I forhold til denne artikel så kan det ikke være så svært igen at identificere en person ud fra tale kun, så længe du har adgang til nok "samples".

  • 2
  • 4
Jan Thomsen

Hej Hans,

du er en flink og godtroende mand som jo tydeligvis tror på det leverandørerne fortæller dig. Det er jo et pænt karaktertræk, og i den ideelle verden ville det jo være beundringsværdigt. De senere års historik med den ene IT-gigant efter den anden der gribes med fingrene i kagekassen viser desværre at de fleste af dem ikke fortjener din tillid. I den aktuelle sag er jeg overbevist om at du ved langt mere om Alexa end jeg (ingenting), men jeg synes jo alligevel der er grund til bekymring da potentialet til misbrug synes oplagt, og forklaringerne fra Amzon har ihvertfald ikke overbevist mig om - 1) at det ikke KAN misbruges , 2) at det ikke har været misbrugt. At sætte en dims op i sit hjem med indbygget mikrofon, som potentielt kan tappes af en virksomhed - som hævder at de selvfølgelig ALDRIG vil gøre noget grime - er for mig en absurd tanke. Al historie viser at enten så ender de med selv at misbruge det, eller også falder det i hænderne på folk med uhæderlige intentioner.

En historie fra det virkelige liv. Min søn har en iPhone. Han havde siddet og snakket med nogen om hans interesse i at købe et betemt produkt, medens han iPhone lå ved hans side. Nogle få timer senere var der tilbud på netop dette produkt i hans email el. lign. Dette var noget der var sket flere gange uden at han havde søgt på nettet efter de omtalte produkter. Ved et tilfælde læste jeg på et IT site - se link herunder - at der netop var et firma der levede af den slags, men hvor man i artiklen angav hvordan man kunne slå det fra i iPhone. Derefter ophørte det med at ske fremover.

https://ios.gadgethacks.com/how-to/privacy-101-prevent-apps-from-accessi...

Det er den slags vi må forvente mere af og jeg tror ikke på deres forsikringer - dels holder de ikke over tid når de ser nye forretningsmuligheder i ale de mange rare data som man kan analysere på nye måder, og dels så viser al erfaring at stort set alle firmaer kompromitterer deres kunders data på eet eller andet tidspunkt. Ak.

  • 10
  • 1
Hans Nielsen

At sætte en dims op i sit hjem med indbygget mikrofon, som potentielt kan tappes af en virksomhed - som hævder at de selvfølgelig ALDRIG vil gøre noget grime


Så du har ingen mobilteleon ?
;-)

Jeg tror på Amazon, som jeg skriv, det vil gøre rigtigt ondt, hvis anden blev bevist.
Men naturligtvis ikke på andre app

Men at du ikke tiltror at jeg har en sølvpapairs hat ?

Jeg er skuffet, jeg har den finestesalgs. Dobbelt lag, med det reflektrende lag vent på 2 måder. Så den virker også mod den dims der er instat i mit hovede.

  • 0
  • 0
Log ind eller Opret konto for at kommentere
IT Company Rank
maximize minimize