De lytter altid med: Stemmestyrede assistenter truer privatlivet

Digital Assistent
Stemmestyrede digitale assistenter vil forbedre den digitale brugeroplevelse – men kan også være kilde til fremtidens største datalæk.

Et år efter at den tidligere politimand Victor Collins blev fundet død i en jacuzzi i Arkansas, var politiet stadig på bar bund.

Forløbet for den skæbnesvangre aften i november 2015 står nogenlunde klart. Sammen med en kollega havde Collins besøgt vennen James Bates til en aften med fodbold, øl og vodka-shots.

Sent på aftenen valgte de tre mænd at gå i jacuzzien.

Morgenen efter blev Collins’ lig fundet flydende i badet med ansigtet nedad.

Om hans død var et mord – som anklagemyndigheden mener – eller en uheldig kombination af alkohol og badekar er endnu ikke afgjort.

Men i november fandt anklageren et nyt vidne i sagen, som man nu håber kan hjælpe med opklaringen: Amazons digitale assistent, Alexa.

I sit hjem havde James Bates nemlig en Echo-enhed – en højttaler, som har Alexa indbygget. Alexa kan på baggrund af din stemme tænde og slukke lyset, sætte musik på, svare på spørgsmål eller levere vejrudsigten.

Men selvfølgelig kun, hvis hun lytter til, hvad du siger. Og spørgsmålet er så, om Alexa har hørt noget den fatale nat, som kan bringe sagen nærmere en opklaring.

Assistenter som Amazons Alexa, Google Assistant, Apples Siri og Microsofts Cortana er designet til altid at lytte efter ordrer. Ifølge analysehuset Gartner vil ‘always-on’ stemmestyrede e-butlere erstatte en stor del af den interaktion med vores elektronik, der i dag foregår via touch eller klik.

Men som mordsagen fra Arkan­sas understreger, kan elektronik, der altid er tændt, have store konsekvenser for vores privatliv og vores mulighed for at fravælge overvågning.

»Den helt store udfordring bliver det, vi opfatter som vores personlige sfære,« indleder Fred Johnsen, der er konsulent ved Peak Consulting.

»Hvis jeg skal bruge Facebooks M eller Alexa fra Amazon, skal jeg give en eller anden form for sikkerhed og integritet fra mig til de store selskaber.«

Som det ofte er tilfældet med digitale tjenester, er deres brugbarhed proportional med, hvor mange aspekter af ens liv de får adgang til. Hvis Alexa skal shoppe for dig, skal assistenten kobles til din Amazon-konto. Hvis den skal undersøge, hvor mange penge du brugte i byen i går, skal den kobles til banken.

Og hvis den skal vejlede dig om motion, skal den helst have adgang til data fra et fitness-armbånd.

»Ting, som jeg dybest set ikke har lyst til at give adgang til,« bemærker Fred Johnsen.

Digitalisering af samtalen

På nogle områder har virksomheder som Google og Facebook allerede et detaljeret billede af, hvad de fleste brugere interesserer sig for, og hvad de foretager sig.

Ingeniøren har i de seneste uger kunnet fortælle, at Google opbevarer data om dine søgninger i årevis. Og at Facebooks app deler data med 47 forskellige firmaer, hvoraf mange formentlig er ukendte for den enkelte bruger.

Her kan man som bruger være fristet til at trække på skulderen ad de digitale assistenter – for hvad kan de høre om mig, som it-selskaberne ikke allerede ved? Ikke desto mindre repræsenterer ‘always on’-assistenterne et skift i den overvågning, vi udsættes for.

»Når du skriver på en computer, så ved du, at det, du taster, eksisterer digitalt,« siger Brit Ross Winthereik, lektor ved IT-Universitetets Institut for Business IT, og fortsætter:

»En samtale i et rum er ikke noget, vi normalt opfatter som data eller som noget, der er digitalt. Det er et eksempel på, at overvågningen bliver mere gennemgribende.«

Brit Ross Winthereik sammenligner det med den lokationslogning, tjenester som Google og Facebook også konstant gemmer om sine brugere.

»Du forventer ikke at blive sporet af din telefon, mens du ikke selv foretager dig noget. Men det bliver du. Så det er et skift, der sker. Og det ændrer på, hvad der er en del af en digital infrastruktur, og hvad der ikke er.«

Fordi det netop er de store it-giganter, som kæmper om stillingen som din nye digitale assistent, vil trenden kun forstærke den centralisering af brugerdata, som er opstået omkring it-selskaberne, og øge den viden, selskaberne har om brugere.

På den ene side kan brugere slippe for et uigennemskueligt mylder af apps, der har hver sin ejermand, som gør forskellige ting med de data, der indsamles, påpeger Fred Johnsen.

»Men det er også it-kæmperne, der kommer til at eje de her virtuelle agenter, vi kommer til at bruge i fremtiden. De vil få en endnu større markedsdominans, end de har i forvejen. På godt og ondt.«

Software og politik

De digitale assistenter fungerer over en kam ved konstant at lytte efter det såkaldte ‘wakeword’, som vækker enheden til live – f.eks. ‘Hey Siri’, ‘Alexa’ eller ‘OK, Google’.

Det kan virke som en paradoksal forsikring – at enheden ikke lytter, før den hører et ord. Men den store forskel er, at inden enheden bliver vækket, foregår al dataanalyse lokalt på enheden. Når den genkender wake-ordet, sendes lyden til skyen og dermed til it-kæmpens database.

Der er derfor også kun dårlige odds for, at Alexa har fanget noget, som kan hjælpe i den amerikanske mordsag. Amazon har da også kæmpet imod at skulle udlevere data til myndighederne og afviste det i første omgang med henvisning til, at retskendelsen var for generel.

Først i sidste uge – da den anklagede James Bates gav specifik tilladelse – blev data fra Alexa udleveret.

Selv når data er blevet sendt til skyen, har man dog som bruger en vis kontrol over lydfilerne. På web­interfacet til Alexa kan man høre de dessiner, man har givet assistenten. Herfra kan man også slette udvekslinger med Alexa, hvis man vil, men da tjenesten forsøger at lære sig selv at forstå din stemme bedst muligt, går dette ifølge Amazon ud over Alexas brugbarhed.

Trods de designmæssige forholdsregler, som selskaberne har taget, skaber det en trussel mod privatlivet at installere en tændt mikrofon i hjemmet, understreger Jay Stanley, der er senior policy analyst ved den amerikanske borgerretsorganisa­tion ACLU i en meddelelse.

»Så snart hardwaren er tændt og tilsluttet internettet, lægger du din tillid i hænderne på to ting, der uheldigvis er mindre end pålidelige disse dage: software og politik.«

Altså skal vi stole på, at softwaren fungerer, som den bliver beskrevet. Da der er tale om proprietær software lukket for omverdenen, er dette netop et tillidsspørgsmål.

Det er for eksempel uvist, om FBI har fået adgang til at aflytte personer gennem en enhed som Amazons Echo. Da det amerikanske medie Giz­modo forsøgte at få indsigt i det, lød svaret, at FBI hverken kan be- eller afkræfte sådanne aktiviteter.

Foruden softwaren skal vi stole på, at de beskrevne politikker overholdes og efterleves, så data ikke opbevares længere tid end nødvendigt, ikke deles med udenforstående og opbevares sikkert.

Samsung fik i 2015 kritik for netop datapolitikken omkring selskabets stemmestyrede tv. I service­vilkårene stod dengang følgende:

‘Vær venligst opmærksom på, hvis det, du siger, indeholder personlige eller andre følsomme informationer, at den information også vil være i de opfangede data og blive sendt til en tredjepart gennem din brug af stemmegenkendelsen.’

Teksten er siden skrevet om, men pointen består: Hvis din stemmestyrede enhed er vågen, optager den ikke bare din kommando, men også eventuelle samtaler, der finder sted i baggrunden.

Endelig kommer Jay Stanley med den pointe, at Alexas, Siris og Googles indbyggede privacy-beskyttelse kun fungerer i det omfang, at enhederne meget præcist kan skelne wake-ordene fra al anden tale.

I Ingeniørens test af Alexa har vi – som andre brugere – oplevet, at assistenten pludselig bryder ind i en samtale, fordi den tror, den har hørt sit navn i den generelle kontor-støj.

Kundetilfredshedens alter

Virksomheder som Apple, Amazon og Google har alle ry for at føre en forsvarlig datapolitik og have en state-of-the art datasikring. Men de er langtfra de eneste selskaber, som nu og fremover tilbyder elektronik, der lytter.

I februar blev brugere af en ‘intelligent’ bamse af mærket CloudPets udsat for et læk, der har kompromitteret kodeord i tusindvis. Lækket kan potentielt give uvedkommende adgang til optagelser, hvor børn deler deres tanker med bamsen.

»Jeg tror, at vi i fremtiden vil se nogle ret kedelige databreaches i forbindelse med de her teknologier,« siger Fred Johnsen og tilføjer:

»Men vi har som forbrugere en tendens til at glemme hurtigt, og vi kommer formentlig til at opleve, at brugeroplevelsen bliver uendeligt meget bedre. Og så regner jeg med, at flertallet ender med at leve med den risiko, der er inden for sikkerhed og privacy – det ofrer vi på kunde­tilfredshedens alter.«

Brit Ross Winthereik er enig:

»Vi ved, vi har svært ved at være kritiske over for elektronik, når den hjælper os. Jeg er ikke kritisk over for min telefon, fordi den fungerer og hjælper mig,« siger hun og tilføjer:

»De bliver en del af ens liv, hvis de virker.«

Denne artikel stammer fra avisen Ingeniøren.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk

Følg forløbet

Kommentarer (0)

Log ind eller opret en konto for at skrive kommentarer

Pressemeddelelser

Affecto Denmark reaches highest Microsoft Partner level

Affecto Denmark, a leading provider of data-driven solutions, has reached the highest level in the Microsoft partner ecosystem: Managed Partner.
22. jun 2017

Innovate your business with Affecto's IoT Explorer Kit

Are you unsure if Internet of Things fits your business strategy?
31. maj 2017

Big Data Lake Summit: Fast and Trusted Insights

If you want to outpace, outsmart and outperform your competition in a digital world, you need trusted data that can be turned into actionable business insights at speed.
24. apr 2017