Danskere tager kontrol over Googles og Amazons AI-assistenter

Illustration: Bjørn Karmann
Danske open source makere sikrer dig fuld kontrol over de smarte assistenter og lægger al kildekode og byggeinstruktioner op til fri afbenyttelse.

Det er egentlig en simpel idé.

Put en svampelignende hat udstyret med en Raspberry Pi oven på Google Home og Amazons Alexa-devices, og lad Raspberry Pi-hatten fungere som man-in-the-middle mellem brugeren og den smarte assistent.

Hatten udsender hvid støj, hvilket effektivt paralyserer Google Home og Alexa-enhederne, så de ikke ved et tilfælde eller grundet hardware-fejl kommer til at videresende alt, hvad du og dine samtalepartnere taler om i dit hjem og/eller kontor til Google og Amazon.

Det er først, når du siger et bestemt ord eller lyd, som du selv har bestemt, at Raspberry Pi vil vække Google Home eller Alexa ved at sige 'OK, Google' eller 'Alexa'.

Herefter videresender svampehatten dine spørgsmål, musikønsker eller andet til de smarte assistenter.

Derefter paralyseres de med hvid støj, indtil du igen siger dit egenvalgte vågn op-ord, eller wake-word som det hedder på engelsk.

Kommentar til overvågningskapitalisme

Men den simple idé er mere end det. Med solide rødder i en dansk humanistisk designtradition iblandet open source-filosofi og gør det selv-maker-etik er det også en kommentar til en samfundsudvikling, hvor overvågningskapitalisme har langt større indflydelse på design af teknologi end hensyn til brugernes behov og privatliv.

En kommentar, som de to danske interaktionsdesignere Bjørn Karmann og Tore Knudsen, der har udviklet Raspberry Pi-hatten, kalder Projekt Alias.

I 2017 vandt Bjørn Karmann Googles Experiment Challenge med sit Objectifier-projekt, der forsøger at gøre AI tilgængeligt for ikke-programmører og er en privatlivsrespekterende smart assistent; et alternativ til Google Home og Alexa-devices. Som præmie fik Bjørn blandt andet en Google Home.

Kan man hacke en Google Home?

»Jeg tænkte ret tidligt, at det kunne være sjovt at hacke den. En af mine første frustrationer var, at man skulle anvende 'OK, Google'; et reklame-/branding-ord i sit eget hjem. Hvorfor kan man ikke vælge sit eget wake-word? Så var der den mentale følelse af, at den lytter med i dit eget hjem, selvom Google siger, at den ikke gør det. Hvis man siger noget, som minder om Google, begynder den at afbryde dig i din konversation,« siger Bjørn.

Så det var med følelsen af at overlade sit privatliv til smart home-devices, som han ikke havde kontrol over, at Bjørn begyndte at undersøge Google Home nærmere.

»Jeg prøvede at finde nogle, der havde hacket den, men Google gør det svært at komme ind til det væsentlige, så jeg tænkte på andre kreative måder og fik ideen om man-in-the-middle.«

Bjørns gamle gymnasiekammerat Tore skrev speciale i interaktionsdesign på Malmø Universitet om machine learning og lyd i sommers, og da han deler Bjørns syn på teknologi, var det naturligt, at de to begyndte at udforske mulighederne for at tage kontrollen over Google Home.

»I projekt Alias er alt transparent. Det er open source på Github, og der er maker-instruktioner på Instructables (se boks). Det var også et bevidst designvalg, at Alias ikke behøves at være koblet til internettet. Fordi data er valuta, så skal størstedelen af smarte devices konstant være på internettet. Det er formentlig data, som virksomhederne i virkeligheden tjener penge på. Det er ikke relevant for os, vi vil demonstrere, at det ikke er en nødvendighed; det kan være anderledes,« siger Tore.

En parasit som metafor

Selve den fysiske udformning af svampehatten skal understrege den pointe. Google Home og Amazons Alexa-devices er en slags parasitter som lukkes ind i folks hjem og snylter på folks privatliv, så hvorfor ikke selv lave en parasit, der sidder på parasitten?

Den fortælling har været med til at få projekt Alias til at gå viralt med mange hundrede kommentarer på Reddit og Hacker News, ligesom flere medier og magasiner som Forbes har rapporteret om danskernes projekt.

Kommercielt produkt?

De to danskere er i den forbindelse blevet spurgt mange gange om, de har nogle planer om en decideret produktion af Alias for folk som ikke har tid, evner eller adgang til en 3D-printer.

»Vi er blevet spurgt meget om markedet bag produktet. Vi ser det ikke som en forretningsidé, det er mere ideen bag produktet, som vi ønsker at udbrede. Det er en mental parasit, som forhåbentligt kan brede sig og også påvirke Amazon og Google internt,« siger Bjørn.

Via sit tidligere arbejde med blandt andet Objectifier har Bjørn en del venner og bekendte hos Google, og her er der blevet taget godt imod Alias.

»De elsker det, men det er kun kreative folk, som jeg har talt med. Du får nok et andet svar, hvis du taler med Googles advokater, eller dem der sidder med pengepungen. Men den feedback, jeg har fået fra Google, har været positiv,« siger Bjørn som håber, at den virale bølge og medieinteressen tilsammen bliver en kollektiv stemme, som kan være med til at påvirke teknologidesign.

'OK, Big Brother'

De to danskere arbejder begge fuldtids som interaktionsdesignere, så arbejdet med Alias foregår i deres fritid. De er dog meget interesserede i kommentarer og ideer til forbedringer.

»Vi er i en fase, hvor vi svarer på folks spørgsmål og kommentarer. Vi ændrer koden og vores beskrivelser baseret på kommentarerne,« siger Bjørn.

En af de nuværende begrænsninger er, at wake-wordet højst kan være 2 sekunder. Så du kan godt sige 'OK, Big Brother' eller 'Hey, Stasi', mens 'Vågn op, overvågningskapitalismeagent' formentlig er for langt. Det kan dog ændres i koden.

»2 sekunders-vinduet kan ændres til at være så langt som det ønskes. Hvis man sætter det til 5 sekunder og selve ordet kun er 2 sekunder, vil der dog være en 3 sekunders forsinkelse, inden Alias vågner. Jeg er sikker på, at det kan gøres smartere af nogle som har arbejdet seriøst med det her,« siger Tore.

Version2-læsere med interesse for og/eller kendskab til machine learning, talegenkendelse og andet relevant er velkomne til at kontakte Bjørn og Tore med ideer og kommentarer.

Her kan du se en video om Alias:

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (23)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Yoel Caspersen Blogger

Idéen lyder god, selv om jeg spekulerer på, i hvilket omfang Googles og Amazons "assistenter" findes rundt omkring. Personligt ville jeg aldrig have den slags inden for døren, men jeg er måske også bare paranoid.

Findes der et lignende produkt, man kan koble på sin smartphone eller laptop? Der kan være mange situationer, hvor man er nødt til at have begge dele i nærheden, uden at man af den grund har lyst til at blive aflyttet.

Yoel Caspersen Blogger

Det kaldes et "Faraday cage" :-)

Som mange andre er inde på, virker Faraday-buret præcis modsat af mit behov: Jeg skal stadig kunne modtage opkald og beskeder, jeg vil bare undgå at blive aflyttet, mens telefonen eller computeren er i nærheden uden at der er en telefonsamtale i gang.

En løsning kunne muligvis være et fysisk cover over mikrofonen på både telefonen og computeren, men det er spørgsmålet, om den vil være effektiv nok. Dertil kommer risikoen for skjulte mikrofoner.

Frithiof Jensen

Man kunne nok nemt lave en lille lydisoleret träkasse med "toblerone"-skumgummi på indersiden og en mikrofon indeni + höjtaler udenpå så man stadigt kan höre når telefonen ringer of checke funktionen :).

Man kunne også som 'Projekt Alias' have en intern höjtaler med lyde og nögleord som kan underholde TLA'erne og FaceBooks spam-bots.

Man burde kunne träkke lydsignalerne fra stöjen man selv udsender og stöjen der bliver opfanget i mikrofonen fra hinanden så man kun kan höre forskellen udenfor kassen, d.v.s man hörer når mobil telefonen siger noget.

Digitalt eller Analogt burde virke, men, hvis man bruger spam-lyde som ekstra sikkerhed så har man nok allerede installeret en RaspBerry PI som har latterligt meget CPU kraft i fohold til det lille DSP-job.

Jaja, et lille hacker project ....

Morten Vinding

Jeg har ikke hverken Google Home eller Alexa, men det er mit indtryk at begge er istand til at opfange hvad man siger til dem, i selv ret støjfyldte rum.

Hvordan klarere Alias sig der? Det skulle jo nødigt være et stort tilbageskridt i forhold til GH og Alexa.

Er der nogen der har erfaring med den slags i øvrigt? Ser ud til at Amazon har nogen udviklingskit med flere mic's og beamshaping osv.
Men de er rimeligt dyrre...
https://developer.amazon.com/alexa-voice-service/dev-kits/amazon-premium...

René Nielsen

Et Faraday cage vil ikke forhindre dig i at blive aflyttet, kun i at aflytningerne kan sendes videre trådløst så længe enheden er i buret.


Jeg ved det godt, men jeg kunne ikke dy mig.

Pointen er jo, om du har tillid til dine devices eller ikke. Lyttes der kun med, når den må - eller sker det hele tiden?

I praksis modarbejder Google teknologi som forhindrer indsamling af oplysninger. Tag eksemplet med AdNauseam og Google Chrome.

AdNauseam er en browser extension som i stedet for at bloker reklamer går ind og trykker på hver eneste "reklamer" i baggrunden (du oplever det som om at reklamer bliver blokeret). Hermed smaderer man de personlige oplysninger om dig, som reklamenetværk er afhængige af.

Google bekæmper AdNauseam og kan som udgangspunkt ikke installeres på Google Chrome og jeg tror ikke at et GitHub projekt ikke vil blive udsat for dettte samme.

Så længe det kun få som gør det, betyder det ikke noget, men breder det sig, vil google gå i krig imod dette GitHub projekt-

Dan Mygind

@Morten,

Jeg fik det ikke med i artiklen, men Tore sagde, at det fungerede godt i hans hjem. Bjørn skulle du træne Alias lidt, fordi akustikken var anderledes i Bjørns hjem.
Fra README på projektets Github-side:
"If you find Alias is not responding correctly, try to train a few more examples. Or if you find Alias is triggering to often, you can go to the menu and turn background sound ON. This toggles the background mode and adds any new recordings to the background examples. Record and train just as before, but try to capture unique sounds in your environment or even words that sound similar to your chosen name"

Hans Nielsen

Der kan være mange situationer, hvor man er nødt til at have begge dele i nærheden, uden at man af den grund har lyst til at blive aflyttet.


Så skal du nok, ud over den hvide støj, også tænke på at pakke den helt ind, så kamera bliver dækket. Et Faredaybur er nok heller ikke nok, da den jo kan gemme oplysninger til senere.

Men hvis du er paranoid, så synes jeg et fravalget af Smarthone er bedre :-)
Tænk på hvor tæt den er på dig hele dagen, og hvor mange oplysninger og andet som du formidler via den.

Henrik Madsen

Udover at den forhindrer at ens hjem bliver aflyttet, så burde den jo også bare så og plapre løs.

Masser af ord, som kunne være triggerord.

Lidt ligesom i gamle dage hvor folk skrev "bombe, terrorist, etc" i bunden af mails for at fylde efterretningstjenesternes e-mail scannerne op med "mistænkelige" mails.

Yoel Caspersen Blogger

Så skal du nok, ud over den hvide støj, også tænke på at pakke den helt ind, så kamera bliver dækket.

Enig, men det er trods alt ret let at stoppe kameraet - det kan klares med en stump elektrikertape eller et klistermærke. Der findes også en klap, man kan sætte på, som man manuelt kan skyde til siden, når man synes, der skal tages billeder eller filmes. Det er sværere at beskytte sig mod optagelse af lyden, fordi der ikke er nogen visuel bekræftelse af, at lyden vitterligt er blokeret.

Men hvis du er paranoid, så synes jeg et fravalget af Smarthone er bedre :-)
Tænk på hvor tæt den er på dig hele dagen, og hvor mange oplysninger og andet som du formidler via den.

Her vinder min magelighed over min paranoia, for en gammeldags Nokia løser kun noget af problemet - man bliver stadig sporet af mobilnettet, og jeg har af og til behov for at gå på nettet, når jeg er på farten. Lige nu er der for mange, der er afhængige af at kunne få fat i mig, til at jeg kan undvære mobiltelefon - selv om jeg da af og til drømmer om at kunne gå en tur i skoven og være helt off the grid imens.

Morten Vinding
Thomas Toft

[...] en gammeldags Nokia løser kun noget af problemet - man bliver stadig sporet af mobilnettet [...]

Du gav udtryk for at det var apps der lyttede med der var problemet og et Faraday cage ikke kunne bruges da man stadig skulle kunne få fat i dig på telefonen. Nu snakker du om et problem som kun et Faraday cage kan løse; nemlig at blokere forbindelse til telefon-master. Hvad er det egentligt du vil have? Eneste løsning lyder som en gammeldags Nokia telefon og et Faraday cage. En smartphone vil aldrig kunne overholde dine krav.

Thomas Toft

Jeg overvejer krafigt at afprøve denne (lidt dyrer) smartphone, der kommer i April.
https://puri.sm/products/librem-5/

Linux er da rart. Til gengæld løser den ikke problemet. Den køre stadig 100 % closed source firmware som bestemmer helt hvad alt andet software og hardware på telefonen gør.

https://nullr0ute.com/2017/10/why-im-not-backing-the-purism-librem-5-phone/

Log ind eller Opret konto for at kommentere
Brugerundersøgelse Version2
maximize minimize