Danskere tager kontrol over Googles og Amazons AI-assistenter
Det er egentlig en simpel idé.
Put en svampelignende hat udstyret med en Raspberry Pi oven på Google Home og Amazons Alexa-devices, og lad Raspberry Pi-hatten fungere som man-in-the-middle mellem brugeren og den smarte assistent.
Hatten udsender hvid støj, hvilket effektivt paralyserer Google Home og Alexa-enhederne, så de ikke ved et tilfælde eller grundet hardware-fejl kommer til at videresende alt, hvad du og dine samtalepartnere taler om i dit hjem og/eller kontor til Google og Amazon.
Det er først, når du siger et bestemt ord eller lyd, som du selv har bestemt, at Raspberry Pi vil vække Google Home eller Alexa ved at sige 'OK, Google' eller 'Alexa'.
Herefter videresender svampehatten dine spørgsmål, musikønsker eller andet til de smarte assistenter.
Derefter paralyseres de med hvid støj, indtil du igen siger dit egenvalgte vågn op-ord, eller wake-word som det hedder på engelsk.
Bjørn og Tore har lagt al kildekode op på Github. Der er instruktioner i konstruktionen af svampe-hatten på instructables. Du kan læse mere om Projekt Alias her. Alias anvender Tensorflow og Keras til Machine Laerning og er skrevet i Python.Sådan bygger du Projekt Alias
Kommentar til overvågningskapitalisme
Men den simple idé er mere end det. Med solide rødder i en dansk humanistisk designtradition iblandet open source-filosofi og gør det selv-maker-etik er det også en kommentar til en samfundsudvikling, hvor overvågningskapitalisme har langt større indflydelse på design af teknologi end hensyn til brugernes behov og privatliv.
En kommentar, som de to danske interaktionsdesignere Bjørn Karmann og Tore Knudsen, der har udviklet Raspberry Pi-hatten, kalder Projekt Alias.
I 2017 vandt Bjørn Karmann Googles Experiment Challenge med sit Objectifier-projekt, der forsøger at gøre AI tilgængeligt for ikke-programmører og er en privatlivsrespekterende smart assistent; et alternativ til Google Home og Alexa-devices. Som præmie fik Bjørn blandt andet en Google Home.
Kan man hacke en Google Home?
»Jeg tænkte ret tidligt, at det kunne være sjovt at hacke den. En af mine første frustrationer var, at man skulle anvende 'OK, Google'; et reklame-/branding-ord i sit eget hjem. Hvorfor kan man ikke vælge sit eget wake-word? Så var der den mentale følelse af, at den lytter med i dit eget hjem, selvom Google siger, at den ikke gør det. Hvis man siger noget, som minder om Google, begynder den at afbryde dig i din konversation,« siger Bjørn.
Så det var med følelsen af at overlade sit privatliv til smart home-devices, som han ikke havde kontrol over, at Bjørn begyndte at undersøge Google Home nærmere.
»Jeg prøvede at finde nogle, der havde hacket den, men Google gør det svært at komme ind til det væsentlige, så jeg tænkte på andre kreative måder og fik ideen om man-in-the-middle.«
Bjørns gamle gymnasiekammerat Tore skrev speciale i interaktionsdesign på Malmø Universitet om machine learning og lyd i sommers, og da han deler Bjørns syn på teknologi, var det naturligt, at de to begyndte at udforske mulighederne for at tage kontrollen over Google Home.
»I projekt Alias er alt transparent. Det er open source på Github, og der er maker-instruktioner på Instructables (se boks). Det var også et bevidst designvalg, at Alias ikke behøves at være koblet til internettet. Fordi data er valuta, så skal størstedelen af smarte devices konstant være på internettet. Det er formentlig data, som virksomhederne i virkeligheden tjener penge på. Det er ikke relevant for os, vi vil demonstrere, at det ikke er en nødvendighed; det kan være anderledes,« siger Tore.
En parasit som metafor
Selve den fysiske udformning af svampehatten skal understrege den pointe. Google Home og Amazons Alexa-devices er en slags parasitter som lukkes ind i folks hjem og snylter på folks privatliv, så hvorfor ikke selv lave en parasit, der sidder på parasitten?
Den fortælling har været med til at få projekt Alias til at gå viralt med mange hundrede kommentarer på Reddit og Hacker News, ligesom flere medier og magasiner som Forbes har rapporteret om danskernes projekt.
Kommercielt produkt?
De to danskere er i den forbindelse blevet spurgt mange gange om, de har nogle planer om en decideret produktion af Alias for folk som ikke har tid, evner eller adgang til en 3D-printer.
»Vi er blevet spurgt meget om markedet bag produktet. Vi ser det ikke som en forretningsidé, det er mere ideen bag produktet, som vi ønsker at udbrede. Det er en mental parasit, som forhåbentligt kan brede sig og også påvirke Amazon og Google internt,« siger Bjørn.
Via sit tidligere arbejde med blandt andet Objectifier har Bjørn en del venner og bekendte hos Google, og her er der blevet taget godt imod Alias.
»De elsker det, men det er kun kreative folk, som jeg har talt med. Du får nok et andet svar, hvis du taler med Googles advokater, eller dem der sidder med pengepungen. Men den feedback, jeg har fået fra Google, har været positiv,« siger Bjørn som håber, at den virale bølge og medieinteressen tilsammen bliver en kollektiv stemme, som kan være med til at påvirke teknologidesign.
'OK, Big Brother'
De to danskere arbejder begge fuldtids som interaktionsdesignere, så arbejdet med Alias foregår i deres fritid. De er dog meget interesserede i kommentarer og ideer til forbedringer.
»Vi er i en fase, hvor vi svarer på folks spørgsmål og kommentarer. Vi ændrer koden og vores beskrivelser baseret på kommentarerne,« siger Bjørn.
En af de nuværende begrænsninger er, at wake-wordet højst kan være 2 sekunder. Så du kan godt sige 'OK, Big Brother' eller 'Hey, Stasi', mens 'Vågn op, overvågningskapitalismeagent' formentlig er for langt. Det kan dog ændres i koden.
»2 sekunders-vinduet kan ændres til at være så langt som det ønskes. Hvis man sætter det til 5 sekunder og selve ordet kun er 2 sekunder, vil der dog være en 3 sekunders forsinkelse, inden Alias vågner. Jeg er sikker på, at det kan gøres smartere af nogle som har arbejdet seriøst med det her,« siger Tore.
Version2-læsere med interesse for og/eller kendskab til machine learning, talegenkendelse og andet relevant er velkomne til at kontakte Bjørn og Tore med ideer og kommentarer.
Her kan du se en video om Alias:
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
