Stemmestyrede assistenter kan narres af skjulte kommandoer i tale og musik

Forskere har fundet en teknik til at manipulere med Googles, Apples og Amazons taleassistenter.

Stemmestyrede hjemmeassistenter kan narres med skjulte kommandoer i musik eller i tale. Tricket er at manipulere med lydbølgerne på en sådan måde, at mennesker hører noget helt andet end det, taleassistenten hører. Det skriver New York Times ifølge digi.no.

Det har tidligere været demonstreret, hvordan taleassistenter på mobiltelefoner kan narres til at besøge ondsindede websites, sende sms'er eller ringe til bestemte telefonnumre ved at bruge kommandoer i ikke-hørbare frekvensområder.

Allerede i 2016 viste en gruppe studerende ved University of California i Berkeley og Georgetown University nemlig, at de kunne skjule kommandoer i 'hvid støj' sendt over højttalere eller via Youtube-videoer og på den måde få taleassistenter til for eksempel at gå til et website og åbne det.

Men nu har Nicholas Carlini, der er ph.d. i informationssikkerhed ved Berkeley-universitetet, ifølge New York Times ønsket at se, om de kunne skjule talekommandoerne, endnu bedre end de gjorde i 2016.

Menneske og maskine hører samme sætning forskelligt

I en ny rapport viser forskere ved Berkeley, hvordan kommandoer kan skjules i musik eller tale på en sådan måde, at et menneske kan høre én bestemt sætning, mens taleassistenten transskriberer dette til en helt anden sætning – for eksempel som instruktioner om at købe bestemte varer eller åbne et website i browseren.

Ved at indlægge en lille 'forstyrrelse' er det muligt at narre en taleassistent til at transskribere en indspillet stemme som en hvilken som helst sætning. Illustration: Fra rapporten af Nicholas Carlini og David Wagner ved University of California, Berkeley

Det hele fungerer ved, at man modificerer lydfilerne, således at man ifølge forskerne overdøver lyden, som det var meningen, at talegenkendelsessystemet skulle høre, og erstatter det med en lyd, som vil blive transskriberet anderledes af maskiner og næsten ikke være mulig for det menneskelige øre at opfange.

I et eksempel viser forskerne to lydfiler, som for det menneskelige øre høres omtrent ens. Men en taleassistent vil oversætte de to lydfiler til to forskellige sætninger.

Carlini ved ikke, om teknikkerne til at narre og manipulere Alexa og andre taleassistenter bruges af nogen med onde hensigter.

»Men jeg går ud fra, at mennesker med onde hensigter allerede har folk ansat til at gøre det, som jeg gør,« siger han.

Du kan læse hele rapporten her.

Denne artikel er fra digi.no.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Følg forløbet
Kommentarer (1)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Log ind eller Opret konto for at kommentere
Pressemeddelelser

Welcome to the Cloud Integration Enablement Day (Bring your own laptop)

On this track, we will give you the chance to become a "Cloud First" data integration specialist.
15. nov 2017

Silicom i Søborg har fået stærk vind i sejlene…

Silicom Denmark arbejder med cutting-edge teknologier og er helt fremme hvad angår FPGA teknologien, som har eksisteret i over 20 år.
22. sep 2017

Conference: How AI and Machine Learning can accelerate your business growth

Can Artificial Intelligence (AI) and Machine Learning bring actual value to your business? Will it supercharge growth? How do other businesses leverage AI and Machine Learning?
13. sep 2017
Jobfinder Logo
Job fra Jobfinder