Kommentar: Håbløst at politikere raser over misforstået lyttefunktion på smart-tv

11. februar 2015 kl. 10:4234
Det er en afsporing af debatten, når en bred vifte af it-ordførere kræver ministersvar på Samsungs talegenkendelsesfunktion. Hvorfor ser vi ikke samme engagement i debatten om sessionslogning?
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

[shareline:77135] Så hvorfor er it-ordførerne vrede over lige netop Samsung?[/shareline]

Det blev Samsung, som tabte stolelegen om, hvornår angsten for overvågning endelig fik befolkningen og Folketingets it-ordførere til at reagere. Det er blot ærgerligt, at lige netop Samsungs smart-tv ikke er et særlig grelt eksempel.

Samsung kom i søgelyset, da flere medier rapporterede om en klausul i Samsungs brugerbetingelser:

If you enable Voice Recognition, you can interact with your Smart TV using your voice. To provide you the Voice Recognition feature, some voice commands may be transmitted (along with information about your device, including device identifiers) to a third-party service that converts speech to text or to the extent necessary to provide the Voice Recognition features to you. In addition, Samsung may collect and your device may capture voice commands and associated texts so that we can provide you with Voice Recognition features and evaluate and improve the features. Please be aware that if your spoken words include personal or other sensitive information, that information will be among the data captured and transmitted to a third party through your use of Voice Recognition.

Artiklen fortsætter efter annoncen

På dansk betyder det kort og godt: Det du siger til dit tv, bliver optaget og sendt til det firma, som leverer Samsungs talegenkendelse.

Det lyder umiddelbart ubehageligt, men det er stort set identisk til det, Apple har gjort med Siri på iPhone, som Wired beskrev i 2013. Microsoft og Google gør i øvrigt noget tilsvarende med Cortana og Google Now.

Der er altså ikke noget nyt i det, Samsung gør, men er det alligevel ikke en krænkelse af privatlivets fred, hvis tv'et lytter med vores brokkeri over, at der aldrig er andet end opstillede dokuserier og reality-tv på flowkanalerne?

Det er i hvert fald bekymrende nok til, at en straight flush af it-ordførere vil have ministeren til at skride ind. Det er altså umiddelbart noget, der vækker mere harme på Christiansborg end genindførelsen af sessionslogningen.

Artiklen fortsætter efter annoncen

Men ser vi på det tekniske, så er Samsungs teknologi for det første ikke anderledes end de stemmestyringsfunktioner, som findes i mange biler eller på smartphones.

Ifølge Samsung er der to funktioner: En, der ligesom Microsofts Xbox One hele tiden lytter efter et bestemt aktiveringsord, her 'Hej tv'. Det er en offline-funktion, som stort set blot er en lydmæssig udgave af den infrarøde sensor til fjernbetjeningen. Den kan bruges til at skrue op ned for lyden eller skifte kanal ved eksempelvis at sige: 'Hej tv, kanal op'.

Hvem der så end ser tv i 2015, hvor de skifter kanal på denne måde og ikke via en elektronisk programguide, er uvist, men Samsung og de øvrige tv-producenter er jo pinedød nødt til at vise noget nyt frem hvert år på Consumer Electronics Show i Las Vegas.

Den anden funktion er online og aktiveres ved at trykke på en knap på fjernbetjeningen. Det kalder en søgefunktion frem, og der bliver vist et forholdsvis stort ikon på skærmen. Ligesom til Siri, Google Now og Cortana kan man så indtale en søgning, og tv'et får hjælp af en cloud-tjeneste til at udføre talegenkendelsen.

Alt hvad du siger, mens funktionen er aktiveret, bliver altså sendt ud i skyen for at blive fortolket og omsat til søgeresultater.

Tredjeparten, som omtales, er det amerikanske firma Nuance, der leverer talegenkendelse til biler, sundhedssektoren og altså også til flere smart-tv-producenter. Ud fra betingelserne kan vi se, at Samsung og Nuance forbeholder sig retten til at gemme det, du har sagt til dit tv.

Nu er USA ikke helt et uland på hverken forbrugerrettigheder eller beskyttelsen af privatlivet, så der stilles faktisk krav til sådan en indsamling. Vi kender ikke Samsungs implementering af kravene, men Apple løste det således - før der endda kom kritik af indsamlingen i Siri:

Hver søgning bliver gemt med et unikt identifikationsnummer, som genereres tilfældigt og ikke kan føres tilbage til den enkelte bruger. Hos Apple ligger lydfilen og den fortolkede tekst så på denne måde i seks måneder, hvorefter identifikationsnummeret slettes.

Artiklen fortsætter efter annoncen

Talegenkendelse er en teknologi, som langt om længe er blevet så god - også på dansk - at den kan bruges i forbrugerelektronik. Indsamlingen af store mængder tale fra mange forskellige mennesker med forskellige dialekter er en vigtig brik i, at Microsoft eksempelvis har kunnet gøre det muligt at lave live-oversættelse mellem sprog i en Skype-samtale.

Så hvorfor er it-ordførerne vrede over lige netop Samsung?

Overvågning har de sidste par år stået højt på dagsordenen, men det har også været et følsomt emne. Det er politisk livsfarligt at være imod sessionslogning, fordi man så samtidig fratager myndighederne et redskab til efterforskning af kriminalitet, som omfatter børneporno og terror.

Derimod er det helt ufarligt at slå ned på et tv-apparat, hvor man skal tale til fjernbetjeningen på en måde, der mest minder om at bruge en hårbørste som mikrofon i badet.

Det er forståeligt, at politikerne gerne vil tage fat i overvågning. Med internetopkoblede termostater og andre Internet of Things-dimser er der potentielle problemer, som vi skal tage fat om, før design, der ikke tager hensyn til privatlivet, bliver til fast praksis.

At gå efter en påklistret funktion i et tv er teknologiforskrækkelse. Det ville være bedre for os alle, hvis politikerne ikke hægtede sig på en serie af misforståelser omkring teknologi, og i stedet tog fat på de mere fundamentale problemer, som vi står over for, når det handler om teknologi, der bliver brugt til at holde øje med, hvad vi foretager os.

34 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
28
11. februar 2015 kl. 20:15

Nu har folk gået rundt med mobil telefoner i snart 15 år med de samme egenskaber som Samsungs stemme genkendelses TV uden de har bemærket det. Så hvorfor er TVet et problem? De fleste familier har 2-4 mikrofon enheder med strøm på i stuen alligevel så hvad gør det de få -en- mere?

Når det er sagt er der selvfølge nogen Privacy issues som vi skal tage stilling til som mennesker der lever med den teknologi vi gør. Og det er selvfølge godt TVet er åbenbart en øjne åbner for nogen.

34
20. februar 2015 kl. 08:14

Nu har folk gået rundt med mobil telefoner i snart 15 år med de samme egenskaber

Jaså? Lad mig se, hvordan så mobiltelefoner ud for 15 år siden? Jo, hvis jeg husker rigtigt (og jeg arbejdede for Nokia den gang), så var Nokia 3210 det store hit. Der var ikke nogen former for stemmegenkendelse, cloud-backing af data eller andet. Der var ikke en gang internet adgang. IKKE EN GANG WAP! Så inden du kommer for godt i gang med dine påstande om at "sådan har det jo været længe" så tag lige og få styr på fakta. Det har IKKE været sådan i mere end et par år. Der er IKKE tale om "tingenes tilstand" som vi har været i længe. Det er en HELT NY tilstand, som vi er på imod, hvis vi altså ikke stopper op og tænker os om.

33
12. februar 2015 kl. 16:14

Nu har folk gået rundt med mobil telefoner i snart 15 år med de samme egenskaber som Samsungs stemme genkendelses TV uden de har bemærket de

Nok lidt længere, men ikke i Jakkelommen. Men de første telefoner som jeg kender til som have en form for talegenkendelse, var Dancall, der sad en 80 pin som kostet mere ind hvad topmodeller koster i dag i indkøb. Men den lavet alt arbejdet lokal, det var omkring 90. Og det er her i detaljen at problemet ligger, den gang, og det er ikke længe siden. Kunne der ikke sendes data i samme mængde som nu, man kunne heller ikke gå på nettet og telefonen var bare en telefon. Man kunne sangsynligvis også, få telefonen den gang til at sende hvad der blev sagt i rummet omkring den, men det var så en telefon linje som blev oprettet. Det var ikke telefonen eller dens OS som spioneret på en.

Der ud over synes jeg at denne diskussion er rigtigt god, og Samsung sagen er god til at få problematikken ud til flere. Jeg har ikke noget at skjule, men vil gerne have mit privatliv for mig selv, herunder sex liv, mit sygehistorie og lægebesøg, og mine private samtaler med min samlever, venner og bekendte. Så man kan måske vende det om, dem som går ind for denne orwellske overvågning, de har ikke et sex liv, eller et liv i det hele taget :-)

Og nej jeg sider ikke nøgen foran Xboks eller ligende. Mit telefon er i et cover så kamera er dækket når det ikke bruges, og webkamera i min skærm er ikke sat til.

Nej. det betyder så heller ikke at jeg sider nøgen foran min PC :-)

25
11. februar 2015 kl. 15:09

Nu er USA ikke helt et uland på hverken forbrugerrettigheder eller beskyttelsen af privatlivet, så der stilles faktisk krav til sådan en indsamling.

Sammenlignet med EU, må USA faktisk anses for at være et UNDERudviklet land, når det kommer til persondatabeskyttelse. USA har ingen persondatalov (på føderalt niveau), bortset fra særlove om f.eks. videoudlejning hvor oplysninger om lejede film ikke må videregives uden samtykke (pga. Robert Bork sagen i 80'erne).

I USA er persondata firmaernes ejendom, og de kan indsamles og sælges frit, hvilket sker i stort omfang. For eksempel via den udbredte "data broker" industri, en industri der ikke ville kunne operere lovligt i EU på samme måde som i USA.

For ikke-amerikanere (non-USPERs) er det særligt problematisk at persondata opbevares hos amerikansk-ejede firmaer (herunder CSC Danmark, naturligvis). FISA 702 giver NSA uhindret adgang til alle data, som NSA måtte finde relevante.

Når jeg aktiverer en funktion med talegenkendelse, på et TV med masser af CPU-kraft ifølge diverse annoncer, forventer jeg at talegenkendelsen sker på enheden, ikke at den bliver sendt til en ekstern server somewhere i cyberspace.

Og jeg vil ikke spises af med at der på side 222 (ud af 250) i brugervejledningen til TVet står at data fra stemmegenkendelse overføres til en unavngivet 3. part. Det er i øvrigt først via medieballaden, og Samsungs behov for PR damage control, at vi overhovedet har fået sat et navn på denne 3. part, så de intetanende Samsung kunder nu ved hvor deres tale bliver sendt hen, og hvem er kan lytte med i stuen eller soveværelset.

Persondataloven kræver også "lidt" mere end hvad der står på side 222 i en Samsung brugervejledning.

Det er meget muligt at Samsung ikke er værre end tilsvarende funktioner på iPhone og Android enheder, men nu er den politiske opmærksomhed altså faldet på Samsung. Og det har Samsung kun sig selv at takke for, fordi de tydeligvis ikke har styr på helt basale elementer i europæisk persondatalovgivning. Hint: en global privacy policy er sjældent en god idé, medmindre man har tænkt sig at bruge EUs persondatalovgivning globalt.

Hvis Samsung-sagen bliver starten på en debat om indsamling af personlige oplysninger fra smart-XYZ devices (telefoner, TV, køleskabe, vaskemaskiner, badevægte, el-målere, etc etc), er det kun glædeligt. Der er mange andre (også større) problemer med den kommercielle overvågning på dette område end Samsung's stemmegenkendelse.

Jesper Lund Næstformand, IT-Politisk Forening

27
11. februar 2015 kl. 19:44

...så længe du selv holder "lyt med" knappen nede, vel at mærke.

Hvad er du så sikker på ? Er det en HARDWARE knap som afbryder mic, eller en software knap, som viser et symbol oppe i hjørnet på at mic. er afbrudt ? Lige som Ctrl - Alt - Del altid vil restarte computer, selv om tastatur er gået ned, eller OS hænger helt ? Her virker HARDWARE tasten også altid over på vægen.

31
12. februar 2015 kl. 11:52

Hvad er du så sikker på ?
Er det en HARDWARE knap som afbryder mic

Jeg kan naturligvis ikke være sikker på at Samsung ikke lyver, og sender alt hvad deres mikrofoner opfanger hele tiden, men det er der ikke noget i denne sag, der tyder på. Hvis det er din holdning til mikrofoner, må du jave gang i loddekolben, men så snakker vi langt flere apperater end dit Samsung tv, fx mobil, laptop, XBox kinnect og alle andre internetopkoblede enheder, der indeholder en mikrofon.

Det "skandalen" handler om, er de stemmestyringskommandoer, som indtales i fjernbetjeningen, mens optage knappen holdes nede. At disse kommandoer ikke behandles lokalt, men sendes til Nuance for behandling, på samme måde som kommandoer til Apples Siri.

22
11. februar 2015 kl. 14:31

Eller nærmere at stoppe.

Hertil og ikke længere, måske snare et skridt tilbage.

Vi skal ikke være kede over, at det med Samsung måske er ude af propration. Dette kan være en løfte stang, så den del af befolkningen som ikke arbejder dybt med IT, eller forstod dybten af overvågning og indtræningen i ens privatliv af overvågning. Kan forstå hvorfor der skal kæmpes imod dette.

At alle firma, NSA og andre 3 bokstaver vil elske at lytte med i stuen ved os alle sammen. Hvis det er et Amerikansk firma som sælger denne teknologi, måske meget billigt. Så kan det være betalt og oprettet af NSA, netop til dette formål Men under alle omstændigheder vil de være tvunget til at udlevere det hele til NSA uden at måtte fortælle nogen om dette.

Tænk hvad man kan tjene på dette, man kan direkte reagere på kommentar på reklame, og ændre den så man får lige hvad der tænkes på at købe. Når man beklager sig over sin gamle telefon, så 10 sec senere er der reklamer for Telefoner på TV. Der er SMART TV Eller som rigtigt levebrødspolitikere, man kan jo sige lige hvad de vil vil høre ved kaffebordene, sådan helt bogstaveligt.

Tænk på perspektiverne, med den udvikling vi har nu, er 1984 langt tid siden. Hvis vi høre nogen taler positiv om IS, kan vi sende en Drone og bombe dem direkte hjemme i deres stue, over hele verden. Bare de har et Samsung tv, eller en Appel telefon. Men der kommer nok snart en lov om at vi alle skal have smart TV, da et gammeldags TV svare til at bruge kryptering, og du har jo intet at skjule, samt at alt tale skal foregå foran det. Er der nogen der har tænkt på det før !

23
11. februar 2015 kl. 14:51

Vi skal ikke være kede over, at det med Samsung måske er ude af propration.
Dette kan være en løfte stang, så den del af befolkningen som ikke arbejder dybt med IT, eller forstod dybten af overvågning og indtræningen i ens privatliv af overvågning.

Det kan du godt have ret i, så i virkeligheden kan det bruges positivt.

Hvis man prøver at tale med "almindelige mennesker" omkring hele overvågningscirkusset, har deres øjne en tendens til at glide til siden, og deres kropssprog udstråler "hold-da-kæft-en-paranoid-nørd".

Men her er der pludselig noget der kan ophidse skarerne, så hvorfor ikke bruge det som en løftestang, og så perspektivere det til al den grimme overvågning vi belemres med - det er meget nemmere at forklare noget ud fra det udgangspunkt.

Måske er det slet ikke så tosset endda.

21
11. februar 2015 kl. 13:55

Hvad siger Trunte Bramsen? Er det ikke i virkeligheden fra hende, vi venter på en kommentar?

20
11. februar 2015 kl. 13:47

For politikerne handler det nok mere om at dette er noget konkret som hr. og fru kakkelbord kan forstå. Når det så samtidig er rimeligt ufarligt at kaste sig over, bliver det en oplagt mulighed for at vise handlekraft - og det er jo altid godt for en politiker. At det så er så meget mindre vigtigt og ikke nær så omgribende som f.eks. sessionslogning, betyder mindre.

12
11. februar 2015 kl. 12:31

Det var Samsung og ikke politikerne der fandt på overvågning fra TV'et.

Eneste grund.

10
11. februar 2015 kl. 12:01

Der er bare gået valg i den. Og der er sku nok ikke så meget at gøre ved det. Jo mere jeg høre politikere pladrer, jo mere ønsker jeg at de skal blande sig uden om mit liv.

9
11. februar 2015 kl. 11:56

Er der en venlig sjæl som kan fortælle mig - udover argumentet for at forbedre funktionalitet i TV'et (hvilket syntes en smule søgt) hvorfor stemmegenkendelse ikke kan forblive lokalt uden at forlade TV'et i først omgang?

Har nogen gjort sig den ulejlighed at analyse den trafik der forsvinder ud fra TV'et? Vi ved hvornår stemmeindsamlingen starter men hvornår stopper den? Og hvor meget lettere er det at manipulere med denne funktionalitet nu den er introduceret.

Dette er et skråplan i min optik (sammen med Samsungs tiltag omkring tvangsfodring af reklamer fra TV'et), uanset om dette er blæst op ned eller til siden.

15
11. februar 2015 kl. 12:55

Dette er et skråplan i min optik (sammen med Samsungs tiltag omkring tvangsfodring af reklamer fra TV'et), uanset om dette er blæst op ned eller til siden.

Ja, det er et skråplan. Men det er jo heller ikke det Jespers artikel her handler om. Den handler om at sætte tingene i perspektiv. Og vi har en bunke politikere der med den ene hånd vil genindføre sessionslogning (de vil logge hvad du siger til dit Samsung TV) og med den anden hånd skråler op om at Samsung indhenter det du siger til dit TV.

Helt ærligt, det er fandme useriøst af dem....

17
11. februar 2015 kl. 13:02

@jens, enig.

Men jeg perspektiverer også blot det fundamentale problem som jeg ser i at denne slags integreres i "internet of things" og tilfældigvis - fordi producenten mener at kunne finde teknisk argumentation herfor - ikke vil køre den slags lokalt men i sky tjenester som i dette tilfælde.

13
11. februar 2015 kl. 12:32

Er der en venlig sjæl som kan fortælle mig - udover argumentet for at forbedre funktionalitet i TV'et (hvilket syntes en smule søgt) hvorfor stemmegenkendelse ikke kan forblive lokalt uden at forlade TV'et i først omgang?

Nuances svar:

"Nuance also noticed that voice processing speed, accuracy, and overall performance rates were higher on its cloud-based platform, compared to the desktop. Mostly, that’s because Nuance can offer a consistent experience from its own servers — when the voice processing is happening on your own computer, a wealth of things could slow it down. Some of Nuance’s partners (like Apple) handle voice processing on their own servers, while others use a combination of their servers together with Nuance’s"

(VentureBeat: https://venturebeat.com/2013/09/08/how-nuance-tapped-the-cloud-to-bring-voice-recognition-to-mobile/ )

Det er et problem, som der bliver arbejdet på:

https://qz.com/170668/intels-voice-recognition-will-blow-siri-out-of-the-water-because-it-doesnt-use-the-cloud/

Google har også noget lokalt talegenkendelse i Android, men cloud-løsningen har hidtil været den hyldevare, der virker bedst. Det er dog ret sandsynligt, at der kommer bedre offline-løsninger, når det bliver mere almindeligt i biler.

24
11. februar 2015 kl. 14:58

Nu er USA ikke helt et uland på hverken forbrugerrettigheder eller beskyttelsen af privatlivet

Hvis man ser lidt nærmere på lovgivningen er der, på mange områder, faktisk få lande i verden med dårligere beskyttelse end USA.

Anyway, talegenkendelse indsamler følsom data, uanset om det er Samsung eller Apple. Her er et par klip fra Nuances Privacy Policy:

We may use this data for any purpose unless we tell you otherwise (...) we may also share your Personal Information with third parties (...) Nuance works with many affiliated third parties, vendors, distributors, and suppliers. To the extent it is necessary for these groups to provide their products and services to us and provide products and services you have requested, these third parties may have access to or process your Personal Information.

16
11. februar 2015 kl. 12:59

Du kan ikke bruge Nuance's svar til særligt meget ud fra en teknisk tilgang til dette. Der er helt centrale ting som ikke besvares og som ikke kan findes de steder jeg har søgt.

Mon Samsung vil låne mig et af deres nye smartTV's så jeg kan kigge nærmere på hvilke smarte features der er inkluderet og ikke mindst det helt centrale spørgsmål som hænger i luften: "hvor længe er tale genkendelsen aktiv efter den er blevet aktiveret?".

14
11. februar 2015 kl. 12:49

I talegenkendelse bruger man markovmodeller eller neurale net til at modellere syntaks med foranstående ord. På servere med meget processorkraft kan man nemt bruge 3, 4, 5, eller flere ord, mens man ofte højest bruger 1 eller 2 foranstående ord hvis genkendelsen skal foregå lokalt. Det er bl.a. en af årsagerne til at cloud-baseret talegenkendelse virker bedre.

Der er ikke internet i mange landsbyer i Indien og man har forsøgt lokal talegenkendelse på android enheder, men resultatet er at man løber tør for strøm efter 10-15 min.

Datahøst er selvfølgelig også en årsag til at de hellere vil tilbyde cloud-løsninger. Det skal så siges at lyd uden tilhørende tekst er stort set ubrugeligt for talegenkendelse, så jeg ved ikke hvad de gør med datahøsten.

18
11. februar 2015 kl. 13:05

@andreas, jeg tror fint at vi kan blive enige om at der er behov for processor kraft til talegenkendelse, men netop et fastkoblet device som et TV burde ikke have et problem med at håndtere dette lokalt.

8
11. februar 2015 kl. 11:51

Sandheden er, at det skyldes en håbløst naiv uvidenhed, hvilket også ligger til grund for samme politikeres idiotlignende håndtering af sessionslogning, og at give ekstreme beføjelser til Center for Cybersikkerhed.

Alt tyder på, at politikerne i dag er blevet politiker-specialister og derved har mistet det brede overblik, funderingen i normalsamfundet og historisk forståelse.

6
11. februar 2015 kl. 11:10

for dages politiker handler det om at blive set og høre men uden at tage ansvar eller på anden måde gøre eller sige noget der kan peje finger tilbage på dem.

det forklar også hvorfor de aldrig kan svar ordentligt på spørgsmål, spindoctor osv.

7
11. februar 2015 kl. 11:22

Politiker

Præcis. Det første en grøn politiker lærer er, at benytte enhver lejlighed til at profilere sig selv. Men de får ved gud også meget hjælp fra kritikløse journalister.

5
11. februar 2015 kl. 11:08

Det er ikke helt rigtigt det der står i artiklen. Google har formået, at få embedded hele talegenkendelses-algoritmen ind i Android, så det ikke kræver, at man er online for, at lave stemmesøgning/stemmekommandoer.

4
11. februar 2015 kl. 11:05

Artiklen der linkes til på tv2.dk indeholder de mest hykleriske udsagn jeg længe har set. "Jeg har skrevet til ministeren og bedt ham komme med et svar på, hvordan vi undgår af folk bliver overvåget", siges der, mens man samtidig argumenterer for statens massive overvågning af alt og alle, for udvanding af fundamentale retsprincipper og for at sætte kontrolmekanismer ud af kraft. Det er simpelthen komplet idiotisk det der foregår.

2
11. februar 2015 kl. 10:50

Jesper, rigtig god artikel der får realiteterne på bordet og viser at det hele er en storm i et glas vand.

1
11. februar 2015 kl. 10:47

Det er fed stemmehøst. Ikke en dyt andet....