Dårlig idé: Alexa opfordrer pige til at kortslutte stikkontakt med mønt

30. december 2021 kl. 08:2927
Dårlig idé: Alexa opfordrer pige til at kortslutte stikkontakt med mønt
Illustration: Amazon.
Amazon har nu opdateret Alexa men lover ikke, noget lignende ikke kan ske igen.
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Det vrimler med såkaldte challenges - udfordringer på internettet - som fremmede giver til hinanden. Udfordringerne tjener som indhold på diverse sociale medier, herunder især TikTok.

Men ikke alle udfordringer er lige harmløse. Efter at have 'klaret' en udfordring om at rulle rundt mens man holder en sko på foden, ville en tiårig britisk pige have en ny udfordring.

Så hun spurgte den machine learning-drevne assistent, Alexa, der foreslog 'The penny challenge':

»Plug in a phone charger about halfway into a wall outlet, then touch a penny to the exposed prongs,« lød det ifølge BBC fra højttaleren.

Artiklen fortsætter efter annoncen

En række af handlinger, der ville føre til en kortslutning og udfører man udfordringen, får man stød og kan skabe gnister og varme, der udgør en brandfare. Med andre ord ikke noget små piger eller nogen som helst andre burde gøre.

Fejlen er rettet

Amazon, der står bag smart-højttaleren har allerede bebudet, at selskabet rettede hvad de beskriver som en fejl, så snart, de hørte om hændelsen.

»Customer trust is at the centre of everything we do and Alexa is designed to provide accurate, relevant, and helpful information to customers,« lyder det ifølge BBC fra Amazon.

27 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
27
29. januar kl. 21:40

Det er næppe noget, at AI selv har fundet på! Burde det ikke være muligt at spore, hvem der har stillet udfordringen, og pålægge ansvar, for dem der lægger en udfordring på?

Det virker som om, at AI anvendes til undgå ansvar. Bør AI lovligt kunne anvendes på denne måde?

AI kan måske ikke vurdere farligheden, men måske er muligt at indkode en liste over mulige farlige ting, og undlade disse, eller sende dem til at blive godkendt manuelt.

24
3. januar kl. 09:44

Samt for mine evner til skuespil, for jeg havde diskret tidligere udvalgt nullederen med en polsøger...

Hvilket endda var unødvendigt, med mindre du samtidig holdt fast i vandhanen eller på anden måde havde forbindelse til jord.

23
3. januar kl. 05:37

... i folkeskolen. Jeg stak et søm i stikkontakten, og lod andre tænde for strømmen. Rystede hele kroppen godt igennem, og vandt så flødebollen for min demonstrerede høje smertegrænse. Samt for mine evner til skuespil, for jeg havde diskret tidligere udvalgt nullederen med en polsøger...

22
2. januar kl. 14:55

Den gang jeg var 10 vidste "man" …

Dengang jeg var 10 (som også var i det årti), var jeg allerede godt igang med at afprøve mange af de ting, som jeg var blevet advaret imod.

Der var ingen som kunne overbevise et 10 årig om at stoppe metal i en stikkontakt …

Tja, i det, som man idag ville kalde “udskolingen”, var jeg flere gange med til at stoppe kammerater i at gøre dumme ting med stærkstrøm - gående fra scenarier som det her beskrevne, og til at forklare dem, at “nul” på det diskolys, som jeg just havde hjulpet dem med at fejlfinde på, snildt kunne være strømførende.

Selv har jeg kun fået et “rap over nallerne” en gang, og det var i kollegietiden i tankeløshed, da en sikring ikke ville i. Man kan lære af egne fejl, hvis man ikke formår at lytte til andre, og deres erfaringer.

Iøvrigt er det citat, som du tager afsæt i, fra et indlæg, som går på faren ved at dingenoter som Alexa helt generelt (eller rettere automater i det hele taget) nemt kan gå ind og blive tillagt for stor autoritet, og ikke specifikt rettet imod el-sikkerheden i Danmarks vs det nære eller fjernere udland. Jeg har nemlig - som Ditlev - en livlig fantasi, og kan snildt forestille mig andre problemstillinger end den omtalte “coin-challenge”.

21
2. januar kl. 14:45

Moderne godkendte stikkontakter er ....

Ja, ja, men det er sådan set ikke det der er pointen, men at Alexa overhovedet kan finde på at komme op med sådanne forslag, for forslaget kunne ligeså godt gå på at finde lidt gødning i haveskuret og blande med andre sjove ting, eller hvad har vi.

Så lad nu ikke debatten blive afsporet af at en del af det danske installationsmateriel er børnesikret, for det er slet ikke det der er kernen.

20
2. januar kl. 12:00

Så længe man undgår den type, så er det danske system sikret imod direkte berøring af strømførende metal.

LK FUGA som er den mest brugte udtag i DK er ikke forsænket i alle udgaver, det er kun nyere udtag som er forsænkede og kun i udgaver uden afbryder.

19
2. januar kl. 11:25

Her var der så en voksen tilstede i rummet, som kunne stoppe barnet i at stole på Alexa, da Alexa gav forkerte og farlige råd. Men hvad nu, hvis der ikke havde været?

Den gang jeg var 10 vidste "man" at man ikke skulle proppe ting i stikkontakten og bare lige for at gøre det helt klart så var det før børnesikringen blev opfundet - det var tilbage i 1970'erne.

Der var ingen som kunne overbevise et 10 årig om at stoppe metal i en stikkontakt - det havde forældrene sørget for at lære ungen allerede når det kravlede.

Med HPFI burde der i øvrigt ikke være det helt store proben: enten slår hpfi fra eller så går sikringen - det største problem er nok i ældre engelske installationer med "ringstrøm" hvor sikringen er på 32A (ringstrøm er ikke noget som laves mere men er grunden til at der er sikring i engelske stikpropper).

18
2. januar kl. 10:48

Det kan man også i Danmark. Moderne stik har metalspidser og resten er isoleret med plastik. Ældre stik, stik til stor effekt og stik til en f... masse elektronik har "bare ben". Er det stikkontakterne, der er blevet forbedret? Jeg ved det ikke, for mine er vist fra 1964.

Ja tiden står ikke stille. Moderne godkendte stikkontakter er sikret, så børn ikke kan stikke noget ind i et af hullerne. De er også forsænkede, så at det er umuligt at få kontakt til metaldelen af stik samtidig med at der er kontakt til strøm. Stik til laveffekt er også delvist af plastik, så det også er umuligt at få kontakt til strøm, når de kombineres med ældre stikkontakter, der ikke er forsænkede.

Med andre ord, på et moderne apparat vil et af to muligheder være tilfældet:

  1. stikket er rundt og udfylder hele det forsænkede område i stikkontakten.

  2. stikket har ben der er af plastik øverst, således at det ikke er muligt at få kontakt til metaldelen samtidig med at der er kontakt til strøm.

En mobiloplader implementere nummer 2 og det er derfor umuligt i Europa at få stød ved at følge Alexas opfording, som lød således:

Plug in a phone charger about halfway into a wall outlet, then touch a penny to the exposed prongs

Man sælger tilsyneladende stadig den gamle type "smalle" stikkontakt, der ikke er forsænket, men det synes ikke at være almindeligt i nye installationer (måske det ikke må bruges i nye installationer?). Så længe man undgår den type, så er det danske system sikret imod direkte berøring af strømførende metal. Det er ikke kun i England man har tænkt over det :-)

16
1. januar kl. 16:45

Problemet er at AI stadig mangler sund fornuft.

Lad mig starte mit bidrag til dette års debat med en bitter kommentar om, at det er ikke kun virker til at være en udfordring for kunstig "intelligens"!

Jeg gjorde det bedste jeg kunne for at undgå ordet "AI" i mine indlæg, for er Alexa (og Siri m.fl.) AI? Der er elementer af selvlæring og noget der ligner en form for ræsonnementer, men ligefrem at tale om AI virker mest som sælgeranprisninger (og tænk sig: verden bedste burger kan købes nede lige om hjørnet - i hvertfald ifølge ham, der sælger dem!)

Cyc har, sin høje alder til trods, stadig til gode at brænde igennem. Hvis jeg forstår det ret (og korriger mig gerne), så er dens grundtanke udsprunget samme sted og tid som de såkaldte ekspertsystemer, som dengang påkaldte sig stor interesse og opmærksomhed, men som aldrig rigtigt formåede at skalere, og derfor vel mest er endt med at være party-tricks. Og Cycs grundtese er så, at det mest skyldes, at der manglede regler nok, og at reglerne manglede kvalitet og generalitet. Det har man så arbejdet på siden.

Noget bedre markedsført er IBMs Watson, som vel i runde tal bygger på den samme ide om at kunne ræsonnere over en encyclopædisk vidensbase. Kuriøst ser det ud til at begge bl.a. trækker på Wikipedia, Cyc efter sigende igennem Wikidata og Watson igennem DBpedia.

Det forekommer i den aktuelle sammenhæng rimeligt at mene, at almindelige sund fornuft tilsiger at stærk strøm og børn er en farlig cocktail, men maskinbåren sund fornuft har vist lange udsigter. Vi kan godt lære systemerne den præcise regel, men så er vi tilbage ved Lars meget lange if-sætning og ekspertsystemerne.

Og det leder så over i Anne-Maries spørgsmål om, hvad Alexas forhold til internettet er, og jeg tror ikke, at det er urimeligt at sige, at Alexa trækker på internettet som vidensbase for sine noget mere simple ræsonementer. Hvilket forkommer dobbelt op på modigt (eller snarere dumdistigt), for kombinationen af mindre grundig ræsoneren og ringere viden kan ikke andet end at forstærke hinanden i den kedelig retning.

Jeg forstår ikke, hvordan Amazon kan slippe godt fra at påstå, at de, med teknologi som Alexa, kan kuratere en børnevenlig udgave af, af alle ting, internettet, og jeg synes at de som minimum burde stilles til ansvar.

PS: Udover "sund fornuft", så savner vi også "kreativitet". Hvis man kun bevæger indenfor grænserne af eksisterende viden, så er der naturligvis grænser for, hvor langt man kan komme. På den anden side, så er det ikke altid at kreativitet er en god ting, som f.eks. kreativ bogføring.

14
1. januar kl. 12:24

Problemet er at AI stadig mangler sund fornuft. Man burde forsøge at indbygge en symbolsk database såsom Cyc.

13
31. december 2021 kl. 23:23

Jeg tror, at vi har sluppet et Frankenstein-agtigt monster løs, og at det kun bliver værre, jo mere autonomt og "intelligent" vi tillader det at blive.

Et monster der ikke forstår, hvad det foretager sig. Måske endnu mere uhyggeligt. Der er ikke nogen ondskab indbygget i skidtet, Den sender bare tilfældigt ragelse videre. Eller har den selv fundet på den forfærdelige challenge? Bliver det næste brandstifter-challenge, drab-challenge (et barn kan nemt myrde en sovende voksen med de "rigtige" instruktioner), gift i milkshake-challenge ... min fantasi sætter desværre ingen grænser.

12
31. december 2021 kl. 23:16

Den kontrete udfordring er kun et problem i USA, hvor man kan sætte et stik halvt i.

Det kan man også i Danmark. Moderne stik har metalspidser og resten er isoleret med plastik. Ældre stik, stik til stor effekt og stik til en f... masse elektronik har "bare ben". Er det stikkontakterne, der er blevet forbedret? Jeg ved det ikke, for mine er vist fra 1964.

Det eneste gennemtænkte stik, jeg har hørt om, er det britiske.

11
31. december 2021 kl. 18:47

Den kontrete udfordring er kun et problem i USA, hvor man kan sætte et stik halvt i.

I EU, de steder i Asien jeg kender til, samt de engelske territorier, der bruger man stik designet således så de ikke kan være halvt inde.

https://youtu.be/K_q-xnYRugQ

8
31. december 2021 kl. 12:23

Jeg tror, at denne historie kan bruges til at illustrere nogle generelle problemstillinger i omegnen af automaticeret beslutningsstøtte, såkaldt "automation bias" og den efterhånden obligate "human-in-the-loop" undskyldning (eller bør man måske sige: "ansvarsfraskrivelse"?).

Her var der så en voksen tilstede i rummet, som kunne stoppe barnet i at stole på Alexa, da Alexa gav forkerte og farlige råd. Men hvad nu, hvis der ikke havde været?

For det gælder for mange beslutningsstøttende systemer, at de (her barnet), som kunne have størst nytte af støtte til at træffe beslutninger, også er de ringeste til at forholde sig kritisk til støtten. Og at de (her den voksne), som bedst kan forholde sig kritisk til beslutningsstøtten, også er dem, som har mindst brug for denne støtte.

Det gælder også, at troen på et beslutningsstøttende system stiger, jo oftere at man oplever det som værende troværdigt, og det gælder især for dem, med de ringeste forudsætninger (her barnet). Så det er nemt for at barn at få en for stor tillid til Alexa, især hvis det har oplevet at de voksne, som det ellers støtter sig op ad, tidligere har bekræftet denne tillid.

Troen på de automatiserede systemer kan også blive større end troen på andre mennesker. Hvis der havde været to børn tilstede, og Alexa gav rådet om en "coin-challenge", og den ene siger, at det lyder farligt, hvem tror den anden så mest på: sin ven eller maskinen? Og husk at maskinen taler med en autoritet sanktioneret og bakket op af voksne, og med en track-record af tilsyneladende ufejlbarlighed.

Helt generelt skal vi spørge os selv, om der er en fornuftigt afstand imellem "har tilstrækkeligt megen brug for hjælp" og "er i stand til at forholde sig tilstrækkelig kritisk til anbefalingerne", når vi forlader os på "a human in the loop". Også når dette menneske er en professionel voksen (f.eks. en stresset sygeplejeske i slutningen af en forlænget vagt).

Jeg er sikker på, at der kan findes mange eksempler på, hvor det kan være endog voldsomt nyttigt - men jeg er også sikker på, at det er muligt at finde eksempler på, at det kan være direkte farligt. Og jeg er ikke overbevist om, at de, som har lavet eller betalt for systemerne er tilstrækkeligt upartiske til at kunne lave en reel vurdering af, om det er A eller B. Amazon virker f.eks. ikke til at være særligt bekymrede over Alexa - de siger undskyld, retter den konkrete fejl og så er alt godt. Eller er det?

6
31. december 2021 kl. 11:54

Interessant historie. Jeg bider mærke i, at det jfr. artiklen er barnet, som beder en en "challenge", og at Amazon bl.a. markedsfører deres produkt på flg. måde:

When you create a voice profile for your child, Alexa can recognize their voice and automatically give kid-friendly responses on compatible Echo devices throughout the home. Alexa will filter songs with explicit lyrics, block shopping, let kids access parent-approved-content, and give age-appropriate responses.

Her vil jeg så spørge, hvor ansvaret skal placeres:

  1. Er det moderens ansvar, fordi hun bringer et så åbenlyst farligt apparat ind i huset og stiller det i børnehøjde?
  2. Er det Amazons ansvar, fordi de sælger et defekt og farligt apparat på en måde, så man skulle tro at det var børnesikkert?
  3. Er det "internettets" ansvar fordi at det gør farlige "challenges" alment tilgængelige?
  4. Er det den skøre og uansvarlige kugle, som har fundet på denne farlige "challenge" (og vil han blive ansvarsfri, hvis han skriver "kids, don't do this at home" et eller andet sted i teksten)?
  5. Er det samfundet, fordi det lader Amazon markedføre defekte og farlige apparater til børns forældre, og lader Amazon slippe med en uforpligtende undskyldning om, at man nok skal prøve at gøre det bedre? Eller lader "internettet" stille dem frit til rådighed for alle? Eller lader skøre kugler skrive farlige ting?
  6. All of above?

Tænk over det. Og når du har tænkt over det, så tænk over, hvad svaret til det vil være, når sociale medier målretter indhold til mindreårige, så giver dem lavt selvværd og som fremmer grov mobning?

Og tænk så over, hvad svaret vil være, når film og nettet stiller meget præcise vejledninger i, hvordan man bedst kan begå selv selvskade og selvmord?

Jeg tror, at vi har sluppet et Frankenstein-agtigt monster løs, og at det kun bliver værre, jo mere autonomt og "intelligent" vi tillader det at blive. Medmindre, at vi i en fart begynder at stille krav og placere ansvar. For lige nu virker det til, at udviklingen får lov til at at løbe frit i et ansvarsfrit og grænseløst tomrum.

PS: Er der nogen her, som ved, hvordan man laver et quote til et link - f.eks. til kilden for citatet?

4
31. december 2021 kl. 10:34

Der skulle stå : Hvis du gider så se filmen Rumrejse år 2001 ( originaltitel 2001: A Space Odyssey) af Stanley Kubrick filmen er fra 1968 der er også lidt om det i filmen Nettet ( The net ) fra 1995 svjh

3
31. december 2021 kl. 09:12

Hvis du gider så se filmen Rimrejse år 2001 ( originaltitel 2001: A Space Odyssey) af Stanley Kubrick filmen er fra 1968 der er også lidt om det i filmen Nettet ( The net ) fra 1995 svjh

2
31. december 2021 kl. 08:27

...programmeres Alexa? Og af hvem? Af internettet?

1
30. december 2021 kl. 22:58

Amazon, der står bag smart-højttaleren har allerede bebudet, at selskabet rettede hvad de beskriver som en fejl, så snart, de hørte om hændelsen.

Hvordan kan Amazon påstå at de har rettet fejlen?, de kan selvfølgelig nemt indføre en regel om at den ikke skal give forslag omkring stikkontaker og mønter.

Men hvad bliver det næste de anbefaler?, rusisk roulette med et våben, springe hen over en dyb kløft?

Det er det store problem med AI, du ved ikke hvad den har lært af unoder.

Det ser jeg også som et problem ifm. selvkørende biler.