AI-artikel meldte ved en fejl lokalpolitiker ud af partiet: »Bør jo slet ikke kunne lade sig gøre«

11. oktober 2022 kl. 10:2018
AI-artikel meldte ved en fejl lokalpolitiker ud af partiet: »Bør jo slet ikke kunne lade sig gøre«
Illustration: mast3r/Bigstock.
En artikel skrevet ved hjælp af kunstig intelligens meldte fejlagtigt et byrådsmedlem ud af sit parti.
Artiklen er ældre end 30 dage

Online-tjenesten Paqle, der har en robot til at hente artikler fra internettet, blandede to artikler sammen og genererede dermed en ny, hvoraf det fremgik, at byrådsmedlem i Brønderslev Kommune Ole Jespersgaard (S) havde meldt sig ud af Socialdemokratiet – men det havde han bare ikke.

Det skriver DK Nyt.

Læs også: IT-Branchen: Udflytningsaftalen spænder ben for flere it-studerende

Ole Jespersgaard fortæller til mediet, at han om morgenen blev kontaktet af sin gruppeformand, der spurgte, om det virkelig kunne være rigtigt, at han havde meldt sig ud af partiet. Derefter blev han kontaktet af omkring 25 andre personer, der havde samme forundring over den pludselige udmelding.

Artiklen fortsætter efter annoncen

»Jeg håber ikke, at det får konsekvenser for mig, men folk sættes jo i tvivl med sådan en artikel. Sådan en fejl bør jo slet ikke kunne lade sig gøre,« siger han til DK Nyt.

Læs også: Konservative topper listen over partiernes forbrug af annoncer på Facebook

Den ene af de to artikler handlede om, at byrådsmedlem i Randers Kommune Henriette Malland havde meldt sig ud af Socialdemokratiet, mens den anden handlede om, at Ole Jespersgaard ikke er tilfreds med en plan om et misbrugscenter. Fejlen er nu rettet i den AI-genererede artikel.

Direktør i Paqle Jacob Meibom beklager fejlen og påtænker at udsende et dementi til de, der følger medieomtale af Ole Jespersgaard på paqle.dk, siger han til Nordjyske.

18 kommentarer.  Hop til debatten
Denne artikel er gratis...

...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.

Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.

Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.

Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
5
12. oktober 2022 kl. 10:08

Kære Lasse,

Du har skrevet en artikel, som jeg synes trænger til nogle præciseringer.

Du skriver: Online-tjenesten Paqle, der har en robot til at hente artikler fra internettet, blandede to artikler sammen og genererede dermed en ny.

Paqle har ikke skrevet nogle artikler. Dit eget link henviser til tjenesten news.leportale.com, som ikke har noget med Paqle at gøre.

Paqle er en søgemaskine med fokus på overvågning af nyheder. Paqle har vist en overskrift og linket til news.leportale.com, men fordi vi nu må konstatere, at news.leportale.com blander nyheder, har vi besluttet ikke længere at vise overskrifter derfra.

På den baggrund har vi også rundsendt et dementi til alle, der følger medieomtale af Ole Jespersgaard på Paqle, hvor vi beklager, at vi har vist indhold på vores søgetjeneste fra news.leportale, som kunne misforstås og at vi fremadrettet ikke vil vise indhold fra denne kilde.

Jacob Meibom, direktør på paqle.dk

6
12. oktober 2022 kl. 10:15

Hej Jacob Meilbom.

Tak for uddybning af sagen.

Er du enig i, at AI-indsamlede/genererede nyheder på en eller anden måde bør bære tydelig mærkning?

7
12. oktober 2022 kl. 10:25

Ja, det er jeg enig i - og det vil paqle.dk meget gerne medvirke til.

8
12. oktober 2022 kl. 10:47

Tak for dejligt, positivt svar, Jacob Meibom.

Mærker Paqle aktuelt sine artikler? I givet fald: Hvordan?

9
12. oktober 2022 kl. 11:26

Nej, det gør vi ikke, men vi er meget interesseret i at finde et koncept for at gøre det. Vi overvåger mere end 130.000 kilder og indekserer mange millioner artikler dagligt. Så konceptet skal kunne skaleres for at give mening. Men jeg er helt enig i, at det er relevant og vigtigt.

10
12. oktober 2022 kl. 12:26

men vi er meget interesseret i at finde et koncept for at gøre det

Hvad med simpelthen at bruge en neon-pink skrift, og så en fodnote om, at det betyder, at der er tale om bot-nyheder, som potentielt kan være fake news?

For selv om det er positivt, at I tager ved lære, og har droppet denne leverandør, så ændrer det jo ikke på, at Paqle faktisk videregav noget alvorligt sludder, og at intet vel garanterer, at det ikke vil ske igen med en anden leverandør?

11
12. oktober 2022 kl. 12:34

Hovedudfordringen er ikke at lave en markering eller fjerne en nyhed fra et søgeresultat. Hovedudfordringen er at opdage, hvilke nyheder, der er skrevet af en robot eller af anden grund bør markeres eller fjernes.

12
12. oktober 2022 kl. 12:39

Men alle nyheder videregivet af Paqle er vel skrevet/redigeret/vurderet af en robot? Så de skal vel bare allesammen skrives med pink?

13
12. oktober 2022 kl. 12:58

Paqle hverken skriver, redigerer eller vurderer nyheder. Vi finder andre mediers nyheder. Paqle er en søgemaskine, ligesom Google er en søgemaskine. Hvis vi vidste, hvilke nyheder, der var skrevet af en robot, ville vi gerne markere disse nyheder, så Paqles brugere kunne gøres opmærksomme på, at der var grund til at være særlig kildekritisk i vurderingen af den pågældende information.

14
12. oktober 2022 kl. 13:04

Som jeg ser det, er Paqle et led i den fødekæde, som bringer bot-producerede "nyheder" ud til folk. I mine øjne kan Paqle ikke fralægge sig ansvaret for de "nyheder", som viderebringes. Hvis Paqle ikke mener at kunne skelne mellem rigtige nyheder og bot-misforståelser, så er Paqle i mine øjne en del af problemet, og Paqles nyheder burde markeres som sådanne: Potentielt fake news.

15
12. oktober 2022 kl. 13:31

I mine øjne er det ikke en løsning at alle søgemaskiner skrev "Potentielt fake news" på alle nyheder. Står et sådan mærkat på alle nyheder, vil man ende med ikke at bemærke det. Den rigtige løsning må være at finde måder at kunne identificere nyheder skrevet af en robot.

Jeg synes også du bør skelne mellem fake news og nyheder skrevet af en robot. Fake news er et samfundsproblem, men de kan både være skrevet af mennesker og robotter.

Nyheder skrevet af en robot er ikke per definition falsk eller dum. Mange vejrudsigter, regnskabstal, sportsresultater mv er skrevet af robotter. Men det gør jo ikke i selv, at disse nyheder er falske. Men sådanne nyheder vil det være godt at kunne markere, som værende skrevet af en robot, så læseren kan hjælpes til at være særlig kildekritisk i forhold til fejl.

16
12. oktober 2022 kl. 14:10

Tak for svar, Jacob Meibom. Jeg har et par forståelsesspørgsmål:

  • Hvad er news.leportale.com for en virksomhed? Fungerer den anderledes end Paqle? (jeg synes, det er svært at finde en beskrivelse af den)
  • Hvilke andre kilder benytter Paqle
  • Hvilken anden løsning kunne du foreslå?
  • Hvordan kan Paqle sikre, at den slags ikke sker igen? For faktum er jo, at Paqle har viderebragt fake news - uanset hvordan man så definerer det begreb.
  • Hvilken form for kvalitetssikring indgår i Paqle? Dvs. hvordan sorterer Paqle mellem ægte og falske/fejlagtige nyheder?
17
12. oktober 2022 kl. 15:11

Svar nedenfor efter hvert spørgsmål:

Hvad er news.leportale.com for en virksomhed? Fungerer den anderledes end Paqle? (jeg synes, det er svært at finde en beskrivelse af den)

Svar: Jeg kender ikke news.leportale.com

Hvilke andre kilder benytter Paqle?

Svar: Vi bruger primært Infomedia som underleverandør. Deres dataselskab - Opoint - har mange års erfaring med finde og crawle nyhedskilder internationalt. Hvilke der overvåges ændres dagligt. Der er tale om mange tusinde kilder, så spørgsmålet kan ikke besvares fyldestgørende her.

Hvilken anden løsning kunne du foreslå?

Svar: Mit bedste bud er en løsning a la Wikipedia og Trustpilot, hvor brugerne inddrages til at melde ind og angive fejl

Hvordan kan Paqle sikre, at den slags ikke sker igen? For faktum er jo, at Paqle har viderebragt fake news - uanset hvordan man så definerer det begreb. Hvilken form for kvalitetssikring indgår i Paqle? Dvs. hvordan sorterer Paqle mellem ægte og falske/fejlagtige nyheder?

Svar: Vi kan ikke garantere, at det sker igen. Ingen søgemaskine kan garantere mod at indeksere indhold, som ikke burde indekseres. Betyder det, at man skal forbyde søgemaskiner? Det synes jeg ikke. Fordelene ved en søgemaskine overstiger for mig at se ulemperne. Men jeg synes selvfølgelig at man skal tilstræbe hele tiden at forbedre konceptet, f.eks. ved at inddrage brugerne til at medvirke til en mærkning af indholdet.

4
12. oktober 2022 kl. 07:31

Dette er enormt skræmmende. Mærkes den type artikler klart og tydeligt - meget klart og tydeligt, f. eks. skriggrøn skrift - med, at der er tale om bot-artikler, og derved potentielt fake news?

Hvis de ikke gør, så haster det da helt enormt med at gennemtvinge en sådan mærkningsordning - hvis man da ikke helt vil forbyde disse, hvad jeg kunne have mest lyst til. En ting er at sætte AI til at skrive tv-serier - noget jeg i forvejen synes er meget trist - men at man overhovedet kan finde på at lade dem skrive nyhedsdækning på egen hånd, det er så de små hår rejser sig i nakken.

Er algoritmen mon offentlig tilgængelig? For hvordan forhindrer man, at den måske ligefrem har skjulte politiske motiver indbygget?

3
11. oktober 2022 kl. 19:55

Så mens vi gruede for Skynet, der blev "self-aware", så er en mere realistisk fremtid en verden af AI'er, der skriver og citerer hinanden - indtil det hele bliver til ren vås.

I'll be back! Watch this space.

2
11. oktober 2022 kl. 14:06

Jeg synes artiklen er ekstremt interessant, hvis man læser en smule mellem linjerne.

  1. Paqle (og formentlig mange andre) generer nyhedsartikler, ved at lade en AI sammenflette flere forskellige artikler.
  2. Der er faktisk folk, der læser disse nyheder, og tror på indholdet.
  3. Ind i mellem sker der graverende fejl i sammenfletningen, som resulterer i faktuelt forkerte artikler. 2) gælder også for disse artikler.

Jeg var godt klar over at vi bevægede os i den retning, men det er nyt foe mig, at udviklingen er nået så langt. Det er lidt skræmmende, at folk faktisk stoler på teknologi, der tydeligvis er på så umodent et stadie.

1
11. oktober 2022 kl. 11:10

Misvisende overskrift. Han blev ikke meldt ud af partiet.