johnny lüchau bloghoved

Kan machine learning i medierne starte 3. verdenskrig?

Vi har konstateret at ringe dansk sprogunderstøttelse forhindrer os at komme videre med f.eks. chatbotter og talegenkendelse, og indtil vores nye regering får kastet penge efter et centralt udviklingscenter for den slags, så sker der ikke ret meget på det område. Og det er måske meget heldigt, da man i engelsksprogede lande i flere år, har haft robotter til at skrive nyhederne, i hvert fald i et vist omfang.

Det findes også i mindre målestok i danske medier, men det er skabelon-baserede programmer der (ofte med menneskelig supervision) kan producere korte, ukomplicerede og meget ensartede artikler. Et godt eksempel på den metode finder man hos Lasso News som dykker ned i offentlige databaser og genererer ”artikler” på baggrund af ændringer i cvr-registret og den slags. De fleste journalister vil sikkert gerne slippe for at skrive den slags "kedelige" artikler alligevel!

Jeg har længe haft danske medier mistænkt for at bruge robotter til at skrive deres udenrigsstof. Jeg er f.eks. ret sikker på at flere danske dagblade har integreret deres Reuters og Ritzau feeds, med en ”russerne-gjorde-det” artikel-robot, som automatisk omformer ligegyldige ikke-nyheder til højspændt drama med ”onde-baby-spisende-russere” i hovedrollerne. Den samme robot har åbenbart også en briterne-gjorde-det-men-pøblen-må-ikke-vide-det-algoritme.

Måske kan jeg bare ikke se forskel på kunstig intelligens og ingen intelligens i visse danske nyhedsmedier 😊

Robot-skrevne noveller er snart en realitet

På engelsk sker der lige nu alvorlige ting med machine learning og store datamængder, som er værd at kigge på. Elon Musk finansierer et foretagende som hedder OpenAI og de hævder at deres algoritme GPT-2 snart kan skrive hele romaner og noveller. På deres blog som linket her går til, kan du læse nogle eksempler på hvad GPT-2 kan og det ser unægtelig spændende/skræmmende ud. Faktisk mener de at deres algoritmer er så gode at de ikke vil dele dem med andre, af frygt for at de skal blive misbrugt til propaganda og fake news.

Danske medier (og deres læsere) er p.t. ikke direkte i farezonen for ML-generede fake news artikler pga. den manglende sprogunderstøttelse, men vi ser jo ofte at danske journalister tager historier op fra engelsksprogede medier, blogs og nyhedstjenester, som jo netop kan bruge f.eks. algoritmer som GPT-2, til at sprøjte propaganda og falske nyheder i rå mængder ud over hele verden.

Forestil dig f.eks. at den britiske regering opretter en tjeneste som har til formål at sætte ét bestemt land i et rigtigt dårligt lys. Vi kan jo kalde tjenesten noget helt tilfældigt som f.eks. Integrity Initiative, og udstyret med 100 millioner skattekroner, begynder de at sprøjte millioner af ML-generede fake news ud over sociale medier og blogs. Inden længe begynder danske aviser at samle de falske historier op fra f.eks. Bellingcat.com og vupti, så er de falske nyheder legitimeret.

Jeg er absolut ikke maskinstormer, men jeg kan sagtens få øje på de risici som algoritmer som GPT-2 udgør og jeg fristes til at efterlyse mere kontrol med den slags. Machine learning kommer ikke til at starte 3. verdenskrig, men det kan blive nemmere (og billigere) at manipulere medierne og dermed også befolkningerne. Måske kunne vi indføre en obligatorisk varemærkning så man kan se hvilke artikler eller tekster, som er genereret af en robot? Det er muligvis utopi.

Det ser ud til at vi endnu en gang har fået en regering bestående af ikke-IT-kyndige, men man kan vel håbe at de måske alligevel har opdaget at der sker noget indenfor IT. Kan man ønske noget fra den nye regering?

Udkast til ønskeliste til vores nye regering:

  1. Der skal afsættes en pæn bunke penge til udvikling af dansk sprogunderstøttelse (Natural Language Processing) så vi kan komme op på niveau med de engelsktalende lande. (Måske skal vi kigge på færøsk og grønlandsk også?)
  2. Udviklingen skal koordineres i et råd bestående af folk som forstår teknikken, folk som kan tage fat på etiske problemstillinger og folk som kan de forretningsmæssige muligheder og risici. Der må også gerne være en enkelt politiker med…
  3. Vi skal arbejde sammen med vores nordiske nabolande omkring understøttelse af vores sprog og på EU-plan omkring kontrolleret brug af potentielt ”farlige” algoritmer. Hvis ikke de ”små” sprog i EU står sammen, så bliver vi kørt over af de engelsk- eller kinesisk-talende lande.

Relateret indhold

Kommentarer (4)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Bjarne Thomsen

"OpenAI's mission is to ensure that Artificial General Intelligence (AGI) benefits all of humanity". Det er en gammel drøm at konstruere en robot, som kan handle helt selvstændigt i den fysiske verden, og som oven i købet kan opstille teorier om den fysiske verdens funktion.
Sådanne robotter kan landsættes på ugæstfrie planeter, som de kan kolonisere. De kan konstruere rumskibe, som kan rejse til nære stjerner med planeter, som de koloniserer, hvorefter de rejser videre. De kan på denne måde kolonisere hele Mælkevejen. Men vi har ikke fundet dem i vort solsystem: Det såkaldte Fermi-paradoks.
AI i form af TensorFlow er noget helt andet end AGI. TensorFlow laver gentagende differentialgeometriske transformationer mellem en meget stor tekstmængde og et bestemt træningssæt. Formålet er at frembringe en tekst, som overfladisk set ligner en tekst lavet af et menneske, men metoden har intet med intelligens at gøre. Den kan anvendes som en erstatning for en manual, som ingen gider læse.
Det er skræmmende, at nogle i ramme alvor mener, at Googlee AI har noget at gøre med autonome robotter, som kan kolonisere Mælkevejen.

  • 0
  • 0
Leif Neland

Åbenkildekode er nok et must før vi kan se om hvad den laver..


Kildekoden er uinteressant.

Et neuralt netværk er opbygget af simple byggesten, det er blot mængden af dem, og hvordan de er trænede, der gør forskellen.

Der skal ikke ret mange noder i nætværket før det kan blive kompliceret at forstå hvordan netværket er kommet til sin konklusion.

Hvis netværket bliver oplært med artikler, der får at vide at amerikanerne er de onde og russerne er vores frelsere, så får man artikler, der fortolker alle hændelser på den måde.

Det samme netværk kan få den modsatte holdning med den modsatte åndelige føde.

Det er ikke kildekoden, der er interessant, det er metoden for at oplære netværket, der er; hvilken holdning har dens lærer.

  • 3
  • 0
Log ind eller Opret konto for at kommentere