Kan machine learning i medierne starte 3. verdenskrig?

Vi har konstateret at ringe dansk sprogunderstøttelse forhindrer os at komme videre med f.eks. chatbotter og talegenkendelse, og indtil vores nye regering får kastet penge efter et centralt udviklingscenter for den slags, så sker der ikke ret meget på det område. Og det er måske meget heldigt, da man i engelsksprogede lande i flere år, har haft robotter til at skrive nyhederne, i hvert fald i et vist omfang.

Det findes også i mindre målestok i danske medier, men det er skabelon-baserede programmer der (ofte med menneskelig supervision) kan producere korte, ukomplicerede og meget ensartede artikler. Et godt eksempel på den metode finder man hos Lasso News som dykker ned i offentlige databaser og genererer ”artikler” på baggrund af ændringer i cvr-registret og den slags. De fleste journalister vil sikkert gerne slippe for at skrive den slags "kedelige" artikler alligevel!

Jeg har længe haft danske medier mistænkt for at bruge robotter til at skrive deres udenrigsstof. Jeg er f.eks. ret sikker på at flere danske dagblade har integreret deres Reuters og Ritzau feeds, med en ”russerne-gjorde-det” artikel-robot, som automatisk omformer ligegyldige ikke-nyheder til højspændt drama med ”onde-baby-spisende-russere” i hovedrollerne. Den samme robot har åbenbart også en briterne-gjorde-det-men-pøblen-må-ikke-vide-det-algoritme.

Måske kan jeg bare ikke se forskel på kunstig intelligens og ingen intelligens i visse danske nyhedsmedier 😊

Robot-skrevne noveller er snart en realitet

På engelsk sker der lige nu alvorlige ting med machine learning og store datamængder, som er værd at kigge på. Elon Musk finansierer et foretagende som hedder OpenAI og de hævder at deres algoritme GPT-2 snart kan skrive hele romaner og noveller. På deres blog som linket her går til, kan du læse nogle eksempler på hvad GPT-2 kan og det ser unægtelig spændende/skræmmende ud. Faktisk mener de at deres algoritmer er så gode at de ikke vil dele dem med andre, af frygt for at de skal blive misbrugt til propaganda og fake news.

Danske medier (og deres læsere) er p.t. ikke direkte i farezonen for ML-generede fake news artikler pga. den manglende sprogunderstøttelse, men vi ser jo ofte at danske journalister tager historier op fra engelsksprogede medier, blogs og nyhedstjenester, som jo netop kan bruge f.eks. algoritmer som GPT-2, til at sprøjte propaganda og falske nyheder i rå mængder ud over hele verden.

Forestil dig f.eks. at den britiske regering opretter en tjeneste som har til formål at sætte ét bestemt land i et rigtigt dårligt lys. Vi kan jo kalde tjenesten noget helt tilfældigt som f.eks. Integrity Initiative, og udstyret med 100 millioner skattekroner, begynder de at sprøjte millioner af ML-generede fake news ud over sociale medier og blogs. Inden længe begynder danske aviser at samle de falske historier op fra f.eks. Bellingcat.com og vupti, så er de falske nyheder legitimeret.

Jeg er absolut ikke maskinstormer, men jeg kan sagtens få øje på de risici som algoritmer som GPT-2 udgør og jeg fristes til at efterlyse mere kontrol med den slags. Machine learning kommer ikke til at starte 3. verdenskrig, men det kan blive nemmere (og billigere) at manipulere medierne og dermed også befolkningerne. Måske kunne vi indføre en obligatorisk varemærkning så man kan se hvilke artikler eller tekster, som er genereret af en robot? Det er muligvis utopi.

Det ser ud til at vi endnu en gang har fået en regering bestående af ikke-IT-kyndige, men man kan vel håbe at de måske alligevel har opdaget at der sker noget indenfor IT. Kan man ønske noget fra den nye regering?

Udkast til ønskeliste til vores nye regering:

1. Der skal afsættes en pæn bunke penge til udvikling af dansk sprogunderstøttelse (Natural Language Processing) så vi kan komme op på niveau med de engelsktalende lande. (Måske skal vi kigge på færøsk og grønlandsk også?)
2. Udviklingen skal koordineres i et råd bestående af folk som forstår teknikken, folk som kan tage fat på etiske problemstillinger og folk som kan de forretningsmæssige muligheder og risici. Der må også gerne være en enkelt politiker med…
3. Vi skal arbejde sammen med vores nordiske nabolande omkring understøttelse af vores sprog og på EU-plan omkring kontrolleret brug af potentielt ”farlige” algoritmer. Hvis ikke de ”små” sprog i EU står sammen, så bliver vi kørt over af de engelsk- eller kinesisk-talende lande.