Video er et enormt vildnis af information, hvor søgemaskinerne lige nu kommer til kort og hovedsageligt er afhængige af mennesker, som beskriver, hvad videoen forestiller og handler om. Google arbejder på at bruge kunstig intelligens til at analysere eksempelvis de 300 timers video, som hvert sekund uploades til YouTube.
Men den kunstige intelligens er langt fra fejlfri.
En gruppe forskere fra University of Washington satte sig ifølge Vice Motherboard for at afprøve, hvordan Googles Cloud Video Intelligence API ville klare sig, hvis afsenderen af videoen havde skjulte intentioner.
Svaret, ifølge deres paper, er, at det er forholdsvis nemt at få Googles algoritme til at tro, at en video handler om noget helt andet, end det et menneske ville se.
En video om Jane Goodall og gorillaer blev eksempelvis fortolket til at handle om 'pasta' ifølge Google.
Algoritmer fokuserer på afvigende enkeltbilleder
Metoden var enkel. Uden at gå i detaljer om, hvordan subliminale budskaber påvirker mennesker eller ej, så brugte forskerne en klassisk tilgang og erstattede et enkeltbillede i filmsekvensen med et billede af noget andet.
Forskerne fandt frem til, at hvis man placerede det samme billede hvert andet sekund, eller for hver 50. billede i filmen, så ville Googles algoritme udelukkende fortolke indholdet af hele filmen på lige netop dette billede.
For filmen om gorillaer og et billede af en tallerken med spaghetti var Googles kunstige intelligens 99 procent sikker på, at filmen handlede om pasta. Alle de ord, algoritmen knyttede til filmklippet handlede om billedet af spaghettien.
Tilsvarende gjorde det sig gældende for tre andre fotos og i to andre filmsekvenser. Når Googles algoritme analyserede de originale filmklip uden de indsatte billeder, kunne algoritmen fortolke dem korrekt.
Ulovligt indhold kan skjules
Forskerne påpeger, at det gør et system, der forlader sig på denne automatiske analyse, sårbart, fordi det er muligt at få en videosekvens til at fremtræde over for algoritmen som én ting, men i virkeligheden forestiller den noget andet.
Det kunne eksempelvis bruges til at promovere et budskab ved at knytte sig til en aktuel begivenhed eller et populært emne, som mange vil søge efter. Eller det kunne skjule, at en video indeholder ulovligt eller anstødeligt indhold.
