Forskere snyder Googles videogenkendelse til at se, hvad de ønsker

Google har lanceret en betaversion af en software, der skal genkende, hvad en video viser.

Det tog forskere få måneder at finde en metode, der kan snyde Googles videogenkendelses-software.

Læs også: AI-advokaten Herman skal behandle klagesager på under et sekund

For ved at indsætte en enkelt frame hvert andet sekund bestående af det, forskerne fra University of Washington ønskede, algoritmen skulle se, tog de fusen på Googles software. Det skriver theregister.co.uk.

Læs også: Analytiker: »Jeg har ikke set et blockchainprojekt, der ikke ville være bedre uden blockchain«

Eksempelvis tog forskerne Googles egen demonstrationsvideo, der kører med 25 frames per second, og indsatte et billede af en Audi A4. Googles AI hoppede i med begge ben, selvom det for mennesker kan være svært at se, at hver 50'ende frame faktisk ikke var en tiger.

Upålidelige systemer

Forsøget er ikke bare for sjov. En del af pointen fra studiet er, at mange AI’er programmeres til at køre i sikre, faste omgivelser, og det kan give store problemer, så snart nogle forsøger at omgå dem eller snyde dem. Eller hvis omgivelserne, AI’en fungerer i, ændrer sig af andre årsager.

Læs også: Deepmind: AI's hukommelsesproblem kan være løst

Forskerne skriver også, at man derfor skal være påpasselig, når man bruger lignende systemer til at pege gerningsmænd ud på overvågningsvideoer eller bruger algoritmer til at spotte såkaldte internet trolls, der spreder had og trusler på internettet.

Læs også: IBM's Watson slår sig sammen med Einstein

For hvis disse trolls er dårlige til at stave eller bevidst laver ringe tegnsætning, kan de nemt komme ud af søgelyset, lyder det fra forskerne.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (1)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Anne-Marie Krogsbøll

Hvilke konsekvenser kan dette få for brugen af eks. Watson i sundhedsvæsnet? Hvor meget "garbage in" i form af elendige (medicinalindustrisponsorerede) forskningsartikler skal der til, før der bliver tale om "garbage out" i form af forkerte diagnoser og uhensigtsmæssig (men for medicinalindustrien givtig) medicinering?

http://lakartidningen.se/Opinion/Debatt/2017/03/Apropa-Overtro-pa-superd...

  • 1
  • 0
Log ind eller Opret konto for at kommentere