Voldsom kritik af Googles kunstige intelligens: Det meste er hype
I starten af året søsatte Google initiativet AutoML, der har som mission at få neurale netværk - tidens foretrukne teknologi indenfor maskinlæring - til at optræne andre neurale netværk. Det skal nedsætte den tid, det tager at få neurale netværk i kategorien deep learning til at løse egentlige problemer.
Ved lanceringen karakteriserede Googles topchef Sundar Pichai projektet således:
»I dag er design af neurale netværk ekstremt tidskrævende og kræver en ekspertise, der begrænser brugen af det til et mindre samfund af forskere og ingeniører. Derfor har vi lavet en tilgang kaldet AutoML, der viser, at det er muligt for neurale netværk at designe neurale netværk. Vi håber, at AutoML vil have en evne, som nogle få ph.d.-studerende har i dag, og vil gøre det muligt om tre til fem år for hundredtusindvis af udviklere at designe nye neurale netværk til deres særlige behov.«
Men det meste er hype.
Det mener Rachel Thomas, som er professor i matematik ved University of San Francisco og medstifter af det gratis og reklamefri AI-kursus Fast.ai. Hun har skrevet om sine tanker på kursets blog.
AutoML kan udvælge modeller og finde de såkaldte hyper-parametre, som er frie størrelser, der kan bruges til optimering af algoritmerne. Men de svære problemer ved maskinlæring handler slet ikke om at designe eller vælge en bestemt arkitektur, mener Rachel Thomas.
Hun synes også, at det er vigtigt at tænke på, at Google har en interesse i at overbevise resten af verden om, at vejen frem mod mere effektiv anvendelse af deep learning handler om mere computerkraft - for det er et område, hvor Google kan meget mere end andre, og det kan føre til, at andre skal købe Googles produkter.
Markedsføring giver ukritisk ros i medier
Specifikt nævner Rachel Thomas, at Google favoriserer teknikken 'neural net architectures' over en anden teknik, 'transfer learning', som hun mener kan give lige så gode resultater med mindre datasæt og mindre computerkraft. Der er ganske simpelt ikke evidens for, at Googles bud er bedre. Det kan blandt andet ses af flere nye forskningsresultater, nævner hun.
Rachel Thomas synes, at AutoML viser faren ved at have en forskningsenhed i et firma. Der opstår en fristelse til at bygge produkter omkring interessant forskning, uden at undersøge, om der er et egentligt behov.
Dertil kommer, at Googles markedsføring forblænder journalister, som ukritisk omsætter firmaets hype til rosende artikler.
Et eksempel på Googles vildledende omtale af egne præstationer er, da firmaets AI-forskere frigav en 'deep learning-teknologi, der kan rekonstruere det menneskelige genom' (DNA), og selvrosen gik endda så vidt som at sammenligne forskningen med den slags, der fører til Nobel-priser.
Resultatet blev blandt andet omtalt i magasinet Wired.
Det fik en anerkendt forsker indenfor området, Steven Salzberg, til at pille Google-forskernes udtalelser fra hinanden. Steven Salzberg påpegede, at forskningen rent faktisk ikke rekonstruerede det menneskelige genom, og i øvrigt udgjorde »ikke meget mere end en lille forbedring i forhold til eksisterende software, og måske ikke engang det.« En række andre forskere indenfor feltet har bakket op omkring hans synspunkt.
Firmaer styrer forskning i maskinlæring
Rachel Thomas er ikke den eneste forsker, der har kritiseret Googles forskning i kunstig intelligens på det seneste. På Twitter er forskeren Simon DeDeo fra det amerikanske teknologi-universitet Carnegie Mellon gået i kødet på Google Brain, som er firmaets afdeling for kunstig intelligens.
Han forsker i matematiske modeller for sociale fænomener og har en baggrund i astrofysik. Og ligesom Rachel Thomas har han ikke meget til overs for Googles forskning:
»Google kan slå universitetet i Kansas, kun fordi de kan hyre flere kandidatstuderende pr. forsker. Forskellen er, at den studerende i Kansas har muligheden for at udføre noget, som er væsentligt i en intellektuel forstand. Det samme er ikke tilfældet hos Google.«
Simon DeDeo forsætter:
»Kan man udføre sej forskning hos Google Brain? Det ærlige svar er nej. Du vil komme tæt på kanten af det nyeste indenfor maskinlæring, en teknisk disciplin, hvis primære mål fastsættes af store firmaer. Men du vil ikke blive til en videnskabsperson.«
Han besøgte for nylig Googles forskere og var ikke imponeret over den måde, forskningen blev udført på.
»De aner ikke, hvad de foretager sig. De har arbejdskraften til at anvende deep learning til hvad som helst, fra at simulere kvantemekanikkens Schrödinger-ligning, til design af medicin - alt muligt. Deres primære mål er at finde et videnskabeligt område, som de kan påvirke maksimalt.«
Han slutter af med en bandbulle mod firma-forskning:
»Det korte af det lange er, at firmaers 'forskning' er en forretningsidé. De intellektuelle fremskridt, der kommer derfra, sker på trods af ledelsen. Da denne slags firmaer er gode til at overvåge deres medarbejdere, er dette gab nu minimalt.«
...men det er dyrt at lave god journalistik. Derfor beder vi dig overveje at tegne abonnement på Version2.
Digitaliseringen buldrer derudaf, og it-folkene tegner fremtidens Danmark. Derfor er det vigtigere end nogensinde med et kvalificeret bud på, hvordan it bedst kan være med til at udvikle det danske samfund og erhvervsliv.
Og der har aldrig været mere akut brug for en kritisk vagthund, der råber op, når der tages forkerte it-beslutninger.
Den rolle har Version2 indtaget siden 2006 - og det bliver vi ved med.
