Gamle AI-dyder skal gøre maskinlæring både 'safe' og 'secure'

Lige præcist med trafikskilte eksemplet, så har jeg aldrig forstået hvorfor man bruger ML til det. Det er velkendt at ML er meget bedre end andre teknikker til genkendelse at svært beskrivelige størrelser som katte men trafikskilte er immervæk stærkt geometrisk, der er en kendt mængde af medlemmer i kategorien og de står på ret veldefinerede måder langs vejen.

Enig. Jeg så også et foredrag, hvor forskere fra England havde prøvet at se, hvor mange pixels, der skulle ændres for at et netværk til genkendelse af vejskilte fejlkategoriserede skilte, som ellers var korrekt genkendt. Gennemsnittet var mindre end 4 pixels. Det er et andet problem med brug af neurale net til kategorisering af billeder: De er meget følsomme for støj, der ikke forekommer under træning. I foredraget var nogle få hvide pixels i vejskiltet blevet erstattet med lysegrønt, og det er ikke noget, der forekom i træningssættet, så nettet kom ud ad en tangent. Man kan tilføje støj til træningssættets billede, men det kan være svært at forudsige alle mulige støjkilder -- specielt detaljer, der bevidst er tilføjet for at vildlede netværket -- og det øger også andelen af billeder, der slet ikke kategoriseres.

Det lyder jo forjættende, og vil bare tage 5 år, så kan vi styre de neurale net. Nu er jeg ikke professor men jeg har ret svært ved at se hvordan man kan checke om et neuralt netværk har aflæst et trafikskilt korrekt.

Lige præcist med trafikskilte eksemplet, så har jeg aldrig forstået hvorfor man bruger ML til det. Det er velkendt at ML er meget bedre end andre teknikker til genkendelse at svært beskrivelige størrelser som katte men trafikskilte er immervæk stærkt geometrisk, der er en kendt mængde af medlemmer i kategorien og de står på ret veldefinerede måder langs vejen.