Fysikere forklarer dybe neurale netværk med fysikkens love

I teorien er der et astronomisk antal matematiske funktioner, der kunne udgøre et godt dybt neuralt netværk, så hvordan kan det være, at det alligevel lykkes at finde noget, der virker?

Dybe neurale netværk har gjort blandt andet computerbaseret billedanalyse tæt på at være bedre, end hvad mennesker kan præstere, hvilket Microsoft, Facebook og Google drager nytte af. Men hvordan fungerer de dybe neurale netværk egentligt?

Det spørgsmål har to fysikere set nærmere på, skriver MIT Technology Review.

Et dybt neuralt netværk består af flere lag af computergenererede matematiske funktioner. Det har vist sig at være yderst effektivt, men det er ikke åbenlyst, hvorfor. I teorien er der nemlig et astronomisk antal mulige matematiske funktioner, som netværket kunne afprøve for at få skabt en model, der kan finde ud af, om der er en kat på et foto.

Men fysikkens love kan måske give en forklaring, lyder forskernes tese. Selv kvantemekanik og sorte huller kan beskrives med forholdsvis simple fysiske love, hvis man ser på alle de mulige matematiske funktioner, der i princippet er til rådighed.

Sekvens af simple funktioner

Slutresultatet kan være en kompliceret beskrivelse, men ser man på eksempelvis den komiske mikrobølgebaggrundsstråling fra universets skabelse, så kan det brydes ned til en sekvens af forholdsvis enkle matematiske formler.

Mange fysiske love kan udtrykkes som polynomier, men det meste kan klares med 4-ordens polynomier eller lavere, og der er ingen 24-ordens polynomier. Man kan altså sige, at der er en tendens til, at naturlovene kan beskrives med en lille delmængde af matematiske funktioner, som er forholdsvis enkle.

Det samme princip ser ud til at kunne gøre sig gældende for neurale netværk, så en kat på et foto kan identificeres tilstrækkelig godt med en sekvens af simple funktioner frem for en sekvens af meget indviklede eller eksotiske funktioner.

Tips og korrekturforslag til denne historie sendes til tip@version2.dk
Kommentarer (1)
sortSortér kommentarer
  • Ældste først
  • Nyeste først
  • Bedste først
Log ind eller Opret konto for at kommentere
IT Company Rank
maximize minimize