College4vraag13

Wat zegt onderstaand figuur over de rol van de connectiegewichten van een feedforward netwerk in het backpropagation leerproces?

canary.png

Antwoord:

In het begin van het leerproces zijn de gewichten van de error (& van de eigenschappen) nog niet groot genoeg om ook echt aan te geven dat er iets fout is. Het netwerk leert dus wel al een klein beetje door backpropagation, maar nog niet genoeg. Omdat het netwerk stapje voor stapje leert worden deze gewichten langzamerhand steeds groter tot er een piek komt die aangeeft dat die categorisatie (bijvoorbeeld rose bij de dieren) echt fout is. Na deze piek heeft het netwerk geleerd dat die 2 dingen niet bij elkaar horen, en neemt de hoogte van de error curve dus ook weer af. De piek geeft dus aan op welk moment het netwerk wat geleerd heeft, zoals in dit plaatje de distinctie tussen plants vs. animals plaatsvind tussen de 500 en de 1000 epochs.

Volgende Vraag

Unless otherwise stated, the content of this page is licensed under Creative Commons Attribution-ShareAlike 3.0 License