College4vraag14

Het onderstaande figuur geeft het activatie-verloop van de relaties pine has leaves en canary can sing tijdens het leren van semantische relaties in het Rumelhart netwerk.

pine.png

Leg uit wat opvallend is aan dit activatie-verloop.

Antwoord:

Het netwerk doet er vrij lang over om te leren dat een kanarie kan zingen (en leert het uiteindelijk nog steeds niet heel erg goed). Ook vind het netwerk het vrij moeilijk om af te leren dan een dennenboom (pine) bladeren heeft. Dit is te verklaren doordat het netwerk waarschijnlijk eerst geleerd heeft dat alle bomen bladeren hebben (toen het onderscheid maakte tussen bloemen en bomen), maar nu komt het ineens een boom tegen die geen bladeren maar naalden heeft. Het netwerk moet nu dus in principe een nieuwe categorie bomen leren -> bomen zonder bladeren (met naalden) vs. bomen met bladeren.
Het netwerk heeft als het ware een illusoire correlatie gecreëert tussen pine en has leaves (aangezien het eerst leerde dat alle bomen bladeren hebben). De hogere categorie (bomen hebben bladeren) overstemt als het ware het leren van fijnere, minder vaak voorkomende paren (pine, dus een boom, die naalden heeft in plaats van bladeren).

Wat zegt dit over het leerproces van semantische relaties in het Rumelhart netwerk?

Antwoord:

Dit betekent dat het leerproces van het netwerk verloopt van globaal naar specifiek. Het netwerk leert eerst dat wanneer iets bladeren heeft het een boom is (of dat het een boom is en dus bladeren heeft), maar moet later de representatie/categorie van bomen verder gaat opdelen/specificeren als blijkt dat niet alle bomen bladeren hebben. De categorie 'boom' wordt zo specifieker gemaakt naar de categorieën "boom met bladeren" & "boom met naalden".

Volgende Vraag

Unless otherwise stated, the content of this page is licensed under Creative Commons Attribution-ShareAlike 3.0 License