Hopfield-netwerk

Een Hopfield-netwerk met vier knopen.

Een Hopfield-netwerk, uitgevonden door John Hopfield, is een enkellaags recurrent neuraal netwerk. Een dergelijk netwerk kan dienen als een associatief geheugen en bestaat uit binaire of polaire neuronen. Elk neuron is verbonden met elk ander neuron. De verbindingen hebben daarbij meestal de volgende beperkingen:

  • w i i = 0 , i {\displaystyle w_{ii}=0,\forall i} (eenheden hebben geen verbinding met zichzelf)
  • w i j = w j i , i , j {\displaystyle w_{ij}=w_{ji},\forall i,j} (verbindingen zijn symmetrisch)

Initieel kan een Hopfield-netwerk worden gevuld met leerpatronen, waarna het gewicht van elke verbinding wordt vastgesteld. In tegenstelling tot een netwerk met backpropagation, worden de gewichten hierna niet meer aangepast.

Bij ieder leerpatroon, met de vorm ( x 1 , . . , x i , . . , x j , . . , x n ) {\displaystyle (x_{1},..,x_{i},..,x_{j},..,x_{n})} , wordt bekeken hoe dit patroon bijdraagt aan gewicht w i j {\displaystyle w_{ij}} . Hierdoor ontstaat de volgende sommatie na m {\displaystyle m} patronen:

w i j = { s = 1 m x i ( s ) x j ( s ) ; indien  i j 0 ; indien  i = j {\displaystyle w_{ij}={\begin{cases}\sum _{s=1}^{m}x_{i}^{(s)}\cdot x_{j}^{(s)};&{\mbox{indien }}i\neq j\\0;&{\mbox{indien }}i=j\end{cases}}} ,

Externe links

  • Chapter 13 The Hopfield model of Neural Networks - A Systematic Introduction door Raul Rojas (ISBN 978-3540605058)
  • Hopfield Neural Network Applet
  • Hopfield Neural Network implementation in Ruby (AI4R)
  • The Travelling Salesman Problem - Hopfield Neural Network JAVA Applet
  • scholarpedia.org- Hopfield network - Artikel over Hopfield-Netwerken door John Hopfield
  • Hopfield Network Learning Using Deterministic Latent Variables - Tutorial door Tristan Fletcher
  • Example Recurrent Hopfield Energy Minimisation Network
  • Neural Lab Graphical Interface[dode link] - Hopfield-netwerk grafische interface (Python & gtk)
Mediabestanden
Mediabestanden die bij dit onderwerp horen, zijn te vinden op de pagina Hopfield net op Wikimedia Commons.