Asymptotic study of a neural network: the Hopfield model of associative memory
Vermet, Franck
HAL, tel-00598243 / Harvested from HAL
L'objet de cette thèse est l'étude asymptotique du modèle de Hopfield dont le but est de simuler le phénomène neuronal de mémoire associative. Après une brève introduction au calcul neuronal et une description générale de la modélisation mathématique de la mémoire associative, nous définissons le modèle étudié dans le cadre d'une dynamique d'évolution déterministe, respectivement séquentielle (modèle de Hopfield) ou parallèle (modèle de Little). Nous étudions alors la stabilité asymptotique de $p$ images originales, au sens presque sûr pour l'espace de probabilité associé aux variables aléatoires modélisant ces images, ainsi que l'attraction de certaines configurations, en une seule étape de la dynamique, si $p$ est de l'ordre $N/\log N$ ($N$ la taille du réseau). La fonction énergie ayant notamment pour minima locaux les images originales et tous les autres points fixes de l'application associée à la dynamique, il est intéressant d'en connaître les fluctuations sur l'espace des configurations. Après avoir rappelé les résultats de Newman, relatifs à l'existence de barrières énergétiques, nous montrons que asymptotiquement et presque sûrement, sous certaines hypothèses sur $p$, les images combinées, combinaisons d'un nombre fine ou de toutes les images combinées, ne peuvent être des minima plus profonds que les images originales elles-mêmes. En ces points, nous calculons la limite presque sûre du hamiltonien normalisé. Au chapitre suivant, nous décrivons la dynamique stochastique de Glauber qui nous conduit à définir les mesures de Gibbs pour la limite thermodynamique de ce systèmes. Nous étudions alors, dans un dernier chapitre, le comportement asymptotique de l'énergie libre: pour toute température, cette variable aléatoire converge presque sûrement vers une constante, si $p/N$ converge vers 0, et vérifie la propriété d'être auto-moyennée, si $p$ est inférieur au proportionnel à $N$. En conclusion, nous terminons en évoquant quelques problèmes ouverts et des extensions possibles du modèle de Hopfield.
Publié le : 1994-01-28
Classification:  neural network,  associative memory,  Hopfield model,  Little model,  minima of the Hamiltonian,  free energy,  self-averaging,  random matrix,  réseau neuronal,  mémoire associative,  modèle de Hopfield,  modèle de Little,  minima du hamiltonien,  énergie libre,  auto-moyennation,  matrice aléatoire,  [MATH]Mathematics [math],  [PHYS.MPHY]Physics [physics]/Mathematical Physics [math-ph],  [PHYS.PHYS.PHYS-DATA-AN]Physics [physics]/Physics [physics]/Data Analysis, Statistics and Probability [physics.data-an]
@article{tel-00598243,
     author = {Vermet, Franck},
     title = {Asymptotic study of a neural network: the Hopfield model of associative memory},
     journal = {HAL},
     volume = {1994},
     number = {0},
     year = {1994},
     language = {fr},
     url = {http://dml.mathdoc.fr/item/tel-00598243}
}
Vermet, Franck. Asymptotic study of a neural network: the Hopfield model of associative memory. HAL, Tome 1994 (1994) no. 0, . http://gdmltest.u-ga.fr/item/tel-00598243/