Please use this identifier to cite or link to this item: http://cicese.repositorioinstitucional.mx/jspui/handle/1007/2330
Efectos de tamaño finito en redes neuronales.
Arnulfo Castellanos Moreno
Laura Cecilia Viana Castrillon
Acceso Abierto
Atribución
Redes neurales, Tamaños finitos, Dinámica
Se desarrolla un estudio analítico sistemático de los efectos de tamaño finito en modelos de redes separables, con dinámica secuencial lejos de la saturación. Se encuentran dos tipos de efectos: fluctuaciones térmicas y correcciones congeladas a las leyes de campo promedio. Se parte de que la dinámica microscópica de la red obedece una ecuación maestra conforme a la dinámica de Glauber y se demuestra que la dinámica macroscópica, con los traslapes o parámetros de orden como variables físicas, puede ser descrita en forma aproximada como un fenómeno de difusión. Se propone una descomposición de los traslapes como la suma de dos términos: uno determinista, que son las trayectorias de campo promedio, y otro fluctuante al azar, que es modelado mediante procesos de Ornstein y Uhlenbeck dependientes del tiempo. Estos últimos son procesos gaussianos, de modo que escribimos explícitamente la distribución de probabilidad conjunta de las fluctuaciones. Las ecuaciones diferenciales para describir sus momentos estadísticos forman sistemas no autónomos cuyas soluciones formales obtenemos. Entonces aplicamos la teoría a sistemas que se conducen como memorias asociativas, presentan relajación al equilibrio, cumplen con el balance detallado y con un teorema de fluctuación y disipación. También estudiamos dos sistemas fuera de equilibrio: uno donde existe un punto fijo de la red pero no hay balance detallado y otro donde las fluctuaciones aleatorias modifican cualitativamente su conducta dando lugar a un fenómeno en el cual el traslape se escapa de una cuenca a otra. Las predicciones teóricas son comparadas con simulaciones en computadora.
An analytical and systematic study of finite size effects on separable neural networks withsequential dynamics is developed far away from saturation regime. Two kinds of effects are found: thermal fluctuations and frozen corrections to mean-field laws. It is considered that separable neural networksfollows microscopic Glauber dynamics goberned by a master equation and a macroscopic description is obtained by taking overlaps (or order parameters) as physical variables. A Fokker-Planck equation is found, so that diffusion phenomenaare useful to describe this macroscopic dynamics. A decomposition in two terms is proposed for the overlaps: one deterministic, given as the solutions to mean-field equations and other as random variables. It is found that these fluctuations can be modeled by time-dependent Ornstein-Uhlenbeck processes. Since these have gaussian behavior, one can write the joint probability distribution function for fluctuations. Differential equations as non-autonomous systemsare found to describe the timeevolution of the statistical moments of these fluctuations and their formal solutions are found. Thenour theory is applied to analize the dependenceoffinite size effects on detailed balance, scaling properties of fluctuations close to phase boundaries and escape processes in critical models which are driven by finite size effects. Finally, theoretical predictions are confirmed by numerical simulations in computers.
CICESE
1998
Tesis de doctorado
Español
Castellanos Moreno, A. 1998.Efectos de tamaño finito en redes neuronales.Tesis de Doctorado en Ciencias. Centro de Investigación Científica y de Educación Superior de Ensenada, Baja California.169 pp.
OTRAS ESPECIALIDADES FÍSICAS
Appears in Collections:Tesis - Física de Materiales

Upload archives


File SizeFormat 
120131.pdf33.58 MBAdobe PDFView/Open