Memorias Asociativas Morfológicas

 

Memorias Asociativas Morfológicas,

 

(Se recomienda al amable lector que, si no lo ha hecho, lea previamente las secciones: Memorias Asociativas y Morfología Matemática)

Esta presentación consta de tres partes. Primeramente se introducen las memorias asociativas clásicas, las cuales fueron creadas y diseñadas antes de 1998, año en que aparecieron las memorias asociativas morfológicas, modelo que es el tema central de la segunda parte; finalmente, en la tercera parte se introducen las memorias asociativas Alfa-Beta, creadas y diseñadas en el Centro de Investigación del Instituto Politécnico Nacional de México en el año de 2002, y consideradas por los expertos como las memorias asociativas con mejor rendimiento en la actualidad.

Parte I.- Memorias Asociativas Clásicas

Un análisis cuidadoso de la bibliografía que se ha generado a través de los años en relación con el tema de las memorias asociativas, nos permite percatarnos de que antes de la década de los setenta brilló por su ausencia la producción de trabajos en el área. Notables excepciones fueron la Lernmatrix, surgida en los albores de la década de los sesenta y el Correlograph, cuyo advenimiento acaeció en las postrimerías de esa misma década.

El primer modelo matemático de memoria asociativa de que se tiene noticia es la Lernmatrix de Steinbuch, desarrollada en 1961 por el científico alemán Karl Steinbuch, quien publicó su artículo en una revista llamada Kybernetik [1], y a pesar de la importancia de su modelo y las potenciales aplicaciones, el trabajo pasó casi inadvertido.

Ocho años después de la Lernmatrix, en 1969, tres científicos escoceses (Willshaw, Buneman & Longuet-Higgins) crearon el Correlograph, el cual es un dispositivo óptico elemental capaz de funcionar como una memoria asociativa. En palabras de los autores "el sistema es tan simple, que podría ser construido en cualquier laboratrio escolar de física elemental" [2].

El año de 1972 fue testigo de una febril actividad de los investigadores pioneros en memorias asociativas. Para corroborar esta aserción, baste dar una vistazo a la siguiente información: apoyado por la UCLA, James A. Anderson prendió la mecha con su Interactive Memory [3]; en abril, Teuvo Kohonen, a la sazón profesor de la Helsinki University of Technology, presentó ante el mundo sus Correlation Matrix Memories [4]; tres meses después, Kaoru Nakano de la University of Tokyo, dio a conocer su Associatron [5]; y en el ocaso del año, Shun-Ichi Amari, profesor de la University of Tokyo y uno de los más prolíficos escritores de artículos científicos hasta nuestros días, publicó un trabajo teórico donde continuaba con sus investigaciones sobre las Self-Organizing Nets of Threshold Elements [6], tópico cuyo estudio había iniciado un par de años atrás. Este trabajo de Amari constituye una valiosa muestra del estilo teórico característico de este personaje y representa, históricamente, un importante antecedente para la creación de lo que una década más tarde se convertiría en el modelo de memoria asociativa por antonomasia: la memoria Hopfield. Los trabajos de Anderson y Kohonen, y en cierta medida el de Nakano, dieron lugar al modelo que actualmente se conoce con el nombre genérico de Linear Associator.

Si 1972 fue el año de los pioneros en el área de las memorias asociativas, 1982 fue el año del científico estadunidense John J. Hopfield. Su artículo de ese año [7], publicado por la prestigiosa y respetada National Academy of Sciences (en sus Proceedings), impactó positivamante y trajo a la palestra internacional su memoria asociativa. Dos años después, publicaría su segundo artículo, donde presentaba una extensión de su modelo original [8].

Las autorizadas voces de los editores del compendio Neurocomputing [9] aseguran que la era moderna de las memorias asociativas (y de las redes neuronales) nace a raíz de la publicación del artículo de Hopfield; afirman que el éxito de este artículo se debe en gran parte a que, además de tener un estilo claro, coherente y sofisticado, fue escrito por el distinguido y reconocido físico John J. Hopfield, en cuyas manos la teoría se convierte en algo legítimo y respetable.

El trabajo de Hopfield ha tenido un gran impacto en las áreas de memorias asociativas y redes neuronales. Invitamos al lector a que verifique esta afirmación mediante una búsqueda en google con la palabra clave "Hopfield"; es sorprendente la cantidad de trabajos científicos, ingenieriles y de aplicación a que ha dado lugar el conjunto de ideas plasmadas por John Hopfield en sus trabajos científicos.

Parte II.- Memorias Asociativas Morfológicas

Los trabajos de Hopfield causaron excitación en el mundo de las memorias asociativas y las redes neuronales, de modo tal que muchos de los científicos que habían estado al margen, gracias a Hopfield se interesaron en estos temas y se generó una actividad importante. Así, en la segunda mitad de la década de los ochenta del siglo XX aparecieron investigadores que tomaron los modelos clásicos, los modificaron o extendieron y dieron lugar a nuevos tipos de memorias asociativas, cuya importancia radica en que son consecuencia del trabajo de los grandes hombres involucrados en la concepción y desarrollo de los modelos clásicos.

Entre la miríada de aportaciones e innovaciones en el campo de las memorias asociativas, después del espectacular éxito de la memoria Hopfied de 1982, no sucedió nada realmente trascendente hasta 1998, cuando aparecieron las memorias asociativas morfológicas.

La diferencia fundamental entre estas memorias y las memorias asociativas clásicas como el Linear Associator y la Memoria Hopfield, es que mientras éstas basan su operación en la suma y multiplicación usuales, las memorias morfológicas se basan en las operaciones morfológicas de dilatación y erosión. Estas memorias rompieron el esquema utilizado a través de los años en los modelos de memorias asociativas clásicas, que utilizan operaciones convencionales entre vectores y matrices para la fase de aprendizaje, y suma de productos para recuperar patrones.

Las memorias asociativas morfológicas usan máximos o mínimos de sumas para la fase de aprendizaje, y máximos o mínimos de sumas para la fase de recuperación [10-12]. Con este nuevo esquema, superaron claramente a las memorias asociativas clásicas.

Parte III.- Memorias Asociativas Alfa-Beta

La aparición, desarrollo, aplicaciones y consolidación de las memorias asociativas morfológicas en 1998 marcó un hito en el campo de las memorias asociativas, porque superaron en prácticamente todos los aspectos de interés, de súbito, a los modelos conocidos [10-12]; con objeto de proporcionar una muestra de la magnitud de este salto cualitativo, vale la pena mencionar que al funcionar en uno de los posibles modos (autoasociativo), las memorias asociativas morfológicas tienen respuesta perfecta y capacidad infinita de aprendizaje y almacenamiento [12-14]. Un hecho que puede ser importante en el contexto de las potencialidades de la tecnología de punta a niveles de seguridad nacional, es que investigadores del Air Force Research Lab de los Estados Unidos implementaron las memorias asociativas morfológicas en hardware VLSI, y actualmente se usan de manera cotidiana [15].

El contenido del párrafo anterior es la base sobre la que se forjó la motivación para llevar a cabo el trabajo de tesis [16] donde se crearon y desarrollaron las memorias asociativas Alfa-Beta: la necesidad de realizar actividades de investigación cuyo objetivo fundamental sea encontrar un modelo alternativo a las memorias asociativas morfológicas, el cual se fundamente en bases teóricas ajenas a las operaciones morfológicas de dilatación y erosión. Las nuevas memorias asociativas deben poseer, al menos, características similares a las morfológicas en cuanto a capacidad, eficiencia en respuesta e inmunidad al ruido. He ahí las expectativas.

El nuevo modelo de memorias asociativas debe tener bases matemáticas diferentes a las que sustentan a las memorias asociativas morfológicas, en razón de que se desea generar un producto de investigación autóctono, original, que eventualmente contribuya con su granito de arena a avanzar en el afán de lograr ese noble propósito de independencia científica y tecnológica para nuestro país.

En efecto, las herramientas matemáticas del nuevo modelo de memorias asociativas Alfa-Beta incluyen dos operaciones binarias inventadas ex profeso, cuyos operadores fueron bautizados arbitrariamente con las dos primeras grafías del alfabeto griego: Alfa y Beta. Las propiedades algebraicas de estas dos operaciones conllevan a un modelo de memorias asociativas que cumple, para el caso binario, con las expectativas mencionadas en el párrafo anterior y más aún, las memorias asociativas Alfa-Beta constituyen el modelo con mejor rendimiento en la actualidad [17].


Se recomienda al amable lector que continúe en la sección: Aplicaciones

Referencias
 [1]  Steinbuch, K. (1961). Die Lernmatrix, Kybernetik, 1, 1, 36-45.
 [2]  Willshaw, D., Buneman, O. & Longuet-Higgins, H. (1969). Non-holographic
      associative memory, Nature, 222, 960-962.
 [3]  Anderson, J. A. (1972). A simple neural network generating an interactive
      memory, Mathematical Biosciences, 14, 197-220.
 [4]  Kohonen, T. (1972). Correlation matrix memories, IEEE Transactions on Computers,
      C-21, 4, 353-359.
 [5]  Nakano, K. (1972). Associatron-A model of associative memory, IEEE Transactions
      on Systems, Man, and Cybernetics, SMC-2, 3, 380-388.
 [6]  Amari, S. (1972). Learning patterns and pattern sequences by self-organizing
      nets of threshold elements, IEEE Transactions on Computers, C-21, 11, 1197-1206.
 [7]  Hopfield, J.J. (1982). Neural networks and physical systems with emergent
      collective computational abilities, Proceedings of the National Academy of Sciences,
      79, 2554-2558.
 [8]  Hopfield, J.J. (1984). Neurons with graded respose have collective computational
      properties like those of two-state neurons, Proceedings of the National Academy
      of Sciences, 81, 3088-3092.
 [9]  Anderson, J. A. & Rosenfeld, E. (Eds.) (1990). Neurocomputing: Fundations
      of Research, Cambridge: MIT Press.
 [10] Ritter, G. X., Sussner, P. & Diaz-de-Leon, J. L. (1998). Morphological
      associative memories, IEEE Transactions on Neural Networks, 9, 281-293.
 [11] Ritter, G. X., Diaz-de-Leon, J. L. & Sussner, P. (1999). Morphological
      bidirectional associative memories, Neural Networks, 12, 851-867.
 [12] Díaz-de-León, J. L. & Yáñez, C. (1999). Memorias asociativas con respuesta
      perfecta y capacidad infinita, Memoria del TAINA'99, Mexico, D.F., 23-38.
 [13] Yáñez-Márquez, C. y J.L. Díaz-de-León Santiago (2003). "Memorias Autoasociativas
      Morfológicas max:condiciones suficientes para convergencia, aprendizaje y
      recuperación de patrones", IT-175, Serie Azul, CIC-IPN, México. 
 [14] Yáñez-Márquez, C. y J.L. Díaz-de-León Santiago (2003). "Memorias Autoasociativas
      Morfológicas min: condiciones suficientes para convergencia, aprendizaje y
      recuperación de patrones", IT-177, Serie Azul, CIC-IPN, México, 2003.
 [15] Stright, J. R., Coffield, P. C. & Brooks, G. W. (1998). Analog VLSI implementation
      of a morphological associative memory, Poceedings of the SPIE, 3452-03, 14-22.
 [16] Yáñez-Márquez, C., Memorias Asociativas basadas en Relaciones de Orden y Operadores
      Binarios. Tesis doctoral, CIC-IPN, México, 2002.
 [17] Yáñez Márquez, C. & Díaz-de-León Santiago, J.L. (2003). Memorias Asociativas
      Basadas en Relaciones de Orden y Operaciones Binarias, Computación y Sistemas
      (Revista Iberoamericana de Computación incluida en el Índice de CONACyT), Vol. 6,
      No. 4, México, pp. 300-311. ISSN 1405-5546.