D. Gabor, Associative Holographic Memories

[anhinga_anhinga]

I recently found a very cool short paper (4 pages) which Dennis Gabor written 40 years ago.

It explains the math of associative holographic memory, which turns out to be very simple.

Because it is that simple, neither holograms, nor even waves and oscillations, are actually necessary to implement this scheme of associative memory.

D. Gabor, Associative Holographic Memories, IBM Journal of Research and Development, 13(2), 156-159 (1969). Abstract, PDF

Comments

[anhinga-anhinga.livejournal.com]

Спасибо, это интересные ссылки.

Надо сказать, что мне кажется, что оценки количества steady states или limit cycles, в духе статьи Вильсона и Кована -- это не совсем то, что нужно. Мне кажется, что это скорее оценка того, какие могут быть разные состояния нервной системы -- и просто из интроспекции разнообразных неподвижных визуальных картинок, вроде бы, следует практически неограниченная ёмкость в этом смысле (хотя адекватность steady states и даже limit cycles даже для "неподвижных" картинок не очевидна). Но так много состояний там из-за параметризации внешним входом..

Меня, скорее, интересует это всё для долговременной памяти.. И я не уверен, что правильно думать в терминах того, сколько есть аттракторов в системе.. Некоторый cross-talk есть, поэтому, собственно, память и ассоциативна, надо как-то его принять во внимание..

[am.livejournal.com]

Насколько я помню (давно не следил за темой), то какие-то оценки объемов долговременной памяти делались в работах посвященных сравнению "Neural Gas" (Martinetz and Schulten, 1991) и Kohonen Maps. Information-theoretic and Bayesian analysis were done by S.P.Luttrell in 1992-1996. Кроме того, можно посмотреть, что на сегодня сделано по Boltzmann machine, Helmholtz machine...

[anhinga-anhinga.livejournal.com]

Спасибо, взгляну. (Машины Гельмгольца для меня новая архитектура, так что особенно интересно.)