Двунаправленная ассоциативная память
Ассоциативная память, реализуемая сетью Хопфилда, является автоассоциативной: образ, хранящийся в сети, может быть восстановлен по искаженному входу (этому же вектору), но не ассоциирован с произвольным другим образом. В 1980 – 83 гг. С. Гроссберг опубликовал серию работ по так называемой двунаправленной ассоциативной памяти.
Рисунок 7.2 – Сеть двунаправленной ассоциативной памяти.
Двунаправленная ассоциативная память (ДАП) фактически представляет собой объединение двух слоев сети Хопфилда. В этом случае происходит гетерассоциация двух векторов A и B. Ассоциируемые образы A и B кодируются двоичными векторами длиной n1 и n2 соответственно. Затем веса сети ДАП задаются по формуле:
Для восстановления ассоциации, входной вектор A подается на входы слоя 1 и обрабатывается матрицей весов W, в результате на выходе слоя должен формироваться вектор B:
B = f(AW),
где f() – передаточная функция (6.3).
Входной вектор слоя 2 B обрабатывается матрицей весов WT, в результате на выходе слоя 2 и формируется вектор A, который затем передается на входы слоя 1:
A = f(BWT),
где WT – транспозиция матрицы W.
Цикл повторяются до тех пор, пока сеть ДАП не стабилизируется, то есть ни вектор A, ни вектор B не изменятся от итерации к итерации. В результате значение вектора B будет искомой ассоциацией вектору A.
Емкость памяти ДАП, представленной сетью с N нейронами в меньшем слое, можно оценить следующей величиной:
L < N/(2log2N).
Емкость ДАП невысока, для N = 1024 нейронов сеть будет в состоянии запомнить 50 образов.