РАДИАЛЬНО-БАЗИСНЫЕ НЕЙРОННЫЕ СЕТИ

Подобно многослойным структурам с прямой передачей информации эти сети также являются универсальными аппроксиматорами. RBF-сети обладают рядом характерных свойств:

1. Их архитектура – это архитектура сетей с прямыми связями первого порядка (FF-сети): связи от нейронов одного слоя к нейронам следующего слоя;

2. Быстрое обучение;

3. Отсутствие «патологий» сходимости. В них в отличие от backpropagation-сетей не возникает проблемы локальных минимумов;

4. Более длительное время их подготовки и настройки из-за необходимости выполнения более сложных расчетов;

5. RBF-сети - хорошие аппроксиматоры функций.

 

На рис. приведена стандартная схема радиально-базисной сети с n -входами и m-выходами, осуществляющая нелинейное преобразование вида

где ϕ i (x)– радиально-базисные функции, определяющие характер отображенияиз n -мерного пространства входов в m- мерное пространство выходов Rn → Rm .

Входной слой такой сети – это сенсоры, которые связывают ИНС с

окружающей средой. Единственный скрытый слой, образованный нейронами Φ, осуществляет нелинейное преобразование входного пространства Rn в скрытое пространство Rh , как правило, высокой размерности ( h >> n ). Выходной слой, образованный адаптивными линейными ассоциаторами, формирует отклик сети T y = ( y1 , y2 ,…, ym )^Т на входной сигнал сети x = (x1 , x2 ,…, xn )^Т .

Радиально-базисные сети реализуют идею: линейно неразделимая задача

распознавания образов в пространстве Rn может стать линейно разделимой в пространстве более высокой размерности Rh .

Отметим два преимущества RBF-сетей по сравнению с другими нейросетями:

1. Функция активации или выхода скрытого нейрона принимает большие значения лишь в тех случаях, когда входной образ находится вблизи от опорной точки этого нейрона. Для входов вне области, «покрытой» образами обучающей последовательности, сеть формирует лишь небольшие значения на своих выходах, причем для сетей с сигмоидальными функциями активации или выхода (например, в многослойных перцептронах) эти выходы могут быть вообще не предсказуемы.

2. Простая структура RBF-сетей, содержащих только один слой скрытых нейронов, делает возможным прямой (не итеративный) расчет весов сети. В этом – их большое преимущество по сравнению с другими типами нейронных сетей, которые в большинстве случаев используют трудоемкие рекуррентные алгоритмы обучения. Заслуживает также внимания возможность инициализации RBF-сетей на основе прямого расчета весов с последующим их дообучением на основе алгоритмов обучения с поощрением (например, на основе алгоритма с обратным распространением ошибки – Backpropagation).

Недостатки: данные сети обладают плохими экстраполирующими свойствами и получаются весьма громоздкими при большой размерности вектора входов.

В последнее время получили распространение методы обучения нейронных сетей с радиальными базисными функциями, в которых используется сочетание генетических алгоритмов для подбора параметров активационных функций и методов линейной алгебры для расчета весовых коэффициентов выходного слоя. То есть на каждой итерации поиска генетический алгоритм самостоятельно выбирает в каких точках пространства входных сигналов сети разместить центры активационных функций нейронов скрытого слоя и назначает для каждой из них ширину окна. Для полученной таким образом совокупности параметров скрытого слоя вычисляются веса выходного слоя и получающаяся при этом ошибка аппроксимации, которая служит для генетического алгоритма индикатором того, насколько плох или хорош данный вариант. На следующей итерации генетический вариант отбросит «плохие» варианты и будет работать с наборами, показавшими наилучшие результаты на предыдущей итерации.

Нейронные сети с радиальными базисными функциями находят применение как при решении задач классификации или аппроксимации функции многих переменных, так и при прогнозировании, то есть в тех прикладных областях, в которых сигмоидальные сети используются в течение многих лет. Они выполняют те же функции, что и сигмоидальные сети, однако реализуют иные методы обработки данных, связанные с локальными отображениями