Функции активации нейронов

Вид функции активации во многом определяет функциональные возможности нейронной сети и метод обучения этой сети. Перечень наиболее известных функций активации представлен в таблице 2.1.

Табл. 2.1

Примеры функций активации

Название Формула Область значений
Линейная
Полулинейная
Линейная с насыщением
Логистическая
Гиперболический тангенс
Рациональная
Синусоидальная
Экспоненциальная
Гаусса
Пороговая
Модульная
Знаковая (сигнатурная)
Квадратичная