Функции активации нейронов
Вид функции активации во многом определяет функциональные возможности нейронной сети и метод обучения этой сети. Перечень наиболее известных функций активации представлен в таблице 2.1.
Табл. 2.1
Примеры функций активации
| Название | Формула | Область значений |
| Линейная |
|
|
| Полулинейная |
|
|
| Линейная с насыщением |
|
|
| Логистическая |
|
|
| Гиперболический тангенс |
|
|
| Рациональная |
|
|
| Синусоидальная |
|
|
| Экспоненциальная |
|
|
| Гаусса |
|
|
| Пороговая |
|
|
| Модульная |
|
|
| Знаковая (сигнатурная) |
|
|
| Квадратичная |
|
|