Теория нейронных сетей. Урок 2. Сетевые функции и функции преобразование нейрона

На прошлом уроке мы рассмотрели модель нейрона. В общем виде зависимость между входными и выходным сигналами выражается формулой:

где g - функция преобразования, u - сетевая функция. На прошлом уроке мы рассмотрели линейную сетевую функцию:

кроме нее широко используется так же квадратичная сетевая функция:

и радиальная (сферическая) функции:

Это самые распространенные виды сетевых функций. На сама деле их может быть гораздо больше. Я, например, в проекте "Генетический алгоритм" использовал вот такую:

См. шаг 6 проекта "Генетический алгоритм" а так же анонс урока "Пишем биржевого робота на C#. Урок 2. Нейросеть", "Пишем биржевого робота на C#. Урок 4. Доработка нейросети" и "Пишем биржевого робота на C#. Урок 5. Соединение нейросети с эмулятором биржевых торгов".

В качестве функции преобразование может быть использована ступенчатая функция  (см. предыдущий урок):

линейная функция с насыщением:

Знаковая функция

и, наконец, гауссова функция:

где c и σ - постоянные коэффициенты.

 Если сетевая функция линейная, а функция преобразования ступенчатая или знаковая, то такие нейроны называются  линейные, а нейросети на их основе нейронными сетями с линейными пороговыми элементами. Сигналы, распространяемые в таких сетях, являются бинарными и могут быть 0 или 1, либо +1 и -1. Если сетевая функция линейная, а функция преобразования сигмовидная (биполярная или униполярная), то такие нейросети называются нейронные сети с линейно-непрерывными элементами. Сигналы в них принимают произвольные значения от 0 до 1 или от -1 до 1.

Если пороговая функция равна 2, а весовые коэффициенты 1, то такой нейрон будет выполнять функцию "И" (для случая ступенчатой функции преобразования)

А если у того же нейрона пороговое значение поставить 1, то это будет уже функция ИЛИ: