Программирование - это просто
Advertisement
Главная arrow Искусственный интеллект arrow Теория нейронных сетей arrow Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.
16.06.2019 г.
Главное меню
Главная
Системный подход
Интернет магазин
Биржевые роботы
Программные продукты
Математика и информатика
1С:Предприятие
C#, Delphi, VB, F#, Web и пр.
Искусственный интеллект
Услуги
Ча. Во. (FAQ)
Платный раздел
Наука для чайников
Разное
Размышления
Карта сайта
Друзья сайта
Excel-это не сложно
Все о финансах
Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон. Печать E-mail
Автор megabax   
25.06.2013 г.
New Page 1

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

Обучение нейросетей заключается в целенаправленном изменении весовых коэффициентов. Существует три вида обучения нейросетей:

  • Обучение с учителем.

  • Обучение без учителя.

  • Обучение с подкреплением.

При обучении с учителем мы предполагаем, что для каждого v-ого входного вектора x(v), представляющего входной сигнал, мы заранее знаем выходной вектор ИНС t(v). Для корректировки весовых коэффициентов мы используем разность между желаемым выходным вектором t(v) и действительным выходным вектором y(v). Матрица весов модифицируется таким образом, что бы действительный выходной вектор приближался к желаемому. Множество примеров векторов разбиваются на две части - обучающая и тестовая. Цель обучения состоит в том, что бы нейросеть корректно отвечала на тестовые примеры, которые не входили в обучаемое множество векторов.

Но не всегда точно известна желаемая реакция ИНС. В некоторых случаях о желаемой реакции можно говорить с определенной долей вероятности. В этом случае управление весами нейросети производиться при помощи внешнего сигнала, который называется подкрепление.

Бывают случаи, когда желаемая реакция нейросети заранее неизвестна вообще. Тогда применяют обучение без учителя. В этом случае сеть должна быть самообучающейся, тоесть, самостоятельно обнаруживать какие либо закономерности. Такие ИНС еще называют самоорганизующимися сетями.

Теперь рассмотрим процесс обучения подробно. Начнем с обучения с учителем. Рассмотрим простой персептрон, реакция которого на входной вектор v определяется выражением:

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

где H() - единичная ступенчатая функция Хэвисайда (см. урок 1).

Задача обучения персептрона заключается в том, что бы найти вектор, который обеспечит совпадение желаемой t(v) и действительной y(v) реакции на входной вектор v. Ясно, что это будет в случае, если:

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

Данное выражение является линейным, и представляет собой уравнение гиперплоскости. Иными словами, задачи классификации векторов, решаемые при помощи простого персептрона, это линейно сепарабельные задачи.

Рассмотрим простой персептрон с двумя входами. Если представить, все его входные вектора на координатной плоскости, то работа персептрона будет заключаться в том, что бы определить, по какую сторону разделительной прямой лежит данный вектор:

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

Тогда координата точки 1 по оси  x2 буте равна

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

а координата точки 2 по оси x1

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

Таким образом, линейный персептрон может классифицировать только такие образы, которые разделены при помощи гиперплоскости. На рисунке ниже изображена задача исключающего ИЛИ, которая не является линейно сепарабельной и не может быть решена с использование простого персептрона:

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

Красные точки на графике соответствуют ситуации, когда на выходе 0, голубые - когда 1, см таблицу истинности исключающего ИЛИ:

Вход 1 Вход 2 Выход
0 0 0
0 1 1
1 0 1
1 1 0

Таким образом, невозможно провести прямую так, что бы все красные точки был по одну сторону от прямой, а голубые - по другую.

А вот задачи И, а так же ИЛИ являются линейно сепарабельными, и их можно решать при помощи простого линейного персептрона. Давайте рассмотрим это на примере функции И. Вот ее таблица истинности:

Вход 1 Вход 2 Выход
0 0 0
0 1 0
1 0 0
1 1 1

И вот один из вариантов решения данной задачи:

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

Аналогично будет выглядеть решение и для ИЛИ:

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

См. таблицу истинности:

Вход 1 Вход 2 Выход
0 0 0
0 1 1
1 0 1
1 1 1

Обучается линейный персептрон следующим образом. На вход последовательно подаются вектора x(μ). Выходная реакция y(μ) сравнивается с желаемой реакцией t(μ). Если y(μ)=t(μ) - то ничего не делаем, персептрон уже обучен. В противном случае вектор w весов персептрона изменяется на величину Δw.

Величину корректировок весом находим по формуле:

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

Если порог θ рассматривать как дополнительный вес w0, то разделяющая гиперплоскость будет проходить через начало координат, а изменение вектора w будет соответствовать вращению гиперплоскости вокруг точки начала rкоординат:

Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный персептрон.

Последнее обновление ( 25.06.2013 г. )
 
« След.   Пред. »
 
© 2019 Программирование - это просто
Joomla! - свободное программное обеспечение, распространяемое по лицензии GNU/GPL.
Русская локализация © 2005-2008 Joom.Ru - Русский Дом Joomla!
Design by Mamboteam.com | Powered by Mambobanner.de
Я принимаю Яндекс.Деньги
Мы принимаем
Банковские карты
Оплатите покупку в интернет-магазине банковскими картами VISA и Mastercard любого банка.
узнать больше
Электронный кошелек
Моментальная оплата покупок с помощью вашего электронного кошелька RBK Money.
узнать больше
Банковский платеж
Оплатите покупку в любом российском банке. Срок зачисления средств на счет - 3-5 рабочих дней.
узнать больше
Денежные переводы
Оплата покупок через крупнейшие системы денежных переводов CONTACT и Unistream.
узнать больше
Почтовые переводы
Оплатите покупку в любом отделении Почты России. Срок зачисления платежа - 3-4 рабочих дня.
узнать больше
Платежные терминалы
Оплата покупок в терминалах крупнейших платежных систем в любом городе России - быстро и без комиссии.
узнать больше