Практика нейронных сетей. Урок 22. Лабораторная работа №2 по персептронам.

Чтобы смотреть урок полностью, подпишитесь на платный раздел.

В платном разделе статья и исходники находятся здесь.

На прошлом уроке мы разобрали одну из лабораторных работ по нейросетям. Сегодня разберем вторую. Программа и оформление лабы (вместе с теорией) приложено к исходнкам, но, тем не менее, есть что сказать дополнительно, в частности, описать некоторые эксперименты, которые можно с ней проделать. В данной лабе два задания:

• Написать и обучить нейросеть для прогнозировании функции f(x)=sin(x) по 10 предыдущим знаниям. Сеть взять двухслойную, на первом слое 10 нейронов, на втором 1. Передаточная функция сигмовидная. Метод обучения: обратное распространение ошибки.

• Написать и обучить нейросеть для аппроксимации функции f(x)=sin(x). Метод обучения: генетический алгоритм.

...

...

...

Гораздо лучше стал и сам результат аппроксимации:

Правда, и обучаться нейросеть стала значительно дольше.

Теперь сравним аппроксимацию с прогнозом. ...

...

...

Теперь произведем обучение (ниже вы видите график изменения ошибки сети при обучении):

И вот результат прогноза:

Красный график - это функция, синий - прогнозируемое значение на основании 10 предыдущих значений, при этом прогноз был только на 1 шаг вперед: мы каждый раз брали 10 значений именно с красного графика.

А теперь посмотрим прогноз на несколько шагов вперед. Его мы рассчитываем таким образом: первый раз взяли 10 значений с красного графика, посчитали прогноз, затем взяли 9 значений с красного и одно с синего (посчитанное значение), затем 8 с красного и 2 с синего и так далее. У нас получился прогноз на будущее:

Таким образом, чем на более длительный срок прогноз, тем меньше он совпадает с реальностью. Теперь вы понимаете, почему долгосрочные прогнозы погоды практически никогда не сбываются?

Итак, какие выводы можно сделать из проделанных экспериментов?

1. Увеличение количества нейронов на скрытом слое увеличивает качество аппроксимации.

2. Прогноз по предыдущим значениям построить легче, чем аппроксимацию, с такой задачей справляется даже алгоритм обратного распространения ошибки.

3. Если прогнозировать на несколько шагов вперед, то чем на большее время вперед мы прогнозируем, тем хуже сбывается прогноз.

А теперь о дальнейших планах по доработке приведенной в лабораторной работе программе:

• Использовать генетический алгоритм для обучения нейросети прогнозированию (сначала просто разные функции, а потом что-нибудь по интересней, например, биржевые котировки).

• Доработать генетический алгоритм и нейросеть, чтобы нейросеть могла быть с разным количеством слоев.

О всех этих доработках и экспериментах буду писать в цикле уроков Генетический алгоритм).

Скриншоты, помеченные знаком *, являются цитатами и иллюстрациями  программного продукта "Microsoft Visual Studio 2010 Professional", авторское право на который принадлежит корпорации Microsoft..