Программирование - это просто - Генетический алгоритм. Урок 3. Обучаем искусственный нейрон.

Генетический алгоритм. Урок 3. Обучаем искусственный нейрон.

Автор megabax

13.10.2013 г.

unit AIObj

Генетический алгоритм. Урок 3. Обучаем искусственный нейрон.

Что бы смотреть урок полностью, подпишитесь на платный раздел.

В платном разделе статья находиться здесь.

Сегодня мы будем при помощи генетического алгоритма обучать искусственный нейрон (см. так же урок "Теория нейронных сетей. Урок 1. Модель нейрона"). Программировать мы будем на базе исходников прошлого урока. Для реализации искусственного нейрона нам потребуется специальный класс:

using System;

using System.Collections.Generic;

using System.Linq;

using System.Text;

namespace Genetic

{

/// <summary>

/// Класс нейрона

/// </summary>

public class Neuron

{

...

Этим классом мы реализовали функционал такой разновидности нейрона, как линейный персептрон (см. урок "Теория нейронных сетей. Урок 4. Обучение нейрости. Линейный") персептрон. Пороговое значение нашего персептрона - нуль...

...

... Собственно говоря, с изменениями закончили. Теперь будем тестировать нашу программу. Для начала создадим тестовый пример. Это у нас будет нейрон с заданными весовыми коэффициентами, из которого мы сделаем матрицу:

	Коэффициенты		Результат	Выход
	2	-3	Результат	Выход
Набор 1	1	1	-1	0
Набор 2	2	1	1	1
Набор 3	3	1	3	1
Набор 4	1	2	-4	0
Набор 5	2	2	-2	0
Набор 6	3	2	0	0
Набор 7	1	3	-7	0
Набор 8	2	3	-5	0
Набор 9	3	3	-3	0

Если предположить, что входы нейрона соответствуют координатам точек, то матрицу можно представить в таком виде:

0	1	2	3
1
2
3

Для задания элемента обучающей матрицы предусмотрим в классе главного окна вот такой метод:

private StudyMatrixItem addToMatrix(double x, double y, double outcome)

{

StudyMatrixItem item = new StudyMatrixItem();

item.incomes.Add(x);

item.incomes.Add(y);

item.outcome = outcome;

return item;

}

Теперь все параметры, в том числе матрицу, можно задать в конструкторе формы:

public Form1()

{

InitializeComponent();

pop = new Population();

pop.MaxSize = 100;

pop.MutationPossibility = 0.3;

pop.SizeStrongMutation = 5;

pop.initSpecies(2); //нейрон имеет два входа

//создадим матрицу обучения

StudyMatrix matrix= new StudyMatrix();

matrix.items.Add(addToMatrix(1, 1, 0));

matrix.items.Add(addToMatrix(2, 1, 1));

matrix.items.Add(addToMatrix(3, 1, 1));

matrix.items.Add(addToMatrix(1, 2, 0));

matrix.items.Add(addToMatrix(2, 2, 0));

matrix.items.Add(addToMatrix(3, 2, 0));

matrix.items.Add(addToMatrix(1, 3, 0));

matrix.items.Add(addToMatrix(2, 3, 0));

matrix.items.Add(addToMatrix(3, 3, 0));

pop.matrix = matrix;

show();

}

Как показала практика, обучается такой нейрон всего за 3-4 итерации:

Подставив полученные коэффициенты в таблицу, мы увидим, что программа работает правильно:

	Коэффициенты		Результат	Выход
	0,344	-0,642	Результат	Выход
Набор 1	1	1	-0,298	0
Набор 2	2	1	0,046	1
Набор 3	3	1	0,39	1
Набор 4	1	2	-0,94	0
Набор 5	2	2	-0,596	0
Набор 6	3	2	-0,252	0
Набор 7	1	3	-1,582	0
Набор 8	2	3	-1,238	0
Набор 9	3	3	-0,894	0

Попробуем другой пример, когда коэффициенты еще неизвестны и их требуется найти. Попробуем, например, вот такую картинку:

0	1	2	3
1
2
3

в итоге получаем вырождения, целевая функция не опускается ниже 1.

Если попробовать вот такую картинку:

0	1	2	3
1
2
3

то так же находит за 3-4 итерации:

Попробуем научить нейрон распознавать еще несколько картинок

Картинка

Результат

0	1	2	3
1
2
3

Вырождается

0	1	2	3
1
2
3

Вырождается

0	1	2	3
1
2
3

Вырождается

0	1	2	3
1
2
3

Обучается за 1-4 итерации

0	1	2	3
1
2
3

Обучается за 1-4 итерации

0	1	2	3
1
2
3

Вырождается

0	1	2	3
1
2
3

Вырождается

0	1	2	3
1
2
3

Обучается за 3-4 итерации

0	1	2	3
1
2
3

Вырождается

И так, мы выяснили, что при помощи генетического алгоритма можно обучить один единственный нейрон. Но не для всех случаев И это логично, потому что могут быть такие наборы входных и выходных данных, для которых невозможно подобрать два коэффициента. Поэтому на следующем уроке мы попробуем испытать сеть из нескольких нейронов.

Последнее обновление ( 13.10.2013 г. )

« След.		Пред. »

Вернуться