Нейронні мережі в системах керування динамічними обєктами (стр. 8 из 11)

Система розпізнавання на основі єдиного нейрона поділяє увесь простір можливих рішень на дві ділянки за допомогою гіперплощини

x₁w₁ + x₂w₂ + … + x_nw_n+w₀ = 0.

Для двовимірних вхідних векторів межею між двома класами зображень є пряма лінія: вхідні вектори, розташовані вище цієї прямої, належать до одного класу, а нижче – до іншого.

Для адаптації, настроювання або навчання ваг зв'язків нейрона скористаємося "правилом Хебба".

Хебб, досліджуючи механізми функціонування центральної нервової системи, припустив, що навчання відбувається шляхом посилення зв'язків між нейронами, активність яких збігається за часом. Хоча в біологічних системах це припущення виконується далеко не завжди і не вичерпує усіх видів навчання, однак при навчанні одношарових нейромереж з біполярними сигналами воно досить ефективно.

Відповідно до правила Хебба, якщо пред'явленому біполярному зображенню X = (x₁, ..., x_n) відповідає неправильний вихідний сигнал у, тоді ваги w_i

зв'язків нейрона адаптуються по формулі:

w_i (t + 1) = w_i (t) + x_i у,

(4.1)

де w_i (t), w_i(t + 1) відповідно вага i- ого зв’язку нейрона до и після адаптації; x_i (

) – компоненти вхідного зображення; х₀ º 1 – сигнал зміщення; у – вихідний сигнал нейрона.

У більш повній і строгій формі алгоритм настроювання ваг зв'язків нейрона з використанням правила Хебба виглядає таким чином:

Крок 1. Задається множина M = {(Х ¹, t¹), …, (X ^m, t^m)} яка складається з пар вхідне зображення X^k =

, і необхідний вихідний сигнал нейрона t^k, . Ініціюються ваги зв’язків нейрона:

w_i = 0,

.

Крок 2. Для кожної пари (X ^k, t ^k),

доки не дотримуються умови зупинки, виконуються кроки 3 – 5.

Крок 3. Ініціюється множина входів нейрона:

x₀ = 1, x_i = x_i^k,

.

Крок 4. Ініціюється вихідний сигнал нейрона: y =t ^k.

Крок 5. Корегуються ваги зв’язків нейрона по правилу

.

Крок 6. Перевірка умов зупинки.

Для кожного вхідного зображення X ^k обчислюється відповідний йому вихідний сигнал y ^k:

де

Якщо вектор (y¹, …, y^m) обчислених вихідних сигналів дорівнює вектору (t¹, …, t^m) заданих сигналів нейрона, тобто кожному вхідному зображенню відповідає заданий вихідний сигнал, тоді обчислення припиняються (перехід до кроку 7), якщо ж (y¹, …, y^m) ≠ (t¹, …, t^m), то перехід до кроку 2 алгоритму.

Крок 7. Зупинка.

Покажемо процес навчання нейронної мережі за Правилом Хебба на конкретних прикладах.

Приклад 1. Нехай треба навчити біполярний нейрон розпізнаванню зображень X¹, та Х², наведених на рис. 9.

При цьому зажадаємо, щоб зображенню Х¹ відповідав вихідний сигнал нейрона "+1", а зображенню Х² – сигнал "-1".

X 1	X 2

1	2	3
5	6
7	8	9

Рис. 9. Вхідні зображення

Застосування алгоритму Хебба дає наступні результати:

Крок 1. Задається множина

М = {(Х¹ = (1, -1, 1, 1, 1, 1,-1, -1, 1), 1), (Х² = ( 1, 1, 1, 1, -1, 1, 1, -1, 1 ), -1)};

і ініціюються ваги зв'язків нейрона: w_i = 0,

Крок 2. Для кожної з двох пар (Х¹, 1), (Х², –1), виконуються кроки 3 – 5.

Крок 3. Ініціюється множина входів нейрона для зображення першої пари:

х₀ = 1, х_i = x_i¹,

Крок 4. Ініціюється вихідний сигнал нейрона для зображення першої пари:

у = t¹ = 1.

Крок 5. Корегуються ваги зв'язків нейрона за правилом Хебба

;

;

;

;

.

Крок 3. Ініціюється множина входів нейрона для зображення Х² другої пари:

х₀ = 1, х_i = х_i²,

Крок 4. Ініціюється вихідний сигнал нейрона для зображення другої пари:

(Х², t²): у = t² = –1.

Крок 5. Корегуються ваги зв'язків нейрона:

;

;

;

;

;

;

.

Крок 6. Перевіряються умови зупинки.

Обчислюються вхідні та вихідний сигнали нейрону при пред’явлені зображення X ¹:

y¹ = 1, тому що S¹ > 0.

Обчислюються вхідні та вихідний сигнали нейрону при пред’явлені зображення Х ²

y² = –1, тому що S² < 0.

Оскільки вектор (y¹, y²) = (1, –1) дорівнює вектору (t¹, t²), то обчислення припиняються, тому що мета досягнута – нейрон правильно розпізнає задані зображення.

Крок 7. Зупинка.

Основна ідея правила (4.1) – підсилювання зв'язку, що з'єднує нейрони з однаковою за часом активністю, і послаблення зв'язку, що з'єднує елементи з різною активністю, може бути використана і при настроюванні нейромереж з бінарними елементами. Правило Хебба (4.1) для одношарових бінарних мереж можна записати у вигляді:

w_i (t + 1) = w_i (t) +

w_i , (4.2)

де

(4.3)

Приклад 2. Нехай потрібно навчити бінарний нейрон розпізнаванню зображень Х ¹ і Х ² приклада 1. При цьому зображенню Х ¹ нехай відповідає вихідний сигнал нейрона "+1", а зображенню Х² – “0”. Застосування правила Хебба в цьому випадку дає наступні результати:

Крок 1. Задається множина

М = {( Х ¹ = (1, 0, 1, 1, 1, 1, 0, 0, 1), 1), (Х² = ( 1, 1, 1, 1, 0, 1, 1, 0, 1 ), 0)},

і ініціюються ваги зв'язків нейрона w_i = 0,

Крок 2. Для пар (Х ¹,1), (Х ², 0), виконуються кроки 3 - 5.

Крок 3. Ініціюється множина нейрона елементами зображення Х ¹:

Крок 4. Ініціюється вихідний сигнал нейрона для зображення Х¹:

у = t¹ = 1.

Крок 5. Корегуються ваги зв'язків нейрона за допомогою співвідношень (4.2), (4.3):

;

;

;

;

Крок 3. Ініціюється множина нейрона елементами зображення Х²:

х₀ = 1, х_i = х_i²,

Крок 4. Ініціюється вихідний сигнал нейрона для зображення Х²:

y =t ² = 0

Крок 5. Корегуються ваги зв'язків нейрона за допомогою співвідношень (4.2), (4.3):

;

;

;

;

;