Тренування штучних нейронних мереж з пороговою функцією активації методом оберненого поширення похибки

Автор(и)

  • Ростислав Ігорович Дзінько

DOI:

https://doi.org/10.20535/1560-8956.21.2012.30664

Ключові слова:

штучна нейронна сітка, функція активації нейронів, функція Хевісайда

Анотація

В даній статті розглядається спосіб тренування нейронних мереж прямого поширення сигналу з оберненим поширенням похибки з використанням порогової функції активації (Хевісайда). В зв’язку з тим, що порогова функція не є диференційовною на області визначення, прямо використовуватись при тренуванні штучних нейронних мереж вказаним методом вона не може. Саме тому дана робота пропонує метод імітації даної функції альтернативними, в результаті чого зростає швидкість навчання нейронної мережі до отримання певного порогового значення похибки

Посилання

Necht-Nielsen R. “Theory of the backpropagation neural network”, International Joint Conference on Neural Networks, 1989.

Дзінько Р.І. Використання шаблонів проектування програмного забезпечення у моделюванні РТК / Дзінько Р.І., Гордійчук А.М., Лісовиченко О.І. - Адаптивні системи автоматичного управління, 19 (39) 2011.

Krogh A. Neural Network Ensembelles, Cross Validation and Active Learning / Krogh A., Vedelsby J. - Denmark 1995.

##submission.downloads##

Опубліковано

2012-11-22

Номер

Том 2 № 21 (2012): Адаптивні системи автоматичного управління

Розділ

Статті

Ліцензія

Автори залишають за собою право на авторство своєї роботи та передають журналу право першої публікації цієї роботи на умовах ліцензії Creative Commons Attribution License, котра дозволяє іншим особам вільно розповсюджувати опубліковану роботу з обов'язковим посиланням на авторів оригінальної роботи та першу публікацію роботи у нашому журналі.

2. Автори мають право укладати самостійні додаткові угоди щодо неексклюзивного розповсюдження роботи у тому вигляді, в якому вона була опублікована нашим журналом (наприклад, розміщувати роботу в електронному сховищі установи або публікувати у складі монографії), за умови збереження посилання на першу публікацію роботи у нашому журналі.

3. Політика журналу дозволяє і заохочує розміщення рукопису роботи авторами в мережі Інтернет (наприклад, на arXiv.org або на особистих веб-сайтах).  Причому рукописи статей можуть бути розміщенні у відкритих архівах як до подання рукопису до редакції, так і під час його редакційного опрацювання. Це сприяє виникненню продуктивної наукової дискусії, позитивно позначається на оперативності ознайомлення наукової спільноти з результатами Ваших досліджень і як наслідок на динаміці цитування вже опублікованої у журналі роботи. Детальніше про це:  The Effect of Open Access.