Вплив зменшення розмірів нейронної мережі на її здатність до узагальнення

Автор(и)

  • О. Паладієв КПІ ім. Ігоря Сікорського, Україна
  • O. Лісовиченко КПІ ім. Ігоря Сікорського, Україна

DOI:

https://doi.org/10.20535/1560-8956.43.2023.292262

Ключові слова:

нейромережа, узагальнення, розмір нейромережі, ознаки, класифікація, перенавчання

Анотація

Предметом дослідження у даній роботі є вплив зменшення розмірів нейромережі на її узагальнюючі можливості. Об'єктом дослідження є різні конфігурації нейронмережевих моделей та їх параметри, такі як кількість нейронів у прихованому шарі та кількість незалежних ознак. Метою цієї роботи є дослідження впливу різних конфігурацій нейромережевих моделей, зокрема зменшення їх розмірів, на їхню здатність до узагальнення. Робота
спрямована на визначення того, коли зменшення розмірів нейромережі призводить до покращення її здатності до узагальнення, і коли обмеження розмірів може заважати досягненню бажаної помилки на навчальних даних. Дослідження також має на меті встановлення оптимальних конфігурацій нейромережевих моделей для різних задач
класифікації на основі впливу розміру мережі та кількості ознак на їхню здатність до узагальнення.

Бібл. 4., іл. 7

Посилання

Fukumizu K. Effect of batch learning in multilayer neural networks // Proceedings of the 5th International Conference on Neural Information Processing (ICONIP'1998). - 1998. - C. 67-70.

Lawrence S., Giles C.L. Overfitting and neural networks: conjugate gradient and backpropagation // Proceedings of the International Joint Conference on Neural Networks (IJCNN'2000), Como, Italy. - 2000. - C. 114-119.

Caruana R.A., de Sa V.R. Benefitting from the variables that variable selection discards // Journal of Machine Learning Research. - 2003. - Том 3. - С. 1245-1264.

Caruana R.A. Multitask learning // Machine Learning. - 1997. - Том 28. - С. 41-75.

##submission.downloads##

Опубліковано

2023-12-01