Структурно-параметричний синтез гібридних нейронних мереж
Наукові журнали НАУ
Переглянути архів Інформація| Поле | Співвідношення | |
| Title |
Структурно-параметричний синтез гібридних нейронних мереж
STRUCTURAL-PARAMETRIC SYNTHESIS OF HYBRID NEURAL NETWORKS ENSEMBLES Структурно-параметрический синтез гибридных нейронных сетей |
|
| Creator |
Chumachenko, O. I.; Національний технічний університет України «Київський політехнічний інститут ім. Ігоря Сікорського», Київ
Kot, A. T.; Національний технічний університет України «Київський політехнічний інститут ім. Ігоря Сікорського», Київ |
|
| Subject |
Нейронні мережі; ансамбль; навчання; оптимізація; топологія
УДК 681.327.12 (045) Neural networks; ensemble; training; optimization; topology UDC 681.327.12 (045) Нейронные сети; ансамбль; обучение; оптимизация; топология УДК 681.327.12 (045) |
|
| Description |
У статті розглянуто підхід до дизайну ансамблю нейронних мереж як колекції кінцевого числа нейронних мереж для вирішення однієї і тієї ж задачі, а потім об'єднання результатів їх роботи. Запропоновано алгоритм оптимального вибору топологій нейронних мереж і їх кількості для включення в ансамбль. Подальше уточнення складу ансамблю здійснюється за допомогою операції обрізання. Вихід ансамблю є середньозваженим значенням виходів кожної мережі, при цьому сукупні ваги визначаються як функція відносної похибки кожної мережі, визначеної при навчанні. Представлено новий підхід до динамічного визначення ансамблевих ваг в рамках алгоритму навчання. Ваги пропорційні визначеності відповідних виходів.
It is considered the approach to the design of the ensemble of neural networks, where a collection of a finite number of neural networks is trained for the same task, then their results of the given task solution are combined. It is proposed an algorithm of optimal choice of neural networks topologies and their quantity for their inclusion as a member in ensemble. The further refinement of ensemble composition is done with help pruning operation. The output of an ensemble is a weighted average of the outputs of each network, with the ensemble weights determined as a function of the relative error of each network determined in training. It is presented a novel approach to determine the ensemble weights dynamically as part of the training algorithm. The weights are proportional to the certainty of the respective outputs. В статье рассмотрен подход к дизайну ансамбля нейронных сетей как коллекции конечного числа нейронных сетей для решения одной и той же задачи, а затем объединения результатов их работы. Предложен алгоритм оптимального выбора топологий нейронных сетей и их количества для включения в ансамбль. Дальнейшее уточнение состава ансамбля осуществляется с помощью операции обрезки. Выход ансамбля представляет собой средневзвешенное значение выходов каждой сети, при этом совокупные веса определяются как функция относительной погрешности каждой сети, определенной при обучении. Представлен новый подход к динамическому определению ансамблевых весов в рамках алгоритма обучения. Веса пропорциональны определенности соответствующих выходов. |
|
| Publisher |
National Aviation University
|
|
| Contributor |
—
— — |
|
| Date |
2018-03-15
|
|
| Type |
—
— — |
|
| Format |
application/pdf
|
|
| Identifier |
http://jrnl.nau.edu.ua/index.php/ESU/article/view/12323
10.18372/1990-5548.54.12323 |
|
| Source |
Electronics and Control Systems; Том 4, № 54 (2017); 81-88
Электроника и системы управления; Том 4, № 54 (2017); 81-88 Електроніка та системи управління; Том 4, № 54 (2017); 81-88 |
|
| Language |
en
|
|