Cybernetics And Systems Analysis logo
Інформація редакції Аннотації статей Автори Зміст
Кібернетика і Системний Аналіз
Міжнародний Науково-Теоретичний Журнал
УДК 004.032.26
Скороход Б.А.

ДИФУЗІЙНI АЛГОРИТМИ НАВЧАННЯ НЕЙРОННИХ МЕРЕЖ ПРЯМОГО ПОШИРЕННЯ

Анотація. Розглянуто задачу навчання нейронних мереж прямого поширення. Для її розв’язання запропоновано нові алгоритми, що грунтуються на асимптотичному аналізі поведінки розширеного фільтра Калмана (РФК) і сепарабельній структурі мережі. Лінійнi ваги інтерпретуються як дифузні випадкові величини, що мають нульове математичне сподівання і матрицю коваріації, пропорційну великому параметру λ. Знайдено асимптотичні зображення при λ→∞ РФК дифузні алгоритми навчання (ДАН). Показано, що на відміну від їх прототипу РФК з великим, але скінченним λ, їм властива робастність відносно накопичення помилок округлення. Із ДАН при певних спрощуючих припущеннях отримуємо ELM-алгоритм (extreme learning machine). Показано, що ДАН можуть перевершувати ELM-алгоритм за точністю апроксимації.

Ключові слова: нейронні мережі прямого поширення, алгоритми навчання, розширений фільтр Калмана.



ПОВНИЙ ТЕКСТ

Скороход Борис Аркадьевич,
доктор техн. наук, профессор Севастопольского национального технического университетa,
e-mail: boris.skorohod@mail.ru.

© 2017 Kibernetika.org. All rights reserved.