Рандомизированные алгоритмы самообучения для настройки ассоциативных нейронных сетей

Автор: Измакова Ольга Анатольевна

Журнал: Стохастическая оптимизация в информатике @optstoch

Статья в выпуске: 1 т.1, 2005 года.

Бесплатный доступ

В работе описаны два новых алгоритма решения задачи самообучения, принадлежащие классу рандомизированных алгоритмов стохастической аппроксимации. Для оценок, доставляемых каждым из предложенных алгоритмов, установлены условия сходимости к истинному значению неизвестных параметров. В качестве примера рассмотрена задача обучения нейронной сети Хебба-Хопфилда, и предложен метод ее решения, основанный на вариационном подходе и использующий рекуррентные рандомизированные алгоритмы самообучения.

Короткий адрес: https://readera.org/14339396

IDR: 14339396

Список литературы Рандомизированные алгоритмы самообучения для настройки ассоциативных нейронных сетей

  • Likhovidov V. Variational approach to unsupervised learning algorithms of neural networks//Neural Networks. 1997. Vol. 10. № 2. P. 273-289.
  • Шлезингер М. И. О самопроизвольном различении образов//Сб. Читающие автоматы. Киев. Наукова думка. 1965. С. 24-34.
  • Цыпкин Я. З. Основы теории обучающихся систем. М.: Hаука. 1970. 252 с.
  • Айзерман М. А., Браверман Э. М., Розоноэр Л. И. Метод потенциальных функций в теории обучения машин. М.: Наука. 1970. С. 384.
  • Фомин В. Н. Математическая теория обучаемых опознающих систем. Л.: Изд-во Ленингр. ун-та. 1976. 236 с.
  • Граничин О. Н. Об одной стохастической рекуррентной процедуре при зависимых помехах в наблюдении, использующей на входе пробные возмущения//Вестн. ЛГУ. Сер. 1. 1989. Вып. 1. С. 19-21.
  • Граничин О. Н. Стохастическая аппроксимация с возмущением на входе при зависимых помехах наблюдения//Вестн. ЛГУ. 1989. Сер. 1. Вып. 4. С. 27-31.
  • Граничин О. Н., Поляк Б. Т. Рандомизированные алгоритмы оценивания и оптимизации при почти произвольных помехах. -М.: Hаука. 2003. 291 с.
  • Granichin O. N. Linear regression and filtering under nonstandard assumptions (Arbitrary noise)//IEEE Trans. on Automatic Control. 2004. Vol. 49. Oct. 10. P. 1830-1835.
  • Поляк Б. Т., Цыбаков А. Б. Оптимальные порядки точности поисковых алгоритмов стохастической аппроксимации//Проблемы передачи информации. 1990. № 2. С. 45-53.
  • Spall J. C. Multivariate stochastic approximation using a simultaneous perturbation gradient approximation//IEEE Trans. on Automatic Control. 1992. Vol. 37. P. 332-341.
  • Spall J. C. An overview of the simultaneous perturbation method for efficient optimization//Johns Hopkins APL Technical Digest. 1998. Vol. 19. P. 482-492.
  • Lippmann P. R. An introduction to computing with neural nets//IEEE ASSP Magazine, 1987. April. P. 4-22.
  • Осовский С. Нейронные сети для обработки информации/пер. с польского И. Д. Рудинского. М.: Финансы и статистика. 2002. 344 с.
  • Поляк Б. Т. Введение в оптимизацию. -М.: Hаука. 1983. 384 с.
  • Robbins H., Siegmund D. A convergence theorem for nonnegative almost super-martingales and some applications//In: Optimizing Methods in Statistics, J. S. Rustagi ed. Academic Press. NY. 1971. P. 233-257.
Еще
Статья научная