АНАЛИЗ СХОДИМОСТИ ОНЛАЙН ГРАДИЕНТНОГО МЕТОДА ДЛЯ НЕЙРОННЫХ СЕТЕЙ С МНОЖЕСТВЕННЫМИ ВЕСОВЫМИ СВЯЗАМИ

Худайбергенов , Кабул, Марахимов , Авазжон

Innovations in Science and Technologies · 2025-yil

Annotatsiya

В данной статье исследуется свойство сходимости онлайн- градиентного обучения для алгоритма обратного распространения ошибки для нейронных сетей прямого распространения с двумя скрытыми слоями с множественными весовыми связами. Предполагается, что в каждом цикле обучения каждый пример обучения в наборе обучающих данных передается в стохастической форме в многослойную нейронную сеть прямого распространения с множественными весовыми связами ровно один раз. Приводиться свойство слабой и сильной сходимости для подходов к обучению, указывая, что градиент функции ошибок стремится к нулю, а весовые коэффициенты - к значению фиксированной точки соответственно. Сначала приводиться результат сходимости для подхода полностью стохастического порядка, а затем - для подхода специального стохастического порядка. Условия на функцию активации нейронной сети и скорость обучения, гарантирующие сходимость, смягчены по сравнению с существующими результатами. Свойства сходимости в данной статье изучаются для сигмоидального типа функции активации, однако эти результаты справедливы и для других типов функций активации.

Maqola ma’lumotlari
MualliflarХудайбергенов , Кабул, Марахимов , Авазжон
JurnalInnovations in Science and Technologies
Nashr sanasi2025-09-03
Jild2
Son7
Betlar438-452
TilIngliz

Kalit so‘zlar

нейронные сети, метод обратного распространения, онлайн градиентный метод, сходимость.

Ilmiy soha

Innovations in Science and Technologies jurnalidan boshqa maqolalar

Innovations in Science and Technologies — barcha maqolalar