XIII Международная студенческая научная конференция Студенческий научный форум - 2021

Нейронные сети

В первые понятие нейронная сеть появляется в 1943 в статье о логическом исчислении идей и нервной активности У. Маккалока и У. Питтса. С этого начался длинный путь развития нейронных искусственных сетей – математических моделей, которые были построены по принципам живых нейронных сетей(Рис.1.).

Рис. 1 Простая нейроная сеть

Данные принципы содержат в себе [1]:

- простой нейронный элемент, используемый для обработки;

- в обработке информации принимают участие значительное количество нейронов;

- с значительным количеством нейронов связан дин нейрон ;

- между нейронами располагаются меняющиеся по весу связи;

- обработки информации с массированной параллельностью.

Основным элементом нейронной сети является искусственный нейрон, прототипом которого является биологический нейрон в головном мозге. Следовательно, можно упростить нейрон функционирует следующим образом [2]:

- от дендритов нейрон приобретает набор (вектор) входных сигналов;

- совместное значение входных сигналов запрашивается в теле нейрона;

- выходной сигнал нейрон создаёт, напряженность зависящую от величины подсчитанного скалярного произведения;

- на дендриты иных нейронов подается выходной сигнал проходит к аксону .

Все-таки есть нюанс-входы нейронов не совпадают. Определенный весовой коэффициент который должны иметь все записи, поступающей к ней информации с определённой важности. Оба нейрона вычисляют скалярное произведение вектора входного сигнала и суммируют его значения , а также и вектора массового коэффициента.

Поскольку решение слабо зависит от отказа отдельного нейрона, нейронные сети используются в интеллектуальных системах разных направлений. В настоящее время ИНС нашли свое применение в системах распознавания и классификации изображений, принятия решений и управления, кластеризации, прогнозирования, анализа сигналов и многих других. Решение сложных задач в порядке времени ответа цепочек электронных и / или оптических элементов гарантируют нейронные сети.

Программирование нейронной сети называется обучением. Технически она заключается в нахождении коэффициентов связей между нейронами.

Для того чтобы ИНС научилась принимать решения, используется определённая процедура. Первоначально сеть была представлена несколькими обучающими примерами, которые состоят из системы действий (вектора) входных элементов и требуемой системы действий выходных элементов, а фактическая активность на выходных элементах сравнивалась с требуемой активностью. Затем найденная погрешность определялась как квадрат разности между фактическим и желаемым выходом. Затем количество ошибок были уменьшено путем модификации каждого весового звена. Данные действия выполняются последовательно, начиная с выходного слоя. Описанный процесс обучения был повторен с множеством различных обучающих примеров, чтобы научить сеть правильно их распознавать. Такой подход в литературе называется методом расправления спины.

Алгоритм обратного отслеживания состоит из четырёх шагов [3]:

1.подсчитать, с какой скоростью может меняется ошибка выходного элемента при изменении. Между действительной и ожидаемой активностью та производная ошибки (EA) является разностью

где AF уровень такой активности j-го элемента в верхнем слое, где Dj –необходимый выход j-го элемента

2. Рассчитайте, стремительность изменяется ошибка в мере изменения суммарного входа, который приобретает выходной элемент. результатом шага 1 является величина (EI), умноженная на скорость модификации выходного элемента при изменении его суммарного входа.

3. Рассчитайте , скорость изменения погрешности , при изменении массы выходного элемента на входном звене. Результатом шага 2 является значение (EW), умноженным на уровень активности элемента, из которого оно отправляется отношение,

где Yi-уровень активности i-го элемента в предшествующем слое.

4. Рассчитайте, скорость изменения ошибки предыдущего слоя с изменением активности элемента . обратное распространение к многослойным сетям позволяет данный ключевой шаг. Влияние на активности выходных элементов оказывает активность элемента из предыдущего слоя . Поэтому для того чтобы рассчитать суммарное влияние на погрешность мы рассчитываем все эти воздействия на выходные элементы. Все-таки эти последствия рассчитать нетрудно. Результат шага 2 это, умноженный на вес связи к соответственному выходному элементу,

где wij-масса связи между i-м и j-м элементами.

При использовании шаги 2 и 4, можно реорганизовать значения советника одного слоя элементов в значения советника предыдущего слоя. Данную процедуру можно повторить и для расчета советника всех предыдущих, присутствующих слоев. Зная EA для элемента, мы используем шаги 2 и 3 для расчета EW на его выходных звеньях и сообразно регулировать синоптические массы.

Ссылка:

1. Куссуль В. М., Байдык Т. Н. разработка архитектуры нейродной сети для распознавания формы объектов на изображениях. 1990. 5. С. 56-61

2. Тоноян А. С. / / прогнозирование на основе нейронных сетей. URL: http://it-claim.ru/Library/Books/ITS/wwwbook/ist5/glava_3/3_11.htm (дата обращения 20.12.2018).

3. Джеффри Э. Хинтон. Как обучаются нейронные сети / / в мире науки

Код для цитирования: Скопировать