Имитация нейронной сети на вычислительном кластере - Студенческий научный форум

II Международная студенческая научная конференция Студенческий научный форум - 2010

Имитация нейронной сети на вычислительном кластере

 Комментарии
Текст работы размещён без изображений и формул.
Полная версия работы доступна во вкладке "Файлы работы" в формате PDF
Нейроимитаторы широко применяются при решении задач, алгоритм решения которых трудноформализуем или неизвестен. При этом на универсальных ЭВМ возникает проблема распараллеливания вычислений, связанная с резким падением скорости и ростом времени счёта, в частности при обучении нейросети (НС). В данной работе параллельность работы нейроимитатора обеспечивается применением вычислительного кластера, функционирующего в Академии маркетинга и социально-информационных технологий (ИМСИТ).

Создан программное обеспечение - «мастер», который поможет человеку, даже незнакомому с программированием, создать файл, готовый для компиляции на любой платформе встроенным в эту платформу компилятором. ПО генерирует программный код с использованием интерфейса передачи сообщений  в стандарте языка программирования С, что позволит компилировать данный код как для кластеров с установленной операционной системой  Windows, так и  Unix или Linux - подобной.  Код содержит в себе запрограммированную  параллельную нейронную сеть.

При создании ПО реализован алгоритм обратного распространения ошибки для параллельных вычислений. Отличием от обычной реализации является решение следующей задачи. Поскольку каждый нейрон- процессор имеет свою собственную память, то когда возникает необходимость рассчитать ошибку скрытого слоя, получается, что нейрон - процессор скрытого слоя ничего «не знает» о состоянии синаптических коэффициентах нейронов - процессоров следующего слоя сети. Эта задача решена следующим образом: когда любой нейрон - процессор вычисляет своё значение ошибки, он не корректирует свои веса, а умножает их на значение ошибки и возвращает получившиеся значение предыдущему нейрону- процессору, который в свою очередь только выполняет операцию суммирования.

Просмотров работы: 6