Постановка задачи моделирования и составление входного файла.

Лабораторная работа №7. Моделирование и исследование нейронной сети «Адаптивная резонансная теория».

Цель работы – исследование алгоритмов обучения и функционирования нейронной сети «Адаптивная резонансная теория» и ее моделирование для решения задачки определения образов.

Общие сведения

Сеть APT представляет собой векторный классификатор. Входной вектор классифицируется зависимо от того, на какой из огромного количества ранее запомненных образов Постановка задачи моделирования и составление входного файла. он похож. Свое классификационное решение сеть APT выражает в форме возбуждения 1-го из нейронов распознающего слоя. Если входной вектор не соответствует ни одному из запомненных образов, создается новенькая категория средством запоминания вида, схожего новенькому входному вектору. Если определено, что входной вектор похож на один из ранее запомненных векторов Постановка задачи моделирования и составление входного файла. исходя из убеждений определенного аспекта сходства, запомненный вектор будет изменяться (учиться) под воздействием нового входного вектора таким макаром, чтоб стать более схожим на этот входной вектор.

Запомненный образ не будет изменяться, если текущий входной вектор не окажется довольно схожим на него. Таким макаром, решается проблема стабильности-пластичности. Новый образ может создавать Постановка задачи моделирования и составление входного файла. дополнительные классификационные категории, но новый входной образ не может вынудить поменяться существующую память.

На рис. 1 показана облегченная конфигурация сети APT, представленная в виде 5 многофункциональных модулей. Она включает два слоя нейронов, “слой сопоставления” и “слой определения”. Приемник 1, Приемник 2 и Сброс обеспечивают управляющие функции, нужные для обучения и систематизации.

Разглядим Постановка задачи моделирования и составление входного файла. функции отдельных модулей.

Слой сопоставления. Слой сопоставления получает двоичный входной вектор Х и сначало пропускает его неизмененным для формирования выходного вектора C. На более поздней фазе в распознающем слое вырабатывается двоичный вектор R, преобразующий вектор C.

Каждый нейрон в слое сопоставления (рис. 2) получает три двоичных входа (0 либо I): (1) компонента хi Постановка задачи моделирования и составление входного файла. входного вектора X; (2) сигнал оборотной связи Ri – взвешенная сумма выходов распознающего слоя; (3) вход от Приемника 1 (один и тот же сигнал подается на все нейроны этого слоя).

Рис. 1. Облегченная сеть АРТ.

Рис. 2. Облегченный слой сопоставления.

Чтоб получить на выходе нейрона единичное значение, как минимум два из 3-х его Постановка задачи моделирования и составление входного файла. входов должны приравниваться единице; в неприятном случае его выход будет нулевым. Таким макаром, реализуется правило 2-ух третей. Сначало выходной сигнал G1 Приемника 1 установлен в единицу, обеспечивая один из нужных для возбуждения нейронов входов, а все составляющие вектора R установлены в 0; как следует, в этот момент вектор C схож двоичному входному вектору Постановка задачи моделирования и составление входного файла. X.

Слой определения. Слой определения производит систематизацию входных векторов. Каждый нейрон в слое определения имеет соответственный вектор весов Bj. Только один нейрон с весовым вектором, более подходящим входному вектору, возбуждается; все другие нейроны заторможены.

Как показано на рис. 3, нейрон в распознающем слое имеет, наивысшую реакцию, если вектор C Постановка задачи моделирования и составление входного файла., являющийся выходом слоя сопоставления, соответствует набору его весов, как следует, веса представляют запомненный образ для категории входных векторов. Эти веса являются действительными числами, а не двоичными величинами. Двоичная версия этого вида также запоминается в соответственном наборе весов слоя сопоставления Tj (рис. 2).

Рис. 3. Облегченный слой определения.

Приемник 2. G2, выход Приемника Постановка задачи моделирования и составление входного файла. 2, равен единице, если входной вектор X имеет хотя бы одну единичную компоненту. Более точно, G2 является логическим Либо от компонент вектора X.

Приемник 1. Как и сигнал G2, выходной сигнал G1 Приемника 1 равен 1, если хотя бы одна компонента двоичного входного вектора X равна единице; но если хотя бы Постановка задачи моделирования и составление входного файла. одна компонента вектора R равна единице, G1 устанавливается в нуль. Таблица, определяющая эти соотношения:

Либо от компонент вектора X Либо от компонент вектора R G1

Сброс. Модуль сброса определяет сходство меж векторами X и C. Если они отличаются посильнее, чем просит параметр сходства, вырабатывается сигнал сброса возбужденного нейрона в слое определения.

В Постановка задачи моделирования и составление входного файла. процессе функционирования модуль сброса вычисляет сходство как отношение количества единиц в векторе Х к их количеству в векторе C. Если это отношение ниже значения параметра сходства, вырабатывается сигнал сброса.

Разглядим более детально 5 фаз функционирования сети АРТ: инициализацию, определение, сопоставление, поиск и обучение.

1. Инициализация.

До процесса обучения Постановка задачи моделирования и составление входного файла. сети все весовые векторы Bj и Tj, также параметр сходства r , должны быть установлены в исходные значения.

Веса векторов Bj инициализируются схожими, малыми значениями:

 для всех i, j,

где т – количество компонент входного вектора, L – константа, большая 1 (обычно L = 2).

Веса векторов Tj инициализируются единичными значениями:

tij  = 1 для всех j,i Постановка задачи моделирования и составление входного файла..

Параметр сходства r устанавливается в спектре от 0 до 1 зависимо от требуемой степени сходства меж запомненным образом и входным вектором. При больших значениях r сеть относит к одному классу только очень слабо отличающиеся образы. С другой стороны, маленькое значение r принуждает сеть группировать образы, которые имеют слабенькое сходство меж собой.

2. Определение Постановка задачи моделирования и составление входного файла..

Возникновение на входе сети входного вектора X инициализирует фазу определения. Потому что сначала выходной вектор слоя определения отсутствует, сигнал G1 устанавливается в 1 функцией Либо вектора X, обеспечивая все нейроны слоя сопоставления одним из 2-ух входов, нужных для их возбуждения (как просит правило 2-ух третей). В итоге неважно какая компонента Постановка задачи моделирования и составление входного файла. вектора X, равная единице, обеспечивает 2-ой единичный вход, тем заставляя соответственный нейрон слоя сопоставления возбуждаться и устанавливая его выход в единицу. Таким макаром, на данном шаге вектор С схож вектору X.

Определение реализуется вычислением свертки для каждого нейрона слоя определения, определяемой последующим выражением:

NETj = (Bj • C),

где Вj – весовой Постановка задачи моделирования и составление входного файла. вектор, соответственный нейрону j в слое определения; С – выходной вектор нейронов слоя сопоставления; в этот момент С равно X; NETj – возбуждение нейрона j в слое определения.

F является пороговой функцией, определяемой последующим образом:

OUTj = 1, если NETj> Θ,

OUTj = 0 в неприятном случае,

где Θпредставляет собой порог.

Принято, что латеральное Постановка задачи моделирования и составление входного файла. торможение существует, но игнорируется тут для сохранения простоты выражений. Оно обеспечивает тот факт, что только нейрон с наибольшим значением NETj будет иметь выход, равный единице; все другие нейроны будут иметь нулевой выход.

3. Сопоставление.

На этой фазе сигнал оборотной связи от слоя определения устанавливает G1 в нуль; в согласовании с правилом Постановка задачи моделирования и составление входного файла. 2-ух третей возбуждаются только те нейроны, которые имеют равные единице надлежащие составляющие векторов Р и X.

Блок сброса ассоциирует вектор С и входной вектор X, вырабатывая сигнал сброса, когда их сходство S ниже порога сходства. Для вычисления сходства векторов производится последующая процедура:

Вычислить D – количество единиц в векторе X.

Вычислить Постановка задачи моделирования и составление входного файла. N – количество единиц в векторе С.

Потом вычислить сходство S последующим образом:

S=N/D

К примеру, примем, что

Х = 1 0 1 1 1 0 1 D = 5

С = 0 0 1 1 1 0 1 N = 4

S=N/D=0,8

S может изменяться от 1 (лучшее соответствие) до 0 (наихудшее соответствие).

Заметим, что правило 2-ух третей делает С логическим произведением входного вектора Х и вектора Р. Но Постановка задачи моделирования и составление входного файла. Р равен Тj, весовому вектору выигравшего соревнование нейрона. Таким макаром, D может быть определено как количество единиц в логическом произведении векторов Тj и X.

4. Поиск.

Если сходство S выигравшего нейрона превосходит параметр сходства (S>r), то поиск не требуется. Но если сеть за ранее была обучена, возникновение на входе вектора Постановка задачи моделирования и составление входного файла., не схожего ни одному из предъявленных ранее, может возбудить в слое определения нейрон со сходством ниже требуемого уровня. В согласовании с методом обучения, может быть, что другой нейрон в слое определения будет обеспечивать наилучшее соответствие, превышая требуемый уровень сходства, невзирая на то, что свертка меж его весовым вектором и Постановка задачи моделирования и составление входного файла. входным вектором может иметь наименьшее значение.

Если сходство ниже требуемого уровня, запомненные образы просматриваются с целью поиска более соответственного входному вектору вида. Если таковой образ отсутствует, вводится новый несвязанный нейрон, который в предстоящем учится. Для инициализации поиска сигнал сброса тормозит возбужденный нейрон в слое определения на Постановка задачи моделирования и составление входного файла. время проведения поиска, сигнал G1 устанавливается в единицу и другой нейрон в слое определения выигрывает соревнование. Его запомненный образ потом проверяется на сходство, и процесс повторяется до того времени, пока соревнование не выиграет нейрон из слоя определения со сходством, огромным требуемого уровня (удачный поиск), или пока все связанные нейроны Постановка задачи моделирования и составление входного файла. не будут испытаны и заторможены (плохой поиск).

Плохой поиск будет автоматом завершаться на несвязанном нейроне, потому что его веса все равны единице, собственному исходному значению. Потому правило 2-ух третей приведет к идентичности вектора С входному вектору X, сходство S воспримет значение единицы и аспект сходства будет удовлетворен.

5. Обучение.

Обучение представляет собой Постановка задачи моделирования и составление входного файла. процесс, в каком набор входных векторов подается поочередно на вход сети, и веса сети меняются при всем этом таким макаром, чтоб схожие векторы активизировали надлежащие нейроны. Заметим, что это – неуправляемое обучение, нет учителя и нет мотивированного вектора, определяющего требуемый ответ.

Различают два вида обучения: неспешное и резвое. При Постановка задачи моделирования и составление входного файла. неспешном обучении входной вектор предъявляется так краткосрочно, что веса сети не имеют достаточного времени для заслуги собственных асимптотических значений в итоге 1-го предъявления. В данном случае значения весов будут определяться быстрее статистическими чертами входных векторов, чем чертами какого-то 1-го входного вектора. Динамика сети в процессе неспешного обучения Постановка задачи моделирования и составление входного файла. описывается дифференциальными уравнениями.

Резвое обучение является особым случаем неспешного обучения, когда входной вектор прикладывается на довольно долгий просвет времени, чтоб позволить весам приблизиться к их окончательным значениям. В данном случае процесс обучения описывается только алгебраическими выражениями. Не считая того, составляющие весовых векторов Тj принимают двоичные значения, в отличие от непрерывного спектра значений Постановка задачи моделирования и составление входного файла., требуемого в случае неспешного обучения.

Рассмотренный дальше метод «быстрого обучения» употребляется как в случае удачного, так и неуспешного поиска.

Составляющие вектора весов Bj рассчитываются последующим образом:

где сi – i-я компонента выходного вектора слоя сопоставления; j – номер выигравшего нейрона в слое определения; bij – вес связи, соединяющей Постановка задачи моделирования и составление входного файла. нейрон i в слое сопоставления с нейроном j в слое определения; L – константа > 1 (обычно 2).

Составляющие вектора весов Тj, связанного с новым запомненным вектором, меняются таким макаром, что они становятся равны подходящим двоичным величинам вектора С:

tij = сi для всех i,

где tij – вес связи меж выигравшим нейроном j в слое Постановка задачи моделирования и составление входного файла. определения и нейроном i в слое сопоставления.


Пример

Постановка задачки моделирования и составление входного файла.

Сделать нейронную сеть, реализующую функции определения графических изображений с применением модели сети АРТ.

Изображения представим в виде двоичных векторов, закодированных последующим образом:


Табл. 1.1-ый входной образ «0».

Табл. 2.2-ой входной образ «1».

Табл. 3.3-ий входной образ «4».

Табл. 4.4-ый Постановка задачи моделирования и составление входного файла. входной образ«7».

Табл. 5.5-ый входной образ«9».


На основании этих таблиц получаем входные последовательности - 5 двоичных векторов:

1. 1 1 1 1 1 1 0 0 0 1 1 0 0 0 1 1 0 0 0 1 1 1 1 1 1

2. 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0

3. 1 0 0 0 1 1 0 0 0 1 1 1 1 1 1 0 0 0 0 1 0 0 0 0 1

4. 1 1 1 1 1 0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 0

5. 0 1 1 1 0 1 0 0 0 1 0 1 1 1 0 0 0 1 0 0 0 1 0 0 0

Таким макаром, файл с обучающей подборкой будет иметь вид:

! (chat.nni)

i 1. 1. 1. 1. 1. 1. 0. 0. 0. 1. 1. 0. 0. 0. 1. 1. 0. 0. 0. 1. 1. 1. 1. 1. 1.

i 0. 0. 1. 0. 0. 0. 0. 1. 0. 0. 0. 0. 1. 0. 0. 0. 0. 1. 0. 0. 0. 0. 1. 0. 0.

i 1. 0. 0. 0. 1. 1. 0. 0. 0 .1. 1. 1. 1. 1. 1. 0. 0. 0. 0. 1. 0. 0. 0. 0. 1.

i 1. 1. 1. 1. 1. 0. 0. 0. 1. 0. 0. 0. 1. 0. 0. 0. 1. 0. 0. 0. 1. 0. 0. 0. 0.

i 0. 1. 1. 1. 0. 1. 0. 0. 0. 1. 0. 1. 1. 1. 0. 0. 0. 1. 0. 0. 0. 1. 0. 0. 0.


postanovlenie-pravitelstva-respubliki-mordoviya.html
postanovlenie-pravitelstva-rf-ot-10042013-n-317-nazvanie-dokumenta.html
postanovlenie-pravitelstva-rf-ot-16-maya-2005-g-n-303-o-razgranichenii-polnomochij-federalnih-organov-ispolnitelnoj-vlasti-v-oblasti-obespecheniya-biologicheskoj.html