Рис. 5.3. Типичные компоненты и структура ИНС
Поскольку исходным прототипом стал человеческий мозг, ИНС можно рассматривать как статистику, так как имеется много реальных и важных параллелей между областью статистики и областью ИНС. Процесс тренировки ИНС с использованием набора данных сходен с вычислением векторно-значимой статистики с применением того же набора данных. Так же, как коэффициент регрессии уравнения (т.е. наклоны и пересечения) вычисляется через минимизирование квадрата погрешности (RMSE) для набора данных, так и веса ИНС определяются через минимизирование погрешности для набора данных. Но между ИНС и статистикой имеется важное
111
отличие. У ИНС имеется много свободных параметров (т.е. весовых соединений). ИНС с пятью входами, промежуточным скрытым слоем из пяти нейронов и одним выходом имеет 36 обучаемых весов, где простое умножение линейной регрессии дает шесть (пять наклонов и одно прерывание). ИНС может также свободно иметь избыточные параметры. Но есть опасность и чрезмерной подгонки модели ИНС [67]. Чрезмерно подогнанная ИНС будет очень зависеть от набора данных, использованных для ее создания, и будет слабо отражать внутреннюю взаимосвязь (распределение). В силу этого оценка ИНС через ее тренировку посредством набора данных не используется. Важной характеристикой ИНС при определенных условиях является их способность быть универсальными аппроксиматорами [68 – 70]. Это означает, что смещение, связанное с выбором функциональной формы, как это делается при анализе регрессии, когда выбирается линейная зависимость, исключается. Это очень важное преимущество по сравнению с традиционными прогностическими моделями, поскольку связь между топологией СИС и живучестью имеет очень нелинейный характер, обусловленный важными и сложными взаимодействиями между звеньями. ИНС разрабатываются или обучаются на основе общей живучести ряда возможных топологий СИС и надежности звеньев для данного числа узлов. Полученная в результате ИНС используется для оценки живучести СИС как функция от надежности звена и полученной оптимальной конфигурации. Таким образом, можно проводить многочисленные оценки живучести СИС без вычисления живучести для каждого из проектов. Неудобством в использовании ИНС в качестве критерия оценки живучести является то, что прогнозирование живучести – это оценка, которая может быть изменена в зависимости от адекватности ИНС. Сходный подход был использован для расчета последовательно-параллельных систем с учетом цены и живучести. Этот процесс описан в работе, но он фундаментально отличается, так как последовательно-
112
параллельные системы достаточно легко рассчитываются аналитически. Одним из важных способов оценки эффективности сочетания двух подходов: ИНС и оптимизации
– является рассмотрение числа расчетов живучести, необходимых для обучения и оценки ИНС, в сравнении с числом расчетов, сэкономленных за счет ее использования. В для решения первой последовательно-параллельной задачи расчета потребовалось 9600 вычислений живучести при обучении и оценке ИНС, что затем сэкономило 50 000 вычислений живучести при одной оптимизации. Если единственная оптимизация одной задачи расчета потребовала определенных усилий, тогда возможное сокращение в пять раз расчетов живучести не столь существенно, если учесть, что экономия была достигнута в ущерб точности оценки живучести. Однако при рассмотрении связанных задач становится ясно, что подход имеет определенные достоинства. Для решения второй задачи потребовалась та же ИНС, поэтому не потребовалось дополнительных расчетов живучести и было сэкономлено 50 000 расчетов на каждой оптимизации. В общем ИНС-подход сократил на порядки расчеты живучести. С ростом числа расчетов достоинства выбранного метода становятся все более очевидными (поскольку ИНС были сконструированы как универсальные аппроксиматоры для последовательно-параллельных систем). И наконец, «цена» первоначального тренировочного набора становится несущественной, если та же ИНС используется многократно для решения дополнительных расчетных задач. Этот же вывод справедлив и для расчетов живучести СИС. С помощью ИНС можно оценить живучесть любой топологии соединений, любого набора звеньев, любого набора определенного числа узлов. Была выбрана процедурная модель обучения нейросети снизу, в обратном порядке , ввиду ее большой аппроксимирующей способности и возможности использования как в случаях двоичного, так и в случаях непрерывного ввода сигнала. Проблема изучалась там, где живучесть важна для каждого отдельного звена. Такое
113
допущение распространено в работах, посвященных расчетам СИС. Целью этого являлась разработка такой ИНС, которая смогла бы иметь различные степени живучести различных звеньев, хотя это и затрудняет задачу общей оценки. Количество узлов для данной ИНС было заданным. Входные данные в ИНС были следующими.
1.Архитектура СИС изображена серией двоичных переменных (xij). Длина строки 0 и 1 равна 2 N(N −1) , где N – количество узлов в СИС.
2.Живучесть ребра.
3.Вычисленная по методу авторов [74] максимальная связность. Вычисление верхних пределов связности производилось по следующей формуле:
( ) ≤ 1 − |
|
|
|
∏ (1− |
) |
|
(1 − ) |
1− |
(1− ) |
,(5.26) |
где p – живучесть заданной связи; E – набор связей, связанных с заданной вершиной. Расчеты верхних пределов связности потребовали определенных усилий, но это значительно повысило точность оценки ИНС. Без верхних пределов связности, связей, служащих как ввод, ошибки, повторенные в последующих секциях ИНС, практически удваиваются. Вывод ИНС расценивался как общая живучесть СИС. В процессе обучения и оценки желаемая живучесть СИС рассматривалась как точная величина, вычисляемая с использованием метода «обратного отсчета ошибки». Для исследования предложенного в работе подхода были выбраны узлы десятого размера. Использовались звенья с живучестью 0,80; 0,85; 0,90; 0,95 и 0,99. Был произвольно генерирован набор ИНС с 750 вариантами топологии (получилось, что каждая СИС формировала дерево с минимальным ветвлением, т.е. R(x) > 0) с 150 измерениями живучести каждого звена (максимальное количество топологий, обсчитываемое этой моделью ИНС 5 × 245 или 1,7 × 1014, таким образом, 750 –
114
очень небольшая СИС). Верхние связи каждой СИС и реальная живучесть рассчитывались как ввод и целевой вывод, соответственно. После предварительных экспериментов архитектура СИС была представлена 47 вводами (45 возможными ребрами, живучестью ребер и верхней связностью), 47 скрытыми нейронами в одном скрытом слое и единым выходом. Набор данных делился с использованием метода пятикратной перекрестной проверки, таким образом, тренировалось пять оценок ИНС и одно окончательное использование ИНС. Пять оценок ИНС задействовали 4/5 набора данных, а оставшуюся 1/5 использовали для тестирования, при котором для каждой оценки ИНС заменялся тестовый набор. При окончательном использовании ИНС обучалась с применением всех 750 членов набора данных, и окончательная оценка выводилась с использованием перекрестной проверки ИНС. Также использовалась вторая стратегия для СИС с высокой степенью живучести. Поскольку большая часть топологии реальных СИС обладает высокой живучестью, важно, чтобы оценка живучести была достаточно точной, когда R(x) > 0,90. Если, как описано выше, живучесть первой ИНС оценивалась как 0,90 или выше, то топология СИС, живучесть звеньев и верхние связи служили вводом для второй ИНС, как показано на рис. 5.4.
115