Реферат по теме выпускной работы
Содержание
- Введение и актуальность
- 1. Цели и задачи исследования и планируемые результаты
- 2. Обзор исследований и разработок
- 2.1 Обзор международных источников
- 2.2 Обзор национальных источников
- 2.3 Обзор локальных источников
- 3. Классификация диагностических процессов аналоговых устройств и сложности их диагностирования
- 4. Нейронные сети и методы их обучения
- 5. Структура разрабатываемого метода
- 6. Результаты работы
- Выводы
- Список источников
Введение и актуальность
В настоящее время на территории стран СНГ, в частности Украины, используется большое количество аналоговой вычислительной техники, как новейшей, так и морально устаревшей. Замена аналоговых приборов, выходящих из строя, новыми являются дорогой, поэтому возникает необходимость в их диагностике и ремонте. Анализ отечественного рынка и стран СНГ показывает отсутствие действующих систем диагностирования аналоговых устройств с функцией локализации неисправностей. На мировом рынке такие системы имеются, но их стоимость очень высока. Поэтому задача разработки таких систем диагностирования является актуальной.
Нейронные сети являются одним из направлений исследований в области искусственного интеллекта. Важнейшая их особенность — это то, что они могут изменять свое поведение в зависимости от внешней среды. На сегодняшний день существует много алгоритмов обучения нейронных сетей.
Нейронные сети являются незаменимыми для решения некоторых задач, с которыми плохо или вообще не справляются обычные вычислительные системы. В данной работе предлагается несколько алгоритмов обучения нейронных сетей, ориентированных на решение задачи идентификации параметров элементов аналоговых устройств с целью выявления в них ошибок.
1. Цели и задачи исследования и планируемые результаты
Целью исследования является разработка метода обучения нейронных сетей, ориентированных на решение задачи идентификации параметров элементов линейных аналоговых устройств.
Для достижения заданной цели, в работе решаются следующие задачи:
- исследование существующих методов обучения нейронных сетей;
- разработка структуры нейронной сети, ориентированной на решение задачи идентификации параметров, и разработка метода ее обучения;
- разработка программно-аппаратных средств обучения нейронных сетей;
- экспериментальные исследования.
В рамках магистерской работы, в качестве практических результатов, планируется разработка экспериментальной подсистемы обучения нейронных сетей на FPGA, которая будет ориентирована на работу с аналоговыми устройствами.
2. Обзор исследований и разработок
Проблемы аналоговой диагностики на базе нейронных сетей широко исследованы американскими, европейскими, японскими и российскими учеными. В Украине исследований по данной тематике не проводилось.
2.1 Обзор международных источников
Диагностика аналоговых схем на базе нейронных сетей исследована П. Кабисатпати, А. Баруа и С. Синха в статье Fault detection and diagnosis in analog integrated circuits using artificial neural network in a pseudorandom testing scheme
[1].
Вопросу аналоговой диагностики на базе нейронных сетей также посвящены работы К. Ангели [2], Ж. Жанга и С. Озева [3], М. Стосовича и В. Литовски [4], Ж. Ксианга и Кс. Деюна [5], К. Джемельниака [6], Б. Бабу и М. Шайлеша [7].
Обзор нейронных сетей и методов их обучения наиболее подробно описан в книге С. Хайкина Нейронные сети: полный курс
[8].
Также обзор нейросетей и статей на эту тематику проведен С. Яковлевым [9].
Нейрокибернетике, нейроинформатике и нейрокомпьютерам посвящена книга А.Н. Горбаня, В.Л. Дунина-Барковского, А.Н. Кирдина [10].
Методам обучения нейронных сетей посвящены работы Е. Борисова и В. Шустова [11] и [12].
2.2 Обзор национальных источников
В Украине не найдено подобных исследований.
2.3 Обзор локальных источников
Аналоговой диагностике в ДонНТУ посвящены магистерские работы Е. Масякина [13], А. Шигимагина [14], А. Медгауса [15].
3. Классификация диагностических процессов аналоговых устройств и сложности их диагностирования
По назначению диагностические процессы для аналоговых схем можно разделить на следующие три основные категории:
- снятие характеристик схемы с целью определения соответствия ее спецификациям;
- диагностика — определение причины неисправности, после того как определено, что схема, которая диагностируется, является неисправной;
- заводские испытания — выполняются для выходного тестирования больших объемов схем.
В настоящее время преобладающим является функциональное диагностирование аналоговых схем без использования определенной модели неисправности.
Существуют следующие основные подходы диагностирования аналоговых схем [16].
Тестирование, основанное на спецификации. Тесты генерируются непосредственно по спецификациям схемы, без использования моделей неисправностей. Этот подход легко адаптируется к широкому спектру схем, однако при использовании большого количества спецификаций, что является типичным для большинства аналоговых объектов, тестирование становится достаточно дорогим. Тестовая последовательность может быть сокращена путем выявления зависимостей между спецификациями и отбрасыванием повторяющихся тестовых воздействий.
Структурное диагностирование с использованием моделей неисправностей — применяется для выявления определенного вида неисправностей, которые моделируются. Это позволяет разбить набор аналоговых тестов на группы по степени покрытия неисправностей, благодаря чему тестовый набор может быть ранжирован. Это дает возможность сократить длину тестовой последовательности благодаря тому, что тест, который покрывает неисправности, уже обнаруженные предыдущими тестами, может быть отброшен. Однако сторонники структурного диагностирования не смогли найти связь между степенью покрытия неисправностей и удовлетворением требований спецификаций схемы. Поэтому разработчики с неохотой применяют структурное аналоговое диагностирования. В то же время этот подход приемлем на этапе эксплуатации АЦ-устройств.
Основные сложности при диагностике аналоговых устройств:
- Сложность моделирования неисправностей.
- Ошибки моделирования.
- Погрешности измерений при диагностировании.
- Проблемы доступа при моделировании.
- Погрешности производственного процесса.
В настоящее время на мировом рынке и рынке СНГ предлагаются автоматизированные системы диагностики (АСД), которые можно разделить на 2 больших класса:
- системы внутрисхемного диагностирования;
- системы функционального диагностирования.
4. Нейронные сети и методы их обучения
Нейронные сети — это одно из направлений исследований в области искусственного интеллекта, который основан на попытках воссоздать нервную систему человека. А именно: способность нервной системы учиться и исправлять ошибки, что должно позволить смоделировать, хотя и достаточно грубо, работу мозга человека.
Модель нейрона, лежащего в основе искусственных нейронных сетей, приведена на рис. 1 [17].
В этой модели нейрона можно выделить 3 основных элемента:
- синапсы, каждый из которых характеризуется своим весом или силой. Осуществляют связь между нейронами, умножают входной сигнал хi на весовой коэффициент синапса wi, который характеризует силу синаптической связи;
- сумматор, аналог тела клетки нейрона. Выполняет сложение внешних входных сигналов или сигналов, которые поступают по синаптическим связям от других нейронов. Определяет уровень возбуждения нейрона;
- функция активации, которая определяет окончательный исходный уровень нейрона, с которым сигнал возбуждения (торможения) поступает на синапсы следующих нейронов.
Важнейшим свойством нейронных сетей является их способность обучаться на основе данных окружающей среды и в результате обучения повышать свою производительность. Повышение производительности происходит со временем в соответствии с определенными правилами. Обучение нейронной сети происходит посредством интерактивного процесса корректировки синаптических весов и порогов. В идеальном случае нейронная сеть получает знания об окружающей среде на каждой итерации процесса обучения.
Существуют два концептуальных подхода к обучению нейронных сетей: обучение с учителем и обучение без учителя.
Обучение нейронной сети с учителем предполагает, что для каждого входного вектора из обучающего множества существует необходимое значение выходного вектора, называемого целевым. Вместе они называются обучающей парой. Обычно сеть обучается на некотором числе таких обучающих пар. Представляется выходной вектор, вычисляется выход сети и сравнивается с соответствующим целевым вектором. Далее веса изменяются в соответствии с алгоритмом, стремящимся минимизировать ошибку. Векторы обучающего множества предъявляются последовательно, вычисляются ошибки и веса подстраиваются для каждого вектора до тех пор, пока ошибка по всему обучающему массиву не достигнет приемлемого уровня. На рис. 2 показана блочная диаграмма, иллюстрирующая алгоритм обучения «обратного распространения» с учителем [8].
Обучение нейронной сети без учителя является намного более правдоподобной моделью обучения с точки зрения биологических корней искусственных нейронных сетей. Обучающее множество состоит лишь из входных векторов. Алгоритм обучения нейронной сети подстраивает веса сети так, чтобы получались согласованные выходные векторы, т.е. чтобы предъявление достаточно близких входных векторов давало одинаковые выходы (рис. 3) [8].
Необходимо отметить, что обучение без учителя гораздо более чувствительно к выбору оптимальных параметров, чем обучение с учителем. Во-первых, его качество сильно зависит от начальных весовых величин синапсов. Во-вторых, обучение критично к выбору радиуса обучения и скорости его изменения. И, в конце концов, разумеется, очень важен характер изменения собственно коэффициента обучения. В связи с этим нужно провести предварительную работу по подбору оптимальных параметров обучения сети.
Несмотря на некоторые сложности реализации, алгоритмы обучения без учителя находят большое и успешное применение. По этим алгоритмам функционируют и наиболее сложные из известных на сегодняшний день искусственных нейронных сетей — когнитрон и неокогнитрон, которые максимально приблизились в своем воплощении к структуре мозга. Однако они, конечно, существенно отличаются от рассмотренных выше сетей и намного сложнее. Однако на основе вышеизложенного материала можно создать реально действующие системы для диагностики аналоговых устройств.
5. Структура разрабатываемого метода
Основная идея заключается в сравнении тестируемой схемы с математической моделью, не содержащей ошибок и реализованной с использованием простой многоуровневой искусственной нейронной сети, обученной при помощи алгоритма обратного распространения ошибок.
Тестирование производится через главные входы и выходы схемы. Это позволяет снизить количество проверяемых и эталонных цепей и участков и, таким образом, сократить структуру тестируемой модели. Рисунок 4 упрощенно отображает предлагаемую систему диагностики неисправностей аналоговых ИС, использующую моделируемое обнаружение ошибок с последующим их изолированием.
Процедура предлагаемой диагностики моделируемого обнаружения ошибок может быть разделена на три стадии:
- Генерация сигнатур.
- Генерация прогнозируемых ошибок (ошибочных сигналов, сигнатур, остатков).
- Обнаружение и изолирование несправностей.
Первая стадия включает в себя определение различных классов неисправностей. Тестируемая схема моделируется с использованием псевдослучайного шума, который используется в качестве стимулирования выбранного класса ошибок. Выходной ответ тестируемой схемы формирует сигнатуры для данного класса ошибок.
Для генерации прогнозируемых ошибок требуется три типа моделей: номинальная, фактическая (действующая) и модель с тестируемым неисправным участком. Для реального представления важно промоделировать все эффекты, которые могут повлиять на обнаружение ошибки. Все модели создаются с использованием простых многоуровневых искусственных нейронных сетей, состоящих из входного уровня, одного или двух скрытых уровней и одного выходного уровня. Модели искусственных нейронных сетей обучены с помощью алгоритма обратного распространения с целью вывода ответов тестируемого устройства при различных условиях возникновения неисправностей, включая безошибочный вариант. Модель нейронной сети без ошибок обеспечивает допустимое отклонение параметров компонент, представленных номинальной моделью. Разница между номинальной и действующей моделью генерирует необходимые прогнозируемые ошибки. Когда неисправности нет, две модели (номинальная и действительная) ведут себя примерно одинаково, что в итоге формирует незначительно малые остатки. В условиях возникновения неисправностей система генерирует прогнозируемые ошибки и показывает, как сильно тестируемая схема отличается от схемы без ошибок. Любая ошибка в системе, катастрофическая или параметрическая, изменяет сигнатуру прогнозируемой ошибки. Эти остаточные сигнатуры, известные как ошибочные сигнатуры, моделируются и сохраняются в памяти модели для дальнейшего использования [1].
6. Результаты работы
На данный момент были получены следующие результаты:
- выполнен обзор существующих методов тестирования аналоговых устройств и алгоритмов обучения нейронных сетей;
- разработана структура системы диагностики аналоговых устройств на базе нейронных сетей, которые учатся по алгоритму обратного распространения.
Выводы
Существующие системы аналоговой диагностики не всегда эффективны, а полноценных систем диагностирования аналоговых устройств еще не разработано. Поэтому задача разработки такой системы является актуальной.
На основе проведенных исследований планируется разработка экспериментальной подсистемы обучения нейронных сетей, ориентированных на решение задачи идентификации параметров элементов аналоговых устройств на базе FPGA.
Важное замечание
При написании данного реферата магистерская работа еще не завершена. Окончательное завершение: декабрь 2012 г. Полный текст работы и материалы по теме могут быть получены у автора или его руководителя после указанной даты.
Список источников
- Kabisatpathy P. Fault detection and diagnosis in analog integrated circuits using artificial neural network in a pseudorandom testing scheme / Kabisatpathy P., Barua A., Sinha S. / / 3rd International Conference on Electrical & Computer Engineering ICECE 2004, 28-30 December 2004, Dhaka, Bangladesh, — pp. 52-55.
- Angeli C. On-Line Fault Detection Techniques for Technical Systems: A Survey. [Электронный ресурс] — режим доступа: http://www.tmrfindia.org/ijcsa/v1i12.pdf
- Zhaobo Zhang, Sule Ozev. Parametric Fault Diagnosis for Analog Circuits Based on Neural Networks. [Электронный ресурс] — режим доступа: http://people.ee.duke.edu/~zz18/data/NATW08.pdf
- Miona Andrejevic Stosovic, Vanco Litovski. Electronic Circuits Diagnosis using Artificial Neural Networks. [Электронный ресурс] — режим доступа: http://cdn.intechopen.com/pdfs/6641/InTech-Electronic_circuits_diagnosis_using_artificial_neural_networks.pdf
- Zhao Xiang, Xiao Deyun. Fault diagnosis based on the fuzzy-recurrent neural network. [Электронный ресурс] — режим доступа: http://www.ajc.org.tw/pages/paper/3.2PD/2FN-00-2.PDF
- Krzysztof Jemielniak. Tool Wear Monitoring by Means of Artificial Neural Networks. [Электронный ресурс] — режим доступа: http://www.eng.utoledo.edu/pmmc/issue7-4.pdf
- Babu B.V., Shailesh M. Adaptive networks for fault diagnosis and process control. [Электронный ресурс] — режим доступа: http://discovery.bits-pilani.ac.in/~bvbabu/Annbpcc2k.pdf
- Хайкин С. Нейронные сети: полный курс, 2-е изд., Испр.: Пер. с англ. — М.: ООО «И.Д. Вильямс », 2006. — 1104с.
- Яковлев С.С. Линейность и инвариантность в исскуственных нейронных сетях. [Электронный ресурс] — режим доступа: http://www.tachome.times.lv/Articles/Linejnost&Invariantnost_2006/Invariantnost.pdf
- Горбань А.Н., Дунин-Барковский В.Л., Кирдин А.Н. Нейроинформатика. [Электронный ресурс] — режим доступа: http://www.ict.edu.ru/ft/003873/neiro.pdf
- Борисов Е.С. Нейронные сети: обучение с учителем. [Электронный ресурс] — режим доступа: http://www.scorcher.ru/neuro/science/perceptron/mem32.htm
- Шустов В.А. Алгоритмы обучения нейронных сетей распознавания изображений по равномерно критерию. [Электронный ресурс] — режим доступа: http://www.computeroptics.smr.ru/KO/PDF/KO25/KO25334.pdf
- Магистерская работа Масякина Е.А. — «Разработка и исследование методов и структур аппаратного генерирования аналоговых тестов на базе FPGA». [Электронный ресурс] — режим доступа: http://masters.donntu.ru/2010/fknt/masyakin/diss/index.htm
- Магистерская работа Шигимагина А.В. — «Разработка и исследование методов и структур аппаратного анализа аналоговых тестовых реакций на базе FPGA». [Электронный ресурс] — режим доступа: http://masters.donntu.ru/2010/fknt/shigimagin/diss/index.htm
- Магистерская работа Медгауса А.В. — «Разработка и исследование метода моделирования неисправностей аналоговых устройств на базе языка описания аналогово-цифровых устройств PSpice». [Электронный ресурс] — режим доступа: http://masters.donntu.ru/2011/fknt/medgaus/diss/index.htm
- Agrawal V.D. Essentials of electronic testing for digital, memory and mixed-signal VLSI circuits / VD Agrawal, M. L. Bushnell / / Boston: Kluwer Academic Publishers, — 2000, 650p.
- Предыстория искусственного интеллекта. Часть IV. Неврология. [Электронный ресурс] — режим доступа: http://www.aiportal.ru/articles/neural-networks/model-neuron.html