Реферат за темою випускної роботи
Зміст
- Вступ і актуальність
- 1. Мета і задачі дослідження та заплановані результати
- 2. Огляд досліджень та розробок
- 2.1 Огляд міжнародних джерел
- 2.2 Огляд національних джерел
- 2.3 Огляд локальних джерел
- 3. Класифікація діагностичних процесів аналогових пристроїв та складнощі їх діагностування
- 4. Нейронні мережі та методи їх навчання
- 5. Структура методу, що розробляється
- 6. Результати роботи
- Висновки
- Перелік посилань
Вступ і актуальність
В даний час на території країн СНД, зокрема України, використовується велика кількість аналогової обчислювальної техніки, як новітньої, так і морально застарілої. Заміна аналогових приладів, що виходять з ладу, новими є дорогою, тому виникає необхідність в їх діагностуванні і ремонті. Аналіз вітчизняного ринку і країн СНД показує відсутність діючих систем діагностування аналогових пристроїв з функцією локалізації несправностей. На світовому ринку такі системи наявні, але їх вартість є дуже високою. Тому задача розробки таких систем діагностування є актуальною.
Нейронні мережі являються одним з напрямків досліджень у галузі штучного інтелекту. Найважливіша їх особливість — це те, що вони можуть змінювати свою поведінку в залежності від зовнішнього середовища. На сьогоднішній день існує багато алгоритмів навчання нейронних мереж.
Нейронні мережі являються незамінними для вирішення деяких задач, з якими погано або взагалі не справляються звичайні обчислювальні системи. В даній роботі пропонується декілька алгоритмів навчання нейронних мереж, орієнтованих на вирішення задачі ідентифікації параметрів елементів аналогових пристроїв з метою виявлення в них помилок.
1. Мета і задачі дослідження та заплановані результати
Метою дослідження є розробка методу навчання нейронних мереж, орієнтованих на вирішення задачі ідентифікації параметрів елементів лінійних аналогових пристроїв.
Для досягнення заданої мети, в роботі вирішуються наступні задачі:
- дослідження існуючих методів навчання нейронних мереж;
- розробка структури нейронної мережі, орієнтованої на вирішення задачі ідентифікації параметрів, і розробка методу її навчання;
- розробка програмно-апаратних засобів навчання нейронних мереж;
- експериментальні дослідження.
В рамках магістерської роботи, у якості практичних результатів, планується розробка експериментальної підсистеми навчання нейронних мереж на FPGA, яка буде орієнтована на роботу з аналоговими пристроями.
2. Огляд досліджень та розробок
Проблеми аналогової діагностики на базі нейронних мереж широко досліджені американськими, європейськими, японськими та російськими вченими. В Україні досліджень на дану тематику не проводилось.
2.1 Огляд міжнародних джерел
Діагностика аналогових схем на базі нейронних мереж досліджена П. Кабісатпаті, А. Баруа та С. Сінха у статті Fault detection and diagnosis in analog integrated circuits using artificial neural network in a pseudorandom testing scheme
[1].
Питанню аналогової діагностики на базі нейронних мереж також присвячені роботи К. Ангелі [2], Ж. Жанга та С. Озєва [3], М. Стосовіча та В. Літовскі [4], Ж. Ксіанга та Кс. Деюна [5], К. Джемельніака [6], Б. Бабу та М. Шайлеша [7].
Огляд нейронних мереж та методів їх навчання найбільш детально описаний у книзі С. Хайкіна Нейронні мережі: повний курс
[8].
Також огляд нейромереж та статей на цю тематику проведений С. Яковлевим [9].
Нейрокібернетиці, нейроінформатиці та нейрокомп’ютерам присвячена книга А.Н. Горбаня, В.Л. Дуніна-Барковського, А.Н. Кірдіна [10].
Методам навчання нейронних мереж присвячені роботи Є. Борисова та В. Шустова [11] та [12].
2.2 Огляд національних джерел
В Україні не знайдено подібних досліджень.
2.3 Огляд локальних джерел
Аналоговій діагностиці в ДонНТУ присвячені магістерські роботи Є. Масякіна [13], А. Шигімагіна [14], А. Мєдгауса [15].
3. Класифікація діагностичних процесів аналогових пристроїв та складнощі їх діагностування
По призначенню діагностичні процеси для аналогових схем можна розділити на наступні основні три категорії:
- зняття характеристик схеми з метою визначення чи задовольняє вона специфікаціям;
- діагностика — визначення причини несправності, після того як визначено, що схема яка діагностується є несправною;
- заводські випробування — виконуються для вихідного тестування більших обсягів схем.
У теперішній час переважним є функціональне діагностування аналогових схем без використання певної моделі несправності.
Існують наступні основні підходи діагностування аналогових схем [16].
Тестування, засноване на специфікації. Тести генеруються безпосередньо по специфікаціях схеми, без використання моделей несправностей. Цей підхід легко адаптується до широкого спектра схем, однак при використанні великої кількості специфікацій, що є типовим для більшості аналогових об'єктів, тестування стає досить дорогим. Тестова послідовність може бути скорочена шляхом виявлення залежностей між специфікаціями й відкиданням повторюваних тестових впливів.
Структурне діагностування з використанням моделей несправностей — застосовується для виявлення певного виду несправностей, що моделюються. Це дозволяє розбити набір аналогових тестів на групи по степені покриття несправностей, завдяки чому тестовий набір може бути ранжований. Це дає можливість скоротити довжину тестової послідовності завдяки тому, що тест, що покриває несправності, уже виявлені попередніми тестами, може бути відкинутий. Однак прихильники структурного діагностування не змогли знайти зв'язок між ступенем покриття несправностей і задоволенням вимог специфікацій схеми. Через це розроблювачі з небажанням застосовують структурне аналогове діагностування. У той же час цей підхід є прийнятним на етапі експлуатації АЦ-пристроїв.
Основні складнощі при діагностуванні аналогових пристроїв:
- Складність моделювання несправностей.
- Помилки моделювання.
- Погрішності вимірів при діагностуванні.
- Проблеми доступу при моделюванні.
- Погрішності виробничого процесу.
У теперішній час на світовому ринку й ринку СНД пропонуються автоматизовані системи діагностики (АСД), які можна підрозділити на 2 більших класи:
- системи внутрісхемного діагностування;
- системи функціонального діагностування.
4. Нейронні мережі та методи їх навчання
Нейронні мережі — це один з напрямків досліджень у галузі штучного інтелекту, який заснований на спробах відтворити нервову систему людини. А саме: здатність нервової системи навчатися та виправляти помилки, що повинно дозволити змоделювати, хоча й достатньо грубо, роботу мозку людини.
Модель нейрона, що лежить в основі штучних нейронних мереж, приведена на рис. 1 [17].
У цій моделі нейрона можна виділити 3 основних елемента:
- синапси, кожен з яких характеризується своєю вагою або силою. Здійснюють зв’язок між нейронами, помножують вхідний сигнал хi на ваговий коефіцієнт синапса wi , який характеризує силу синаптичного зв’язку;
- суматор, аналог тіла клітини нейрона. Виконує складання зовнішніх вхідних сигналів або сигналів, які поступають по синаптичним зв’язкам від інших нейронів. Визначає рівень збудження нейрона;
- функція активації, яка визначає остаточний вихідний рівень нейрона, з яким сигнал збудження (гальмування) поступає на синапси наступних нейронів.
Найважливішою властивістю нейронних мереж є їх здатність навчатися на основі даних навколишнього середовища і в результаті навчання підвищувати свою продуктивність. Підвищення продуктивності відбувається з часом відповідно до певних правил. Навчання нейронної мережі відбувається за допомогою інтерактивного процесу коригування синаптичних ваг і порогів. В ідеальному випадку нейронна мережа отримує знання про довкілля на кожній ітерації процесу навчання.
Існують два концептуальні підходи до навчання нейронних мереж: навчання з учителем і навчання без учителя.
Навчання нейронної мережі з учителем припускає, що для кожного вхідного вектора з навчальної множини існує необхідне значення вихідного вектора, званого цільовим. Разом вони називаються навчальною парою. Зазвичай мережа навчається на деякому числі таких навчальних пар. Пред’являється вихідний вектор, обчислюється вихід мережі і порівнюється з відповідним цільовим вектором. Далі ваги змінюються відповідно до алгоритму, що прагнуть мінімізувати помилку. Вектори навчальної множини пред’являються послідовно, обчислюються помилки і ваги підлаштовуються для кожного вектора до тих пір, поки помилка по всьому навчальному масиву не досягне прийнятного рівня. На рис. 2 показана блокова діаграма, що ілюструє алгоритм навчання зворотного поширення
з учителем [8].
Навчання нейронної мережі без вчителя є набагато більш правдоподібною моделлю навчання з точки зору біологічних коренів штучних нейронних мереж. Навчальна множина складається лише з вхідних векторів. Алгоритм навчання нейронної мережі підлаштовує ваги мережі так, щоб виходили узгоджені вихідні вектори, тобто щоб пред’явлення досить близьких вхідних векторів давало однакові виходи (рис. 3) [8].
Необхідно зазначити, що навчання без учителя набагато більш чутливо до вибору оптимальних параметрів, ніж навчання з учителем. По-перше, його якість сильно залежить від початкових вагових величин синапсів. По-друге, навчання критично до вибору радіуса навчання і швидкості його зміни. І, нарешті, зрозуміло, дуже важливий характер зміни власне коефіцієнта навчання. У зв’язку з цим потрібно провести попередню роботу з підбору оптимальних параметрів навчання мережі.
Незважаючи на деякі складності реалізації, алгоритми навчання без учителя знаходять велике і успішне застосування. За цими алгоритмами функціонують і найбільш складні з відомих на сьогоднішній день штучні нейронні мережі — когнітрон і неокогнітрон, які максимально наблизилися у своєму втіленні до структури мозку. Однак вони, звичайно, істотно відрізняються від розглянутих вище мереж і набагато складніші. Проте на основі вищевикладеного матеріалу можна створити реально діючі системи для діагностики аналогових пристроїв.
5. Структура методу, що розробляється
Основна ідея полягає в порівнянні схеми, що тестується, з математичною моделлю, яка не містить помилок і реалізована з використанням простої багаторівневої штучної нейронної мережі, навченої за допомогою алгоритму зворотного поширення помилок.
Тестування проводиться через головні входи і виходи схеми. Це дозволяє знизити кількість еталонних ланцюгів і ділянок, що перевіряються і, таким чином, скоротити структуру моделі, що тестується. Рисунок 4 спрощено відображає пропоновану систему діагностики несправностей аналогових ІС, що використовує виявлення помилок, що моделюються, з наступним їх ізолюванням.
Процедура запропонованої діагностики виявлення помилок, що моделюються, може бути розділена на три стадії:
- Генерація сигнатур.
- Генерація прогнозних помилок (помилкових сигналів, сигнатур, залишків).
- Виявлення та ізолювання несправностей.
Перша стадія включає в себе визначення різних класів несправностей. Схема, що тестується, моделюється з використанням псевдовипадкового шуму, який використовується в якості стимулювання обраного класу помилок. Вихідна відповідь схеми, що тестується, формує сигнатури для даного класу помилок.
Для генерації прогнозних помилок потрібно три типу моделей: номінальна, фактична (діюча) і модель з несправною ділянкою, що тестується. Для реального уявлення важливо промоделювати всі ефекти, які можуть вплинути на виявлення помилки. Всі моделі створюються з використанням простих багаторівневих штучних нейронних мереж, що складаються з вхідного рівня, одного або двох прихованих рівнів і одного вихідного рівня. Моделі штучних нейронних мереж навчені за допомогою алгоритму зворотного поширення з метою виведення відповідей пристрою, що тестується, при різних умовах виникнення несправностей, включаючи безпомилковий варіант. Модель нейронної мережі без помилок забезпечує допустиме відхилення параметрів компонент, представлених номінальною моделлю. Різниця між номінальною і діючою моделлю генерує необхідні прогнозні помилки. Коли несправності немає, дві моделі (номінальна і дійсна) поводяться приблизно однаково, що в результаті формує незначно малі залишки. В умовах виникнення несправностей система генерує прогнозні помилки і показує, як сильно схема, що тестується, відрізняється від схеми без помилок. Будь-яка помилка в системі, катастрофічна або параметрична, змінює сигнатуру прогнозної помилки. Ці залишкові сигнатури, відомі як помилкові сигнатури, моделюються і зберігаються в пам'яті моделі для подальшого використання [1].
6. Результати роботи
На даний момент були отримані наступні результати:
- виконаний огляд існуючих методів тестування аналогових пристроїв та алгоритмів навчання нейронних мереж;
- розроблена структура системи діагностики аналогових пристроїв на базі нейронних мереж, які навчаються за алгоритмом зворотного поширення.
Висновки
Існуючі системи аналогової діагностики не завжди є ефективними, а повноцінних систем діагностування аналогових пристроїв ще не розроблено. Тому задача розробки такої системи є актуальною.
На основі проведених досліджень планується розробка експериментальної підсистеми навчання нейронних мереж, орієнтованих на вирішення задачі ідентифікації параметрів елементів аналогових пристроїв на базі FPGA.
Важливе зауваження
При написанні даного реферату магістерська робота ще не завершена. Остаточне завершення: грудень 2012. Повний текст роботи та матеріали за темою можуть бути отримані у автора або його керівника після зазначеної дати.
Перелік посилань
- Kabisatpathy P. Fault detection and diagnosis in analog integrated circuits using artificial neural network in a pseudorandom testing scheme / Kabisatpathy P., Barua A., Sinha S. / / 3rd International Conference on Electrical & Computer Engineering ICECE 2004, 28-30 December 2004, Dhaka, Bangladesh, — pp. 52-55.
- Angeli C. On-Line Fault Detection Techniques for Technical Systems: A Survey. [Електронний ресурс] — режим доступу: http://www.tmrfindia.org/ijcsa/v1i12.pdf
- Zhaobo Zhang, Sule Ozev. Parametric Fault Diagnosis for Analog Circuits Based on Neural Networks. [Електронний ресурс] — режим доступу: http://people.ee.duke.edu/~zz18/data/NATW08.pdf
- Miona Andrejevic Stosovic, Vanco Litovski. Electronic Circuits Diagnosis using Artificial Neural Networks. [Електронний ресурс] — режим доступу: http://cdn.intechopen.com/pdfs/6641/InTech-Electronic_circuits_diagnosis_using_artificial_neural_networks.pdf
- Zhao Xiang, Xiao Deyun. Fault diagnosis based on the fuzzy-recurrent neural network. [Електронний ресурс] — режим доступу: http://www.ajc.org.tw/pages/paper/3.2PD/2FN-00-2.PDF
- Krzysztof Jemielniak. Tool Wear Monitoring by Means of Artificial Neural Networks. [Електронний ресурс] — режим доступу: http://www.eng.utoledo.edu/pmmc/issue7-4.pdf
- Babu B.V., Shailesh M. Adaptive networks for fault diagnosis and process control. [Електронний ресурс] — режим доступу: http://discovery.bits-pilani.ac.in/~bvbabu/Annbpcc2k.pdf
- Хайкин С. Нейронные сети: полный курс, 2-е изд., Испр.: Пер. с англ. — М.: ООО «И.Д. Вильямс », 2006. — 1104с.
- Яковлев С.С. Линейность и инвариантность в исскуственных нейронных сетях. [Електронний ресурс] — режим доступу: http://www.tachome.times.lv/Articles/Linejnost&Invariantnost_2006/Invariantnost.pdf
- Горбань А.Н., Дунин-Барковский В.Л., Кирдин А.Н. Нейроинформатика. [Електронний ресурс] — режим доступу: http://www.ict.edu.ru/ft/003873/neiro.pdf
- Борисов Е.С. Нейронные сети: обучение с учителем. [Електронний ресурс] — режим доступу: http://www.scorcher.ru/neuro/science/perceptron/mem32.htm
- Шустов В.А. Алгоритмы обучения нейронных сетей распознавания изображений по равномерно критерию. [Електронний ресурс] — режим доступу: http://www.computeroptics.smr.ru/KO/PDF/KO25/KO25334.pdf
- Магистерская работа Масякина Е.А. — «Разработка и исследование методов и структур аппаратного генерирования аналоговых тестов на базе FPGA». [Електронний ресурс] — режим доступу: http://masters.donntu.ru/2010/fknt/masyakin/diss/index.htm
- Магистерская работа Шигимагина А.В. — «Разработка и исследование методов и структур аппаратного анализа аналоговых тестовых реакций на базе FPGA». [Електронний ресурс] — режим доступу: http://masters.donntu.ru/2010/fknt/shigimagin/diss/index.htm
- Магистерская работа Медгауса А.В. — «Разработка и исследование метода моделирования неисправностей аналоговых устройств на базе языка описания аналогово-цифровых устройств PSpice». [Електронний ресурс] — режим доступу: http://masters.donntu.ru/2011/fknt/medgaus/diss/index.htm
- Agrawal V.D. Essentials of electronic testing for digital, memory and mixed-signal VLSI circuits / VD Agrawal, M. L. Bushnell / / Boston: Kluwer Academic Publishers, — 2000, 650p.
- Предыстория искусственного интеллекта. Часть IV. Неврология. [Електронний ресурс] — режим доступу: http://www.aiportal.ru/articles/neural-networks/model-neuron.html