photo

ПІБ: Мвртиненко Ганна Ігорівна

Факультет: Комп'ютерних наук та технологій

Кафедра: Автоматизованих систем управління

Спеціальність: Спеціалізовані комп'ютерні системи

Тема: Розробка архітектури нейронної мережі та її навчання за допомогою еволюційного підходу для поліпшення якості медичних зображень

Науковий керівник: доц. каф. АСУ Васяєва Т.О.

Реферат на тему магістерської роботи

Зміст

Введення

1. Огляд досліджень та розробок

1.1 Огляд міжнародних джерел

1.2 Огляд національних джерел

1.3 Огляд локальних джерел

2. Розробка методу поліпшення якості медичних зображень

2.1 Поліпшення якості медичних зображень

2.2 Застосування нейронної мережі для поліпшення якості медичних зображень

2.3 Еволюційний підхід до побудови та навчання НС

Висновки

Список використаної літератури

Введення

Останнім часом одним з актуальних напрямків розвитку комп'ютерних технологій в медицині стає обробка цифрових зображень: поліпшення якості зображення, відновлення пошкоджених зображень, розпізнавання окремих елементів.

У зв'язку зі складністю аналізу інформативності зображення і в силу суб'єктивності людського сприйняття відсутній об'єктивний загальноприйнятий критерій якості зображення. Компонента яскравості відіграє не останню роль у сприйнятті зображення, ґрунтуючись на цьому якість зображення можна поліпшити за рахунок зміни яскравості пікселів.

Актуальним методом вирішення поставленого завдання є штучні нейронні мережі (НС), оскільки вони володіють хорошими адаптивними властивостями, а також здатністю до навчання для виконання необхідних функцій. НС - являють собою мережу елементів - штучних нейронів - пов'язаних між собою синаптичними сполуками. Мережа обробляє вхідну інформацію і в процесі зміни свого стану в часі формує сукупність вихідних сигналів. Робота мережі полягає в перетворенні вхідних сигналів у часі, у результаті чого змінюється внутрішній стан мережі і формуються вихідні впливу. Однак, успіх НС також залежить від архітектури алгоритму навчання та вибору властивостей, що використовуються у процесі навчання. На жаль, визначення архітектури нейронної мережі - це процес проб і помилок, алгоритми навчання повинні бути ретельно налаштовані під дані. Для оптимального підбору архітектури мережі та алгоритму її навчання буде використаний еволюційний підхід, який дозволяє в мінімальні терміни отримати субоптимальний результат.

Рисунок1

Малюнок 1 – Схема нейрону (анімація: кількість кадрів – 10 шт., розмір – 109 кілобайт)

У даній роботі пропонується використання генетичного алгоритму (ГА) для налаштування та навчання НС при вирішенні задачі поліпшення якості медичних зображень. Нейронна мережа налаштовується за допомогою генетичного алгоритму відповідно до рівня контрасту.

1. Огляд досліджень та розробок

1.1 Огляд міжнародних джерел

Аналіз публікацій наукових розробок зарубіжних колег на схожу тематику показав, що основні розробки так само пов'язані із застосуванням генетичного алгоритму для побудови архітектури нейронної мережі та її навчання. Прикладами таких статей є:

1) Стаття Еріка Канту-Паза і Чандрика Камаза - Нейронні мережі, що еволюціонують для класифікації галактик. Метою статті є показати, що ГА може успішно вирішувати деякі загальні проблеми в застосуванні до НС таких як навчання мережі, вибір відповідної мережевої топології і вибір відповідних властивостей [4].

2) Стаття Миколи Казабова - Модель нейронної мережі, що еволюціонує для верифікації особистості на основі поєднань мовлення та зображень. У статті так само описується застосування ГА для побудови НС. Ця стаття вводить метод, заснований на Еволюції Зв'язкової Системи (ECOS) для задач верифікації особи. Метод дозволяє розвиток моделей обличчя та їх постійного коригування на основі нових мовних і лицьових зображень. Деякі експериментальні моделі верифікації людини, засновані на мовних і лицьових особливостях розроблені на основі цього методу, де мовна інформація та інформація по зображенню особи інтегрована на рівні художнього моделювання кожної людини. Показано, що інтеграція мовних і графічних функцій значно покращує точність людської верифікаційної моделі, коли йде порівняння з використанням тільки даних зображення обличчя або мови [5].

3) Стаття Дерека Джеймса і Філіпа Тукер - Нейронна мережа, що еволюціонує Активна Система Бачення для розрізнення форми. У статті представлена нейронна мережа, що еволюціонує, заснована на активній системі бачення, яка в змозі переміщати 2D поверхню в будь-якому напрямку, разом із здатністю змінювати масштаб зображення і обертати його. Продемонстровано, що система з такими особливостями може правильно класифікувати форми, представлені їй, незважаючи на відмінність у розташуванні, масштабі і обертанні [6].

1.2 Огляд національних джерел

Прикладами робіт в Україні є:

1) Стаття Є.В. Мантула - Прогнозуюча нейронна мережа із змінною структурою для контролю показників забруднення навколишнього середовища. У статті проведено аналіз можливості використання в задачах екологічного моніторингу для прогнозування нестаціонарних часових рядів поліноміальних нейронних мереж, що характеризуються високою швидкістю навчання, і МГУА-мереж (Метод Групового Урахування Аргументів), які мають змінну структуру з можливістю зміни під час навчання. Запропоновано нейронна мережа, яка об'єднує переваги багатошарового персептрона і МГУА-мережі для навчання на основі малої вибірки і чисельного спрощення процесу навчання мережі [7].

2) Стаття О.К. Тищенко, І.П. Пліса, Д.С. Коапаліна - Гібридна каскадна оптимізована нейронна мережа. Запропоновано нову архітектура та алгоритми навчання для гібридної каскадної нейронної мережі з оптимізацією пулу нейронів в кожному каскаді. Запропонована гібридна каскадна нейронна мережа забезпечує обчислювальну простоту і характеризується як відстежуючими, так і фільтруючими властивостями [8].

3) Стаття Б.Б. Нестеренко, М.А. Новаторський - Імітаційне моделювання клітинних нейронних мереж. В роботі дано короткий огляд класичних принципів організації та функціонування дискретних клітинних нейронних мереж. Розглянуто постановка задачі розв'язання операторного рівняння локально-асинхронним методом, орієнтованим на реалізацію в гомогенних обчислювальних структурах. Описано підхід до створення імітаційних моделей для клітинних нейронних мереж з різними видами міжнейронної взаємодії. Запропоновано імітаційні алгоритми синхронного, асинхронного і агрегативного взаємодії в імітаційних моделях клітинних нейронних мереж [9].

1.3 Огляд локальних джерел

Приклади робіт студентів та співробітників ДонНТУ:

1) Стаття В.Н. Балабанова - Еволюційний метод раціонального планування розкрою рулонної сталі у виробництві електрозварних труб. У статті розглядається задача раціонального розкрою рулонів, що виникає у виробництві електрозварних труб. Пропонується багатокритеріальна модель, яка крім втрат рулонного матеріалу у відхід дозволяє враховувати виробничі втрати і ряд важливих технологічних обмежень. Розроблено наближений метоеврістічний метод вирішення розкрійної завдання, що використовує апарат еволюційних обчислень [10].

2) Стаття д.т.н., проф. Ю.О. Скобцова - Еволюційні обчислення в технічних завданнях. Представлено новий напрямок в теорії штучного інтелекту - еволюційні обчислення, що включають генетичні алгоритми, генетичне програмування, еволюційні стратегії і еволюційне програмування. Розглядається застосування цього нового апарату на прикладі задач автоматизації проектування і обробки зображення [11].

3) Стаття Ю.О. Скобцова, В.Ю. Скобцова, К.М. Нассер Іяда - Перевіряючі тести перехресних несправностей на основі еволюційних методів. Розглядається проблема побудови перевіряючих тестів для "перехресних несправностей" типу перехресних, характерних для глибокого субмікронного проектування елементної бази сучасних комп'ютерних систем. При вирішенні поставленого завдання використовується багатозначне логічне моделювання і генетичний алгоритм генерації перевіряючих тестів для цих несправностей [12].

2. Розробка методу поліпшення якості медичних зображень

2.1 Поліпшення якості медичних зображень

Основна ідея полягає в зміні яскравості пікселів вихідного зображення для підвищення його контрастності. При цьому зображення обробляється попіксельно. Припустимо, що існує деяка функція, яка виконує перетворення кожного пікселя зображення таким чином, що оброблене зображення оптимально з точки зору деякого критерію. Будемо вважати, що зміна яскравості пікселя проводиться на основі інформації про статистичні характеристики розподілах яскравості в деякій околиці радіуса R даного пікселя, а також з використанням інформації про величину середньої яскравості вихідного зображення. Таким чином зміна яскравості пікселя можна представити в загальному вигляді наступним перетворенням:

Figure1

де Т - деяка функція, яка виконує перетворення кожного пікселя; Lavg - середня яскравість вихідного зображення; L (х, у), L * (х, у) - поточне і нове значення яскравості пікселя; RL (х, у)) описується наступним виразом:

Figure2

де RL (х, у) - операція згортки; Р (х, у, с) - функція фільтра; с- стандартне відхилення фільтра.

У даній роботі використовується гауссовский фільтр.

Якщо обробляється кольорове зображення, то попередньо обчислюються значення яскравості пікселів, а потім проводиться обробка отриманого монохромного зображення. Відновлення інформації про колір здійснюється наступним чином:

Figure3_4_5

де трійки (R * (х, у), G * (х, у), В (х, у)) і (R (X, Y), G (х, у), В (х, у)) представляють відповідно вектора оброблених і вихідних колірних компонент пікселя (х, у).

Для оцінки якості зображення будемо використовувати наступні фактори, запропоновані в [1]:

1. Кількість пікселів на кордонах між областями з різними значеннями яскравості. Чим більше пікселів буде на кордонах областей різної яскравості, тим більш контрастним буде оброблене зображення.

2. Кількість рівнів градації яскравості. Використовується щоб уникнути можливого «виродження» зображення в бінарне.

Таким чином якість обробленого зображення характеризується величиною, що обчислюється за такою формулою [1]:

Figure6_7

де а і b - відповідно ширина і висота зображення в пікселях, μ- число пікселів на кордонах між областями з різними значеннями яскравості, li - частка пікселів обробленого зображення з я-м рівнем яскравості. Перший доданок у формулі (6) необхідно для максимізації кількості «граничних» пікселів, а друге - для підвищення кількості рівнів градацій яскравості.

2.2 Застосування нейронної мережі для поліпшення якості медичних зображень

Задачу нейросетевого поліпшення якості зображень будемо формулювати як завдання апроксимації деякої невідомої функції Т з описаного вище алгоритму. НС, апроксимуюча перетворення (1), повинна має 3 входи (у разі кольорового зображення) і один вихід. Оцінка оброблених зображень здійснюється з урахуванням числа пікселів на кордонах між областями з різними значеннями яскравості і кількості рівнів градації яскравості, присутніх на зображенні (6).

2.3 Еволюційний підхід до побудови та навчання НС

Узагальнений алгоритм ГА [2]:

1. Установка параметрів ГА (ймовірність кросинговеру, мутації);

2. Генерація початкової популяції. Популяція представляє собою набір хромосом. Кожна хромосома відповідає певній навченої НС;

3. Оцінюються значення фітнес-функції особин в популяції;

4. Застосування генетичних операторів;

5. Перевірка критерію зупину. При його виконанні перехід на крок 6, інакше крок 3;

6. Вибір кращого рішення в останній популяції.

У розробленому алгоритмі для побудови і навчання НС за допомогою ГА, як особини розглядається нейронна мережа. Фрагмент кодування особини представлений на малюнку 2.

Рисунок2

Малюнок 2 – Представлення особини ГА

Тобто в якості особини використовується тривимірний масив, що містить інформацію про будову нейронної мережі та її вагових коефіцієнтах.

Для оцінки особини використовується стандартна функція оцінки помилки навчання НС[3].

Генетичні оператори: відбір, кросинговер, мутація.

Відбір виконується стандартною рулеткою. Процес схрещування представлений на малюнку 3.

Рисунок3

Малюнок 3 – Приклад процесу схрещування

В результаті схрещування виходить два нащадка, які успадковують загальні нейрони і зв'язку батьків з перерозподілом вагового коефіцієнта, тобто ваги батьківських особин рекомбинируют з використанням 2-точкового кросинговеру. Різні нейрони і зв'язки розриваються між нащадками випадковим чином. Пунктирною лінією на малюнку 3 представлені розриваються зв'язку, цілою лінією - зберігаються

Оператор мутації. Випадковим чином вибирається тип: 1 - видаляється випадково обраний нейрон, 2 - додається випадковий нейрон, 3 - змінюється ваговий коефіцієнт існуючого нейрона, 4 - змінюється зв'язок випадкового нейрона, 5 - будь-яка комбінація з попередніх чотирьох.

В якості критерію зупину використовується прийнятна помилка навчання НС.

Висновки

Розроблено метод поліпшення якості медичних монохромних і кольорових зображень. Відзначимо, робота в даному напрямку тільки розпочато, зараз виконується його програмна реалізація. Надалі планується провести:

1. Дослідження нейросетевой обробки зображень по кожному колірному каналу окремо;

2. Обробку зображень з шумами і спотвореннями;

3. Дослідження залежності результатів роботи одержуваних нейромережевих рішень від вибору параметрів ГА.

Список використаної літератури

1. Чернявский А.В., Цой Ю.Р., Спицын В.Г. Нейроэволюционное улучшение качества изображений // Современная техника и технологии: Труды XII Междунар. научнопракт. конф. молодых ученых. – Томск, 2006. – Т. 2. – С. 213–215.

2. Скобцов Ю.А. Основы эволюционных вычислений // Учебное пособие. – Донецк:ДонНТУ – 2008 – 326с.

3. Саймон Хайкин. Нейронные сети: полный курс, 2-е издание.: Пер. с англ. – М. : Издательский дом «Вильямс», 2006. – 1104 с.

4. Erick Cantu´-Paz, Chandrika Kamath. Evolving Neural Networks for the Classification of Galaxies // Интернет ресурс – режим доступа: https://computation.llnl.gov/casc/sapphire/pubs/147020.pdf.

5. Akbar Ghobakhlou, David Zhang, and Nikola Kasabov. An Evolving Neural Network Model for Person Verification Combining Speech and Image // Интернет ресурс – режим доступа: http://www.geo-informatics.org/publications/ghozhakasiconip04.pdf.

6. Derek James, Philip Tucker. Evolving a Neural Network Active Vision System for Shape Discrimination // Интернет ресурс – режим доступа: http://anji.sourceforge.net/docs/james_gecco05.pdf.

7. Е.В. Мантула. Прогнозирующая нейронная сеть с переменной структурой для контроля показателей загрязнения окружающей среды// БИОНИКА ИНТЕЛЛЕКТА. – 2013. – № 1(80). – С. 112-116.

8. Тищенко О. К., Плісс І. П., Копаліані Д. С. Гібридна каскадна оптимізована нейронна мережа// Радіоелектроніка, інформатика, управління. – 2014. – № 1. – С. 129-134.

9. Б.Б. Нестеренко, М.А. Новотарский. Имитационное моделирование клеточных нейронных сетей // Искусственный интеллект. – 2005. – № 3. – С. 296-307.

10. В.Н. Балабанов. Эволюционный метод рационального планирования раскроев рулонной стали в производстве электросварных труб // Сборник научных трудов. Тематический выпуск «Информатика и моделирование». – 2010 – № 15. – С. 4 -9.

11. Ю.А. Скобцов. Эволюционные вычисления в технических задачах// Пленарні доклади. Інформаційні управляючі системи та технології та комп'ютерний моніторінг (ІУС та КСМ 2010). – 2010. – С.30-34.

12. Ю.А. Скобцов, В.Ю. Скобцов, К.М. Нассер Ияд. Проверяющие тесты crosstalk неисправностей на основе эволюционных методов. // Вестник «Информатика и моделирование» – 2010. – С. 170-176.