photo

ФИО: Мартыненко Анна Игоревна

Факультет: Компьютерных наук и технологий

Кафедра: Автоматизированных систем управления

Специальность: Специализированные компьютерные системы

Тема: Разработка архитектуры нейронной сети и ее обучение с помощью эволюционного подхода для улучшения качества медицинских изображений

Руководитель: доц. каф. АСУ Васяева Т.А.

Реферат по теме магистерской работы

Содержание

Введение

1. Обзор исследований и разработок

1.1 Обзор международных источников

1.2 Обзор национальных источников

1.3 Обзор локальных источников

2. Разработка метода улучшения качества медицинских изображений

2.1 Улучшение качества медицинских изображений

2.2 Применение нейронной сети для улучшения качества медицинских изображений

2.3 Эволюционный подход к построению и обучению НС

Выводы

Список используемой литературы

Введение

В последнее время одним из актуальных направлений развития компьютерных технологий в медицине становится обработка цифровых изображений: улучшение качества изображения, восстановление поврежденных изображений, распознавание отдельных элементов.

В связи со сложностью анализа информативности изображения и в силу субъективности человеческого восприятия отсутствует объективный общепринятый критерий качества изображения. Яркостная компонента играет не последнюю роль в восприятии изображения, основываясь на этом качество изображения можно улучшить за счет изменения яркости пикселей.

Актуальным методом решения поставленной задачи являются искусственные нейронные сети (НС), так как обладают хорошими адаптивными свойствами, а также способностью к обучению для выполнения требуемых функций. НС – представляют собой сеть элементов – искусственных нейронов – связанных между собой синаптическими соединениями. Сеть обрабатывает входную информацию и в процессе изменения своего состояния во времени формирует совокупность выходных сигналов. Работа сети состоит в преобразовании входных сигналов во времени, в результате чего меняется внутреннее состояние сети и формируются выходные воздействия. Однако, успех НС во многом зависит от архитектуры алгоритма обучения и выбора свойств, используемых в процессе обучения. К сожалению, определение архитектуры нейронной сети – это процесс проб и ошибок, алгоритмы обучения должны быть тщательно настроены под данные. Для оптимального подбора архитектуры сети и алгоритма ее обучения будет использован эволюционный подход, который позволяет в минимальные сроки получить субоптимальный результат.

Рисунок1

Рисунок 1 – Схема нейрона (анимация: количество кадров – 10 шт., размер – 109 килобайт)

В данной работе предлагается использование генетического алгоритма (ГА) для настройки и обучения НС при решении задачи улучшения качества медицинских изображений. Нейронная сеть настраивается при помощи генетического алгоритма в соответствии с уровнем контраста.

1. Обзор исследований и разработок

1.1 Обзор международных источников

Анализ публикаций научных разработок зарубежных коллег на похожую тематику показал, что основные разработки так же связаны с применением генетического алгоритма для построения архитектуры нейронной сети и ее обучения. Примерами таких статей являются:

1) Статья Эрика Канту-Паза и Чандрика Камаза – Эволюционирующие нейронные сети для классификации галактик. Целью статьи является показать, что ГА может успешно решать некоторые общие проблемы в применении к НС таких как обучение сети, выбор соответствующей сетевой топологии и выбор соответствующих свойств [4].

2) Статья Николая Казабова – Модель эволюционирующей нейронной сети для верификации личности на основе сочетаний речи и изображений. В статье так же описывается применение ГА для построения НС. Эта статья вводит метод, основанный на Эволюции Связной Системы (ECOS) для задач верификации личности. Метод позволяет развитие моделей лиц и их постоянной корректировки на основе новых речевых и лицевых изображений. Некоторые экспериментальные модели верификации человека, основанные на речевых и лицевых особенностях разработаны на основе этого метода, где речевая информация и информации по изображению лица интегрирована на уровне художественного моделирования каждого человека. Показано, что интеграция речевых и графических функций значительно улучшает точность человеческой верификационной модели, когда идет сравнение с использованием только данных изображения лица или речи [5].

3) Статья Дерека Джеймса и Филипа Тукера – Эволюционирующая нейронная сеть Активная Система Видения для различения формы. В статье представлена эволюционирующая нейронная сеть, основанная на активной системе видения, которая в состоянии перемещать 2D поверхность в любом направлении, наряду со способностью изменять масштаб изображения и вращать его. Продемонстрировано, что система с такими особенностями может правильно классифицировать формы, представленные ей, несмотря на различие в местоположении, масштабе и вращении [6].

1.2 Обзор национальных источников

Примерами работ в Украине являются:

1) Статья Е.В. Мантулы – Прогнозирующая нейронная сеть с переменной структурой для контроля показателей загрязнения окружающей среды. В статье проведен анализ возможности использования в задачах экологического мониторинга для прогнозирования нестационарных временных рядов полиномиальных нейронных сетей, характеризующихся высокой скоростью обучения, и МГУА-сетей (Метод Группового Учета Аргументов), которые имеют переменную структуру с возможностью изменения во время обучения. Предложена нейронная сеть, которая объединяет преимущества многослойного персептрона и МГУА-сети для обучения на основе малой выборки и численного упрощения процесса обучения сети [7].

2) Статья О.К. Тищенко, И.П. Плиса, Д.С. Коапалина – Гибридная каскадная оптимизированная нейронная сеть. Предложена новая архитектура и алгоритмы обучения для гибридной каскадной нейронной сети с оптимизацией пула нейронов в каждом каскаде. Предложенная гибридная каскадная нейронная сеть обеспечивает вычислительную простоту и характеризуется как отслеживающими, так и фильтрующими свойствами [8].

3) Статья Б.Б. Нестеренко, М.А. Новотарского – Имитационное моделирование клеточных нейронных сетей. В работе дан краткий обзор классических принципов организации и функционирования дискретных клеточных нейронных сетей. Рассмотрена постановка задачи решения операторного уравнения локально-асинхронным методом, ориентированным на реализацию в гомогенных вычислительных структурах. Описан подход к созданию имитационных моделей для клеточных нейронных сетей с различными видами межнейронного взаимодействия. Предложены имитационные алгоритмы синхронного, асинхронного и агрегативного взаимодействия в имитационных моделях клеточных нейронных сетей [9].

1.3 Обзор локальных источников

Примеры работ студентов и сотрудников ДонНТУ:

1) Статья В.Н. Балабанова – Эволюционный метод рационального планирования раскроев рулонной стали в производстве электросварных труб. В статье рассматривается задача рационального раскроя рулонов, возникающая в производстве электросварных труб. Предлагается многокритериальная модель, которая кроме потерь рулонного материала в отход позволяет учитывать производственные потери и ряд важных технологических ограничений. Разработан приближенный метаэвристический метод решения раскройной задачи, использующий аппарат эволюционных вычислений [10].

2) Статья д.т.н., проф. Ю.А. Скобцова – Эволюционные вычисления в технических задачах. Представлено новое направление в теории искусственного интеллекта - эволюционные вычисления, включающие генетические алгоритмы, генетическое программирование, эволюционные стратегии и эволюционное программирование. Рассматривается применение этого нового аппарата на примере задач автоматизации проектирования и обработки изображения [11].

3) Статья Ю.А. Скобцова, В.Ю. Скобцова, К.М. Нассер Ияда – Проверяющие тесты crosstalk неисправностей на основе эволюционных методов. Рассматривается проблема построения проверяющих тестов для "перекрестных неисправностей" типа Crosstalk, характерных для глубокого субмикронного проектирования элементной базы современных компьютерных систем. При решении поставленной задачи используется многозначное логическое моделирование и генетический алгоритм генерации проверяющих тестов для этих неисправностей [12].

2. Разработка метода улучшения качества медицинских изображений

2.1 Улучшение качества медицинских изображений

Основная идея заключается в изменении яркости пикселей исходного изображения для повышения его контрастности. При этом изображение обрабатывается попиксельно. Предположим, что существует некоторая функция, которая выполняет преобразование каждого пикселя изображения таким образом, что обработанное изображение оптимально с точки зрения некоторого критерия. Будем считать, что изменение яркости пикселя производится на основе информации о статистических характеристиках распределениях яркости в некоторой окрестности радиуса R данного пикселя, а также с использованием информации о величине средней яркости исходного изображения. Таким образом изменение яркости пикселя можно представить в общем виде следующим преобразованием:

Figure1

где T – некоторая функция, которая выполняет преобразование каждого пикселя; Lavg – средняя яркость исходного изображения; L(x,y), L*(x,y) – текущее и новое значение яркости пикселя; RL(x,y)) описывается следующим выражением:

Figure2

где RL(x,y) – операция свертки; F(x,y,c) – функция фильтра; c – стандартное отклонение фильтра.

В данной работе используется гауссовский фильтр.

Если обрабатывается цветное изображение, то предварительно вычисляются значения яркости пикселей, а затем проводится обработка полученного монохромного изображения. Восстановление информации о цвете осуществляется следующим образом:

Figure3_4_5

где тройки (R*(x,y), G*(x,y), B*(x,y)) и (R(x,y), G(x,y), B(x,y)) представляют соответственно вектора обработанных и исходных цветовых компонент пикселя (x,y).

Для оценки качества изображения будем использовать следующие факторы, предложенные в [1]:

1. Количество пикселей на границах между областями с различными значениями яркости. Чем больше пикселей будет на границах областей различной яркости, тем более контрастным будет обработанное изображение.

2. Количество уровней градации яркости. Используется чтобы избежать возможного «вырождения» изображения в бинарное.

Таким образом качество обработанного изображения характеризуется величиной, вычисляемой по следующей формуле [1]:

Figure6_7

где a и b – соответственно ширина и высота изображения в пикселях, µ– число пикселей на границах между областями с различными значениями яркости, li – доля пикселей обработанного изображения с i-м уровнем яркости. Первое слагаемое в формуле (6) необходимо для максимизации количества «граничных» пикселей, а второе – для повышения количества уровней градаций яркости.

2.2 Применение НС для улучшения качества медицинских изображений

Задачу нейросетевого улучшения качества изображений будем формулировать как задачу аппроксимации некоторой неизвестной функции T из описанного выше алгоритма. НС, аппроксимирующая преобразование (1), должна имеет 3 входа (в случае цветного изображения) и один выход. Оценка обработанных изображений производится с учетом числа пикселей на границах между областями с различными значениями яркости и количества уровней градации яркости, присутствующих на изображении (6).

2.3 Эволюционный подход к построению и обучению НС

Обобщенный алгоритм ГА [2]:

1. Установка параметров ГА (вероятность кроссинговера, мутации);

2. Генерация начальной популяции. Популяция представляет собой набор хромосом. Каждая хромосома соответствует определенной обученной НС;

3. Оцениваются значения фитнесс-функции особей в популяции;

4. Применение генетических операторов;

5. Проверка критерия останова. При его выполнении переход на шаг 6, иначе шаг 3;

6. Выбор лучшего решения в последней популяции.

В разработанном алгоритме для построения и обучения НС с помощью ГА, в качестве особи рассматривается нейронная сеть. Фрагмент кодирования особи представлен на рисунке 2.

Рисунок2

Рисунок 2 – Представление особи ГА

Т.е. в качестве особи используется трехмерный массив, содержащий информацию о строении нейронной сети и ее весовых коэффициентах.

Для оценки особи используется стандартная функция оценки ошибки обучения НС [3].

Генетические операторы: отбор, кроссинговер, мутация.

Отбор выполняется стандартной рулеткой. Процесс скрещивания представлен на рисунке 3.

Рисунок3

Рисунок 3 – Пример процесса скрещивания

В результате скрещивания получается два потомка, которые наследуют общие нейроны и связи родителей с перераспределением весового коэффициента, т.е. веса родительских особей рекомбинируют с использованием 2-точечного кроссинговера. Различные нейроны и связи разрываются между потомками случайным образом. Пунктирной линией на рисунке 3 представлены разрывающиеся связи, целой линией – сохраняющиеся.

Оператор мутации. Случайным образом выбирается тип: 1 – удаляется случайно выбранный нейрон, 2 – добавляется случайный нейрон, 3 – изменяется весовой коэффициент существующего нейрона, 4 – изменяется связь случайного нейрона, 5 – любая комбинация из предыдущих четырех.

В качестве критерия останова используется приемлемая ошибка обучения НС.

Выводы

Разработан метод улучшения качества медицинских монохромных и цветных изображений. Отметим, работа в данном направлении только начата, сейчас выполняется его программная реализация. В дальнейшем планируется провести:

1. Исследование нейросетевой обработки изображений по каждому цветовому каналу в отдельности;

2. Обработку изображений с шумами и искажениями;

3. Исследование зависимости результатов работы получаемых нейросетевых решений от выбора параметров ГА.

Список используемой литературы

1. Чернявский А.В., Цой Ю.Р., Спицын В.Г. Нейроэволюционное улучшение качества изображений // Современная техника и технологии: Труды XII Междунар. научнопракт. конф. молодых ученых. – Томск, 2006. – Т. 2. – С. 213–215.

2. Скобцов Ю.А. Основы эволюционных вычислений // Учебное пособие. – Донецк:ДонНТУ – 2008 – 326с.

3. Саймон Хайкин. Нейронные сети: полный курс, 2-е издание.: Пер. с англ. – М. : Издательский дом «Вильямс», 2006. – 1104 с.

4. Erick Cantu´-Paz, Chandrika Kamath. Evolving Neural Networks for the Classification of Galaxies // Интернет ресурс – режим доступа: https://computation.llnl.gov/casc/sapphire/pubs/147020.pdf.

5. Akbar Ghobakhlou, David Zhang, and Nikola Kasabov. An Evolving Neural Network Model for Person Verification Combining Speech and Image // Интернет ресурс – режим доступа: http://www.geo-informatics.org/publications/ghozhakasiconip04.pdf.

6. Derek James, Philip Tucker. Evolving a Neural Network Active Vision System for Shape Discrimination // Интернет ресурс – режим доступа: http://anji.sourceforge.net/docs/james_gecco05.pdf.

7. Е.В. Мантула. Прогнозирующая нейронная сеть с переменной структурой для контроля показателей загрязнения окружающей среды// БИОНИКА ИНТЕЛЛЕКТА. – 2013. – № 1(80). – С. 112-116.

8. Тищенко О. К., Плісс І. П., Копаліані Д. С. Гібридна каскадна оптимізована нейронна мережа// Радіоелектроніка, інформатика, управління. – 2014. – № 1. – С. 129-134.

9. Б.Б. Нестеренко, М.А. Новотарский. Имитационное моделирование клеточных нейронных сетей // Искусственный интеллект. – 2005. – № 3. – С. 296-307.

10. В.Н. Балабанов. Эволюционный метод рационального планирования раскроев рулонной стали в производстве электросварных труб // Сборник научных трудов. Тематический выпуск «Информатика и моделирование». – 2010 – № 15. – С. 4 -9.

11. Ю.А. Скобцов. Эволюционные вычисления в технических задачах// Пленарні доклади. Інформаційні управляючі системи та технології та комп'ютерний моніторінг (ІУС та КСМ 2010). – 2010. – С.30-34.

12. Ю.А. Скобцов, В.Ю. Скобцов, К.М. Нассер Ияд. Проверяющие тесты crosstalk неисправностей на основе эволюционных методов. // Вестник «Информатика и моделирование» – 2010. – С. 170-176.