Русский
ДонНТУ   Портал магістрів

Реферат за темою випускної роботи

При написанні даного реферату магістерська робота ще не завершена. Остаточне завершення: травень 2020 року. Повний текст роботи та матеріали по темі можуть бути отримані у автора або його керівника після зазначеної дати.

Зміст

Вступ

Нейронні мережі - це один з напрямків досліджень в області штучного інтелекту, спрямоване на відтворення нервової системи людини. А саме: здатність нервової системи навчатися і виправляти помилки.

Нейронні мережі (штучна нейронна мережа) - це система сполучених і взаємодіючих між собою п зростання процесорів. Такі процесори зазвичай досить прості. Кожен процесор подібної мережі має справу тільки з сигналами, які він періодично отримує, і сигналами, які він періодично посилає іншим процесорам. І, тим не менше, будучи з'єднаними в досить велику мережу з керованим взаємодією, ці процесори разом здатні виконувати досить складні завдання.

1. Актуальність теми

Перевага штучних нейронних мереж великого розміру над класичними кодами з виявленням і виправленням помилок обумовлено тим, що вони в момент навчання здатні враховувати реальні розподілу багатовимірних ймовірностей біометричних даних, тоді як всі класичні коди з виявленням і виправленням помилок будувалися в гіпотезі равновероятного розподілу помилок.

2. Види штучних нейронних мереж

Нейросеть складається з двох основних шарів - приймає (він же і розподільний) сигнали і обробного. Однак, якщо нейронна мережа складається тільки з цих двох шарів - то вона одношарова, якщо шарів більше, то багатошарова [1].

Одношарова ІНС (рис.1) - вхідні сигнали відразу передаються з вхідного шару на вихідний, який обробляє їх і видає готовий результат. На зображенні розподіляє шар зображений кружечками, а обробляє - квадратиками.

Рисунок 1 — Однослойная нейронная сеть

Багатошарова ІНС (рис.2) - мережа, яка складається з вхідного, прихованого і обробного шарів. Сигнал з розподіляє шару частково обробляється прихованим шаром, після чого передається на останній шар нейронів, що обчислює кінцевий результат.

Рисунок 2 — Многослойная нейронная сеть

Приховані шари ІНС вчені навчилися навчати зовсім недавно і це великий крок вперед, оскільки багатошарові нейромережі істотно перевершують по продуктивності і можливостям одношарові.

Мережі працюють в двох напрямках - пряме розподіл і зворотне. ІНС прямого розподілу дають можливість вирішувати з успіхом більшість завдань: прогнозування, кластеризація і розпізнавання. У таких нейросетях сигнал передається тільки вперед, назад він повертатися не має можливості.

У подібних мережах частина сигналу від нейронів може бути повернута назад і такий принцип роботи істотно розширює можливості нейромереж. Такі ІНС можуть володіти короткочасною пам'яттю як у людини. (Рис.3)

Рисунок 3 — Обратные связи ИНС

3. Способи навчання нейронних мереж

3.1 Навчання з вчителем

Навчання з учителем (supervised learning) передбачає наявність повного набору розмічених даних для тренування моделі на всіх етапах її побудови.

Наявність повністю розмічені датасета означає, що кожному наприклад в навчальному наборі відповідає відповідь, який алгоритм і повинен отримати. Таким чином, розмічений датасета з фотографій квітів навчить нейронну мережу, де зображені троянди, ромашки або нарциси. Коли мережу отримає нове фото, вона порівняє його з прикладами з навчальної датасета, щоб передбачити відповідь [2].

В основному навчання з учителем застосовується для вирішення двох типів задач: класифікації і регресії.

У задачах класифікації алгоритм пророкує дискретні значення, що відповідають номерам класів, до яких належать об'єкти. У навчальному датасета з фотографіями квітів кожне зображення буде мати відповідну мітку - «ромашка», «троянда» або «жовтець». Якість алгоритму оцінюється тим, наскільки точно він може правильно класифікувати нові фото з ромашками і черпахамі.

Завдання регресії пов'язані з безперервними даними. Один із прикладів, лінійна регресія, обчислює очікуване значення змінної y, враховуючи конкретні значення x.

3.2 Навчання з частковим залученням вчителя [3].

Навчання з частковим залученням вчителя (semi-supervised learning) характеризується своєю назвою: навчальний датасета містить як розмічені, так і розділеного дані. Цей метод особливо корисний, коли важко отримати з даних важливі ознаки або розмітити всі об'єкти - трудомістке завдання.

Цей метод машинного навчання поширений для аналізу медичних зображень, таких як скани комп'ютерної томографії або МРТ. Досвідчений рентгенолог може розмітити невелике підмножина сканів, на яких виявлені пухлини і захворювання. Але вручну розмічати всі скани - занадто трудомістка і дорога задача. Проте нейронна мережа може отримати інформацію з невеликої частки розмічених даних і поліпшити точність прогнозів в порівнянні з моделлю, яка навчається виключно на нерозмічену даних.

Популярний метод навчання, для якого потрібно невеликий набір розмічених даних, полягає в використанні генеративно-змагальної мережі або GAN.

Уявіть собі змагання двох нейронних мереж, де кожна намагається перехитрити іншу. Це GAN. Одна з мереж, генератор, намагається створити нові об'єкти даних, які імітують навчальну вибірку. Інша мережа, дискримінатор, оцінює, чи є ці згенеровані дані реальними або підробленими. Мережі взаємодіють і циклічно удосконалюються, оскільки діскрімінатор намагається краще відокремлювати підробки від оригіналів, а генератор намагається створювати переконливі підробки.

3.3 Навчання з підкріпленням

Навчання з підкріпленням (reinforcement learning) діє за принципом гри, при досягненні конкретної мети отримує нагороду. Відеоігри - популярна тестова середовище для досліджень.

Агенти ІІ намагаються знайти оптимальний спосіб досягнення мети або поліпшення продуктивності для конкретного середовища. Коли агент робить дії, що сприяють досягненню мети, він отримує нагороду. Глобальна мета - передбачати такі кроки, щоб заробити максимальну нагороду в кінцевому підсумку.

При прийнятті рішення агент вивчає зворотний зв'язок, нові тактики і рішення здатні привести до більшого виграшу. Цей підхід використовує довгострокову стратегію - так само як в шахах: наступний найкращий хід може не допомогти виграти в кінцевому рахунку. Тому агент намагається максимізувати сумарну нагороду.

Чим більше рівнів з зворотного зв'язку, тим краще стає стратегія агента. Такий підхід особливо корисний для навчання роботів, які керують автономними транспортними засобами або інвентарем на складі.

3.4 Навчання без вчителя

Ідеально розмічені і чисті дані дістати нелегко. Тому іноді перед алгоритмом стоїть завдання знайти заздалегідь не відомі відповіді. Ось де потрібно навчання без учителя.

У навчанні без учителя (unsupervised learning) у моделі є набір даних, і немає явних вказівок, що з ним робити. Нейронна мережа намагається самостійно знайти корелляции в даних, витягуючи корисні ознаки і аналізуючи їх.

Залежно від завдання модель систематизує дані по-різному

  1. Кластеризація. Найбільш поширена завдання для навчання без учителя. Алгоритм підбирає схожі дані, знаходячи спільні ознаки, і групують їх разом;
  2. Асоціації. Нкоторие характеристики об'єкта корелюють з іншими ознаками. Розглядаючи пару ключових ознак об'єкта, модель може передбачити інші, з якими існує зв'язок;
  3. Автоенкодери приймають вхідні дані, кодують їх, а потім намагаються відтворити початкові дані з отриманого коду. Не так багато реальних ситуацій, коли використовують простий автоенкодер. Але варто додати шари і можливості розширяться: використовуючи зашумлені і вихідні версії зображень для навчання, автоенкодери можуть видаляти шум з відеоданих, зображень або медичних сканів, щоб підвищити якість даних ..

У навчанні без учителя складно обчислити точність алгоритму, тому що в цих відсутні «правильні відповіді» або мітки. Але розмічені дані часто ненадійні або їх занадто дорого отримати. У таких випадках, надаючи моделі свободу дій для пошуку залежностей, можна отримати хороші результати.

Висновки

У статті розглянуті способи навчання нейронних мереж. Кожен вид навчання має свої унікальні особливості, які потрібно враховувати при виборі методу навчання нейронної мережі для вирішення поставленого завдання.

Було виконано аналіз існуючих видів штучних нейронних мереж. А так же приведена структура їх реалізації.

Список джерел

  1. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. 1992 г. 236 стр.
  2. Ежов А. А, Шумский С. А. Нейрокомпьютинг и его применение в экономике и бизнесе. М.: МИФИ, 1998. 224 с..
  3. Laurene Fausett, Laurene V. Fausett. Fundamentals of Neural Networks: Architectures, Algorithms, and Applications Prentice-Hall, 1994. 461 с..
  4. Степанов П. П. Искусственные нейронные сети // Молодой ученый. — 2017. — №4. — С. 185-18
  5. Тадеусевич Р., Боровик Б. Элементарное введение в технологию нейронных сетей с примерами программ. Горячая Линия - Телеком 2111 г. 408с.
  6. Funahashi K. On the Approximate Realization of Continuous Mappings by Neural Networks. Neural Networks, 1989, v. 2, № 3, pp.183-191.
  7. Саттон Р., Барто Э., Обучение с подкреплением. Бином. Лаборатория знаний 2017 г. 400 c.