ДонНТУ   Портал магістрів

Реферат за темою випускної роботи

Зміст

Вступ

Одна з основних тенденцій розвитку ринку телекомунікацій — зростання попиту користувачів на мультимедійні послуги. У зв’язку з цим набуває популярності концепція Triple Play, згідно з якою на базі трьох сервісів (передача аудіо, відео, даних) комбінуються різноманітні мультимедійні послуги: телефонія (VoIP), високошвидкісний доступ до Інтернету, трансляція телебачення (IPTV), відеоконференції, онлайн ігри, відео за запитом (VoD), Cloud Computing тощо, які надаються абонентові через єдину інфраструктуру мультисервісної конвергентної мережі. Активне впровадження мультимедійних послуг у мережі оператора спричиняє собою значне навантаження на канали зв’язку та обладнання, що призводить до погіршення характеристик якості обслуговування абонентів.

1 Актуальність теми

Магістерська праця присвячена актуальній задачі розробки системи балансування навантаження, що дозволить підвисити параметри якості обслуговування і ефективність використання обладнання і ресурсів телекомунікаційної мережі. Один із шляхів реалізації такої системи — розподіл навантаження на елементи телекомунікаційної мережі з використанням системи прогностичного керування, яка здійснює керуючий вплив на основі інформації о попередній завантаженості мережі.

Трафік у сучасних телекомунікаційних мережах являє собою складний стохастичний процес, який проявляє ознаки самоподібності [1]. Самоподібні процеси характеризуються довгостроковими залежностями, тому на основі цих залежностей можна будувати прогнозні моделі, які можуть використовуватися для керування трафіком у телекомунікаційній мережі. Для побудови прогнозних моделей використовують різні математичні методи, одним з яких є використання нейронної мережі прямого поширення. Перевагами цього метода є здатність виявляти приховані залежності у процесі, що за певних умов дозволяє будувати дуже точні моделі процесу. До недоліків метода можна віднести відсутність стандартизованого метода визначення оптимальних параметрів та довгий процес навчання.

Нейронні мережі можуть ефективно вирішувати як задачі класифікації, так і задачі регресивного аналізу. На даному етапі нейронні мережі активно застосовуються у економетриці для прогнозування курсів цінних паперів і загального стану ринку — таким чином існують передумови для використання нейронних мереж у прогнозуванні часових рядів — зокрема для прогнозування трафіка у телекомунікаційних мережах.

2 Мета і задачі дослідження, заплановані результати

Метою роботи є покращення параметрів якості обслуговування абонентів і ефективності використання обладнання телекомунікаційної мережі шляхом використання системи балансування навантаження на елементи телекомунікаційної мережі.

На даному етапі виконання магістерської роботи досліджується ефективність використання нейронної мережі для побудови системи балансування навантаження в конвергентній телекомунікаційній мережі.

Для цього необхідно вирішити наступні задачі:

  1. Розглянути математичний апарат, який використовується у нейронних мережах прямого поширення.
  2. Оцінити ефективність прогнозування трафіка нейронною мережею.
  3. Порівняти отримані результати з результатами прогнозування трафіка на основі стандартної авторегресивної моделі.
  4. Порівняти ефективність прогнозування для різних типів трафіка

В результаті роботи планується отримати наукові результати за наступними напрямками:

  1. Розробка алгоритму прогнозування, що дозволяє ефективно здійснювати прогноз трафіка різного рівня самоподібності в телекомунікаційній мережі.
  2. Розробка системи балансування навантаження, що використовує методи динамічного розподілу пропускної здатності каналів мережі на основі спрогнозованого навантаження.

3 Огляд досліджень та розробок

Основною передумовою використання системи прогностичного керування в телекомунікаційній мережі є самоподібність трафіка мережах з комутацією пакетів. Перша робота, присвячена дослідженню властивості самоподібності трафіка в телекомунікаційних мережах, була опублікована американськими дослідниками В. Леландом, М. Таку, В. Виллінджером та Д. Вілсоном у 1993 році [1]. В даній роботі був проведений аналіз внутрішньо‐мережного трафіка корпорації Bellcore і показана неможливість його опису за допомогою класичних моделей теорії телетрафіка. Також було показано, що самоподібний трафік має високу пачечність, а агрегування декількох самоподібних потоків не зменшує пачечність, а підвищує її.

Наступним слід відмітити дослідження, проведене Петровим В.В. у дисертації на здобуття вченого ступеня кандидата технічних наук «Структура телетрафіка і алгоритм забезпечення якості обслуговування при впливі ефекту самоподібності» [2]. В цій роботі розглянута структура і властивості самоподібного трафіка в телекомунікаційній мережі, метод забезпечення якості обслуговування в умовах самоподібного телетрафіка.

Питання прогнозування трафіка і процесів керування в телекомунікаційних мережах є актуальними в умовах сучасного стрімкого розвитку технологій. Їм присвячені кваліфікаційні роботи магістрів Донецького національного технічного університету Лозинської В.М., Тищенко О.В., Шепеленко С.Г., Шахова Д.С., Орехова А.О.

4 Розробка алгоритму прогнозування трафіка телекомунікаційної мережі

4.1 Математичний апарат нейронних мереж прямого поширення

Розглянемо мережу прямого поширення з одним прихованим прошарком (рисунок 1). Згідно теореми Цибенко, штучна нейронна мережа прямого поширення з одним прихованим шаром, функція активації якого є сигмоїдальною, може апроксимувати будь‐яку неперервну функцію багатьох змінних з будь‐якою точністю [3]. Умовами є достатня кількість нейронів прихованого шару, вдалий підбір параметрів нейронної мережі.

Структура нейронної мережі

Рисунок 1 – Структура нейронної мережі

У роботі дослідження проводилося за допомогою нейронної мережі з функцією активації у прихованого прошарку раціональна сигмоїда (рисунок 2):

Раціональна сигмоїда
Графік функції раціональна сигмоїда

Рисунок 2 – Графік функції раціональна сигмоїда

Причиною введення нелінійності є математично доведена можливість отримати як завгодно точне наближення будь‐якої неперервної функції багатьох змінних, використовуючи операції додавання та множення на число, суперпозицію функцій, лінійні функції, а також одну довільну неперервну нелінійну функцію однієї змінної [4]. Раціональна сигмоїда є найбільш ефективною з сигмоїдальних функцій активації, тому що для її розрахунку необхідно виконання лише трьох математичних операцій.

Нейронна мережа працює згідно з алгоритмом прямого поширення [5]. Значення часового ряду xvec подаються на вхідний прошарок нейронної мережі. До кожного прошарку додається нейрон зміщення, який задає позитивний зсув для сумарної функції. Нейрони у прихованому прошарку сумують всі сигнали на вхідному прошарку та нейрону зміщення, помножені на вагові коефіцієнти синаптичних нейронних зв’язків θij(1). Сума передається як аргумент функції активації, і її значення є виходом нейрона прихованого прошарку. Нейрони вихідного прошарку сумують вихідні значення нейронів прихованого прошарку та нейрону зміщення помножені на вагові коефіцієнти синаптичних нейронних зв’язків θij(2). Сума передається як аргумент функції активації, і її значення є виходом нейронів вихідного прошарку x_vec. У векторному вигляді пряме поширення для сигмоїдальної функції активації у прихованому прошарку і лінійної функції активації у вихідному прошарку має вигляд:

Пряме поширення
Пряме поширення

Навчання нейронної мережі проводиться на основі методу зворотного поширення помилки (рисунок 3). Метод полягає у динамічному змінюванні вагових коефіцієнтів синаптичних зв’язків в залежності від помилки прогнозування на виході нейронної мережі [6, 7].

Алгоритм зворотного поширення помилки

Рисунок 3 – Алгоритм зворотного поширення помилки
(анімація: 6 кадрів, 7 циклів повторення, 148 кілобайт)

Важливим моментом у процесі навчання нейронної мережі є порушення симетрії, яке виражається у ініціалізації початкових вагових коефіцієнтів синаптичних зв’язків випадковими числами, розподіленими за нормальним законом. Необхідність порушення симетрії пов’язана з тим, що при виконанні алгоритму зворотного поширення помилки вагові коефіцієнти будуть змінюватися однаково і завжди будуть рівними, якщо для одного прошарку вони мають однакові значення — це перешкоджає ефективному навчанню мережі.

Критерієм якості навчання виступає функція помилки нейронної мережі, яка розраховується за методом найменших квадратів з додаванням регуляризаційної компоненти, яка являє собою зважену суму вагових коефіцієнтів синаптичних зв’язків, помножену на параметр регуляризації λ:

Функція помилки

де xi_ — спрогнозоване значення часового ряду, xi — фактичне значення часового ряду, m — кількість елементів навчальної вибірки, Nx — кількість нейронів у вхідному прошарку, Nh — кількість нейронів у прихованому прошарку, Nx_ — кількість нейронів у вихідному прошарку.

Регуляризація виконується для запобігання перенавчанню — не дозволяє ваговим коефіцієнтам синаптичних зв’язків приймати дуже великі значення, в результаті мережа показує кращу узагальнюючу здатність.

Алгоритм розділений на епохи. Епоха починається з прямого поширення сигналу від вхідного прошарку згідно з алгоритмом прямого поширення. Через помилку прогнозування обчислюється градієнт для кожного вагового коефіцієнту нейронної мережі:

Зворотне поширення
Зворотне поширення
Зворотне поширення
Зворотне поширення

Розрахований градієнт передається до оптимізаційної функції, яка здійснює пошук мінімуму функції помилки нейронної мережі в залежності від вагових коефіцієнтів синаптичних зв’язків.

Вхідні дані розбиваються на 3 частини — 60% даних формують тренувальний набір, 20% — набір перехресної перевірки, який використовується для підбору параметрів нейронної мережі, 20% — тестовий набір, на основі якого оцінюється якість прогнозу.

Для аналізу якості прогнозування будуються навчальні криві — залежність функції помилки від параметрів нейронної мережі, яка оцінюється на тренувальному наборі та наборі перехресної перевірки. На основі навчальних кривих обираються та уточнюються такі параметри нейронної мережі, як максимальна кількість епох навчання, кількість нейронів у вхідному та прихованому прошарках, параметр регуляризації.

4.2 Оцінка помилки прогнозування

Відносна помилка прогнозу:

Відносна помилка

Ставимо xi_ у знаменнику для того, щоби помилки другого роду мали більшу вагу.

Середня відносна помилка прогнозу:

Середня відносна помилка

Середня квадратична абсолютна помилка прогнозу:

Середня квадратична абсолютна помилка

При впровадженні прогнозування у телекомунікаційних мережах важливим є розділення помилки прогнозу на помилку першого та другого роду (xi < xi_ и xi > xi_ відповідно). Ці два класи помилок мають різні наслідки для телекомунікаційної мережі — помилка першого роду призводить до неефективного використання пропускної здатності мережі, у той час як помилка другого роду призводить до відкидання трафіка, втрати інформації, що призводить до зниження якості обслуговування, повторної передачі втрачених пакетів і як наслідок — перевантаженню мережі. Можна зробити висновок, що помилка першого роду є менш критичною, тому для цих двох класів помилок більшу вагу мають помилки другого роду.

Розрахунок коефіцієнту помилки першого і другого роду проводимо наступним чином:

Коефіцієнт помилки першого роду
Коефіцієнт помилки другого роду

Порівняльний показник точності прогнозу розраховується як відношення середньої квадратичної абсолютної помилки досліджуваного прогнозу з еталонним:

Порівняльний показник точності прогнозу

де delta_star — середня квадратична абсолютна помилка еталонного прогнозу.

4.3 Прогнозування трафіка нейронною мережею

В процесі роботи проведений аналіз характеристик двох типів трафіку — трафіку передачі потокового відео (параметр Херста H = 0,852) [8] та трафіку передачі даних (параметр Херста H = 0,643). На основі навчальних кривих були обрані параметри нейронної мережі та розрахований прогноз для тестових наборів трафіка.

Для трафіка передачі потокового відео помилка прогнозування достатньо невелика — 12,2%, що пов’язано з високою самоподібністю і яскраво вираженою циклічністю цього набору трафіка. Помилки першого та другого роду мають майже однакову вагу: 6,2% і 6% відсотків відповідно.

Відносна помилка прогнозування трафіка передачі даних має високий рівень — 37,6%. На відміну від трафіка передачі потокового відео, трафік передачі даних не має яскраво виражених частотних залежностей і автокореляції, тому прогнозувати його складніше. Для тестового набору помилки першого та другого роду мають майже однакову вагу: 19,2% і 18,4% відповідно.

4.4 Прогнозування трафіка на основі авторегресивної моделі і порівняння результатів

Для кращої оцінки якості прогнозу, отриманого за допомогою нейронної мережі, порівняємо результат з прогнозом, зробленим на основі моделі Бокса‐Дженкінса [9]. Авторегресійна модель (AR) має вигляд:

Авторегресійна модель

де c — константа, phi — параметри моделі, eps_t — білий шум.

Параметри моделі можна визначити методом Юла‐Уолкера [10], шляхом вирішення рівняння:

метод Юла-Уолкера

Порядок моделі визначається шляхом аналізу часткової автокореляційної функції.

Порівняємо ефективність прогнозування трафіку за допомогою нейронної мережі з прогнозуванням трафіку на основі стандартної авторегресивної моделі. При прогнозуванні за допомогою авторегресивної моделі трафіку передачі потокового відео и трафіку передачі даних помилка прогнозування складає 35,3% та 39,7% відповідно. Значну долю помилки складає помилка другого роду. Розрахований порівняльний показник точності прогнозу, як відношення середньої квадратичної абсолютної помилки прогнозу за допомогою нейронної мережі та прогнозу на основі авторегресійної моделі. Для трафіку потокового відео порівняльний показник точності прогнозу склав 0,915, для трафіку передачі даних — 1,024. Це свідчить про те, що використання нейронної мережі для прогнозування самоподібного трафіку дає кращий прогноз, ніж авторегресійна модель, у той час, як для трафіку з низьким рівнем самоподібності ці два методи дають приблизно однакову абсолютну помилку прогнозу, але нейронна мережа дає меншу помилку другого роду, що свідчить про перевагу використання нейронної мережі для прогнозування цього типу трафіка.

Висновки

Прогнозування навантаження на елементи телекомунікаційної мережі може дати можливість гнучко керувати пропускною здатністю мережі для кожного з класів трафіка, покращити показники QoS у мережі. Використання нейронної мережі для прогнозування трафіка на вузлах телекомунікаційної мережі дозволяє отримувати більш точні значення прогнозу, ніж стандартна авторегресійна модель — порівняльний показник точності прогнозу для нейронної мережі і AR моделі склав 0,915 для самоподібного трафіка і близький до одиниці для трафіка з низьким рівним самоподібності. При цьому використання нейронної мережі для прогнозування дає менший коефіцієнт помилки другого роду, ніж AR модель, що є важливим при впроваджені систем прогнозування у телекомунікаційних мережах.

Застосування розглянутого метода прогнозування у системі балансування дозволить покращити параметри якості обслуговування та ефективність використання обладнання.

При написанні даного реферату магістерська робота ще не завершена. Остаточне завершення: грудень 2012 року. Повний текст роботи та матеріали по темі можуть бути отримані у автора або його керівника після вказаної дати.

Перелік посилань

  1. On the Self‐Similar Nature of Ethernet Traffic / Leland W.E., Taqqu M.S., Willinger W., Wilson D.V. // IEEE/ACM Transactions of Networking. — IEEE Press Piscataway, 1994 — Vol. 2(1). — 15 p.
  2. Петров В.В. Структура телетрафика и алгоритм обеспечения качества обслуживания при влиянии эффекта самоподобия : Диссертация на соискание ученой степени кандидата технических наук / Петров В.В. — М., 2004. — 199 с.
  3. Cybenko G.V. Approximation by Superpositions of a Sigmoidal function / Cybenko G.V. // Mathematics of Control, Signals and Systems, 1989. — Vol. 2. — № 4. — P. 303–314.
  4. Kreinovich V.Y. Arbitrary nonlinearity is sufficient to represent all functions by neural networks: A theorem / Kreinovich V.Y. — University of Texas at El Paso, 1990.
  5. Искусственная нейронная сеть : Википедия — свободная энциклопедия [Електронний ресурс] / Режим доступу до ресурсу: http://ru.wikipedia.org/wiki/Искусственная_нейронная_сеть
  6. Метод обратного распространения ошибки : Википедия — свободная энциклопедия [Електронний ресурс] / Режим доступу до ресурсу: http://ru.wikipedia.org/wiki/Метод_обратного_распространения_ошибки
  7. Нейронные сети — математический апарат : BaseGroup Labs [Електронний ресурс] / Режим доступу до ресурсу: http://www.basegroup.ru/library/analysis/neural/math/
  8. MPEG‐4 and H.263 Video Traces for Network Performance Evaluation / Video Trace Library [Електронний ресурс] / Режим доступу до ресурсу: http://trace.eas.asu.edu/TRACE/trace.html
  9. Box E.P.G. Time series analysis : forecasting and control / Box E.P.G., Jenkins G.M., Reinsel G.C. — Prentice‐Hall, 1994. — 598 p.
  10. Basic Definitions and Theorems about ARIMA models / Xycoon [Електронний ресурс] / Режим доступу до ресурсу: http://www.xycoon.com/basics.htm