ДонНТУ   Портал магистров

Реферат по теме выпускной работы

Содержание

Введение

Одна из основных тенденций развития рынка телекоммуникаций — возрастание спроса пользователей на мультимедийные услуги. В связи с этим становится популярна концепция Triple Play, согласно с которой на базе трех основных сервисов (передача аудио, видео, данных) комбинируются различные мультимедийные услуги: телефония (VoIP), высокоскоростной доступ в Интернет, трансляция телевидения (IPTV), видеоконференции, онлайн игры, видео по запросу (VoD), Cloud Computing и т.д., которые предоставляются абоненту через единую инфраструктуру мультисервисной конвергентной сети. Активное внедрение мультимедийных услуг в сети оператора вызывает значительную нагрузку на каналы связи и оборудование, что приводит к ухудшению параметров качества обслуживания абонентов.

1 Актуальность темы

Магистерская работа посвящена актуальной задаче разработки системы балансировки нагрузки, позволяющей повысить параметры качества обслуживания и эффективность использования оборудования и ресурсов телекоммуникационной сети. Один из путей реализации такой системы — распределение нагрузки на элементы телекоммуникационной сети с применением системы прогностического управления, осуществляющей управляющее воздействие на основе информации о предыдущей загруженности сети.

Трафик в современных телекоммуникационных сетях представляет собой сложный стохастический процесс, который проявляет признаки самоподобия [1]. Самоподобные процессы характеризуются долгосрочными зависимостями, поэтому на основе этих зависимостей можно строить прогнозные модели, которые могут использоваться для управления трафиком. Для построения прогнозных моделей используются разные математические методы, одним из которых является использование нейронной сети прямого распространения. Преимуществами этого метода является способность выявлять скрытые зависимости в исследуемом процессе, что при определенных обстоятельствах позволяет строить очень точные модели процесса. К недостаткам метода можно отнести отсутствие стандартизированного метода определения оптимальных параметров и долгий процесс обучения.

Нейронные сети могут эффективно решать как задачи классификации, так и задачи регрессионного анализа. На данном этапе нейронные сети активно используются в эконометрике для прогнозирования курсов ценных бумаг и общего состояния рынка — таким образом, существуют предусловия для использования нейронных сетей в прогнозировании временных рядов — в частности для прогнозирования трафика в телекоммуникационных сетях.

2 Цель и задачи исследования, запланированные результаты

Целью работы является улучшение параметров качества обслуживания абонентов и эффективности использования оборудования телекоммуникационной сети путем использования системы балансировки нагрузки на элементы телекоммуникационной сети.

На данном этапе выполнения магистерской работы исследуется эффективность использования нейронной сети для построения системы балансировки нагрузки в конвергентной телекоммуникационной сети.

Для этого необходимо решить следующие задачи:

  1. Рассмотреть математический аппарат, который используется в нейронных сетях прямого распространения.
  2. Оценить эффективность прогнозирования трафик нейронной сетью.
  3. Сравнить полученные результаты с результатами прогнозирования трафика на основе стандартной авторегрессивной модели.
  4. Сравнить эффективность прогнозирования для разных типов трафика.

В результате работы планируется получить научные результаты по следующим направлениям:

  1. Разработка алгоритма прогнозирования, позволяющего эффективно осуществлять прогноз трафика разного уровня самоподобия в телекоммуникационной сети.
  2. Разработка системы балансировки нагрузки, использующей методы динамического распределения пропускной способности каналов сети на основе спрогнозированной нагрузки.

3 Обзор исследований и разработок

Основной предпосылкой использования системы прогностического управления в телекоммуникационной сети является самоподобие трафика в сетях с коммутацией пакетов. Первая работа, посвященная исследованию свойства самоподобия трафика в телекоммуникационных сетях, была опубликована американскими исследователями В. Леландом, М. Таку, В. Виллинджером и Д. Вилсоном в 1993 году [1]. В данной работе был проведен анализ внутрисетевого трафика корпорации Bellcore и показана невозможность его описания с помощью классических моделей теории телетрафика. Также было показано, что самоподобный трафик обладает высокой пачечностью, а агрегирование нескольких самоподобных потоков не уменьшает пачечность, а увеличивает ее.

Следующим следует отметить исследование, проведенное Петровым В.В. в диссертации на соискание ученой степени кандидата технических наук «Структура телетрафика и алгоритм обеспечения качества обслуживания при влиянии эффекта самоподобия» [2]. В данной работе рассмотрена структура и свойства самоподобного телетрафика, рассмотрены некоторые методы прогнозирования трафика в телекоммуникационной сети, метод обеспечения качества обслуживания в условиях самоподобного телетрафика.

Вопросы прогнозирование трафика и процессов управления в телекоммуникационных сетях являются актуальными в условиях современного стремительного развития технологий. Им посвящены квалификационные работы магистров Донецкого национального технического университета Лозинской В.Н., Тищенко А.В., Шепеленко С.Г., Шахова Д.С., Орехова А.А.

4 Разработка алгоритма прогнозирования трафика телекоммуникационной сети

4.1 Математический аппарат нейронных сетей прямого распространения

Рассмотрим сеть прямого распространения с одним скрытым слоем (рисунок 1). Согласно c теоремой Цибенко, искусственная нейронная сеть прямого распространения с одним скрытым слоем, функция активации которого является сигмоидальной, может аппроксимировать любую непрерывную функцию многих переменных с любой точностью [3]. Условиями является достаточное количество нейронов скрытого слоя, удачный подбор параметров нейронной сети.

Структура нейронной сети

Рисунок 1 – Структура нейронной сети

В работе исследование проводилось с помощью нейронной сети с функцией активации в скрытом слое рациональная сигмоида (рисунок 2):

Рациональная сигмоида
График функции рациональная сигмоида

Рисунок 2 – График функции рациональная сигмоида

Причиной введения нелинейности является математически доказанная возможность получить как угодно точное приближение любой непрерывной функции многих переменных, использую операции сложения и умножения на число, суперпозицию функций, линейные функции, а также одну непрерывную нелинейную функцию одной переменной [4]. Рациональная сигмоида является наиболее эффективной из сигмоидальных функций активации, потому что для ее расчета необходимо выполнение только трех математических операций.

Нейронная сеть работает согласно с алгоритмом прямого распространения [5]. Значения временного ряда xvec подаются на входной слой нейронной сети. К каждому слою добавляется нейрон смещения, который задает положительный сдвиг для суммарной функции. Нейроны в скрытом слое суммируют все сигналы на входном слое и нейроне смещения, умноженные на весовые коэффициенты синаптических нейронных связей θij(1). Сумма передается как аргумент функции активации, и ее значение является выходом нейрона скрытого слоя. Нейроны выходного слоя суммируют выходные значения нейронов скрытого слоя и нейрона смещения умноженные на весовые коэффициенты синаптический нейронных связей θij(2). Сумма передается как аргумент функции активации, и ее значение является выходом нейронов выходного слоя x_vec. В векторном виде прямое распостранение для сигмоидальной функции активации в скрытом слое и линейной функции активации в выходном слое имеет вид:

Прямое распространение
Прямое распространение

Обучение нейронной сети проводится на основе метода обратного распространения ошибок (рисунок 3). Метод заключается в динамическом изменении весовых коэффициентов синаптических связей в зависимости от ошибки прогнозирования на выходе нейронной сети [6, 7].

Алгоритм обратного распространения ошибки

Рисунок 3 – Алгоритм обратного распространения ошибки
(анимация: 6 кадров, 7 циклов повторения, 148 килобайт)

Важным моментом в процессе обучения нейронной сети является нарушение симметрии, которое выражается в инициализации начальных весовых коэффициентов синаптических связей случайными числами, распределенными по нормальному закону. Необходимость нарушения симметрии связана с тем, что при выполнении алгоритма обратного распространения ошибки весовые коэффициенты будут изменяться одинаково и всегда будут равны, если для одного слоя они имеют одинаковые значения — это мешает эффективному обучению сети.

Критерием качества обучения выступает функция ошибки нейронной сети, которая рассчитывается по методу наименьших квадратов с добавлением регуляризационой компоненты, которая представляет собой взвешенную сумму весовых коэффициентов синаптических связей, умноженную на параметр регуляризации λ:

Функция ошибки

где xi_ — спрогнозированное значение числового ряда, xi — фактическое значение числового ряда, m — количество элементов обучающей выборки, Nx — количество нейронов во входном слое, Nh — количество нейронов в скрытом слое, Nx_ — количество нейронов в выходном слое.

Регуляризация выполняется во избежание переобучения — не позволяет весовым коэффициентам синаптических связей принимать очень большие значения, в результате сеть показывает лучшую обобщающую способность.

Алгоритм разделен на эпохи. Эпоха начинается с прямого распространения сигала от входного слоя согласно алгоритму прямого распространения. Через ошибку прогнозирования вычисляется градиент для каждого весового коэффициента нейронной сети:

Обратное распространение
Обратное распространение
Обратное распространение
Обратное распространение

Рассчитанный градиент передается оптимизационной функции, которая осуществляет поиск минимума функции ошибки нейронной сети в зависимости от весовых коэффициентов синаптических связей.

Входные данные разбиваются на 3 части — 60% данных формируют тренировочный набор, 20% — набор перекрестной проверки, который используется для подбора параметров нейронной сети, 20% — тестовый набор, на основе которого оценивается качество прогноза.

Для анализа качества прогнозирования строятся обучающие кривые — зависимость функции ошибки от параметров нейронной сети, которая оценивается на тренировочном наборе и наборе перекрестной проверки. На основе обучающих кривых выбираются и уточняются такие параметры нейронной сети, как максимальное количество эпох обучения, количества нейронов во входном и скрытом слоях, параметр регуляризации.

4.2 Оценка ошибки прогнозирования

Относительная ошибка прогноза:

Относительная ошибка

Ставим xi_ в знаменатель для того, чтобы ошибки второго рода имели больший вес.

Средняя относительная ошибка прогноза:

Средняя относительная ошибка

Средняя квадратичная абсолютная ошибка прогноза:

Средняя квадратичная относительная ошибка

При внедрении прогнозирования в телекоммуникационных сетях важным является разделение ошибки прогноза на ошибку первого и второго рода (xi < xi_ и xi > xi_ соответственно). Эти два класса ошибок имеют различные последствия для телекоммуникационной сети — ошибка первого рода приводит к неэффективному использованию пропускной способности сети, в то время как ошибка второго рода приводит к отбрасыванию трафика, потере информации, что приводит к снижению качества обслуживания, повторной передаче потерянных пакетов и как следствие — перегрузке сети. Можно сделать вывод, что ошибка первого рода является менее критичной, поэтому для этих двух классов ошибок больший вес имеют ошибки второго рода.

Расчет коэффициентов ошибки первого и второго рода проводится следующим образом:

Коэффициент ошибки первого рода
Коэффициент ошибки второго рода

Сравнительный показатель точности прогноза рассчитывается как отношение средней квадратичной абсолютной ошибки исследуемого прогноза с эталонным:

Сравнительный показатель точности прогноза

где delta_star — средняя квадратичная абсолютная ошибка эталонного прогноза.

4.3 Прогнозирование трафика нейронной сетью

В процессе работы проведен анализ характеристик двух типов трафика — трафика передачи потокового видео (параметр Хэрста H = 0,852) [8] и трафика передачи данных (параметр Херста H = 0,643). На основе обучающих кривых были выбраны параметры нейронной сети и рассчитан прогноз для тестовых наборов трафика.

Для трафика передачи потокового видео относительная ошибка прогнозирования достаточно небольшая — 12,2%, что связано с высоким самоподобием и ярко выраженной цикличностью этого набора трафика. Ошибки первого и второго рода имеют практически одинаковый вес: 6,2% и 6% соответственно.

Относительная ошибка прогнозирования трафика передачи данных имеет высокий уровень — 37,6%. В отличие от трафика передачи потокового видео, трафик передачи данных не имеет ярко выраженных частотных зависимостей и автокорреляции, поэтому прогнозировать его сложнее. Для тестового набора ошибки первого и второго рода имеют практически одинаковый вес: 19,2% и 18,4% соответственно.

4.4 Прогнозирование трафика на основе авторегрессивной модели и сравнение результатов

Для лучшей оценки качества прогноза, полученного с помощью нейронной сети, сравним результат с прогнозом, сделанным на основе модели Бокса‐Дженкинса [9]. Авторегрессивная модель (AR) имеет вид:

Авторегрессивная модель

где c — константа, phi — параметры модели, eps_t — белый шум.

Параметры модели можно определить методом Юла‐Уолкера [10], путем решения уравнения:

метод Юла-Уолкера

Порядок модели определяется путем анализа частичной автокорелляционной функции.

Сравним эффективность прогнозирования трафика с помощью нейронной сети с прогнозированием трафика на основе стандартной авторегрессивной модели. При прогнозировании с помощью авторегрессивной модели трафика передачи потокового видео и трафика передачи данных ошибка прогнозирования составляет 35,3% и 39,7% соответственно. Значительную долю ошибки составляет ошибка второго рода. Рассчитан сравнительный показатель точности прогноза, как отношение средней квадратической ошибки прогноза с помощью нейронной сети и прогноза на основе авторегрессивной модели. Для трафика потокового видео сравнительный показатель точности прогноза составил 0,915, для трафика передачи данных — 1,024. Это свидетельствует о том, что использование нейронной сети для прогнозирования самоподобного трафика дает лучший прогноз, чем авторегрессионная модель, в то время, как для трафика с низким уровнем самоподобности эти два метода дают приблизительно одинаковую абсолютную ошибку прогноза, но нейронная сеть дает меньшую ошибку второго рода, что свидетельствует о преимуществе использования нейронной сети для прогнозирования этого типа трафика.

Выводы

Прогнозирование нагрузки на элементы телекоммуникационной сети может дать возможность гибко управлять пропускной способностью сети для каждого из классов трафика, улучшить показатели QoS в сети. Использование нейронной сети для прогнозирования трафика на узлах телекоммуникационной сети позволяет получать более точные значения прогноза, чем стандартная авторегрессивная модель — сравнительный показатель точности прогноза для нейронной сети и AR модели составил 0,915 для самоподобного трафика и близкий к единице для трафика с низким уровнем самоподобия. При этом использование нейронной сети для прогнозирования дает меньший коэффициент ошибки второго рода, чем AR модель, что является важным при внедрении систем прогнозирования в телекоммуникационных сетях.

Применение рассмотренного метода прогнозирования в системе балансировки позволит улучшить параметры качества обслуживания и эффективность использования оборудования.

При написании данного реферата магистерская работа еще не завершена. Окончательное завершение: декабрь 2012 года. Полный текст работы и материалы по теме могут быть получены у автора или его руководителя после указанной даты.

Список источников

  1. On the Self‐Similar Nature of Ethernet Traffic / Leland W.E., Taqqu M.S., Willinger W., Wilson D.V. // IEEE/ACM Transactions of Networking. — IEEE Press Piscataway, 1994 — Vol. 2(1). — 15 p.
  2. Петров В.В. Структура телетрафика и алгоритм обеспечения качества обслуживания при влиянии эффекта самоподобия : Диссертация на соискание ученой степени кандидата технических наук / Петров В.В. — М., 2004. — 199 с.
  3. Cybenko G.V. Approximation by Superpositions of a Sigmoidal function / Cybenko G.V. // Mathematics of Control, Signals and Systems, 1989. — Vol. 2. — № 4. — P. 303–314.
  4. Kreinovich V.Y. Arbitrary nonlinearity is sufficient to represent all functions by neural networks: A theorem / Kreinovich V.Y. — University of Texas at El Paso, 1990.
  5. Искусственная нейронная сеть : Википедия — свободная энциклопедия [Электронный ресурс] / Режим доступа к ресурсу: http://ru.wikipedia.org/wiki/Искусственная_нейронная_сеть
  6. Метод обратного распространения ошибки : Википедия — свободная энциклопедия [Электронный ресурс] / Режим доступа к ресурсу: http://ru.wikipedia.org/wiki/Метод_обратного_распространения_ошибки
  7. Нейронные сети — математический апарат : BaseGroup Labs [Электронный ресурс] / Режим доступа к ресурсу: http://www.basegroup.ru/library/analysis/neural/math/
  8. MPEG‐4 and H.263 Video Traces for Network Performance Evaluation / Video Trace Library [Электронный ресурс] / Режим доступа к ресурсу: http://trace.eas.asu.edu/TRACE/trace.html
  9. Box E.P.G. Time series analysis : forecasting and control / Box E.P.G., Jenkins G.M., Reinsel G.C. — Prentice‐Hall, 1994. — 598 p.
  10. Basic Definitions and Theorems about ARIMA models / Xycoon [Электронный ресурс] / Режим доступа к ресурсу: http://www.xycoon.com/basics.htm