Обучение оптимизации: обучение глубоким нейронным технологиям. Сети для управления беспроводными ресурсами

Аннотация

Haoran Sun, Xiangyi Chen, Qingjiang Shi, Mingyi Hong, Xiao Fu, and Nicholas D.Sidiropoulos, Обучение оптимизации: обучение глубоким нейронным технологиям. Сети для управления беспроводными ресурсами В этой работе рассматриваеться практические аспекты аппроксимации алгоритма на основе ГНС с приложениями для управления беспроводными ресурсами. Cначала закрепляется класс оптимизации алгоритмов, которые теоретически изучаются полностью подключенной нейронной сетью.

Введение

Задачи управления ресурсами, такие как управление мощностью передачи, проектирование формирователя луча передачи/приема и управление доступом пользователей, являются критическими для будущих беспроводных сетей. Были проведены обширные исследования для разработки различных схем управления ресурсами; См. последние обзорные статьи [2], [3]. В течение многих десятилетий, численная оптимизация играет центральную роль в решении проблем управления беспроводными ресурсами. Известные алгоритмы оптимизации для таких целей включают алгоритмы, разработанные для управления мощностью (например, алгоритмы итеративного типа заполнения водой [4], [5], оценка вмешательства [6]), проектирование формирователя луча передачи/приема (напрмер, алгоритм средневзвешенной среднеквадратичной ошибки (WMMSE) [8], основанные на оценке схемы [9], схемы основанные на методе Релаксации (повторяющийся метод) [10]), контроль приема (например, схемы, основанные на дефляции [11], схемы на основе выпуклых аппроксимаций) [12]), пользовательская/базовая станция (БС) кластеризация (например, схемы на основе разреженной оптимизации [13]), вот некоторые из них. Проще говоря, все эти алгоритмы относятся к классу итеративных алгоритмов, которые принимают заданный набор сетевых параметров в реальном времени, таких как реализация канала и отношение сигнал/шум в качестве входных данных, выполнить ряд (потенциально дорогостоящих) итераций и создать оптимизированную cтратегию распределения ресурсов в качестве их результатов.

Несмотря на то, что превосходная производительность многих из этих алгоритмов наблюдалась благодаря численному моделированию и теоретическому анализу, их реализация в реальных системах по–прежнему сталкивается со многими серьезными препятствиями. В частности, высокие вычислительные затраты, понесенные этими алгоритмами, были одной из наиболее сложных проблем. Например, алгоритмы WMMSE–типа требуют сложных операций, таких как матричная инверсия и бисекция в каждой итерации [8], [14]. Алгоритмы типа заполнения водой, такие как [15] и алгоритмы ценообразования помех [6] включая разложение сингулярных значений при каждой итерации (при работе с Multiple–Input–Multiple–Output (MIMO) системы вмешательства.) Такие алгоритмы, как дефляционная совместная мощность и управление доступом, требуют последовательного решения ряда (возможно, масштабных) линейных программ. Вычислительно требовательный характер этих алгоритмов делает реализацию в реальном времени сложной, поскольку задачи управления беспроводными ресурсами обычно выполняются в течение миллисекунд (из–за быстро изменяющихся системных параметров, таких как состояние канала, число пользователей и т. д.).

В этой работе мы предлагаем новый основанный на машинном обучении подход к управлению беспроводными ресурсами. Основная идея заключается в том, чтобы рассматривать данный алгоритм оптимизации ресурсов как чёрный ящик, и пытаться узнать его отношение ввода/вывода с помощью глубокой нейронной сети. [16]. Наша мотивация состоит в том, что если сеть с несколькими уровнями вполне может аппроксимировать данный алгоритм управления ресурсами, то передача входного алгоритма через сеть для получения выхода может быть достаточно экономичной в вычислениях – она требует только нескольких уровней простых операций, таких как матрично–векторные умножения. Поэтому такое приближение, если оно точно, может существенно сократить время обработки для распределения ресурсов беспроводной связи. Кроме того, обучение такой сети является достаточно удобным, так как обучающие выборки легко могут быть получены посредством выполнения алгоритма оптимизации на имитируемых данных, которые вызывают интерес.

Список использованной литературы

1. H. Sun, X. Chen, Q. Shi, M. Hong, X. Fu, and N.D. Sidiropoulos, Learning to optimize: Training deep neural networks for wireless resource management, in Signal Processing Advances in Wireless Communications (SPAWC), 2017 IEEE 18th International Workshop on. IEEE, 2017.
2. M. Hong and Z. Q. Luo, Signal processing and optimal resource allocation for the interference channel, in Academic Press Library in Signal Processing. Academic Press, 2013 
3. E. Bjornson and E Jorswieck, Optimal resource allocation in coordinated multi-cell systems, Foundations and Trends in Communications and Information Theory, vol. 9, 2013.
4. W. Yu, G. Ginis, and J. M. Cioffi, Distributed multiuser power control for digital subscriber lines, IEEE Journal on Selected Areas in Communications, vol. 20, no. 5, pp. 1105 –1115, 2002 
5. G. Scutari, D. P. Palomar, and S. Barbarossa, Optimal linear precoding strategies for wideband noncooperative systems based on game theory – part I: Nash equilibria, IEEE Transactions on Signal Processing, vol. 56, no. 3, pp. 1230 –1249, 2008.
6. D. Schmidt, C. Shi, R. Berry, M. Honig, and W. Utschick, Distributed resource allocation schemes, IEEE Signal Processing Magazine, vol. 26, no. 5, pp. 53 –63, 2009
7. J. Papandriopoulos and J. S. Evans, SCALE: A low–complexity distributed protocol for spectrum balancing in multiuser DSL networks, IEEE Transactions on Information Theory, vol. 55, no. 8, pp. 3711–3724, 2009
8. Q. Shi, M. Razaviyayn, Z. Q. Luo, and C. He, An iteratively weighted MMSE approach to distributed sum–3utility maximization for a MIMO interfering broadcast channel, IEEE Transactions on Signal Processing, vol. 59, no. 9, pp. 4331 –34340, 2011.
9. S. J. Kim and G. B. Giannakis, Optimal resource allocation for MIMO Ad Hoc Cognitive Radio Networks, IEEE Transactions on Information Theory, vol. 57, no. 5, pp. 3117 –3131, 2011.
10. Z. Q. Luo, W. K. Ma, A. M. C. So, Y. Ye, and S. Zhang, Semidefinite relaxation of quadratic optimization problems, IEEE Signal Processing Magazine, vol. 27, no. 3, pp. 20 –34, 2010
11. Y.F Liu, Y. H. Dai, and Z. Q. Luo, Joint power and admission control via linear programming deflation IEEE Transactions on Signal Processing, vol. 61, no. 6, pp. 1327 –1338, 2013.
12. E. Matskani, N. Sidiropoulos, Z. Q. Luo, and L. Tassiulas, Convex approximation techniques for joint multiuser downlink beamforming and admission control, IEEE Transactions on Wireless Communications, vol. 7, no. 7, pp. 2682 –2693, 2008.
13. M. Hong, R. Sun, H. Baligh, and Z. Q. Luo, Joint base station clustering and beamformer design for partial coordinated transmission in heterogenous networks, IEEE Journal on Selected Areas in Communications., vol. 31, no. 2, pp. 226 –240, 2013.
14. H. Baligh, M. Hong, W. C. Liao, Z. Q. Luo, M. Razaviyayn, M. Sanjabi, and R. Sun, Cross–layer provision of future cellular networks: A WMMSE–based approach, IEEE Signal Processing Magazine, vol. 31, no. 6, pp. 56 –68, Nov 2014.
15. W. Yu and J. M. Cioffi, FDMA capacity of Gaussian multiple-access channel with isi, IEEE Transactions on Communications, vol. 50, no. 1, pp. 102 –111, 2002.
16. Y. LeCun, Y. Bengio, and G. Hinton, Deep learning, Nature, vol. 521, no. 7553, pp. 436–444, 2015.