ДонНТУ Портал магистров

Библиотека материалов по теме научной работы


Собственные публикации и доклады

1 WEB-ПРИЛОЖЕНИЕ ДЛЯ ВЕДЕНИЯ АВТОМОБИЛЬНОГО ЖУРНАЛА ТЕХНИЧЕСКОГО ОБСЛУЖИВАНИЯ

Авторы: Д.С. Киселёв, А.В. Чернышова

Описание: В статье анализируются существующие аналоги и требования к web-приложению журнала технического обслуживания. Предлагается клиент-серверное приложение, разработанное на языке JavaScript и на Backend-as-a-Service платформе Supabase.

Источник: Д.С. Киселёв, А.В. Чернышова В. Web-приложение для ведения автомобильного журнала технического обслуживания / Д. С. Киселёв, А. В. Чернышова // Информатика, управляющие системы, математическое и компьютерное моделирование (ИУСМКМ-2024) : сб. материалов XV Междунар. науч.-техн. конф. в рамках X Междунар. Науч. форума ДНР; Т.2 / Ред. кол.: Аноприенко А. Я. (пред.); Васяева Т. А.; Карабчевский В. В. [и др.]; от. ред. Р. В. Мальчева. – Донецк : ДонНТУ, 2024. – С. 315-322.

2 МОДЕЛИРОВАНИЕ ПРОЦЕССА УПРАВЛЕНИЯ АВТОНОМНЫМ РОБОТОМ НА ОСНОВЕ ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ

Авторы: Д.С. Киселёв, О.И. Федяев

Описание: В статье рассматривается проблема оптимизации траекторий автономных роботов в динамических средах. Предлагается использовать алгоритмы обучения с подкреплением для решения этой задачи, учитывая такие факторы, как препятствия, динамические объекты и физические ограничения робота.

Источник: Программная инженерия: методы и технологии разработки информационно-вычислительных систем (ПИИВС-2024): сборник материалов V международной научно-практической конференции (Том 2). — Донецк, ДонНТУ, 2024.

3 ОПТИМИЗАЦИЯ СТРАТЕГИИ ПРОФЕССИОНАЛЬНОГО РАЗВИТИЯ ПРЕПОДАВАТЕЛЯ ВУЗА С ИСПОЛЬЗОВАНИЕМ ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ

Авторы: Д.С. Киселёв, О.И. Федяев

Описание: В статье рассматривается применение методов обучения с подкреплением (RL) для создания рекомендательной системы, направленной на оптимизацию профессионального развития преподавателей. Предлагается модель, формализующая задачу выбора активностей как последовательный процесс принятия решений, и приводится пример реализации Q-learning алгоритма.

Источник: Информатика, управляющие системы, математическое и компьютерное моделирование (ИУСМКМ-2025) : сб. материалов XVI Междунар. науч.-техн. конф. в рамках XI Междунар. науч. форума ДНР. – Донецк : ДонНТУ, 2025. – С. 148–153.

4 ПРИМЕНЕНИЕ МЕТОДОВ ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ ДЛЯ ВЫРАБОТКИ ОПТИМАЛЬНОЙ СТРАТЕГИИ ДЕЯТЕЛЬНОСТИ ПРЕПОДАВАТЕЛЯ ПО ЕГО КЛЮЧЕВЫМ ПОКАЗАТЕЛЯМ

Авторы: Д.С. Киселёв, О.И. Федяев

Описание: Работа посвящена разработке стохастической имитационной среды и проведению сравнительного анализа двух ключевых RL-алгоритмов – классического табличного Q-learning и нейросетевого Deep Q-Network (DQN) – в условиях неопределенности академической деятельности.

Источник: Информационные технологии в науке, промышленности и образовании (ITSIT-2025) : сб. материалов Всерос. науч.-техн. конф. / ФГБОУ ВО «Кузбас. гос. техн. ун-т им. Т. Ф. Горбачева». – Кемерово, 2025. – С. 411.

5 ПРИМЕНЕНИЕ ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ ДЛЯ МОДЕЛИРОВАНИЯ КАРЬЕРНОЙ СТРАТЕГИИ ПРОФЕССИОНАЛЬНОЙ ДЕЯТЕЛЬНОСТИ ПРЕПОДАВАТЕЛЯ

Авторы: Д.С. Киселёв, О.И. Федяев

Описание: В работе создается реалистичная модель карьеры преподавателя путём разработки стохастической среды, учитывающей вероятностный характер исходов и феномен профессионального выгорания. Проводится сравнительный анализ Q-learning и усовершенствованного алгоритма Double DQN.

Источник: Интеллектуальные информационные системы (ИИС-2025) : материалы Всероссийской научно-технической конференции. – 2025.

Публикации и доклады научного руководителя

6 ВИДЕОРЕГИСТРАЦИЯ ПРИСУТСТВИЯ СТУДЕНТОВ В АУДИТОРИИ С ПОМОЩЬЮ НЕЙРОСЕТЕВОГО РАСПОЗНАВАНИЯ ЛИЦ

Авторы: О. И. Федяев

Описание: Работа посвящена видеоконтролю присутствия студентов на учебном занятии с помощью компьютерного зрения в режиме реального времени. Признаки лица человека формируются свёрточной нейронной сетью.

Источник: Материалы IX Республиканской научно-методической конференции «Современное состояние и пути совершенствования образовательного процесса». — Донецк, ГОУВПО «ДОННТУ», 2023. — С. 361-370.

7 КООРДИНИРУЕМОЕ СОТРУДНИЧЕСТВО АГЕНТОВ В ИМИТАЦИОННОЙ МОДЕЛИ ТРУДОУСТРОЙСТВА СТУДЕНТОВ МНОГОАГЕНТНОГО ТИПА

Авторы: О. И. Федяев

Описание: Архитектура модели представлена в виде мультиагентной системы. Задача мультиагентного моделирования полностью формализована и представлена как задача коллективного выбора с учётом взаимных требований сторон. Эксперимент по анализу трудоустройства проведен в режиме координированного взаимодействия агентов.

Источник: В сборнике: Инжиниринг предприятий и управление знаниями (ИП&УЗ-2019). Сборник научных трудов XXII Международной научной конференции. В 3-х томах. Под научной редакцией Ю.Ф. Тельнова. — 2019. — С. 53-62.

8 МУЛЬТИАГЕНТНЫЙ ПОДХОД К ЗАДАЧЕ КОЛЛЕКТИВНОГО ВЫБОРА КОМПРОМИССНОГО ВАРИАНТА РАСПРЕДЕЛЕНИЯ СТУДЕНТОВ НА ФИРМЫ

Авторы: О. И. Федяев

Описание: Приведена математическая постановка задачи мультиагентного моделирования процесса трудоустройства студентов на фирмы. Она представлена как задача коллективного выбора с учетом взаимных требований сторон. Для каждого типа агентов формализованы его роли и протоколы взаимодействия.

Источник: В сборнике: Электронное обучение в непрерывном образовании 2018. V Международная научно-практическая конференция. — 2018. — С. 310-317.

9 НЕЙРОСЕТЕВЫЕ МОДЕЛИ МНОГОАГЕНТНОЙ СИСТЕМЫ ПРОГНОЗИРОВАНИЯ ОСТАТОЧНЫХ ЗНАНИЙ СТУДЕНТОВ

Авторы: О. И. Федяев

Описание: Научная работа посвящена разработке нейросетевой модели процесса обучения студентов для агентной системы моделирования рынка труда. Эта модель имитирует процесс передачи профессиональных навыков и знаний в зависимости от личностных характеристик студентов.

Источник: Информатика и кибернетика. — 2017. — № 2 (8). — С. 104-113.

10 ВЕРИФИКАЦИЯ ЦИКЛИЧЕСКИХ ПРОГРАММ С МАССИВАМИ ДАННЫХ

Авторы: О. И. Федяев

Описание: Статья посвящена проблеме формальной верификации программ. На примере доказательства правильности программы сортировки проведена апробация теоретико-функционального метода верификации. Формализм программных функций позволил математически строго преодолеть сложности доказательства правильности обработки элементов массива во вложенных циклах.

Источник: В сборнике: Программная инженерия: методы и технологии разработки информационно-вычислительных систем (ПИИВС-2016). Сборник научных трудов I Международной научно-практической конференции. — 2016. — С. 12-20.

Публикации и доклады других авторов

11 ИССЛЕДОВАНИЕ ИНТЕЛЛЕКТУАЛЬНОГО АДАПТИВНОГО АЛГОРИТМА УПРАВЛЕНИЯ НА БАЗЕ МЕТОДА ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ

Авторы: А.Н. Карапеев, Е.Ю. Косенко, М.Ю. Медведев, В.Х. Пшихопов

Описание: Предложен и исследован алгоритм адаптивного управления двигателем постоянного тока, базирующийся на применении технологии машинного обучения с подкреплением. Исследовано влияние параметров алгоритма Q-обучения на ошибку управления.

Источник: Известия ЮФУ. Технические науки. — 2025. — № 2. — С. 162-175. — DOI: 10.18522/2311-3103-2025-2-162-175.

12 МЕТОД ОБУЧЕНИЯ ИНТЕЛЛЕКТУАЛЬНОГО АГЕНТА С ПОМОЩЬЮ СЕТЕЙ DOUBLE DQN, ПУТЕВЫХ ТОЧЕК И ФУНКЦИИ ВОЗНАГРАЖДЕНИЯ

Авторы: М.К. Тихонов, Д.О. Непомнящий, В.Н. Хайдукова

Описание: Предложен алгоритм обучения нейронной сети для архитектуры Double DQN с модифицированной функцией вознаграждения для управления автономным автомобилем. Основой решения является использование сегментации полосы движения и дополнительных путевых точек. Результаты показывают эффективное обучение в реалистичной городской симуляции.

Источник: Научный результат. Информационные технологии. — 2024. — Т.9, №3. — С. 63-72. — DOI: 10.18413/2518-1092-2024-9-3-0-7.

13 РАЗРАБОТКА СИСТЕМЫ УПРАВЛЕНИЯ КУРСОМ БЕСПИЛОТНОГО АВТОМОБИЛЯ НА ОСНОВЕ ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ

Авторы: А. Е. Ушаков, М. М. Стебулянин, М. А. Шереужев, Ф. В. Девяткин

Описание: Разработка интеллектуальной системы, которая позволяет автономному транспортному средству самостоятельно управлять курсом движения. Модель автомобиля обучается навигации и следованию по заданному курсу с помощью обучения с подкреплением (алгоритм актер-критик) в симуляторе DonkeyCar.

Источник: Известия Кабардино-Балкарского научного центра РАН. — 2025. — Т. 27, № 3. — С. 39–54. — DOI: 10.35330/1991-6639-2025-27-3-39-54.

14 АЛГОРИТМ ОБУЧЕНИЯ КЛАССИЧЕСКИМ ИГРАМ В КОНТЕКСТЕ ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ

Авторы: С. А. Клипаков, М. Т. Таращанский

Описание: В работе рассматривается задача обучения агентов игре в классические игры (шахматы, шашки и др.) с помощью методов обучения с подкреплением. Предложен дополненный алгоритм, сочетающий идеи классического RL и AlphaZero, включающий механизм начальной обработки весов на основе базы данных сильных игроков.

Источник: Вестник Луганского государственного университета имени Владимира Даля. — 2023. — № 11. — С. 149-151.

15 ИСПОЛЬЗОВАНИЕ ГЛУБОКОГО ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ ДЛЯ ОБУЧЕНИЯ НЕЙРОСЕТЕВОГО ПИД-РЕГУЛЯТОРА НА ПРИМЕРЕ УПРАВЛЕНИЯ КВАДРОКОПТЕРОМ

Авторы: С.Ю. Луканов, О.Ю. Тимошевская, В.В. Николаев, В.А. Лондиков, А.С. Вертешев

Описание: Рассматривается подход к автоматической настройке ПИД-регуляторов с помощью нейронных сетей и глубокого обучения с подкреплением. Разработана симуляционная среда управления квадрокоптером с помощью нейросетевых ПИД-регуляторов. Эксперименты подтвердили возможность обучения для получения ПИД коэффициентов.

Источник: Научно-технический вестник Поволжья. — 2025. — № 6. — С. 223-227.

Переводы статей

16 УРОВЕНЬ ЧЕЛОВЕЧЕСКОГО КОНТРОЛЯ С ПОМОЩЬЮ ГЛУБОКОГО ОБУЧЕНИЯ С ПОДКРЕПЛЕНИЕМ (DQN)

Авторы: В. Мних, К. Кавукчуоглу, Д. Сильвер и др. (DeepMind)

Автор перевода: Д. С. Киселёв

Описание: Перевод фрагментов фундаментальной статьи, опубликованной в Nature. Описывается алгоритм Deep Q-Network (DQN), который впервые смог научиться играть в игры Atari на уровне человека, используя только входные пиксели и счет игры.

Источник (ориг.): Mnih, V., et al. "Human-level control through deep reinforcement learning". Nature, 518(7540), 529-533 (2015).

17 АЛГОРИТМЫ PROXIMAL POLICY OPTIMIZATION (PPO)

Авторы: Дж. Шульман, Ф. Вольски, П. Дхаривал, А. Рэдфорд, О. Климов (OpenAI)

Автор перевода: Д. С. Киселёв

Описание: Перевод ключевых разделов статьи, представляющей алгоритм PPO. Рассматривается математическое обоснование "клиппированной" целевой функции, которая обеспечивает стабильность обучения агентов в непрерывных средах.

Источник (ориг.): Schulman, J., et al. "Proximal Policy Optimization Algorithms". arXiv preprint arXiv:1707.06347 (2017).

18 SOFT ACTOR-CRITIC: OFF-POLICY АЛГОРИТМ С МАКСИМИЗАЦИЕЙ ЭНТРОПИИ

Авторы: Т. Хаарноя, А. Чжоу, П. Аббил, С. Левин (UC Berkeley)

Автор перевода: Д. С. Киселёв

Описание: Перевод работы, описывающей алгоритм SAC. В статье объясняется, как добавление энтропии в целевую функцию помогает агенту лучше исследовать среду и избегать локальных оптимумов в задачах робототехники.

Источник (ориг.): Haarnoja, T., et al. "Soft Actor-Critic: Off-Policy Maximum Entropy Deep Reinforcement Learning with a Stochastic Actor". ICML (2018).

19 ИССЛЕДОВАНИЕ, УПРАВЛЯЕМОЕ ЛЮБОПЫТСТВОМ, ПУТЕМ САМОКОНТРОЛИРУЕМОГО ПРОГНОЗИРОВАНИЯ

Авторы: Д. Патак, П. Агравал, А.А. Эфрос, Т. Даррелл (UC Berkeley)

Автор перевода: Д. С. Киселёв

Описание: Перевод статьи о методе ICM (Intrinsic Curiosity Module). Авторы предлагают использовать ошибку предсказания динамики среды в качестве внутреннего вознаграждения, что позволяет обучаться в средах с редкими наградами.

Источник (ориг.): Pathak, D., et al. "Curiosity-driven Exploration by Self-supervised Prediction". ICML (2017).

20 МУЛЬТИАГЕНТНЫЙ АКТЕР-КРИТИК ДЛЯ СМЕШАННЫХ КООПЕРАТИВНО-КОНКУРЕНТНЫХ СРЕД

Авторы: Р. Лоу, И. Ву, А. Тамар и др. (OpenAI)

Автор перевода: Д. С. Киселёв

Описание: Перевод работы, описывающей алгоритм MADDPG. Рассматривается проблема нестационарности среды в мультиагентных системах и предлагается метод централизованного обучения с децентрализованным исполнением.

Источник (ориг.): Lowe, R., et al. "Multi-Agent Actor-Critic for Mixed Cooperative-Competitive Environments". NIPS (2017).