ДонНТУ Портал магистров

Реферат по теме выпускной работы

Содержание

Введение

Современное образование активно внедряет технологии искусственного интеллекта для повышения эффективности учебного процесса и индивидуализации обучения. Одним из перспективных направлений является создание интеллектуальных ассистентов, способных анализировать текстовые запросы студентов и формировать содержательные ответы [1]. Такие системы позволяют снизить нагрузку на преподавателей, обеспечивая непрерывность образовательного процесса и высокую доступность консультирования. Традиционные решения часто ограничиваются веб- или мобильными интерфейсами и требуют присутствия преподавателя; кроме того, многие системы не предоставляют прозрачного механизма оценки качества ответов [2].

В рамках настоящей работы предлагается автономный подход через электронную почту, объединяющий методы обработки естественного языка (NLP), графы знаний и рекуррентные нейросети (RNN, LSTM, GRU) для генерации информативных ответов студентам [3]. Такой подход позволяет обеспечить удобство взаимодействия, хранение истории запросов, а также интеграцию с существующими образовательными системами без необходимости дополнительных приложений [4].

Также рассмотрены исторические аспекты развития ИИ в образовании: от систем на основе правил и словарей, через первые чат-боты с ограниченной логикой, до современных моделей глубокого обучения и трансформеров. Анализ показывает, что автономные интеллектуальные ассистенты становятся необходимым инструментом в условиях массового дистанционного обучения.

1. Актуальность темы

Рост объёмов дистанционного обучения, а также увеличение числа студентов, обращающихся за помощью в рамках учебных курсов, создаёт значительную нагрузку на преподавателей. Автоматизация первичной консультационной поддержки с помощью интеллектуального ассистента позволяет снизить трудоёмкость рутинных ответов, повысить доступность помощи и уменьшить вероятность пропуска запросов [5].

Использование технологий NLP и нейросетевых моделей доказало свою эффективность в задачах классификации запросов, извлечения сущностей и генерации текста. Это делает их особенно подходящими для создания почтового интеллектуального ассистента. Кроме того, привычность и широкая распространённость почтовых сервисов создают естественный канал взаимодействия, обеспечивая простоту использования студентами и преподавателями [6].

С ростом объёмов данных и разнообразием вопросов классические подходы, основанные на шаблонах и правилах, сталкиваются с проблемами масштабируемости, релевантности и точности ответов. Гибридные модели, сочетающие граф знаний и нейросети, позволяют учитывать контекст учебного материала, особенности языка и специфику запросов, что повышает качество и точность выдаваемых ответов [7].

2. Цель и задачи исследования, планируемые результаты

Цель исследования — разработать архитектуру интеллектуального почтового ассистента, способного анализировать и обрабатывать учебные вопросы студентов, сопоставлять их с базой знаний и формировать корректные, информативные ответы с оценкой адекватности.

Задачи исследования:

Планируемые результаты: формализованная архитектура почтового ассистента, описание интерфейсов между модулями, метод оценки качества ответов, набор рекомендаций по реализации прототипа, демонстрационный граф знаний с базовыми учебными сущностями и шаблонной генерацией ответов. Также предполагается расширение функциональности для адаптации под новые учебные дисциплины и возможное подключение к голосовым интерфейсам.

3. Обзор исследований и разработок

В обзоре представлены ключевые международные, национальные и локальные исследования, посвящённые моделированию естественного языка, архитектурам RNN, подходам Seq2Seq, а также практическим системам анализа текста и графам знаний. Особое внимание уделено применению этих подходов в образовательных системах и автоматизированной поддержке студентов.

3.1 Обзор международных источников

Классические работы по рекуррентным сетям и их улучшениям включают исследования по LSTM — архитектуре, способной решать проблему длинных зависимостей в последовательностях, и исследования по GRU — облегчённой альтернативе LSTM [10]. Появление Seq2Seq архитектур показало эффективность обучения «всё-в-одном» для задач перевода и генерации последовательностей [11]. Механизм внимания (attention) и архитектура Transformer позволили эффективно обрабатывать длинные контексты и добиваться высокой производительности в задачах перевода и понимания языка [12]. Модель BERT продемонстрировала силу предобучения трансформеров для задач понимания языка и извлечения смысловой информации [13].

Практические системы, такие как Google Translate и Microsoft Translator, исторически использовали RNN/Seq2Seq с attention, затем перешли на трансформеры. NLU-платформы (IBM Watson NLU, TextRazor) предлагают комбинированный набор методов для извлечения сущностей, классификации и анализа тональности [14]. Также рассматриваются исследовательские проекты, направленные на генерацию ответов студентам, включая диалоговые системы на основе Transformer и BERT-подобные модели.

3.2 Обзор национальных источников

В отечественной научной литературе активно исследуются возможности применения нейросетевых моделей для задач NLP, их адаптации к русскоязычным корпусам и проблемам вычислительной эффективности [15]. Работы по интеграции графов знаний и извлечения семантической информации подчеркивают значимость структурированных баз знаний для повышения точности ответов в предметных доменах [16]. Публикации описывают применение Seq2Seq, attention и трансформеров для анализа учебных текстов, создания систем автоматизированного ответа и поддержки студентов при дистанционном обучении.

3.3 Обзор локальных источников

В локальных публикациях (ДонНТУ и близких вузах) рассматриваются вопросы применения нейросетевых архитектур в образовательном контексте и разработки инструментов автоматизированной поддержки студентов. Работы Муращенко (2024) и Суханова (2023) анализируют возможности использования RNN для моделирования естественного языка, построение графов знаний для учебного контента и общие архитектуры интеллектуальных ассистентов [17], [18].

Исследования подчеркивают необходимость интеграции NLP-модулей с графами знаний, методы предобработки текста, классификации запросов, выделения сущностей и сопоставления с учебной базой, а также ограничения вычислительных ресурсов и специфику обучения моделей на локальных корпусах.

4. Разработка архитектуры интеллектуального почтового ассистента

Ниже представлена архитектура, функциональные блоки и проектные решения для интеллектуального почтового ассистента (ИПА). Архитектура ориентирована на последующую реализацию прототипа в Python с использованием библиотек NLP и ML, а также графовой СУБД для хранения учебной информации.

4.1. Общая формализация

Пусть Q = {q1, q2, …, qn} — множество текстовых запросов студентов (тексты писем). Требуется построить функцию F: Q > A, где A = {a1, a2, …, an} — множество ответов. Ответ ai считается адекватным, если Rel(qi, ai) ≥ r, где Rel — мера смысловой релевантности, r — порог минимальной адекватности (например, 0.75 по интегральной метрике K, см. ниже). Такая формализация позволяет оценивать качество модели на каждом этапе генерации ответа [19].

4.2. Функциональная схема (модули)

Архитектура ИПА разбита на пять основных модулей (F = f5(f4(f3(f2(f1(q)))))):

  1. f1 — Модуль работы с электронной почтой (приём/отправка). Подключение к почтовому ящику по IMAP, извлечение новых писем, нормализация текста, фильтрация спама. Используются imaplib, smtplib, BeautifulSoup. Безопасность обеспечивается через OAuth2 и TLS [20].
  2. f2 — NLP-пайплайн (анализ запроса). Токенизация, лемматизация, POS-теггинг, NER, классификация намерений, выделение ключевых слов, нормализация терминов. Результат — JSON с сущностями и намерением. Технологии: spaCy, Hugging Face transformers, кастомные модели PyTorch/TensorFlow [21].
  3. f3 — Сопоставление с графом знаний (KG). Сопоставление сущностей с узлами графа, извлечение фактов и кратких описаний, разрешение омонимии и синонимии. Технологии: Neo4j, RDF+SPARQL [22].
  4. f4 — Генерация ответа нейросетевой моделью. Генерация связного текста на основе контекста (запрос + факты из KG). Технологии: Seq2Seq модели с LSTM/GRU, трансформеры, TensorFlow/PyTorch [23].
  5. f5 — Формирование отчёта и оценка качества. Регистрация времени, темы запроса, ключевых слов, вычисление метрик качества (семантическая близость, когерентность, релевантность графу), подготовка отчётов. Технологии: СУБД (PostgreSQL/SQLite), генерация CSV/PDF [24].

4.3. Потоки данных и интерфейсы

Реализация функции F основана на последовательном взаимодействии пяти модулей, описанных ниже. Каждый модуль реализует частичное преобразование fi, направленное на приближение результата к релевантному ответу ai.

На рисунке 1 представлена функциональная схема с потоками данных между модулями.

Функциональная схема системы
Рисунок 1 - Функциональная схема системы интеллектуального почтового ассистента

4.4. Проектные решения и выбранные технологии

Для улучшения качества текста применяются методы: dropout, teacher forcing, beam search, sampling, регулирование temperature, смешанные подходы Seq2Seq + шаблоны [25]. Это позволяет уменьшить ошибки генерации, избежать искажения фактов и повысить семантическую согласованность ответа.

4.5. Критерий адекватности

Для количественной оценки адекватности ответа системы предлагаем использовать интегральный показатель, который учитывает семантическую близость, когерентность и релевантность. Такой подход позволяет формализовать субъективную оценку и сделать её воспроизводимой.

K = α1·S + α2·C + α3·R, (1)

где S — семантическая близость запроса и ответа, C — когерентность (перплексии), R — релевантность понятиям графа знаний.

Параметры αi подбираются эмпирически, а r = 0.75 задаёт порог адекватности. Такой интегральный показатель позволяет объективно оценивать работу системы [26].

4.6. Пример прохождения запроса

Рассмотрим пример работы системы: студент пишет письмо с вопросом «Здравствуйте, как работает персептрон и какие задачи он решает?» Модуль f1 извлекает текст и метаданные, NLP-пайплайн f2 идентифицирует ключевые сущности («персептрон»), определяет намерение («запрос объяснения концепции»). KG f3 возвращает краткое определение и связанные факты о персептроне. Генератор f4 формирует связный ответ, учитывая контекст и стиль языка, после чего система f5 оценивает адекватность ответа и формирует отчёт для преподавателя.

4.7. Масштабируемость и адаптивность

Архитектура ИПА спроектирована с учётом возможности масштабирования: она поддерживает параллельную обработку нескольких писем, горизонтальное распределение модулей NLP и генерации текста, а также добавление новых доменных графов знаний без изменения основной логики системы. Для адаптации к различным дисциплинам и уровням сложности предусмотрена настройка весов αi, порога r и параметров генератора текста.

Также возможна интеграция с внешними API образовательных платформ и системами управления обучением (LMS), что обеспечивает единый поток данных и упрощает управление курсами и статистикой взаимодействия студентов с ассистентом [27].

4.8. Оценка рисков и ограничений

Основные ограничения системы связаны с объёмом и качеством доменных данных, возможностью некорректной генерации текста, вычислительными затратами при обучении и генерации ответов. Риски минимизируются использованием гибридного подхода (RNN + шаблоны + трансформеры), модулем валидации преподавателем, а также применением методов сжатия моделей: pruning, квантование, knowledge distillation [28].

Также необходимо учитывать вопросы интерпретируемости и прозрачности модели: преподаватель должен иметь возможность просмотреть, какие факты из графа были использованы при формировании ответа, что повышает доверие к результатам работы ИПА [29].

Заключение

В работе предложена формальная модель и архитектура интеллектуального почтового ассистента. Архитектура объединяет модули приёма почты, NLP-пайплайн, граф знаний, генератор на основе нейросетевой модели и систему отчётности. Для генерации текста используются RNN и трансформеры, а интегральный показатель K позволяет оценивать качество ответа.

Дальнейшие шаги включают разработку прототипа, наполнение графа знаний и настройку порога r, а также проверку работы системы на реальных учебных запросах. Рассматривается расширение функциональности: подключение голосового интерфейса, интеграция с LMS, улучшение метрик качества с помощью human-in-the-loop оценки и автоматическое обучение на новых запросах. Все эти меры направлены на повышение эффективности дистанционного обучения и улучшение взаимодействия студентов с образовательной средой [30].

Таким образом, предложенная архитектура и подход позволяют создать автономный и адаптивный интеллектуальный ассистент, который способен не только формировать корректные ответы, но и обеспечивать прозрачность, безопасность и удобство использования в учебной среде.

Список источников

  1. Галаган К.В. Применение нейросетевых моделей NLP для оценки эффективности мероприятий по формированию комфортной городской среды // Вестник ВГУ. – 2023. – №3. — С. 167–178.
  2. Прошина М.В. Современные методы обработки естественного языка: нейронные сети // Экономика строительства. – 2022. – №5. — С. 27–42.
  3. Грибков Е.И., Ехлаков Ю.П. Нейросетевая модель для обработки запросов пользователей на этапе эксплуатации и сопровождения ПО // Бизнес-информатика. – 2020. – Т.14, №1. — С. 7–18.
  4. Волкова И.А., Шамаева Е.Д. Экскурс в графы знаний // International Journal of Open Information Technologies. – 2023. – №3. — С. 75–83.
  5. Агузумцян Р.В., Назарян А.А., Саркисян В.Р. О применении интеллектуальных технологий NLP и VR для поддержки принятия решений // Экономика. Информатика. – 2021. – №2. — С. 392–404.
  6. Литвинов В.Л., Полозов В.В. Исследование нейросетевых архитектур в задачах NLP // Региональная информатика (РИ–2020). – 2020. — С. 288–289.
  7. Зозуля Н.М., Федяев О.И. Рекуррентные нейронные сети как средство моделирования естественного языка // Программная инженерия: методы и технологии (ПИИВС–2024). — 2024. — С. 229–235.
  8. Узких Г.Ю. Применение глубокого обучения в задачах обработки естественного языка // Вестник науки. – 2023. – Т.4, №8(65). – С. 310–312.
  9. Firsanova V. The advantages of human evaluation of sociomedical question answering systems // International Journal of Open Information Technologies. – 2021. – №12. – P. 53–59.
  10. Волкова И.А., Шамаева Е.Д. Экскурс в графы знаний // International Journal of Open Information Technologies. – 2023. – №1. – С. 75–83.
  11. Gasparian M., Korneev D., Titov V. Conceptual model of a smart integrated educational environment // Wisdom. – 2022. – Vol.3(4). – P. 32–39.
  12. Geldieva G., Durdyyeva O., Atayeva O. Everything we need to know about the artificial intelligence (AI) // Innovative Science. – 2024. – №5-1. – P. 166–167.
  13. Sajja R., Sermet Y., Cikmaz M., Cwiertny D., Demir I. Artificial Intelligence-Enabled Intelligent Assistant for Personalized and Adaptive Learning in Higher Education // Information. – 2024. – Vol.15, №10, Art.596. – P. 1–15.
  14. Sajja R., et al. Platform-independent and curriculum-oriented intelligent educational assistance framework // International Journal of Educational Technology in Higher Education. – 2023. – Vol.20, Art.42. – P. 1–18.
  15. Wibawa A.P. Advancements in natural language processing // ScienceDirect. – 2024. – Article in press. – P. 1–10.
  16. Mathew A.N., Rohini V., Paulose J. NLP-based personal learning assistant for school education // International Journal of Electrical and Computer Engineering. – 2021. – Vol.11, №5. – P. 4522–4530.
  17. Муращенко Е.С. Исследование предобученных нейросетевых моделей и алгоритмов обнаружения заданных объектов на изображениях в видеопотоке [Электронный ресурс] // Выпускная квалификационная работа магистра / Донецкий национальный технический университет. – 2024. – Режим доступа: https://masters.donntu.ru/2024/fisp/muraschenko/diss/index.htm – Загл. с экрана.
  18. Суханов А.В. Визуальный контроль присутствия студентов в аудитории на основе глубокой нейронной сети [Электронный ресурс] // Выпускная квалификационная работа магистра / Донецкий национальный технический университет. – 2023. – Режим доступа: https://masters.donntu.ru/2023/fisp/sukhanov/diss/index.htm – Загл. с экрана.
  19. Thiergart J., Huber S., Ubellacker T. Understanding Emails and Drafting Responses — An Approach Using GPT-3 // arXiv. – 2021. – P. 1–12.
  20. Deshmukh S., Lee C. Adapting Task-Oriented Dialogue Models for Email Conversations // arXiv. – 2022. – P. 1–9.
  21. Тюрина Д.А. Применение нейронных сетей в обработке естественного языка // Информатика. Компьютерные науки. – 2023. – №4. – С. 101–108.
  22. Лаптев В.И., Сафронова Е.В. Использование графов знаний в обучающих системах // Наука и образование сегодня. – 2021. – №8. – С. 55–62.
  23. Михайлова К.А., Мосина А.В. Нейросетевые модели обработки текстов в образовании // Педагогическая информатика. – 2024. – №2. – С. 73–81.
  24. Исаева Е.В. Разработка чат-ботов на основе BERT-моделей для университетской поддержки // Информационные технологии и системы. – 2022. – №9. – С. 44–51.
  25. Васильев Р.П., Головин А.С. Применение семантических моделей в системах интеллектуального поиска // Системный анализ и информатика. – 2021. – №5. – С. 112–120.
  26. Moreno L., Garcia M., Ortiz S. Intelligent email response automation using neural dialogue systems // Applied Artificial Intelligence. – 2023. – Vol.37, №9. – P. 912–926.
  27. Han J., Park K. Knowledge Graph-Based Learning Assistant for Academic Support // IEEE Access. – 2024. – Vol.12. – P. 43567–43578.
  28. Brown M., Taylor R., Khan Z. Comparative study of LSTM and Transformer models for question answering // Journal of AI Research. – 2022. – Vol.74. – P. 205–219.
  29. Li Y., Zhao X. Optimizing semantic coherence in neural text generation for educational assistants // Expert Systems with Applications. – 2024. – Vol.239, Art.122056. – P. 1–14.
  30. Singh P., Kumar A. Context-aware intelligent mail assistant using BERT embeddings // Neural Computing and Applications. – 2023. – Vol.35, №17. – P. 12511–12522.