Аннотация

Демина Е. К., Антамошкин О. А. Использование больших языковых моделей для анализа информации и автоматизации поиска ответов на запросы сотрудников технической поддержки. В статье рассматривается применение больших языковых моделей (LLM) для анализа информации и автоматизации поиска ответов на запросы сотрудников технической поддержки. Описаны принципы работы LLM, их способность обрабатывать естественный язык и генерировать точные ответы. Рассмотрены преимущества, включая ускорение решения проблем, снижение нагрузки на персонал и повышение качества обслуживания. Анализируются вызовы, такие как обеспечение достоверности информации и интеграция в рабочие процессы. Представлены практические примеры использования LLM в технической поддержке, включая чат-ботов и системы рекомендаций. В заключение обсуждаются перспективы развития технологии и её влияние на эффективность работы поддержки и клиентский опыт.

Ключевые слова: большие языковые модели, техническая поддержка, автоматизация, чат-боты, естественный язык, анализ информации.

Demina E. K., Antamochkin O. A. Using large language models to analyze information and automate the search for answers to requests from technical support staff. The article discusses the use of large language models (LLMs) for information analysis and automation of answer search for technical support requests. The principles of LLM operation, their ability to process natural language and generate accurate responses are described. The advantages, including accelerated problem resolution, reduced staff workload, and improved service quality, are considered. Challenges such as ensuring information reliability and integration into workflows are analyzed. Practical examples of LLM use in technical support, including chatbots and recommendation systems, are presented. The conclusion discusses the prospects for technology development and its impact on support efficiency and customer experience.

Keywords: large language models, technical support, automation, chatbots, natural language, information analysis.

Постановка проблемы

В условиях цифровой трансформации организации, предоставляющие услуги массового клиентского сервиса, сталкиваются с растущим потоком обращений в службу поддержки. Ручная обработка типового запроса занимает 15-20 минут, что приводит к увеличению времени ожидания и снижению лояльности клиентов. Традиционные методы оптимизации, такие как использование шаблонных ответов, демонстрируют системные недостатки, отнимая рабочее время сотрудников и снижая качество обслуживания. Внедрение генеративного ИИ (LLM) представляется перспективным решением, однако требует учета технических и организационных сложностей.

Анализ современных трендов в развитии LLM

Современные LLM, основанные на архитектуре трансформеров (например, GPT-4, BERT), демонстрируют значительный прогресс в обработке естественного языка. Эти модели способны генерировать семантически связные ответы и адаптироваться к узкоспециализированным доменам. GPT-4 Turbo может обрабатывать контексты до 128 тыс. токенов, что позволяет эффективно решать многоэтапные задачи. Внедрение LLM в сервисные платформы привело к сокращению времени обработки запросов (например, чат-бот Zendesk на базе GPT-4 сократил время обработки запроса с 15 до 1.8 минут). Системы, такие как Tasq.ai, автоматизируют формирование ответов, интегрируясь с различными источниками данных, что снижает нагрузку на операторов.

Несмотря на прогресс, остаются значительные вызовы. Качество ответов может снижаться при работе с узкоспециализированной терминологией, а также без регулярного обновления обучающих данных [3]. Внедрение многоуровневых фильтров снижает риски, но случаи ошибок подчеркивают необходимость гибридных систем. Перспективные направления включают смешанные архитектуры (LLM + экспертные системы) и использование LLM на edge-устройствах для снижения задержек.

Стратегические ориентиры исследования: цель и задачи

Настоящее исследование посвящено разработке комплексной системы оценки эффективности больших языковых моделей (LLM) в сфере автоматизации клиентской поддержки. Основное внимание сосредоточено на четырех критически важных аспектах: операционной скорости, контекстной точности, ресурсной оптимизации и управлении рисками.

Цель: разработка комплексной системы оценки эффективности LLM в автоматизации клиентской поддержки.

Задачи:

• Сократить время первичной обработки запросов до менее 2 минут.
• Достичь 95% корректности ответов в специализированных областях.
• Снизить рутинную нагрузку на сотрудников поддержки на 60–70%.
• Минимизировать этические и юридические риски, связанные с генерацией недостоверной информации.

Исследование включает сравнительный анализ архитектур LLM, бенчмаркинг современных моделей (GPT-4 Turbo, Claude 3, Mistral 7B), оценку контекстной глубины и доменной адаптивности. Важным направлением является разработка протокола интеграции LLM с унаследованными системами. Практическая часть включает верификацию гипотез через индустриальные кейсы, например, внедрение чат-бота в сети отелей Marriott.

Основной материал исследования

Для оценки эффективности применялась методология интеграции LLM (GPT-4, BERT) через API-интерфейсы. Использовались репрезентативные датасеты из CRM-систем телекоммуникационных компаний. Ключевыми метриками были точность ответов, время обработки запроса и уровень удовлетворенности клиентов (CSAT).

Результаты:

• GPT-4 сократил среднее время ответа с 15 до 2 минут [2].
• BERT показал улучшение в классификации запросов на 40% [3].
• В многошаговых диалогах GPT-4 достиг 89% точности.
• Внедрение чат-бота в IT-компании сократило рутинные задачи на 60% [5].
• Рекомендательные системы автоматизировали обработку 80% типовых инцидентов [5].

Ограничения:

• Качество ответов снижалось на 20% при использовании устаревших датасетов [3].
• В 5% случаев GPT-4 генерировал некорректные рекомендации [6].
• Обработка 1 тыс. запросов в реальном времени требовала 8 GPU [4].

Рекомендации:

• Поэтапное внедрение, начиная с типовых запросов.
• Контроль качества, включая выборочный аудит и мониторинг метрик CSAT и NPS.
• Включение отраслевой терминологии в датасеты и тестирование на актуальных кейсах [1].
• Внедрение системы непрерывного обучения.

Выводы и перспективы

Внедрение LLM в техническую поддержку привело к значительному повышению эффективности. Время обработки запросов сократилось на 80% (с 15 до 2 минут) [2], точность ответов достигла 89%, а автоматизация рутинных задач снизила нагрузку на персонал на 50–60%, что подтверждается кейсами IT-компаний [5].

Ключевыми проблемами остаются некорректность ответов в 5% случаев [6], зависимость от актуальности данных и ресурсоемкость [4].

Рекомендуется внедрение гибридных систем, где ответы моделей проходят валидацию сотрудниками. Критически важным становится регулярное обновление обучающих данных и доменно-специфическое дообучение моделей.

Перспективы развития связаны с разработкой энергоэффективных архитектур LLM, интеграцией мультимодальных моделей и улучшением интерпретируемости моделей. Необходимы стандарты контроля качества и прозрачные механизмы аудита [1].

Прикладные исследования должны фокусироваться на адаптации LLM для узкоспециализированных областей и персонализации ответов. Прогнозирование запросов на основе истории взаимодействий позволит решать проблемы превентивно.

Заключение

LLM трансформируют техническую поддержку, предлагая решения для масштабирования и повышения эффективности. Успешное внедрение требует баланса между автоматизацией и контролем качества, а также междисциплинарного подхода к этическим и техническим вызовам. Дальнейшие исследования должны быть направлены на создание адаптивных, безопасных и ресурсоэффективных систем, способных интегрироваться в динамичные бизнес-процессы.

Библиографические ссылки

1. Bommasani R., On the Opportunities and Risks of Foundation Models, 2023.
2. Everything We Know About GPT-4 So Far, DataCamp, 2023. Электронный ресурс: URL: https://www.datacamp.com/blog/what-we-know-gpt4.
3. Shams R. Semi-supervised Classification for Natural Language Processing. 2014.
4. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L. I Attention Is All You Need, 2023.
5. The Current State of Large Language Models (LLM), 2023. Электронный ресурс: URL: https://www.tasq.ai/blog/large-language-models/.
6. Quach K., Researchers made an OpenAI GPT-3 medical chatbot as an experiment. It told a mock patient to kill themselves. The Register 2021, Электронный ресурс – URL: https://www.theregister.com/2021/10/28/gpt3_medical_chatbot_experiment/.

© Демина Е. К., Антамошкин О. А., 2025