ДонНТУ   Портал магистров

Реферат по теме выпускной работы

Содержание

Введение

В последние десятилетия с развитием цифровых технологий и интернета глобальные коммуникационные системы претерпели значительные изменения. Интернет стал важнейшим средством распространения информации, что привело к небывалому росту доступных данных и возможности мгновенного обмена ими на мировом уровне. Однако наряду с положительными аспектами этой трансформации возникает множество новых проблем, связанных с достоверностью распространяемой информации. Одной из ключевых проблем, затрагивающих как отдельных людей, так и общество в целом, является дезинформация и распространение ложных новостей.

Дезинформация представляет собой намеренное распространение искажённой или ложной информации с целью введения аудитории в заблуждение, создания паники или манипуляции общественным мнением [1]. Особую опасность эта практика представляет в политической, социальной и экономической сферах. Например, ложные новости могут существенно повлиять на исход выборов, привести к дестабилизации рынка или вызвать общественные волнения. Кроме того, дезинформация в интернете способствует росту социальной поляризации, усиливая разногласия в обществе.

В качестве контрмеры угрозе дезинформации выступают технологии автоматического анализа текстов, способные эффективно идентифицировать ложные новости и другие формы дезинформации. Одним из наиболее перспективных направлений в этой области является использование методов машинного обучения, в частности, нейронных сетей. Современные методы глубокого обучения демонстрируют высокую эффективность в задачах анализа больших объёмов данных и позволяют разрабатывать сложные алгоритмы, способные выявлять дезинформацию с высокой точностью [2].

1. Актуальность темы

Проблема дезинформации в интернете многослойна и затрагивает различные аспекты общественной жизни [3]. Социальные сети, блоги и новостные сайты ежедневно генерируют миллионы единиц контента, среди которых значительная доля представляет собой откровенно ложные или манипулятивные материалы. Стремительное распространение такой информации происходит благодаря вирусным механизмам передачи данных, при этом пользователи, зачастую сами того не осознавая, способствуют распространению недостоверных сведений.

Многие современные исследования указывают на серьёзные последствия дезинформации в интернете. Ложные новости оказывают влияние не только на индивидуальные решения, но и на общественные процессы, такие как политические выборы или общественные протесты. Один из самых известных примеров — вмешательство в выборы президента США в 2016 году, когда дезинформация, распространяемая через социальные сети, играла значительную роль в формировании общественного мнения.

Традиционные методы выявления ложной информации, такие как журналистская проверка фактов (fact-checking), хотя и остаются эффективными, обладают рядом серьёзных ограничений. Проверка фактов требует значительных временных и людских ресурсов, а в условиях стремительного роста объёмов информации в интернете ручные методы становятся неэффективными. В связи с этим всё более важную роль начинают играть автоматизированные системы анализа текста.

2. Нейронные сети и их применение

Нейронные сети, представляющие собой математические модели, вдохновлённые работой биологических нейронов, играют ключевую роль в современной науке о данных. Эти сети обучаются на огромных наборах данных, что позволяет им выявлять сложные паттерны и зависимости. Одним из основных преимуществ нейронных сетей является их способность к самообучению и адаптации, что делает их крайне полезными для анализа текстовой информации, которая, как правило, характеризуется высокой степенью разнообразия и контекстности [4].

В последние годы наибольшее внимание исследователей и инженеров привлекли методы глубокого обучения, особенно рекуррентные нейронные сети (RNN) и их более современные версии, такие как сети LSTM (Long Short-Term Memory) и трансформеры. Эти архитектуры способны учитывать последовательные зависимости в тексте, что делает их крайне эффективными в задачах анализа естественного языка, таких как распознавание тональности, контекста, классификация текстов и т. п.

Модель трансформера, лежащая в основе современных языковых моделей, таких как BERT и GPT, представляет собой прорыв в обработке естественного языка. Благодаря механизму внутреннего внимания (self-attention) трансформеры способны анализировать большие объёмы текста, находя сложные связи между словами и фразами, что делает их особенно полезными в задаче выявления скрытых признаков дезинформации.

3. Возможные трудности

Тексты, содержащие дезинформацию, часто сложно классифицировать из-за неоднозначности и многозначности языка. Ложные новости могут быть намеренно сформулированы так, чтобы имитировать достоверные сообщения, при этом играя на нюансах языка или двусмысленности формулировок. Алгоритмам нейронных сетей бывает трудно распознать такие тонкие различия, особенно в сложных контекстах, где информация может быть завуалированной или представленной частично. Так же не вся информация, которая может быть воспринята как ложная, обязательно является дезинформацией. Существует множество сообщений, которые могут включать субъективные мнения, недоказанные гипотезы или обрывочные факты, что затрудняет автоматическую классификацию. Дезинформация может сильно варьироваться в зависимости от культурных и языковых особенностей общества. Системы, разработанные для одной языковой среды, могут быть неэффективными в другой, где используются другие формы манипуляций или культурные коды. Сторонники дезинформации часто находят новые способы обхода алгоритмов, разрабатывая более изощрённые методы распространения ложных данных. Например, использование ботов, которые маскируются под реальных пользователей, или генерация контента, который сложно классифицировать как ложный из-за его частичной достоверности. Чёткое различие дезинформации, ошибок и законных спекуляций может потребовать применения более точных методов.

В интернете ежедневно создаются и распространяются огромные объёмы информации, что представляет серьёзную проблему для автоматизированных систем анализа. Эффективные модели должны быть способны обрабатывать большие данные в реальном времени, чтобы вовремя выявлять и останавливать распространение дезинформации. Однако анализ такого объёма данных требует значительных вычислительных ресурсов и продвинутых алгоритмов обработки.

Одной из ключевых проблем в борьбе с дезинформацией является грань между необходимостью контролировать ложные сообщения и риском ограничения свободы слова. Автоматические системы, которые выявляют и блокируют ложные новости, могут подвергаться критике за слишком жёсткие меры, что может привести к цензуре легитимного контента. Это создаёт сложные вопросы о том, как сбалансировать борьбу с дезинформацией и защиту прав пользователей на выражение своего мнения [5]. В некоторых случаях источники дезинформации могут иметь политические или экономические интересы, что усложняет борьбу с ними. Например, крупные игроки могут использовать дезинформацию для достижения собственных целей, и усилия по её подавлению могут столкнуться с сопротивлением влиятельных групп. Это требует участия как технологий, так и политических решений для эффективной борьбы с проблемой.

4. Методы борьбы с дезинформацией с использованием нейронных сетей

В последние годы исследователи активно разрабатывают и совершенствуют методы машинного обучения, способные анализировать большие объёмы данных и выявлять признаки ложной информации. Ключевыми задачами таких систем являются: классификация текста (является ли новость достоверной или ложной, основываясь на характеристиках текста), анализ источников (нахождение ненадёжных или вредоносных, с последующей блокировкой), анализ сетей распространения (выявление ключевых узлов и методов распространения дезинформации в этой сети).

Одним из ключевых аспектов борьбы с дезинформацией с помощью нейронных сетей является разработка и обучение моделей на больших объёмах данных. Нейронные сети способны обрабатывать миллионы единиц текста, выявляя сложные закономерности, которые могут быть незаметны при ручном анализе. Важную роль в этом процессе играет предварительная обработка данных: нейронные сети обучаются не только на текстах новостей, но и на метаданных, таких как время публикации, авторство, социальные связи источников.

Современные подходы также включают в себя использование методов обработки естественного языка для генерации ложных новостей, что позволяет улучшать модели распознавания дезинформации. Такие модели проходят обучение на фальшивых новостях, что позволяет им более точно идентифицировать признаки манипулятивной информации.

Анализ сетевых графов представляет собой подход, основанный на исследовании взаимосвязей и структуры социальных сетей, включая взаимодействия между пользователями, группами, источниками информации и т.д. Пример этого процесса приведён на рисунке 1. Вершины графа обозначают элементы сети, а рёбра указывают на отношения между этими элементами. Определение ключевых узлов, центральных посредников и группировок в сети позволяет глубже понять, каким образом распространяется дезинформация и какие меры могут быть эффективны для её сдерживания. Алгоритмы для выявления сообществ помогают выявить группы пользователей или источников, которые тесно связаны между собой, что может облегчить мониторинг и сосредоточение усилий на предотвращении дальнейшего распространения ложной информации. Анализ структуры и динамики сетевых графов позволяет обнаружить характерные паттерны распространения дезинформации, такие как цепные реакции распространения, активация специфических сообществ или использование ботнетов. Регулярное отслеживание сетевых графов позволяет выявлять подозрительные активности, такие как массовая рассылка однотипных сообщений или координированное действие большого числа аккаунтов.

Пример графа социальной сети

Рисунок 1 – Пример графа социальной сети

Использование ансамблевых моделей машинного обучения считается крайне эффективным методом для обнаружения дезинформации. Вместо того чтобы полагаться на одну модель, ансамбли объединяют результаты нескольких моделей [6], что обеспечивает более точные и надёжные прогнозы. Пример работы ансамблевой модели приведён на рисунке 2. Одним из популярных видов ансамблевых методов является бэггинг [7] (Bootstrap Aggregating). Этот метод заключается в обучении нескольких одинаковых моделей на разных подмножествах данных с последующим усреднением их прогнозов, что уменьшает разброс результатов и повышает стабильность моделей. Градиентный бустинг [8] (Gradient Boosting) строит последовательность моделей, каждая из которых исправляет ошибки предыдущей, что делает его одним из самых мощных и эффективных алгоритмов машинного обучения, применяемых для решения задач классификации и регрессии. В методе стекинга (Stacking) несколько разных моделей комбинируются, а их прогнозы используются в качестве входных данных для метамодели, которая объединяет эти результаты и делает итоговое предсказание. Стекинг позволяет объединить различные подходы и добиться повышения точности и устойчивости модели.

Пример работы ансамблевых моделей

Рисунок 2 – Пример работы ансамблевых моделей

Глубокое обучение с использованием нейронных сетей демонстрирует значительный потенциал в автоматическом анализе текстов для обнаружения манипулятивных приёмов и стилей, характерных для ложных новостей. Глубокие нейронные сети, особенно рекуррентные нейронные сети [9] (RNN, см. рис. 3) и свёрточные нейронные сети [10] (CNN, см. рис. 4), могут быть применены для анализа текстовых и визуальных данных с целью выявления признаков, характерных для дезинформации. Эти модели могут обучаться на больших наборах данных, содержащих примеры как ложных, так и достоверных новостей, и обнаруживать ключевые особенности для каждого типа. Подобные модели часто используются для мониторинга активности в социальных сетях и выявления подозрительных или автоматизированных аккаунтов, которые могут быть причастны к распространению дезинформации. Кроме того, глубокое обучение активно применяется для анализа изображений и видеоконтента с целью обнаружения подделок или манипуляций, в чём особенно полезны свёрточные нейронные сети.

Пример архитектуры рекуррентной нейронной сети

Рисунок 3 – Пример архитектуры рекуррентной нейронной сети

Пример архитектуры свёрточной нейронной сети

Рисунок 4 – Пример архитектуры свёрточной нейронной сети

Выводы

Автоматическое выявление дезинформации в интернете представляет собой сложную задачу, связанную с множеством технических и социальных проблем. Основные технические трудности включают неоднозначность языка, быструю эволюцию дезинформации, огромный масштаб данных, с которыми необходимо работать, и "серую зону" между правдой и мнениями. Кроме того, методы глубокого обучения, хотя и эффективны, часто критикуются за отсутствие прозрачности, что затрудняет объяснение решений моделей. Необходимо найти баланс между борьбой с ложной информацией и защитой свободы слова, избегая чрезмерной цензуры. Дезинформация продолжает развиваться, применяя новые стратегии обхода алгоритмов. Культурные и языковые различия, а также наличие влиятельных групп, использующих ложные данные для своих целей, ещё больше усложняют проблему. Несмотря на эти трудности, развитие нейронных сетей и методов машинного обучения способно на создание более точных и эффективных систем. Важным является междисциплинарный подход, который учитывает как технические, так и культурные, политические и этические аспекты.

Список источников

  1. Иванова А. П. ДЕЗИНФОРМАЦИЯ В ИНТЕРНЕТЕ: НЕИЗБЕЖНАЯ РЕАЛЬНОСТЬ? // Социальные и гуманитарные науки. Отечественная и зарубежная литература. Сер. 4, Государство и право: Реферативный журнал. - 2023 - №3.
  2. Тумбинская М. В., Идентификация фейк-новостей с помощью веб-ресурса на основе нейронных сетей / М. В. Тумбинская, Р. А. Галиев // Программные продукты и системы – 2023 - №4.
  3. Михеев Е. А. Дезинформация в социальных сетях: состояние и перспективы психологических исследований / Е.А. Михеев, Т.А. Нестик // Социальная психология и общество – 2018. – Т. 9. № 2. – C. 5-20.
  4. Гафаров Ф. М. ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ И ИХ ПРИЛОЖЕНИЯ / Ф. М. Гафаров, А. Ф. Галимянов // Издательство казанского университета – 2018 - №1 – 121 с.
  5. Haas J. - Freedom of the media and artificial intelligence / Global conference for media freedom – 2020 – 12.
  6. Ансамблевые методы машинного обучения [Ссылка]. Сайт: Электр. информ. – Режим доступа: https://habr.com/ – Загл. с экрана.
  7. Breiman, L. - Bagging predictors / Machine Learning – 1996 – 24 - p123– 140.
  8. Freund Y. A. - Short Introduction to Boosting / Freund, Y. A., Schapire, R. E. // Journal of Japanese Society for Artificial Intelligence – 1999 - 14 (5) - p771-780
  9. LSTM – сети долгой краткосрочной памяти [Ссылка]. Сайт: Электр. информ. – Режим доступа: https://habr.com/ – Загл. с экрана.
  10. Наглядно о том, как работает свёрточная нейронная сеть [Ссылка]. Сайт: Электр. информ. – Режим доступа: https://habr.com/ – Загл. с экрана.