Аннотация: В статье рассматриваются особенности информационной безопасности при использовании технологий нейронных сетей. Отмечено, что технологии нейронных сетей предоставляют удивительные возможности для удовлетворения самых специализированных потребностей клиентов и создания совершенно новых бизнес-моделей. Выявлено, что методо- логические основы безопасности нейросетевых технологий в пространстве проблемы обнару- жения deepfake-модификаций биометрических изображений на основе таких составляющих: базового подхода к обнаружению deepfake-модификаций, структуры методологии безопасно- сти нейросетевых многоуровневых информационных технологий и комплексной системы без- опасности информационного процесса обнаружения deepfake-модификаций на этапе обработки согласно концепции «объект – угроза – защита», являющейся развитием системных подходов к безопасному обнаружению deepfake-модификаций средствами нейронных сетей.

Ключевые слова: информационная безопасность, нейронные сети, управление, исследование, технологии, искусственный интеллект.

Актуальным направлением развития современного цифрового общества и экономики является развитие методологических основ создания систем с высоким уровнем информационной безопасности при реализации технологий нейронных сетей. Сегодня разворачиваются процессы безопасности технологий в задачах обнаружения deepfake-модификаций в системах на основе нейронных сетей. Исследуются вопросы безопасности машинного обучения в сегменте комплексных моделей угроз и средств защиты. В работе [8] рассмотрена модель безопасности и конфиденциальность данных в глубоком обучении, как части машинного обучения в случае воздействия ответных атак. На модель безопасности влияют атаки отравления в процессе глубокого обучения и атаки уклонения при принятии решения о результатах глубокого обучения. На противодействие этим атакам предусмотрены: методы распознавания и удаления вредоносных данных; обучение модели нечувствительности к таким данным; маскировка структуры и параметров модели. Конфиденциальности данных в процессе глубокого обучения угрожают своеобразные атаки, в частности, инверсия модели безопасности.

Эффективным инструментарием противодействия угрозам конфиденциальности являются методы криптографии, среди которых гомоморфное шифрование. Интересно исследование вопроса безопасности аппаратного обеспечения глубоких нейронных сетей в пространстве «угроза-защита», о чем идет речь в работе [8].

Известны современные методы выявления deepfake модификаций биометрического изображения лица человека с точностью 0,94…0,99 [7-8].

Целью работы является разработка методологии безопасности нейросетевой информационной технологии согласно:

1) базовому подходу к выявлению deepfake-модификаций биометрических изображений;

2) многоуровневой модели нейросетевой ИТ: информационные ресурсы (ИР) – информационные системы (ИС) – информационные процессы (ИП) – информационные сети (ИСТ) – управление информационной безопасностью (У), реализующей конструктивный алгоритм безопасного функционирования нейросетевой ИТ.

Основой методологии безопасности нейросетевых технологий является базовый подход к выявлению deepfake-модификаций биометрического изображения:

- информационная нейросетевая технология (ИТ1);

- информационная технология поддержки принятия решений (ИТ2).

Разработка информационных технологий обнаружения deepfake-модификаций биометрического изображения основывается на:

- использовании подхода поэтапного обнаружения модифицированных биометрических изображений средствами сверточных нейронных сетей [10];

- применении нейросетевой системы обнаружения deepfake-модификаций по ее архитектуре и системе поддержки принятия решения о качестве работы классификатора биометрических изображений согласно методике оценки.

В основе информационной нейросетевой технологии: модель объекта, методология обнаружения deepfake-модификаций, точность классификации биометрических изображений, методика оценки качества работы классификатора биометрических изображений.

Конструктивный алгоритм ИТ1 «разделение видео на кадры – детекция – обработка признаков – классификация» реализуется архитектурой нейросетевой системы с использованием модульного подхода, включающей отдельные функциональные модули для повышения эффективности и адаптивности алгоритма обнаружения deepfake-модификаций.

Модульная архитектура нейросетевой системы обнаружения deepfake-модификаций реализует взаимосвязанный алгоритм «предварительная обработка данных – обработка признаков – обучение классификатору», который функционально развернут сверточной нейронной сетью в пространстве «входные данные – свертка – субдискретизация » и обеспечивает «индикацию – интерпретацию – идентификацию – принятие решения».

Модуль предварительной обработки данных системы обнаружения deepfakeмодификаций функционально реализует алгоритм:

1) разделение видеофайла на отдельные кадры средствами открытых библиотек Python;

2) распознавание детектором биометрических изображений средствами нейронной сети;

3) создание новых стандартизированных по размерам биометрических изображений.

Модуль обработки признаков системы обнаружения deepfake-модификаций характерен алгоритмической структурой:

1) воспроизведение нормализованных биометрических изображений лиц; обработка изображений нейронной сетью;

2) вычисление матриц признаков средствами нейронной сети и, на этой основе, построение классификатора изображений.

Модуль обучения классификатору системы обнаружения deepfake-модификаций реализует функциональный алгоритм:

1) обучение классификатору;

2) тестирование классификатора на основе метрик оценки;

3) решение о допуске классификатора – модифицированное изображение; не модифицированное изображение.

Точность классификации системы обнаружения deepfake-модификаций биометрических изображений учитывает:

1) чувствительность и специфичность классификатора;

2) индекс Юдена [9], определяющий оптимальное пороговое значение классификации биометрических изображений;

3) информированные классифицированные биометрические изображения.

Конструктивный алгоритм ИТ2 «идентификация – оценка классификатора – новая модель классификатора» реализуется системой поддержки принятия решения в пространстве анализа данных и применения метрик оценивания: точности классификатора, площади под кривой и логарифмической функции потерь, что позиционирует разницу между прогнозируемой вероятностью принадлежности элемента к определенному классу.

Методология безопасности обнаружения deepfake-модификаций на основе многоуровневой модели нейросетевой ИТ.

По проведенному анализу известных подходов к безопасным технологиям обнаружения deepfake-модификаций биометрических изображений предложено:

1) создание методологии безопасности нейросетевых информационных технологий обнаружения deepfake-модификаций биометрических изображений лица человека в пространстве;

2) развитие комплексной системы безопасности информационного процесса «фаза – операция – обработка» согласно уровням «разделения видеофайла на кадры – детекция, обработка признаков – оценка точности классификатора изображений» [2].

Методология безопасности нейросетевой ИТ выявления deepfake-модификаций создана по принципам системного и синергетического подходов и направлена на обеспечение основных профилей безопасности – конфиденциальности и целостности биометрических изображений.

Системный подход – принципы иерархичности, структуризации, целостности, которые дают основания для создания комплексной системы безопасности ИТ в пространстве оптимального сочетания методологического, технического (аппаратного), программного, нормативного обеспечения безопасного функционирования жизненного цикла информации в системе и алгоритма информационного процесса обнаружения на уровне «фаза – операция – обработка».

Синергетический подход – свойство эмерджентности, проявляющее одну из граней целостности защиты информации в ИТ, предполагает наличие свойств, присущих комплексной системе безопасности ИТ в целом, но не свойственных ее отдельным элементам – комплексным системам безопасности. Ядром аналитической структуры безопасной нейросетевой информационной технологии является система обнаружения deepfakeмодификаций биометрических изображений на основе нейронных сетей и система анализа данных, программно ориентированных на целостную реализацию информационного процесса «разделение видео на кадры – обнаружение deepfake – обработка признаков – оценка классификации изображений соответственно выбранной модели с возможностью ее обновления.

В таблице 1 представлена комплексная система безопасности информационного процесса обнаружения deepfake-модификаций на уровне обработки биометрического изображения согласно концепции «объект – угроза – защита».

Таблица 1. Комплексная система безопасности обнаружения deepfake-модификаций на этапе обработки

Объект: информационные процессы	Угрозы		Защита информации
	Целеустремленные	Случайные	Аппаратный	Программный
Автоматизированная оценка точности классификатора	Утечка, нарушение конфиденциальности, целостности данных и моделей. Неавторизованный доступ. Злонамеренное программное обеспечение. Распределенные атаки на отказ в обслуживании (DDoS).	Сбои / нестабильность работы технических устройств. Ошибки оператора. Не исправлены уязвимости программного обеспечения.	Luna SA HSM. Luna SP. Luna XML Encrypt Easy.	Suricata. Webroot DNS Protection. 1Password. BitLocker. Bitdefender Antivirus.
Выявление deepfake модификаций в режиме реального времени	Манипулирование данными. Модель инверсии. Отравление данных. Соревновательные примеры. Отказ в обслуживании.	Технические неисправности сети и компонентов. Воздействие внешних факторов. Повреждение данных.	nShield Connect HSM. Гряда-301. Барьер-301. Канал-301.	ManageEngine Log360. BitLocker.
Последовательная обработка изображений	Отравление данных. Примеры состязательности. Манипуляция моделью. Утечка, нарушение конфиденциальности, целостности данных и моделей.	Сбои в сети. Физическое повреждение оборудования. Практики управления данными.	Luna SA4 HSM. Luna PCM. Cisco Firepower 2130 NGFW.	Cisco UVPN-ZAS. BitLocker.
Оценка точности классификации с использованием облачных вычислений	Утечка, нарушение конфиденциальности, целостности данных и моделей. Злонамеренное программное обеспечение. Распределенные атаки на отказ в обслуживании (DDoS).	Повреждение данных. Сбои в сети. Не устранены уязвимости программного обеспечения. DOS на стороне поставщика услуг. Ошибки оператора.	Cisco Firepower. Palo Alto Networks PA-7000 Series.	Webroot DNS Protection. AlienVault USM.

Сегмент международных стандартов в области кибербезопасности: ISO/IEC 27034:2017, IEC 61508-3:2010, ISO/IEC 13335-1:2004 представляет нормативное обеспечение методологии безопасности нейросетевой ИТ. Коалиция происхождения и подлинность содержания C2PA опубликовала стандарт [1], представляющий методы подтверждения цифрового происхождения контента. Стандарт определяет сценарии, рабочие процессы и требования к методам подтверждения и проверки информации, касающейся создания и изменения медиафайлов. Применение этих методов позволяет редакторам контента создавать защищенные от фальсификации носители, фиксируя информацию о том, кто создал или изменил цифровой контент и как он был изменен.

Стоит отметить, что эффективен в борьбе с фейками и метод принуждения разработчиков нейросетевого контента в обязательном порядке снабжать синтетический продукт специальными метками типа «сделано нейросетью», легко заметными. Для сгенерированного контента метод принудительной пометки применяется мало (некоторыми сервисами генерации музыки и графики), как правило, метки незаметны, изредка проставляются в метаданных файла (далеко не всегда), хотя, например, в Adobe с Nikon, BBC, Truepic можно встретить изображения, созданные помощью нейросетей (данные об источнике изображения добавляются в метаданные документа, видеозаписи либо могли бы вставляться цифровой камерой в файл).

В работе предложены методологические основы безопасности нейросетевых технологий в пространстве проблемы обнаружения deepfake-модификаций биометрических изображений на основе: базового подхода к обнаружению deepfake – модификаций, структуры методологии безопасности нейросетевых многоуровневых информационных технологий и комплексной системы безопасности информационного процесса обнаружения deepfake-модификаций на этапе обработки согласно концепции «объект – угроза – защита», являющейся развитием системных подходов к безопасному обнаружению deepfakeмодификаций средствами нейронных сетей.

Библиографический список

1. Грин Л. Развитие стратегий информационной безопасности в условиях быстроразвивающегося инфобизнеса // Информационные технологии и управление. – 2020. – № 15 (3). – Р. 212-226. 2. Исмагилова А.С. Программная несанкционированного доступа / А.С. Исмагилова, Н.Д. Лушников // Безопасность информационных технологий. – 2023. – Т. 30, № 1.

3. Пчеловодова Н. Российский биометрический рынок в 2019-2022 годах. Результаты масштабного исследования J’son & Partners Consulting // Системы безопасности. – 2019. – № 2. – С. 88-91.

4. Махалина О.М., Махалин В.Н. Искусственный интеллект: драйвер экономического развития или генератор проблем и угроз? // Beneficium. – 2024. – № 1 (50). – С. 14-21.

5. Намиот Д.Е., Ильюшин Е.А. Об устойчивости и безопасности систем искусственного интеллекта // International Journal of Open Information Technologies. – 2022. – №9. – С. 126-134.

6. Намиот Д.Е., Ильюшин Е.А., Чижов И.В. Искусственный интеллект и кибербезопасность // International Journal of Open Information Technologies. – 2022. – №9. – С. 135-147.

7. Рахматуллин Р. Развитие систем защиты информации в условиях информационной уязвимости инфобизнеса // Кибербезопасность и защита информации. – 2020. – № 8(1). – Р. 23-34.

8. Шананин В.А. Применение систем искусственного интеллекта в защите информации // Инновации и инвестиции. – 2022. – №11. – С. 201-205.

9. Jones S., Davis J. Data Privacy and Protection Strategies in Infobusiness: Best Practices and Challenges // Journal of Information Privacy. – 2023. – № 15(4). – Р. 321-336.

10. Kim H., Lee S. Machine Learning Applications in Information Security for Infobusinesses // International Journal of Computer Science. – 2022. – № 25(1). – Р. 75-89.

INFORMATION SECURITY USING NEURAL NETWORK TECHNOLOGIES

S.Yu. Tyryshkin, Candidate of Technical Sciences, Associate Professor
Altai State Technical University named after I.I. Polzunov
(Russia, Barnaul)

Abstract. The article discusses the features of information security using neural network technologies. It is noted that neural network technologies provide amazing opportunities to meet the most specialized needs of customers and create completely new business models. It was revealed that the methodological foundations of the security of neural network technologies in the space of the problem of detecting deepfake modifications of biometric images are based on the following components: a basic approach to detecting deepfake modifications, the structure of the methodology for the security of neural network multi-level information technologies and a comprehensive security system for the information process of detecting deepfake modifications at the processing stage according to the concept of "object – threat – protection", which is the development of system approaches to the safe detection of deepfake modifications by means of neural networks.

Keywords: information security, neural networks, management, research, technology, artificial intelligence.