Прототип системы поиска и обнаружения экстремистских сообщений в социальной сети ВКонтакте

Баумтрог Виктор Этмонтович кандидат физико-математических наук профессор; кафедра информатики и специальной техники; Барнаульский юридический институт Министерства внутренних дел Российской Федерации 656052, Россия, Алтайский край, г. Барнаул, ул. Чкалова, 49, каб. 432 Baumtrog Viktor Etmontovich PhD in Physics and Mathematics Professor at the Department of Computer Studies and Special Equipment of Barnaul Juridical Institute of the Ministry of Internal Affairs of Russia 656052, Russia, Altai Krai, Barnaul, 49 Chkalova str., room 432 barnaul@list.ru Другие публикации этого автора     Еськов Александр Васильевич доктор технических наук Начальник кафедры информационной безопасности ; Краснодарский университет МВД России 350005, Россия, Краснодарский край, г. Краснодар, ул. Ярославская, 128 Es'kov Aleksandr Vasil'evich Doctor of Technical Science Head of the Department of Information Security ; Krasnodar University of the Ministry of Internal Affairs of Russia 350005, Russia, Krasnodar Territory, Krasnodar, Yaroslavskaya str., 128 alesc72@mail.ru Другие публикации этого автора

Смирнов Юрий Александрович Научный сотрудник отдела передачи данных центра средств и систем связи; Научно-исследовательский институт специальной техники ФКУ НПО "СТиС" МВД России 111024, Россия, г. Москва, ул. Прудские Ключики, 2 Smirnov YUrii Aleksandrovich Research Associate of the Data Transmission Department of the Center for Communication Facilities and Systems; Scientific Research Institute of Special Equipment of the Federal State Budgetary Institution NPO STIs of the Ministry of Internal Affairs of Russia 111024, Russia, Moscow, Prudsky Klyuchiki str., 2 yra.smirnov01@mail.ru

Введение

Социальная сеть ВКонтакте (VK) широко используется и особенно популярна среди русскоязычных пользователей по всему миру (Социальная сеть «В контакте» и ее аудитория. URL: https://www.seowizard.ru/blog/faq/wiki/с/socialnaya-set-v-kontakte-i-ee-auditoriya). Отдельные публикации в этой сети могут повлечь за собой юридическую ответственность для владельцев платформ и ресурсов, на которых они размещены (Правовые основы противодействия экстремизму и терроризму. URL: https://252.56.xn--b1aew.xn--p1ai/news/item/45436942), в этой связи возникает необходимость обнаружения и контроля контента, имеющего противоправную специфику. Для эффективного мониторинга и управления этим контентом необходимы сложные инструменты и методы, которые, несмотря на все усилия ^{[2,3,4,5,6,7,8,9]}, оказываются недостаточными. Для решения проблем мониторинга и управления контентом в социальной сети ВКонтакте авторами настоящей работы создан и апробирован прототип компьютерной системы, которая способна выявлять и предотвращать распространение незаконной информации.

Выбор инструментов

Языком программирования для прототипа компьютерной системы был выбран скриптовый язык программирования Python, так как он универсален и подходит для решения задач на разных платформах, включая iOS и Android, а также серверные операционные системы и позволяет использовать нейронную сеть. Кроме того, в нем уже есть библиотека, отвечающая за работу с программным интерфейсом социальной сети ВКонтакте (API ВКонтакте) – библиотека Transformers с программной платформой Torch (Введение в библиотеку Transformers и платформу Hugging Face. [Электронный ресурс]. URL: https://habr.com/ru/articles/704592/). Интерфейс API ВКонтакте является мощным инструментом для разработчиков и исследователей, способен обеспечить доступ к обширному количеству данных этой социальной сети. API ВКонтакте представляет собой интерфейс, который позволяет извлекать информацию из базы данных vk.com через HTTP-запросы к специализированному серверу ^{[5, 8, 10]}. Синтаксис запросов и тип возвращаемых данных строго определены сервисом. Следующим использованным инструментом является платформа Hugging Face, которая представляет собой коллекцию готовых современных предварительно обученных моделей глубокого обучения (deep learning). Глубокое обучение— это вид машинного обучения, в основе которого лежит анализ данных через многослойные сети, похожие на человеческий мозг. Суть deep learning в том, что компьютеры самостоятельно находят решения. Они учатся на собственных ошибках и делают каждый раз все более точные прогнозы (Deep learning: что это, как работает и где применяется. URL: https://getcompass.ru/blog/posts/deep-learning). Библиотека Transformers предоставляет инструменты и интерфейсы для их легкой загрузки и использования.

Обобщенная схема модели и порядок взаимодействия ее модулей

Модель системы приведена на рис. 1. В качестве пользовательского интерфейса выбран мессенджер Telegram благодаря его удобному и простому языку для создания ботов, а также его доступности на персональных компьютерах и смартфонах ^{[10, 11]}. Кроме того, платформа Telegram уже имеет встроенную систему регистрации и проверки пользователей, что облегчает процесс аутентификации. При отправке пользователем сообщения, содержащего ссылку на группу ВКонтакте, ссылка передается на сервер. С использованием API ВКонтакте сервером разработанной системы собирается необходимое количество сообщений из указанной группы ВКонтакте. На сервере эти сообщения обрабатываются нейросетью, и формируется отчет, который затем возвращается в мессенджер Telegram пользователю.

Рис. 1. Обобщенная схема модели компьютерной системы.

Всю структуру процесса обработки и получения данных можно разделить на отдельные функциональные модули, схема взаимодействия которых приведена на рис. 2 и каждый из которых выполняет свою задачу. Модули имеют названия: bot, creating_network, messagedumper, processing, reportgen.

Рис. 2. Схема взаимодействия модулей системы.

На начальном этапе требуется создать исходную базу данных (опорный файл). Для этого был разработан модуль creating_network, который принимает от пользователя на вход файл в формате csv. В этом опорном файле, созданном разработчиками, находятся сообщения (фразы, слова), разделенные на две группы, с соответствующими метками: 1 — информация содержит противоправную информацию и 0 — не содержит. Данные опорного файла позволяют нейросети выполнить бинарную классификациию текста ^{[13, 14, 15, 16, 17, 18, 19]}.

В работе применяется предварительно обученная модель DeepPavlov/ rubert-base-cased-sentence, предназначенная для обработки русского языка ^{[15, 18]}. Данные опорного файла разделяются пользователем на три группы в соотношении 60/20/20:

train — тренировочные данные;

val — валидационные данные;

test — тестовые данные.

Тренировочные данные используются для обучения модели. Однако, чтобы избежать переобучения, создаются валидационные данные. Эти данные поэтапно включаются в тренировочный набор во время обучения модели, пока не будет достигнуто оптимальное соотношение, при котором модель демонстрирует высокую точность распознавания неправомерного контента без признаков переобучения. Тестовые данные играют ключевую роль в оценке эффективности и надежности модели на новых, ранее не введённых данных ^{[19, 20]}.

Следующий этап включает разделение всех данных на две основные части: сообщения и заголовки. Заголовки используются для установления меток (0 или 1), которые характеризуют контекст или тип сообщения. Важно также провести токенизацию текста, что означает его разбиение на отдельные слова, фразы или другие значимые элементы, чтобы подготовить данные для последующей обработки и анализа.

Полученный текст преобразуется в тензор (в контексте нейронных сетей тензор представляет собой многомерный массив чисел, используемый для хранения и обработки данных) и загружается в DataLoader, который по частям подаёт данные для обучения и валидации модели. Обучать модель пользователю не требуется, возможно добавление своих данных для классификации текста.

В процессе обучения модели генерируются 20 поколений весов, из которых отбираются наиболее успешные. По результатам этого процесса создается файл saved_weights.pt, содержащий веса, оптимальные для бинарной классификации текста. Эти веса затем проверяются на тестовых данных для оценки их эффективности.

Иллюстрация работы прототипа компьютерной системы

Результаты работы модуля с DeepPavlov/rubert-base-cased-sentence формируются в виде чисел с плавающей запятой в диапазоне от 0 до 1. Примечательно, что порог, определяющий правильность распознавания, эмпирически установлен на уровне 0,92: значения до 0,92 считаются отрицательными, а значения выше положительными. Этот порог будет использоваться в дальнейшем как критерий для классификации текста.

Небольшая часть итоговых результатов работы прототипа компьютерной системы приведена на рис. 3, где представлены следующие данные:

messages – сообщения (на рисунке представлены в измененной кодировке);

labels – изначально заданные веса соответствующих сообщений;

confidence – точное значение уверенности модели в распознавании;

pred – итоговый результат распознавания.

Эти компоненты помогают понять, как модель интерпретирует и классифицирует входные данные.

Рис. 3. Результаты обработки тестовых данных.

Чаще всего система интерпретирует данные так же, как и пользователь, но встречаются и не совпадающие результаты. Так, например, в строке 894 пользователь определил данные как не содержащие противоправную информацию (Label=0), а система интерпретировала эти данные как содержащие такую информацию.

Модуль, ответственный за работу бота, называется соответственно Bot. Он объясняет, как с ним работать, собирает сообщения и отправляет ссылку на группу «ВКонтакте» для дальнейшей обработки (Круглик Р. И. Создание чат-бота в Telegram // Постулат. 2019. №. 9) ^{[11, 12]} . Кроме того, модуль bot присылает результат работы reportgen пользователю, осуществляющему мониторинг доступного контента социальной сети, если была распознана экстремистская или террористическая информация.

Далее Messagedumper собирает последние 10 непустых сообщений сообщества и отправляет серверу на проверку (Рис. 4). Количество сообщений можно увеличить, однако это увеличит и время обработки пропорционально увеличению количества сообщений.

Рис. 4. Иллюстрация программного кода процесса сбора сообщений из социальной сети «ВКонтакте».

Processing обрабатывает полученные сообщения от messagedumper, используя веса, взятые из creating_network. Точность распознавания противоправной информации достигает 95%, если сообщения имеют большой объем и схожи по тематике с базой данных. Полученные результаты передаются в модуль reportgen, который формирует отчет и отправляет его боту ^[21]. Если в процессе обработки не была обнаружена противоправная информация, генерация отчета пропускается, и бот выдает сообщение о том, что группа соответствует установленным нормам.

Заключение

Предложенный прототип компьютерной системы обладает значительным потенциалом для дальнейшего развития и совершенствования в будущем. Технически возможно проверять не только посты групп ВКонтакте, но и комментарии под ними, сохранять статистику пользователей и формировать их общий рейтинг, который мог бы помочь в идентификации террористической или экстремистской деятельности. В настоящий момент Правила платформы запрещают использование пользовательских данных, что не позволяет в данный момент реализовать вышеуказанные возможности. Приведем ограничения, изложенные в разделе 2 «Работа с данными» Правил платформы при использовании публичного API ВКонтакте (Правила использования API ВКонтакте. Редакция от 01.03.2024. URL: https://dev.vk.com/ru/rules).

Приложениям запрещено:

2.1. Собирать и хранить пользовательские данные, включая идентификатор пользователя (User ID), в целях, не связанных с функционированием Приложения. Запрашиваемые данные должны использоваться только в контексте приложения.

Например, кэшировать идентификаторы друзей пользователя, чтобы быстрее отображать список на мобильном устройстве, можно. Передавать идентификаторы всех пользователей к себе на сервер, чтобы хранить в собственной базе на всякий случай, нельзя.

2.2. Передавать любые пользовательские данные, автоматизировано полученные через API (включая User ID), сторонним сервисам (например, рекламным) как напрямую, так и через посредников.

2.3. Использовать пользовательские данные в любых рекламных объявлениях. Например, обращаться к пользователю по имени из рекламного баннера.

2.4. Данные, полученные через API, в т. ч. методами newsfeed.search, wall.get, wall.search, в т. ч. идентификаторы пользователей (User ID), не могут использоваться в целях передачи или перепродажи, создания аналитических отчётов, скоринга и т. д. напрямую или через посредников без прямого согласия Администрации сайта. Таким согласием, например, может быть договор с рекламным агентством на использование данных о показах рекламных объявлений в отчётах клиентам.

Процесс обучаемости разработанной компьютерной системы был реализован в режиме офлайн. Для самообучения в режиме реального времени необходимы достаточно мощное оборудование и постоянное администрирование, что приведёт к увеличению процента распознавания неправомерного текстового контента.

Модульная структура системы позволяет постоянно модернизировать её отдельные компоненты. Схема построения прототипа компьютерной системы может быть применена и для платформ иных социальных сетей.

Возможна перенастройка модели для бинарной классификации текста, не связанного с терроризмом и экстремизмом. Модель работает с исходными данными, поступающими в её входную базу данных. Если потребуется поиск другой информации, смена ключевых слов позволит быстро перенастроить модель в соответствии с необходимыми требованиями.

Иллюстрации 3 и 4 показывают апробацию прототипа компьютерной системы. В итоге обнаружены:

1) Работоспособность системы.

2) Простота использования, в том числе на смартфонах.

3) Достаточно высокая точность поиска неправомерного контента.

4) Способность системы анализировать контент не только по ключевым фразам, но и по семантическому значению текста.

Итак, разработанный прототип компьютерной системы с использованием нейросетевых технологий значительно упрощает процесс обнаружения экстремистской (противоправной) информации в социальной сети ВКонтакте. Система позволяет автоматизировать процесс мониторинга контента, обеспечивая своевременное выявление и реагирование на публикации потенциально опасные или нарушающие правила социальной сети, что позволяет повысить безопасность и обеспечить в используемой платформе соответствие контента нормативным требованиям. Важным преимуществом прототипа является то, что он сконструирован из свободно распространяемого программного обеспечения.

Статья будет интересна исследователям в области информационной безопасности, разработчикам систем автоматизированного мониторинга контента, а также специалистам по анализу социальных сетей. Важно отметить, что практическое применение предложенной системы может вызвать интерес у государственных органов и организаций, занимающихся борьбой с экстремизмом.