«ВКонтакте» автоматически удалит картинку со страницы пользователя, если она есть в списке экстремистских материалов

Во «ВКонтакте» заметили работу автоматической системы модерации контента, который находится в списке экстремистских материалов Минюста. Она автоматически удаляет со страницы пользователя картинки, видео, аудио и текст, запрещённые в России. На это обратила внимание «Медуза», также работу системы TJ подтвердили во «ВКонтакте».

Пометка от редакции пожалуйста, не проверяйте систему модерации «ВКонтакте», пытаясь опубликовать изображения, текст, видео или аудио из списка экстремистских материалов. За это предусмотрена ответственность по закону.

Как рассказали TJ во «ВКонтакте», система модерации экстремистского контента работает с 2012 года и мониторит страницы пользователей, а также сообщества. Она учитывает все типы контента: изображения, аудио, видео, ссылки и текст. В пресс-службе затруднились ответить, почему о системе стало известно только в 2019 году — после резонанса из-за сроков за репосты в соцсети.

TJ проверил работу алгоритма на двух аккаунтах во «ВКонтакте» и нескольких изображениях из списка Минюста. После того, как алгоритм удалял запрещённые картинки, сам пост оставался на месте, а страница пользователя не блокировалась, как в случае с публикацией спама.

  • Картинка с надписью «Граждане России будьте бдительны! Падает рейтинг — Ждите террактов!» (орфография сохранена) поверх фотографии глаз Владимира Путина — алгоритм автоматически удалил её меньше, чем через 30 секунд;
  • Картинка с Владимиром Путиным в макияже и с клоунским носом (это одно из запрещённых изображений президента в макияже) — алгоритм автоматически удалил её меньше, чем через 30 секунд;
  • Картинка с Патриархом Кириллом, Владимиром Путиным и Дмитрием Медведевым в нацистской форме — алгоритм не удалил картинку на проверке в течение пяти минут;
  • Картина «Великая прекрасная Россия» художника Васи Ложкина, которую перестали считать экстремистской в августе 2018 года — алгоритм не удалил картинку на проверке в течение пяти минут.

Модерация не затронула запрещённые текст, аудио, видео или ссылки на сайты. Представители соцсети пояснили это так: «Мы стремимся добавлять весь контент из этого списка, но иногда это занимает дополнительное время». Также подобные изображения не удаляются из личной переписки.

В «Медузе» отметили, что «ВКонтакте» может не учитывать аудио или видео, потому что в базу внесены конкретные файлы и любые изменения при загрузке мешают их обнаружить. TJ, как и «Медузе», не удалось найти упоминаний работы этой системы ни в соцсетях, ни в публикациях СМИ.

Контент мониторится в режиме реального времени специальной автоматизированной средой модерации. Мы используем разные внутренние разработки, и постоянно улучшаем систему вместе с развитием технологий.

пресс-служба «ВКонтакте»

За публикацию в соцсетях экстремистских материалов пользователям грозят административная и уголовная ответственность. Руководитель международной правозащитной группы «Агора» Павел Чиков пояснил «Медузе», что подобная система «ВКонтакте» не защитит пользователей от дел по статье 282 УК РФ, потому что их заводят не по списку Минюста, но может защитить от 20.29 КоАП, учитывающей подобный контент.

Источник: