Новое исследование, опубликованное в журнале Frontiers in Psychology, раскрывает, как экстремистские группы используют популярность видеоигр для вербовки и радикализации восприимчивых пользователей.
Основные выводы исследования
Исследование показывает, что платформы, смежные с игровыми, которые позволяют пользователям общаться и вести прямые трансляции во время игры, используются в качестве «цифровых площадок» для экстремистской деятельности. Игроки целенаправленно перенаправляются экстремистами с основных социальных сетей на эти сайты, частично из-за сложностей с их модерацией.
Исследование проводилось доктором Уильямом Оллкорном и доктором Элизой Орофино, старшими научными сотрудниками Международного института исследований в области полиции и общественной защиты при университете Ангlia Ruskin (IPPPRI), и включает интервью с модераторами контента платформ, экспертами из технологической отрасли и теми, кто занимается предотвращением насильственного экстремизма.
Основные выводы
* Экстремистские идеологии, в частности ультраправые, наиболее распространены на этих платформах. Это включает в себя контент, продвигающий превосходство белой расы, неонацизм и антисемитизм, часто сопровождаемый мизогинией, расизмом, гомофобией и теориями заговора, включая ссылки на QAnon.
* Исламистский экстремизм также фиксировался, хотя и реже, наряду с «примыкающим к экстремизму» контентом, таким как прославление школьных стрельб — всё это нарушает условия обслуживания основных платформ, но часто ускользает от обнаружения.
* Гипермаскулинные игровые названия, такие как шутеры от первого лица, особенно привлекательны для экстремистов. Уникальная природа онлайн-игр объединяет незнакомцев с общими интересами.
* После первоначального контакта происходит перенаправление, когда взаимодействие переходит на менее регулируемые платформы, смежные с игровыми, предоставляя среду, где экстремисты могут общаться, делиться пропагандой и незаметно вербовать.
Меры по борьбе с проблемой
Участники исследования подчеркнули, что правоохранительным органам необходимо лучше понимать, как работают эти платформы и их субкультуры, а также подчеркнули важность информирования родителей, учителей и детей о рисках онлайн-радикализации.
Модераторы, принявшие участие в исследовании, выразили разочарование в связи с непоследовательной политикой обеспечения соблюдения правил на их платформах и нагрузкой, связанной с принятием решений о том, следует ли сообщать о контенте или пользователях в местные правоохранительные органы.
Инструменты искусственного интеллекта используются для помощи в модерации, но им сложно интерпретировать мемы или когда язык неоднозначен или саркастичен. Фразы, такие как «Я убью тебя», могут быть обычными в игровом процессе, но их сложно интерпретировать в контексте для автоматизированных систем.
Соавтор исследования, доктор Уильям Оллкорн, старший научный сотрудник университета Ангlia Ruskin, сказал: «Эти платформы, смежные с игровыми, предоставляют экстремистам прямой доступ к большой, часто молодой и впечатлительной аудитории, и они стали ключевым инструментом для вербовки экстремистов».
Исследование проводилось при поддержке университета Ангlia Ruskin.