An Online Scan of Extreme-Right Radicalization in Social Networks (The Case of the Russian Social Network VKontakte)

Abstract

The aim of the research is to develop software prototypes for studying the mechanisms of extreme right online radicalization via using the Web Mining and AI methods. We consider online radicalization as a process of transition from non-violent forms of expressing opinion online to committing violent acts offline. Online forums are becoming a “course-book” on toxic behavior and provide a cyber transition from traditional moderate political discourse to the radical rhetoric of the “hate speech”. To search targeted online communities we designed and implemented a unique algorithm for calendar-correlation analysis (CCA) of online community activity. The algorithm was tested on data from the Russian social network VKontakte. The CCA algorithm can be used as an additional tool for automated assessment of membership in extreme right ideology if having an appropriate knowledge base. We identified factors that significantly influence the efficiency of research automation on the online radicalization study

Целью исследования является разработка прототипов программных систем для изучения механизмов крайне правой онлайн-радикализации с использованием методов веб-майнинга и искусственного интеллекта. Мы рассматриваем онлайн-радикализацию как процесс перехода от ненасильственных форм выражения мнений в Интернете к совершению насильственных действий в автономном режиме. Онлайн-форумы становятся «учебным пособием» по токсичному поведению и обеспечивают киберпереход от традиционного умеренного политического дискурса к радикальной риторике «языка ненависти». Для поиска целевых онлайн-сообществ мы разработали и внедрили уникальный алгоритм календарно-корреляционного анализа (ККA) активности онлайн-сообщества. Алгоритм был протестирован на данных из российской социальной сети «ВКонтакте». Алгоритм ККA может быть использован в качестве дополнительного инструмента для автоматической оценки принадлежности к крайне правой идеологии при наличии соответствующей базы знаний. Мы выявили факторы, существенно влияющие на эффективность автоматизации исследований по изучению онлайн-радикализации