Экстремистов в Twitter будут выявлять до публикации постов

Фото: 10pix.ru

Ученые разработали алгоритм, определяющий экстремистов в соцсетях до публикации постов. Для этого они проанализировали пять тысяч аккаунтов в Twitter, пишет N+1, ссылаясь на журнал Operations Research.

Отмечается, что экстремисты, связанные с "Исламским государством" (деятельность запрещена в РФ), а также другими террористическими организациями, обычно используют соцсети для пропаганды, запугивания населения и вербовки новых членов. Компании вроде Facebook и Twitter уже блокируют подозрительных пользователей при помощи спецалгоритмов, но это происходит после публикации постов. Теперь создан алгоритм, который в перспективе позволит блокировать экстремистские аккаунты сразу после их создания.

Специалисты собрали данные пяти тысяч аккаунтов в Twitter, которые вели либо члены ИГИЛ, либо связанные с ними лица. Их имена были получены благодаря СМИ, блогам, правоохранителям и аналитическим центрам. Исследователи собрали все данные о пользователях, которая была указана в профиле, а также аналогичную информацию их друзей и подписчиков. В результате количество профилей в базе данных возросло до 1,3 миллиона. Кроме этого, ученые проанализировали 4,8 миллиона твитов, которые связаны с экстремистскими аккаунтами: часть из них принадлежала самим пользователями, а часть просто упоминала их или содержала соответствующие хэштеги.

Используя статистическое моделирование экстремистского поведения, результаты анализа постов и данные о пользователях, группа Клаузен создала предсказательную модель, которая может определять аккаунты как экстремистские, даже если они не публиковали ни одного сообщения. Это связано с тем, что алгоритм опирается не на описание постов, а на то, как в целом выглядит типичный профиль экстремиста. Согласно исследованиям, 70% аккаунтов из нового набора данных принадлежат экстремистам, а погрешность составила лишь 2%. 

"Пользователи, которые занимаются в какой-либо форме онлайн-экстремизмом, будут иметь очень похожие поведенческие характеристики в социальных сетях. Они будут связаны с определенным набором пользователей, которые формируют экстремистскую группировку. Они будут создавать новые похожие аккаунты после блокировки старых, а затем возвращаться в соцсеть и с высокой долей вероятности восстанавливать связи с теми же лицами", — пояснил Джитт Клаузен из Университета Брандейса в Массачусетсе.