В Томском госуниверситете разработали алгоритм выявления подростков, подписанных на опасные сообщества
Это должно помочь выявлять пользователей, которым может быть необходима психологическая помощь. Команда психологов, социологов, историков и программистов Томского государственного университета разработала алгоритм для выявления студентов и школьников, которые подписаны ВКонтакте на сообщества с потенциально опасным контентом: ненависть, насилие, экстремизм и др. Они составили список из 3050 групп с подобным содержанием, а также проанализировали подписки школьников и студентов. Об этом сообщается на сайте Министерства науки и высшего образования РФ со ссылкой на РИА Новости.
Согласно Федеральному закону «О защите детей от информации, причиняющей вред их здоровью и развитию», выделяется информация, запрещенная для распространения среди детей, и информация, распространение которой ограничено среди детей определенного возраста. Также есть третья категория — «преступный контент», размещение которого влечет уголовную ответственность.
«Доступ к обнаруженному запрещенному и преступному контенту оперативно блокируется, в отличие от вредного. Последнее — материалы ограниченного доступа, не являющиеся прямым нарушением норм права, но способные причинить вред пользователям… Контроль за распространением и потреблением вредного контента подростками является актуальной задачей для специалистов по профилактике правонарушений и психологической безопасности в образовательных организациях», — рассказал участник проекта, заведующий лабораторией компьютерных средств обучения Института дополнительного образования ТГУ Артем Фещенко.
В результате анализа потенциально опасных групп ученые сформулировали, при помощи системы мониторинга «Крибрум» с использованием лингвистических маркеров, 12 тематических направлений, среди которых «жесть» (кровь, избиение, эстетика безобразного в культуре), «национализм», «оружие» и другие.
Разработанный классификатор вредного контента можно использовать для обнаружения пользователей, которые предположительно нуждаются в психологической помощи.
При помощи разработанного алгоритма ученые проанализировали около 60 тысяч пользователей ВКонтакте — это школьники 14–17 лет и группа в возрасте 18–23 года.
«Потребления потенциально „вредного“ контента пользователями в возрасте 14–23 года является достаточно распространенным явлением, так как у 37% наблюдаемых людей в возрасте 14–17 лет встречаются подписки на сообщества с токсичным для психики содержанием. При этом девушки чаще интересуются вредным контентом, чем юноши. В возрастной группе 18–23 года 42% пользователей подписаны на опасные сообщества, и уровень интереса у девушек снижается, а у юношей, наоборот, возрастает», — добавил Фещенко.
Разработанный инструмент представлен на портале Университетского консорциума исследователей больших данных и находится в открытом доступе.
Фото: Министерство науки и высшего образования РФ