Даже если у вас нет детей, вы, конечно, слышали о «группах смерти»: сообществах в социальных сетях, толкающих подростков на самоубийство. Шум вокруг них стоит уже как минимум год, но в последние месяцы в нём появилась новая нотка. Я говорю о вынашиваемой активистами идее решить проблему с помощью информационных технологий.

Идея в данном случае естественная, логичная: столкнувшись с новой угрозой и не зная, что делать, мы невольно апеллируем к средствам, возможностей которых до конца не понимаем. Однако, наблюдая за попытками вылечить другую схожую проблему, предпринимаемыми на протяжении вот уже двух десятилетий, я должен вас разочаровать: с «группами смерти» технологии не помогут, потребуется чисто человеческое участие!

На случай, если вы не интересовались, позвольте быстро ввести в курс дела. Некоторое время назад — начало истории принято датировать 2014-2015 годами — в русскоязычных социальных сетях стали замечать необычные группы. Названия у них самые разные, от «Разбуди меня в 4:20» до «Моря синих китов» и «Огненных фей Винкс» и, как правило, криминального подтекста не содержат. Роднит их другое: нацеленные на детей школьного возраста, они подвергают своих жертв психической обработке, провоцируя на суицид.

Приёмы разнятся от случая к случаю. Это могут быть, например, регулярные сообщения с подразумеваемым выводом «выход только один: смерть!». Либо игра, требующая от участников совершения действий «подготовительного» характера: поцарапать вены рук, постоять как можно ближе к идущему поезду, подняться на высокое здание. Для большего эффекта подписчиков могут будить ранним утром, давить угрозами, требовать отчёта и т.п.

По поводу того, насколько такая «обработка» эффективна, тоже высказываются разные мнения. От оптимистичных (мол, заставить ребёнка расстаться с жизнью не так просто, поэтому большинство играют, теряют интерес и уходят из «групп смерти» без последствий) до крайне пессимистичных (делалась, например, попытка объяснить аномально высокий уровень детских самоубийств в стране именно влиянием «смертельных групп»). Собрать статистику по понятным причинам трудно. Однако несомненно, что феномен приобрёл пугающий размах. Ещё год назад, когда подобные группы существовали относительно свободно (читайте: безнаказанно), количество участников в самых популярных из них исчислялось сотнями тысяч человек. Что там, по мотивам уже и сериал снимают! Так что тревога обоснованная. Кто за этим стоит, зачем это делает, как с этим бороться?


Но здесь и начинаются настоящие трудности. На часть вопросов найти ответы удалось. Например, ясно, зачем такие группы на самом деле создаются: никакая это не политическая диверсия, а банальная попытка заработать — продвигая среди подписчиков товары, либо показывая рекламу. Ясно и почему дети и подростки на провокацию поддаются: психологи говорят, что отношение к теме смерти в таком возрасте особое, отличающееся от взрослого, отсюда и «нездоровый» интерес. Но вот вопрос, как с этим бороться, что противопоставить, подвис. Рецептов предложено множество и некоторые из них я собрал в конце рассказа. А лично меня пугает формирующаяся мода на лечение проблемы «групп смерти» с помощью информационных технологий.

Повторюсь, мысль применить технологии против проблемы техногенного же характера кажется логичной. Ведь пока не было соцсетей, и «групп смерти» не существовало. Значит, тщательно контролируя, куда ходят подростки в интернете, проблему можно обуздать. Однако прежде чем браться за постройку «Великого Детского Интернет-барьера», контролирующего активность каждого российского ребёнка в Сети (идея уже сформулирована заинтересованными лицами, см. далее), стоит вспомнить печальный опыт борьбы с похожей заразой в смежной области. Я говорю о порнографии, которой пытаются поставить заслон уже не первое десятилетие.

Попробуйте решить задачу: как удалить порнографические материалы из результатов работы поисковых машин? Чтобы вы, например, сидя на рабочем месте, были уверены, что запрос «школьница» не принесёт ничего непристойного. Или чтобы ваш ребёнок, запросив то же самое, непристойного не получил. Возможно ли такое?

Казалось бы, что может быть проще? Достаточно поставить программу-фильтр, которая станет отлавливать такой контент. Можно фильтровать по словам — и, например, если в тексте веб-страницы рядом с «школьницей» фигурирует «xxx», такую страницу не пропускать. Можно фильтровать даже по изображениям: разработаны алгоритмы распознавания обнажённой натуры высокой точности.

Короче говоря, прогресс не стоит на месте и способов фильтрации порнографии предложены и реализованы тысячи. Однако давайте поставим простой эксперимент. Откройте свой любимый поисковик, включите, если такая возможность есть, самую строгую фильтрацию результатов (на «Яндексе» это режим «семейный», на Google опция «не показывать непристойные»), вбейте «школьница» в строку поиска и запросите поиск по изображениям. Предупреждаю сразу, что в выдаче и «Яндекса», и Google, порнографические картинки присутствуют в первых же десятках результатов.

Увы, «Спутник» по запросу «школьница» и сегодня ещё выдаёт вот такие в том числе картинки... (цензура моя - Е.З.).
Но показательней всего этот опыт с отечественной государственной поисковой машиной «Спутник», рекомендованной в том числе для использования в образовательных учреждениях и государственных организациях. Руководитель его обещал (буквально), что по запросу «школьница» машина «будет выдавать девочек в аккуратных белых передничках». Что ж, три года назад, когда я ставил опыт в первый раз, порнография на «Спутнике» была. Есть она там и сегодня. Увы, фильтры не работают даже там, где должны! Но почему?!

По трём причинам. Во-первых, никакая, даже самая умная программа, пока не в состоянии распознать порнографию со стопроцентной точностью. Хуже того, чем больше она отловит порнографических материалов, тем больше забракует и материалов легальных: например, художественных полотен с изображением обнажённой натуры.

Во-вторых, информации, содержащейся на странице или в изображении, может быть (и часто бывает) недостаточно, чтобы принять решение: порнография это или нет (тут позвольте вспомнить ещё один забавный эксперимент, который я проводил несколько лет назад, с классификацией видеоролика; вы можете пройти его и сегодня). Необходимо учитывать контекст, то есть сопутствующую информацию. Осмыслить же её чаще всего в состоянии лишь человек, а не компьютер, не программа.

Так почему бы не заставить фильтровать материалы людей? А потому, и это в-третьих, что информации через поисковые машины проходит слишком много — и ни один оператор и даже команда с такой лавиной данных без помощи компьютера не справятся.

А вот теперь вернёмся к «группам смерти». Выводы, только что сформулированные нами для порнографии, справедливы и для них. Прежде всего нужно понимать, что автоматическая фильтрация таких групп не сработает. Это даже сложнее, чем с непристойными изображениями, потому что названия «групп смерти» постоянно меняются («Разбуди в 4:20», «Синие киты», «Ищу куратора» и т.д.), и ни сами названия, ни информация в группах на первый взгляд не содержат ничего предосудительного. Как правило, первая группа служит только приманкой, откуда заинтересовавшихся переводят на другие, закрытые от посторонних ресурсы (в том числе платные).

Однако и наблюдать за интернет-активностью детей «вручную», самостоятельно или выделив для этого сотрудника, тоже не удастся. Оцените объём работы трезво! Дети и подростки составляют едва ли не самую активную часть интернет-аудитории. По России, к сожалению, статистики нет, но свежая информация по подросткам Великобритании (от которых наши едва ли сильно отстают) такова: больше трёх четвертей детей от 5 до 15 лет сидят в интернете (через телефоны ли, планшеты, компьютеры или игровые приставки)! Представьте, сколько информации должен будет проанализировать за день сотрудник, поставленный следить за интернет-активностью даже в отдельно взятой школе!


Не решит проблемы и создание специального федерального органа для мониторинга поведения детей в Сети. Такие предложения в различной форме уже высказываются: то активистами, а то и главой Роскомнадзора Александром Жаровым (слова которого про необходимость ограничивать детям до 10 лет доступ к интернету на Западе так и поняли). Дело в том, что детей от тех же «групп смерти» уже пытается защищать Роскомнадзор — и блокирует (со слов Жарова) десятки групп ежедневно! А новые группы всё не переводятся.

Поэтому — давайте взглянем правда в глаза. Безопасный интернет для детей — это утопия, в которую очень хочется верить, но реализовать которую невозможно ни силами «умных» программ, ни силами людей. Решение есть, но оно сложное и к технологиям отношения не имеет: необходимо участие взрослых в жизни детей, чтобы помочь расставить акценты и дать нравственные ориентиры. Вот что мы в силах сделать:

1. Семья. Родители должны участвовать в жизни ребёнка: знать, что его беспокоит, наладить уровень доверия, при котором ребёнок сам расскажет о странной группе в соцсетях, куда его пригласили друзья ли или незнакомый человек. Научитесь слышать детей! Если этого не сделаете вы, это сделает чужой.

2. Школа. Как говорят психологи, мысль о суициде — это крик о помощи. И если он не услышан в семье, пусть его услышит школа! Необходимы открытые уроки по решению психологических проблем, где будут показаны выходы из будто бы безвыходных ситуаций. Дайте телефоны экстренной психологической помощи, адреса онлайновых центров поддержки, в конце концов дайте детям телефоны учителей: возможно, некоторым из них позвонить знакомому человеку будет комфортней!

3. Власть. Тут прежде всего нужно прекратить заниматься ерундой и не поддаваться на утопичные проекты тотального интернет-контроля: мировой опыт показывает, что проблему таким образом не решить! Полезней будет доработать законодательство в части наказания за подстрекательство к суициду (сегодня дела против таких обвиняемых часто завершаются ничем именно из-за несовершенства законов). Но главное — необходимо занимать детей! Детский спорт, кружки, варианты карьеры: всё то, что мы потеряли с развалом СССР и так медленно теперь восстанавливаем.

P.S. Использованы графические работы Bo Nielsen, Modes  Rodriguez.

Если вам понравилась статья - порекомендуйте ее своим друзьям, знакомым или коллегам, имеющим отношение к муниципальной или государственной службе. Нам кажется, что им это будет и полезно, и приятно.
При перепечатке материалов обязательна ссылка на первоисточник.