Вы здесь

Белорусские программисты собираются остановить поток оскорблений на форумах


Многим известна словесная перепалка в интернете между лидерами США и Северной Кореи, в ходе которой Трамп называл корейского лидера «коротышкой с ракетой» и «сумасшедшим», а Ким Чен Ын того в ответ — «гангстером» и «умственно отсталым американским хрычом».

Не только известные политики не стесняясь оскорбляют друг друга в соцсетях. Обычные пользователи, попадая в онлайн-пространство, оставляют часто настолько злостные комментарии, что если углубиться в сетевые дискуссии и форумы, можно стать человеконенавистником. Можно ли с этим бороться и как? Молодые белорусы предлагают свое решение проблемы.


Реплики стоимостью в человеческую жизнь

«Ежегодное исследование Microsoft, которое посвящено троллингу в интернете, обнаружило, что в мире около 40% людей сталкиваются с оскорблениями в сети. В постсоветских странах этот показатель выше — 71%. У нас это обычное явление», — говорит Александр Граблевский. Александр окончил с отличием экономический факультет БГУ, сейчас заканчивает магистратуру. А в свободное от работы и учебы время вместе с другими программистами занимается проектом TrоllBlосk — разработкой бота-антитролля. «Раньше я любил «повисеть» на форумах, почитать мнения людей, но в последнее время в связи с большим количеством оскорбительных комментариев и переходом на личности от форумов принципиально отказался», — говорит молодой человек.

И действительно. «Сдохните, уроды!», «На кол!», «Если бы у тебя была хоть капля мозгов...» — эти и другие взаимные обвинения и проклятия так и сыплются на наших форумах. Скорее всего, большинству троллей не хватило бы смелости сказать человеку в глаза и половину того, что они, пользуясь безнаказанностью, пишут в интернете. И если в новом законе о СМИ предусмотрена идентификация лиц, которые оставляют комментарии на страницах сетевых изданий, что, как утверждают в Министерстве информации, позволит сделать дискуссию в сети гораздо более культурной и поставить барьеры хамству, то на других интернет-ресурсах анонимность по-прежнему развязывает руки и языки.

Многие девушки и женщины сталкиваются в сетях с домогательствами и дискриминацией. А еще в интернете не любят веганов, чернокожих, представителей некоторых национальностей, людей с нетрадиционной сексуальной ориентацией... Да мало ли кого — жертвой может стать любой.

Иногда нападки троллей могут стоить даже жизни. По миру уже катится волна самоубийств в результате травли в интернете. Так, в прошлом году покончила с собой 31-летняя итальянка, которая не перенесла позора из-за интимного ролика с ее участием, что попал в сети. Травля несчастной девушки приобрела такие масштабы, что ей пришлось оставить работу и переехать в другой город. Но ничего не помогло, и в какой-то момент она не выдержала.

И подобные случаи отнюдь не единичны. В России, в Сочи еще в 2010 году покончил с собой молодой парень. Его бывшая девушка, желая отомстить, распространила в интернете слухи о его гомосексуальности. Когда-то она проводила этого парня в армию, но, не дождавшись, забеременела. Тот отказался признавать ребенка, после чего его бывшая пассия разработала план мести. Она создала фейковый аккаунт в одной из соцсетей и принялась рассылать его знакомым сообщения о том, что тот — гей. В результате под военными фотографиями молодого человека начали появляться оскорбительные комментарии. Друзьям он говорил, что не переживет позора. Так и случилось.

«Мы хотим защитить людей от неконструктивной критики»

Но даже если дело и не приобретает такого трагического направления, потери сетевая агрессия приносит немалые.

«Есть исследования, которые говорят, что 27% авторов отказались от публикации своего мнения, комментариев, постов, опасаясь оскорблений в свой адрес, — говорит Анатолий Бельчиков, еще один участник команды, работающей над антитроллем. — Мы хотим защитить людей от неконструктивной критики, избавить их от страха высказывать свое мнение».

Сначала ребята планируют запустить свой продукт для бизнеса, чтобы получить ресурсы для дальнейшего развития. Поэтому сейчас они делают помощника для модератора. На сегодняшний день большинство белорусских форумов имеют штат модераторов, которые читают комментарии пользователей, отсортировывают мат и наиболее «токсичные» высказывания. Ребята собираются создать нейронную сеть, которая позволит находить такие агрессивные сообщения в автоматическом режиме и удалять их самостоятельно.

«Нейронная сеть вполне может распознавать настроение выражения и текста, благодаря как частотному анализу слов, встречающихся в текстах определенного эмоционального направления, так и построению полноценной языковой модели того, с какой вероятностью встретится то или иное слово после определенного множество слов до него, — объясняет Анатолий Бельчиков. — Различные машины справляются с этим с разной эффективностью, но это уже возможно».

Для решения задачи команда программистов изучила форумы одного из наиболее популярных сетевых белорусских порталов — и прочитала более миллиона оскорбительных и непристойных комментариев. Теперь у них собрана самая большая база «токсичных» высказываний! В процессе работы были и споры. Какое высказывание считать токсичным? У каждого было свое мнение, ведь иногда оскорбление может быть на первый взгляд неявным, без использования нецензурной лексики и унизительных выражений, но от этого оно не перестает быть ядовитым. В конце концов договорились считать «токсичным» комментарий оскорбительного характера, если после прочтения его человек скорее всего оставит разговор и уйдет с форума.

После сбора базы оскорбительных высказываний ребята познакомили с ней специальную математическую модель и научили ее под нужды данного форума. «Сейчас мы пытаемся интегрировать эту модель в его структуру, — говорят они. — Так что в скором времени фильтровать сообщения форума будет нейронная сеть».

А для обычных пользователей команда планирует в дальнейшем сделать браузерное расширение, которое скрывает оскорбительные комментарии. «Мы уверены, что сможем сформировать более-менее качественные модели, которые будут работать без вмешательства человека, — говорит Александр Граблевский. — Как это работает? Пользователь заходит на свою страницу и видит какое-то количество сообщений, при этом «токсичные» сообщения скрываются».

Кстати, команда стартапа, в которой сейчас восемь человек, собралась в ходе 13-го сезона Sосiаl Wееkеnd — ребята познакомились на хакатоне конкурса социальных проектов. Там же и загорелись идеей создания TrоllBlосk — инструмента для фильтрации «токсичного» контента в сетях. Их проект дошел до полуфинала конкурса.

Светлана Бусько

Выбор редакции

Общество

Чем опасна экспресс-диета?

Чем опасна экспресс-диета?

Следует понимать, что диеты такого типа — радикальный метод, имеющий множество недостатков.

Экономика

На каких банковских вкладах заработаешь больше

На каких банковских вкладах заработаешь больше

Самые большие проценты — по рублевым депозитам.