Вы тут

Беларускія праграмісты збіраюцца спыніць паток абраз на форумах


Многім вядомая слоўная сварка ў інтэрнэце паміж лідарамі ЗША і Паўночнай Карэі, падчас якой Трамп называў карэйскага лідара «карантышкам з ракетай» і «вар'ятам», а Кім Чэн Ын таго ў адказ — «гангстарам» і «разумова адсталым амерыканскім хрычом».

Не толькі вядомыя палітыкі не саромеючыся абражаюць адзін аднаго ў сацсетках. Звычайныя карыстальнікі, трапляючы ў анлайн-прастору, пакідаюць часта настолькі злосныя каментарыі, што калі паглыбіцца ў сеткавыя дыскусіі і форумы, можна стаць чалавеканенавіснікам. Ці можна з гэтым змагацца і як? Маладыя беларусы прапануюць сваё рашэнне праблемы.


Рэплікі коштам у чалавечае жыццё

«Штогадовае даследаванне Mіcrosoft, якое прысвечана тролінгу ў інтэрнэце, выявіла, што ў свеце каля 40 % людзей сутыкаюцца з абразамі ў сеціве. У постсавецкіх краінах гэты паказчык вышэйшы — 71 %. У нас гэта звычайная з'ява», — кажа Аляксандр Граблеўскі. Аляксандр скончыў з адзнакай эканамічны факультэт БДУ, цяпер заканчвае магістратуру. А ў вольны ад працы і вучобы час разам з іншымі праграмістамі займаецца праектам TrоllBlосk — распрацоўкай бота-антытроля. «Раней я любіў «павісець» на форумах, пачытаць меркаванні людзей, але апошнім часам у сувязі з вялікай колькасцю абразлівых каментарыяў і пераходу на асобы ад форумаў прынцыпова адмовіўся», — кажа малады чалавек.

І сапраўды. «Здохніце, уроды!», «На кол!», «Калі б у цябе была хоць кропля мазгоў...» — гэтыя і іншыя ўзаемныя абвінавачванні і праклёны так і сыплюцца на нашых форумах. Хутчэй за ўсё, большасці троляў не хапіла б смеласці сказаць чалавеку ў вочы і палову таго, што яны, карыстаючыся беспакаранасцю, пішуць у інтэрнэце. І калі ў новым законе аб СМІ прадугледжана ідэнтыфікацыя асоб, якія пакідаюць каментарыі на старонках сеткавых выданняў, што, як сцвярджаюць у Міністэрстве інфармацыі, дазволіць зрабіць дыскусію ў сетцы значна больш культурнай і паставіць бар'еры хамству, то на іншых інтэрнэт-рэсурсах ананімнасць па-ранейшаму развязвае рукі і языкі.

Многія дзяўчаты і жанчыны сутыкаюцца ў сетках з дамаганнямі і дыскрымінацыяй. А яшчэ ў інтэрнэце не любяць веганаў, чорнаскурых, прадстаўнікоў некаторых нацыянальнасцяў, людзей з нетрадыцыйнай сексуальнай арыентацыяй... Ды ці мала каго — ахвярай можа стаць любы.

Часам нападкі троляў могуць каштаваць нават жыцця. Па свеце ўжо коціцца хваля самагубстваў у выніку цкавання ў інтэрнэце. Так, летась скончыла жыццё самагубствам 31-гадовая італьянка, якая не перанесла ганьбы з-за інтымнага роліка з яе ўдзелам, што патрапіў у сеціва. Цкаванне няшчаснай дзяўчыны набыло такія маштабы, што ёй давялося пакінуць працу і пераехаць у іншы горад. Але нічога не дапамагло, і ў нейкі момант яна не вытрымала.

І падобныя выпадкі зусім не адзінкавыя. У Расіі, у Сочы яшчэ ў 2010 годзе наклаў на сябе рукі малады хлопец. Яго былая дзяўчына, жадаючы адпомсціць, распаўсюдзіла ў інтэрнэце чуткі пра яго гомасексуальнасць. Калісьці яна праводзіла гэтага хлопца ў войска, але, не дачакаўшыся, зацяжарала. Той адмовіўся прызнаваць дзіця, пасля чаго яго былая пасія распрацавала план помсты. Яна стварыла фэйкавы акаўнт у адной з сацсетак і прынялася рассылаць яго знаёмым паведамленні аб тым, што той — гей. У выніку пад вайсковымі фатаграфіямі маладога чалавека пачалі з'яўляцца зневажальныя каментарыі. Сябрам ён казаў, што не перажыве ганьбы. Так і здарылася.

«Мы хочам абараніць людзей ад неканструктыўнай крытыкі»

Але нават калі справа і не набывае такога трагічнага кірунку, страты сеткавая агрэсія прыносіць нямалыя.

«Ёсць даследаванні, якія кажуць, што 27 % аўтараў адмовіліся ад публікацыі свайго меркавання, каментарыяў, пастоў, баючыся абраз на свой адрас, — кажа Анатоль Бельчыкаў, яшчэ адзін удзельнік каманды, якая працуе над антытролем. — Мы хочам абараніць людзей ад неканструктыўнай крытыкі, пазбавіць іх ад страху выказваць сваю думку».

Спачатку хлопцы плануюць запусціць свой прадукт для бізнесу, каб атрымаць рэсурсы для далейшага развіцця. Таму цяпер яны робяць памочніка для мадэратара. На сённяшні дзень большасць беларускіх форумаў маюць штат мадэратараў, якія чытаюць каментарыі карыстальнікаў, адсартоўваюць мат і найбольш «таксічныя» выказванні. Хлопцы збіраюцца стварыць нейронную сетку, якая дазволіць знаходзіць такія агрэсіўныя паведамленні ў аўтаматычным рэжыме і выдаляць іх самастойна.

«Нейронная сетка цалкам можа распазнаваць настрой выказвання і тэксту, дзякуючы як частотнаму аналізу слоў, што сустракаюцца ў тэкстах пэўнага эмацыянальнага кірунку, так і пабудове паўнавартаснай моўнай мадэлі таго, з якой імавернасцю сустрэнецца тое ці іншае слова пасля пэўнага мноства слоў да яго, — тлумачыць Анатоль Бельчыкаў. — Розныя машыны спраўляюцца з гэтым з рознай эфектыўнасцю, але гэта ўжо магчыма».

Для вырашэння задачы каманда праграмістаў вывучыла форумы аднаго з найбольш папулярных сеткавых беларускіх парталаў — і прачытала больш за мільён абразлівых і непрыстойных каментарыяў. Зараз у іх сабрана самая вялікая база «таксічных» выказванняў! У працэсе работы былі і спрэчкі. Якое выказванне лічыць таксічным? У кожнага было сваё меркаванне, бо часам абраза можа быць на першы погляд няяўнай, без выкарыстання нецэнзурнай лексікі і прыніжальных выразаў, але ад гэтага яна не перастае быць атрутнай. У рэшце рэшт дамовіліся лічыць «таксічным» каментарый абразлівага характару, калі пасля чытання яго чалавек хутчэй за ўсё пакіне гутарку і сыдзе з форума.

Пасля збору базы абразлівых выказванняў хлопцы пазнаёмілі з ёю спецыяльную матэматычную мадэль і навучылі яе пад патрэбы дадзенага форума. «Цяпер мы спрабуем інтэграваць гэтую мадэль у яго структуру, — кажуць яны. — Так што ў хуткім часе фільтраваць паведамленні форуму будзе нейронная сетка».

А для звычайных карыстальнікаў каманда плануе ў далейшым зрабіць браўзернае пашырэнне, якое хавае абразлівыя каментарыі. «Мы ўпэўненыя, што зможам сфарміраваць больш-менш якасныя мадэлі, якія будуць працаваць без умяшальніцтва чалавека, — кажа Аляксандр Граблеўскі. — Як гэта працуе? Карыстальнік заходзіць на сваю старонку і бачыць нейкую колькасць паведамленняў, пры гэтым «таксічныя» паведамленні хаваюцца».

Дарэчы, каманда стартапа, у якой зараз восем чалавек, сабралася падчас 13-га сезона Sосіаl Wееkеnd — хлопцы пазнаёміліся на хакатоне конкурсу сацыяльных праектаў. Там жа і загарэліся ідэяй стварэння TrоllBlосk — інструмента для фільтрацыі «таксічнага» кантэнту ў сетках. Іх праект дайшоў да паўфінала конкурсу.

Святлана Бусько

Загаловак у газеце: Каментарыі, ад якіх слязяцца вочы...

Выбар рэдакцыі

Грамадства

Як сапраўдныя мужыкі засвойваюць «жаночую» справу

Як сапраўдныя мужыкі засвойваюць «жаночую» справу

У апошнія гады тэма раўнапраўя паміж мужчынамі і жанчынамі перажывае новую хвалю росквіту.

Культура

Згадкі пра Аркадзя Куляшова

Згадкі пра Аркадзя Куляшова

Гісторыя аднаго выступлення.