ШІ-прагнозы — толькі пагрозы?

Лічбавая рэальнасць, ствараючы ўмовы існавання пасродкам супердасканалых электронных прылад, магчымасці якіх бязмежныя, робіць чалавека ўсё больш неабароненым. Заказваючы тавары на маркетплейсах, разлічваючыся банкаўскай карткай, ведучы камунікацыю праз месенджары, чалавек пакідае лічбавы след, па якім яго могуць высачыць тыя, хто палюе ў электроннай прасторы, выкарыстоўваючы новыя спосабы, у тым ліку сучасныя тэхнічныя сродкі, штучны інтэлект (ШІ). Як рэгуляваць дзейнасць сродкаў на аснове ШІ? У чым заключаецца этыка выкарыстання ШІ? Хто адказны за абарону персанальных даных? Гэтыя пытанні вырашалі на круглым стале «Тэхналогіі штучнага інтэлекту ў Рэспубліцы Беларусь: прававое рэгуляванне, праблемы і перспектывы» ў Аб’яднаным інстытуце праблем інфарматыкі Нацыянальнай акадэміі навук Беларусі ў рамках ІІІ Форуму ІТ-Акадэмгорада «Штучны інтэлект у Беларусі».

— ШІ — зборны тэрмін для камп’ютарных сістэм, дзеянне якіх падобна на мысленне асобы, здольных да развіцця і прыняцця рашэнняў без удзелу чалавека, — расказаў Алег Русецкі, намеснік дырэктара Навукова-практычнага цэнтра праблем умацавання законнасці і правапарадку Генеральнай пракуратуры Рэспублікі Беларусь. — Сярод рэальных пагроз — выкарыстанне ШІ чалавекам у палітычных, злачынных, у тым ліку тэрарыстычных мэтах, уздзеянне на рынак працы. Як прыклад — дэструктыўнае інфармацыйнае ўздзеянне (дэзынфармацыя, маніпуляванне грамадскай думкай) пры дапамозе тэхналогій сінтэзу выявы і (або) голасу — «дыпфэйкаў». Тэхналогіі ШІ сёння становяцца ў тым ліку сродкам для крадзяжу маёмасці, парушэння кібербяспекі. Рызыку ўяўляюць наўмысныя дзеянні з праграмным забеспячэннем сістэмы ШІ для атак праз фіктыўныя даныя. 

Да чаго прывяло пашырэнне выкарыстання і даступнасць ШІ? «Сучасныя распрацоўкі ШІ з адкрытым зыходным кодам даюць магчымасць ствараць прадукты і сэрвісы так сама, як будаўнікі — дом: са стандартных дастаўленых на будпляцоўку дэталяў», — прывёў Алег Русецкі словы расійскага вучонага У. С. Аўчынскага. Такім чынам, кожны можа сёння сабраць сабе, як дом з цаглін, праграму са штучным інтэлектам. 

— У Расіі праходзіць міжнародны чэмпіянат «Бітва робатаў», і мы са сваім робатам «Бульбатрон» выйшлі ў фінал, — адзначыў на выстаўцы форуму Юрый Казлоў, старшы выкладчык кафедры інтэлектуальных і мехатронных сістэм машынабудаўнічага факультэта БНТУ, капітан беларускай каманды. — У першым адборачным этапе ўдзельнічалі таксама прадстаўнікі з Расіі, Ірана, Бразіліі, Кітая, Індыі. З 32 каманд адбіралі восем найлепшых, якія пераходзяць у наступны этап. Мы ўвайшлі ў васьмёрку. 

Робат «Бульбатрон» прызначаны для бою, але можа выкарыстоўвацца і ў практычных мэтах, напрыклад, капаць бульбу, бо ў прылады вертыкальны спінер, які важыць 38 кг і круціцца з хуткасцю 10 000 абаротаў за секунду. 

— Студэнты на практыцы спазнаюць механіку матэрыялаў, вучацца працаваць з прамысловым абсталяваннем, што плюс у рэзюмэ, калі пойдуць на тэхнічную спецыяльнасць, — перакананы Юрый Казлоў. — Мы заявілі, што ў нас добра развіта робататэхніка, якая з’яўляецца неад’емнай часткай ІТ. Сусветныя кампаніі ведаюць, што ў Беларусі ёсць спецыялісты, якія могуць паказаць дастойны ўзровень. 

Свайго робата прадставіў на форуме Ягор Кляпацкі, вучань 11 «А» класа сярэдняй школы № 38 г. Віцебска: 

— Робат Tyrone на базе штучнага інтэлекту, ён, можна сказаць, як Яндэкс-станцыя. У яго ёсць камера, ён размаўляе: што спытаеце, тое і адкажа. Калі вітаешся з ім, ён можа працягнуць руку. 

Tyrone мабільны, бо зроблены з пластыку і важыць усяго 12 кг. У дзеянне яго дэталі прыводзіць рэле і праграмаванне. Адпраўлена заяўка на праект «100 ідэй для Беларусі». 

— Дзякуючы лічбавым прадуктам паляпшаецца якасць жыцця, — лічыць Жанна Муслімава, маркетолаг упраўлення лічбавізацыі жыллёва-камунальнай гаспадаркі кампаніі LWO, рэзідэнта ПВТ, якая распрацоўвае шмат прадуктаў, у тым ліку для банкаўскага сектара, для розных галін прамысловасці, інфармацыйнай бяспекі. LWO стварыла айчынны прадукт мабільнага сэрвісу «Оплати», якім ужо многія карыстаюцца. Лічбавыя прадукты неабходна ўкараняць у кожным горадзе, мяркуе Жанна Муслімава, не баючыся, што страцім свабоду і станем залежнымі ад ШІ: «Гэтага не здарыцца, бо чалавек кантралюе робатаў, праграмы з ШІ. Ён сам іх стварае і ведае іх слабыя месцы». 

Такія версіі развіцця будучыні, як захоп ШІ свету, прыгнёт ім людзей, спараджае тэорыя надзялення ШІ чалавечымі якасцямі — эмоцыямі і амбіцыямі, яго індывідуалізацыя. Ды гэта ўяўныя пагрозы, з галіны навуковай фантастыкі, перакананы Алег Русецкі. Такое магчыма толькі тады, калі надзяліць ШІ рысамі асобы, у якой будзе ўласная воля, як у чалавека, патрэбы, жаданні, мэты, матываваныя рашэнні і дзеянні. Псіхолагі ўсё яшчэ даследуюць і намагаюцца зразумець, як фарміруюцца эмоцыі ў чалавеку — не тое што ў ШІ. Тым не менш тэорыя існуе. «Калі асацыіраваць ШІ з чалавекам цалкам, калі такое дапушчальна, то трэба ўводзіць такія ж механізмы рэгулявання ШІ, як для грамадства: сацыялізаваць ШІ, выхоўваць яго і ствараць меры прафілактыкі, — прапаноўвае Алег Русецкі. — Калі мы індывідуалізуем ШІ, то ўзнікае неабходнасць у правасуб’ектнасці, і трэба выбудоўваць зусім іншую, неантропацэнтрычную сістэму права. Але пакуль гэта гіпатэтычныя меркаванні». 

У сувязі з прагрэсам тэхналогій ШІ назіраецца зніжэнне сацыяльнай значнасці чалавека. Вынікам чаго можа стаць дэградацыя і дэсацыялізацыя грамадства ў выглядзе раз’яднання, кібернізацыі міжасабовых адносін, лічыць Алег Русецкі. І нават трансфармацыя сацыяльнага ладу, калі «агульны» машынны інтэлект будзе аказваць уздзеянне на работу інфармацыйна-камунікацыйных сістэм, соцыум. Ужо сёння назіраецца празмерны давер рашэнням, якія прапаноўвае ШІ. Таму неабходны кантроль. 

— Сацыяльныя працэсы, звязаныя з ШІ, на першы погляд пазітыўныя: нам патрэбны ШІ, тэхналогіі, каб займаць адпаведнае месца ў эканамічнай структуры свету, канкурыраваць, валодаць тэхнічным суверэнітэтам, — гаворыць Алег Русецкі. — Прыклад негатыўнага ўздзеяння — глабалізацыя: страта ідэнтычнасці, узрастанне пагроз (злачыннасць, дэсацыялізацыя). Таму неабходна фарміраванне прававой базы, як на міжнародным, так і на нацыянальным узроўнях. Асноўная задача — кіраваць ШІ, бо калі не мы ім, то ён намі, як казаў кіраўнік краіны. Для гэтага трэба ствараць стандарты ўсіх працэсаў ШІ: распрацоўкі, запуску, функцыянавання, інтэграцыі ў іншыя сістэмы, кантролю прымянення. 

Далейшае развіццё інавацый трэба будаваць на прадухіленні рэальных і патэнцыяльных негатыўных вынікаў, абавязкова з выкананнем інтарэсаў дзяржавы, правоў і свабод грамадзян, лічыць Алег Русецкі. Каб пазбегнуць пагроз ШІ, варта сфарміраваць кампетэнтныя органы па выпрацоўцы і рэалізацыі дзяржаўнай палітыкі ў сферы ШІ, заснаванай на ўсебаковым пазнанні тэхналагічнай сутнасці ШІ, яго магчымасцей і асаблівасцей узаемадзеяння з соцыумам. Таксама ўвага павінна быць удзелена нацыянальным стратэгіям развіцця ШІ, міжнароднаму супрацоўніцтву ў сферах этыкі выкарыстання ШІ. 

Цяпер распрацоўваецца Стратэгія лічбавага развіцця Беларусі на 2026–2030 гады. На лістапад анансаваны парламенцкія слуханні, дзе будзе абмяркоўвацца пытанне лічбавага права. 

— Мэта слуханняў — зразумець, рабіць адзіны закон або ў кожным кірунку асобны нарматыўна-прававы акт: у галінах медыцыны, гандлю, інтэлектуальнай уласнасці, абароны даных, — разважае Юрый Панфілаў, старшыня Пастаяннай камісіі па прамысловасці, паліўна-энергетычным комплексе, транспарце і сувязі Палаты прадстаўнікоў Нацыянальнага сходу Рэспублікі Беларусь. 

Прававое рэгуляванне «лічбы» цалкам абгрунтавана: на жаль, ШІ часта выкарыстоўваюць для супрацьпраўных дзеянняў. «Калі ў воблаку размяшчаем персанальныя даныя, аб’екты інтэлектуальнай уласнасці і раптам яны знікаюць — хто адказвае? Каму прад’явіць прэтэнзію? Рэгуляваць Грамадзянскім або Крымінальным кодэксам або распрацаваць асобнае заканадаўства?» — задаецца пытаннем Юрый Панфілаў. 

— Сфера ІТ вельмі багатая на рэсурсы, і тут высокая рызыка лабіравання інтарэсаў, што праследуе мэту пазбягання адказнасці. Таму нарматыўны акт у частцы прыцягнення да адказнасці павінен быць якасны, — заўважае Ігар Мароз, дырэктар Навукова-практычнага цэнтра праблем умацавання законнасці і правапарадку Генеральнай пракуратуры Рэспублікі Беларусь, кандыдат юрыдычных навук. 

Каб зразумець, як рэгуляваць ШІ, трэба сягнуць углыб гісторыі, лічыць стваральнік сэрвісу са штучным інтэлектам EmotionIQ Аляксандр Шляеў: «ШІ падобны да тых тэхналогій, якія мянялі чалавецтва стагоддзі назад. Як прыходзіла новае, здзяйсняліся перамены ў часы Францыска Скарыны, Кірылы Тураўскага, Леанарда да Вінчы і іншых? Як адаптаваліся ў тое грамадства? Вялікія стваральнікі мінулага разумелі, у якім напрамку рухацца і якія каштоўнасці закладваць. Як кажуць, там, дзе ёсць святло, няма цемры. Вызначыўшы асноўнае, складзецца астатняе і знойдзецца шлях да балансу». 

З 2021 года ў рамках СНД вядуцца даследаванні па выпрацоўцы адзінага падыходу да рэгулявання распрацовак і выкарыстання тэхналогій ШІ. З гэтай мэтай было ініцыіравана распрацаваць праект Мадэльнага закона СНД «Аб тэхналогіях штучнага інтэлекту». У 2025 годзе закон павінен быць гатовы, адзначае Сяргей Касанін, намеснік генеральнага дырэктара Аб’яднанага інстытута праблем інфарматыкі Нацыянальнай акадэміі навук Беларусі. 

— Трэба размяжоўваць два паняцці: рызыкі прававога рэгулявання ШІ і рызыкі развіцця і выкарыстання ШІ як сацыяльнага феномена і тэхнічнай з’явы, бо гэта яшчэ больш глабальная праблема, калі трэба задзейнічаць не толькі юрыстаў, але і філосафаў, а таксама прадстаўнікоў сацыялагічнай і паліталагічнай ды іншых галін, — пераканана Ірына Вяршок, намеснік дырэктара Навукова-практычнага цэнтра праблем умацавання законнасці і правапарадку Генеральнай пракуратуры Рэспублікі Беларусь. — Наша агульная мэта — стварэнне эфектыўнага нацыянальнага заканадаўства, якое рэгулюе ШІ. Але ёсць дылема: альбо мы ўстанаўліваем вельмі жорсткія рамкі прававога рэгулявання, тым самым затарможваючы тэхналагічнае развіццё краіны, або, наадварот, шырокія рамкі, ствараючы крымінагенныя рызыкі і рызыкі правапарушэнняў, калі дазволена ўсё, што не забаронена. Таму з заканадаўчымі актамі не варта спяшацца. Прыняцце канцэптуальных нарматыўных прававых актаў у гэтай сітуацыі будзе асцярожным і адначасова прадуманым рашэннем. 

— Са штучным інтэлектам мы пакуль працягваем знаёміцца, — канстатуе Алена Перапяліца, вядучы навуковы супрацоўнік аддзела даследаванняў у галіне дзяржаўнага будаўніцтва і інфармацыйнага права Інстытута прававых даследаванняў Нацыянальнага цэнтра заканадаўства і прававой інфармацыі Рэспублікі Беларусь. — Калі гаварыць пра навуковы юрыдычны дыскурс, то меркаванні раздзяляюцца, няма адзінства. Адна група вучоных гаворыць, што сама дэфініцыя ШІ павінна быць універсальнай. Другая група вучоных — што гэта немагчыма. Напрыклад, робат замяняе чалавека пры абясшкоджванні бомбы або пры апусканні на дно акіяна, або пры палёце ў космас. Але ці можа ў гэтых выпадках быць адзін і той жа робат? Рэвізія заканадаўства паказала патрэбу ў робаце-кадыфікатары, робаце-сістэматызатары, які будзе сканаваць заканадаўства і выяўляць памылкі, недахопы. Гэта да пытання пра тое, якім павінен быць катэгарыяльны апарат. 

Галоўныя ў лічбавай рэальнасці — інфармацыя і чалавек. У барацьбе за права валодаць вялікімі аб’ёмамі даных ШІ — толькі інструмент, а дзеянні — за чалавекам. 

Наталля СВЯТЛОВА

Фота аўтара