Top.Mail.Ru

Найбуйнейшыя распрацоўшчыкі ШІ рыхтуюцца да магчымай маштабнай катастрофы з-за яго

Кіраўнікі OpenAI, Anthropic і іншых кампаній — распрацоўшчыкаў штучнага інтэлекту (ШІ) разглядаюць сцэнарыі рэагавання на выпадак катастрафічнага інцыдэнту, звязанага з ШІ. Пра гэта гаворыцца ў матэрыяле партала Axios.



На думку прадстаўнікоў галіны, такая «буйнамаштабная падзея» можа адбыцца ўжо ў бліжэйшыя 6-12 месяцаў. У прыватнасці, можа адбыцца кібератака, якая прывядзе да спынення доступу да фінансавых паслуг, Інтэрнэту ці нават да адключэння электраэнергіі і водазабеспячэння. У буйных IT-кампаніях складаюць планы рэагавання на такую сітуацыю.

Хоць сцэнарнае планаванне — звычайная практыка для многіх кампаній, якія адказваюць за бяспеку, у выпадку з ШІ сітуацыя іншая, бо многія вядучыя даследчыкі і кіраўнікі ў гэтай сферы ўпэўненыя, што буйны інцыдэнт непазбежны, піша выданне. Занадта шмат мадэляў з адкрытым зыходным кодам ужо можна свабодна спампоўваць і выкарыстоўваць для прычынення шкоды. Пры гэтым большасць спецыялістаў па кібербяспецы лічаць, што гэтую праблему можна вырашыць толькі з дапамогай тэхналогіі штучнага інтэлекту для барацьбы з шкоднасным ШІ.

Адзін са стваральнікаў Microsoft Біл Гейтс у інтэрв’ю CNN заявіў, што ў 2027 годзе чалавецтва чакае мноства «непрыемных сюрпрызаў» праз развіццё ШІ. Планеце пагражаюць у тым ліку кібератакі з выкарыстаннем ШІ. На яго думку, галоўная небяспека цяпер заключаецца не столькі ў выхадзе штучнага інтэлекту з-пад кантролю, колькі ў выкарыстанні гэтай тэхналогіі зламыснікамі для кібератакі, вымагальніцтва і маніпуляцый на фінансавых рынках.

Ён таксама адзначыў, што самарэгуляванне ШІ-кампаній не з’яўляецца дастатковым, і заклікаў да іх дзяржаўнага кантролю.

arrow
Нашы выданні

Толькі самае цікавае — па-беларуску!

Напішыце ў рэдакцыю