Искусственный интеллект стал новым фактором, определяющим векторы общественного развития. Его применение расширяется во всех сферах жизнедеятельности. Какие этические дилеммы несет развитие искусственного интеллекта? Будут ли данные технологии способствовать общественному прогрессу? С какими проблемами и препятствиями сопряжено распространение искусственного интеллекта? Ответы на эти вопросы ищут сегодня во всем мире. Во время выставки-форума ИТ-Академграда «искусственный интеллект в Беларуси», который прошел в Национальной академии наук, состоялся круглый стол, где также поднимались эти вопросы.
Изначально участники попытались определиться с термином «искусственный интеллект». Что под ним понимать? Выяснилось, что у инженеров, программистов, медиков, юристов может быть свое видение искусственного интернета. Кто-то считает, что это область информатики, которая занимается разработкой интеллектуальных компьютерных систем — систем, обладающих возможностями, которые мы традиционно связываем с человеческим разумом (это понимание языка, обучение, способность рассуждать, решать проблемы и т.д.). Для кого-то искусственный интеллект — научное направление, охватывающее много отраслей знаний, поэтому ставить знак равенства между искусственным интеллектом и информатикой они считают абсолютно неправильным. А есть мнение, что это набор технологий, объединенных общим названием, которые могут улучшить нашу жизнь. Например, те же чат-боты используют искусственный интеллект, чтобы быстрее анализировать обращения заказчиков и давать соответствующие ответы. «Умные помощники» — чтобы извлекать информацию из больших баз данных и оптимизировать планирование.
Сферы применения искусственного интеллекта достаточно широки и охватывают как привычные слуху технологии, так и новые направления, которые только появляются и еще далеки от массового применения, иначе говоря, это весь спектр решений: от пылесосов до космических станций.
Ключевые направления развития искусственного интеллекта — компьютерное зрение, распознавание речи, понимание смысла текстов, аналитика и поддержка принятия решений, безлюдные и оцифрованные предприятия.
По мнению экспертного сообщества, мы находимся сейчас в самой активной фазе трансформации общества, которое стремительно информатизируется.
В начале октября стало известно о том, что с помощью искусственного интеллекта физики смогли радикально оптимизировать известную квантовую проблему, которая до недавнего времени подразумевала решение 100 тысяч различных уравнений. Теперь достаточно решить четыре уравнения, и это без каких-либо жертв в плане точности результатов.
Обучение нейросети потребовало больших вычислительных ресурсов: программа проработала несколько недель непрерывно. Однако теперь эта нейросеть может быть использована для производства вычислений в связи с другими крупными физико-математическими проблемами, без необходимости начинать ее обучение с нуля.
В Китае искусственный интеллект начал помогать судьям выносить приговор. В середине июля текущего года искусственный интеллект впервые стал составителем текста обвинительного заключения. Система машинного обучения может автоматически сканировать судебные дела на предмет ссылок, рекомендовать судье законы и правила, составлять юридические документы и исправлять то, что она считает человеческими ошибками в приговоре.
В частности, в 2014 году интеллектуальная судебная система под названием System of Systems (SoS) начинала свою деятельность как база данных. А в июле 2022 года с ней консультировался каждый судья по каждому делу, как это предписано Верховным судом. Если судьи не согласны с рекомендациями машины, они должны представить письменное объяснение для учета и проверки.
Искусственный интеллект получил прокурорские навыки после изучения более 17 тысяч дел, рассмотренных в судах Шанхая с 2015 по 2020 год. Обвинения SoS выносит с точностью в 97 %, основываясь на одной тысяче характерных черт, которые он выявляет в судебных документах по определенным уголовным делам. Внедрение искусственного интеллекта в судебную систему позволило сократить среднюю нагрузку на судью более чем на треть и сэкономить 1,7 млрд рабочих часов для граждан Китая в период с 2019 по 2021 год.
По информации разработчиков, SoS способен предъявлять обвинения по восьми наиболее распространенным в Китае преступлениям, таким как мошенничество с кредитными картами, организация азартных игр, опасное управление, умышленное нанесение травм, создание препятствий представителям властей в исполнении служебных обязанностей, Кража и мошенничество. Создатели уверены, что в будущем искусственный интеллект сможет выносить обвинения и по более резонансным и сложным с юридической точки зрения преступлениям.
Использование искусственного интеллекта в судебной системе многие считают «логичным шагом» по развитию Законодательного равенства и справедливости. Машинный разум не склонен к коррупции и эмоциям, может четко придерживаться законодательных рамок и выносить решения с учетом многих факторов, включая данные, характеризующие участников спора. По аналогии с медицинской сферой, роботы-судьи могут оперировать большими данными из хранилищ государственных служб. Можно предположить, что машинный интеллект сможет быстро обрабатывать данные и учитывать гораздо больше факторов, чем судья-человек.
Но эксперты-психологи считают, что отсутствие эмоциональной составляющей при рассмотрении судебных дел негативно скажется на качестве решения. Вердикт машинного суда может оказаться слишком прямолинейным, который не учитывает важность чувств и настроения людей.
Внедрение систем искусственного интеллекта в медицине — один из важнейших современных трендов. Технологии искусственного интеллекта кардинально меняют мировую систему здравоохранения, медицинскую диагностику, позволяют приблизиться к медицине 4п, повысить качество услуг здравоохранения при одновременном снижении расходов для клиник. По мнению аналитиков, у искусственного интеллекта есть большой потенциал в проектах ухода за пожилыми людьми, исследовании генома, открытии новых лекарств, медицинской визуализации и диагностике различных заболеваний.
В 2021 году инвестиции в проекты искусственного интеллекта в области здравоохранения по всему миру достигли 11,2 млрд долларов против 8 млрд долларов годом ранее. Такие данные в марте 2022 года опубликовал Стэндфордский институт искусственного интеллекта.
Для примера: врачи начали использовать искусственный интеллект, который диагностирует глаукому на ранних стадиях с точностью 97 %. Исследователи из Университета RMІT в Мельбурне (Австралия) создали систему, которая сможет выявлять рак простаты во время стандартной компьютерной томографии. Обычно на КТ-рисунках трудно выявить эту патологию.
В конце мая 2021 года стало известно о создании нейросети, которая вычисляет риск злокачественных новообразований по съемкам компьютерной томографии и флюорографии. Исследователи из Нидерландов разработали алгоритм, оценивающий злокачественность легочных узелков, обнаруженных при скрининговом кт. Созданная ими нейросеть может различать разновидности легочных узелков и оценивать вероятность развития рака с точностью в 82-93 %, не уступая 11 признанным экспертам в этой области. Таким образом, у пульмонологов, онкологов и радиологов появляется отличный электронный помощник.
— Лично я очень скептически отношусь к высказываниям разработчиков вроде «наша программа работает как человеческий мозг», — констатирует кандидат технических наук, заведующий лабораторией анализа биомедицинских изображений Объединенного института проблем информатики НАН Беларуси, доцент кафедры биомедицинской информатики ФПМИ БГУ Василий КОВАЛЕВ. — После своей работы в Институте мозга должен констатировать, что даже люди, которые много лет посвятили изучению когнитивной неврологии, говорят, что они хотели бы знать, как устроен мозг человека, но на самом деле мы знаем о нем еще совсем мало. Медицинская отрасль — очень чувствительная к современным инженерным решениям в области искусственного интеллекта. Их предлагается достаточно, так как много специалистов работают в этой сфере, в общем во всех странах мира айтишная поддержка медицины очень сильна. Но нам нужно понимать, что точность решений в медицине чрезвычайно важна, ведь ошибки будут стоить пациенту очень дорого. Все программы нужно разрабатывать при непосредственном участии врачей, которые будут их применять, так как именно врач, а не нейронная сеть, определяет по кардиограмме вероятность инфаркта.
Считаю, что никакая нейронная сеть, никакие компьютерные программы не смогут полностью заменить врача. В общем, междисциплинарность в сфере искусственного интеллекта чрезвычайно важна. Невозможно создавать интеллектуальные системы прикладного характера без соответствующих экспертов в области медицины, нейромотематики, обработки изображений, юриспруденции... Например, любой снимок — это персональные данные человека, что существенно усложняет задачу информационной безопасности.
В частности, Всемирная организация здравоохранения указала на негативные последствия применения искусственного интеллекта в медицине, если в основе его разработки и использования не будут лежать этические принципы и защита прав человека, и опубликовала рекомендации, в которых изложены принципы ограничения рисков и максимального использования возможностей искусственного интеллекта для здравоохранения.
Во время круглого стола прозвучала мысль, что белорусские юристы в своих исследованиях и публикациях обходят стороной острые этические проблемы внедрения искусственного интеллекта.
— Для того, чтобы новые технологии внедрялись и использовались, нужно повышать цифровое доверие к ним граждан. Закон «О защите персональных данных» вызвал определенный коллапс, потому что информатизация процессов опередила правовое регулирование. Вопросов очень много. Что должно быть раньше: технология или право? Я считаю, что право не должно тормозить развитие технологий. Законодательство должно соответствовать уровню развития общества, а не тормозить его развитие. Самое главное — сделать так, чтобы эти технологии могли сосуществовать с людьми, чтобы искусственный интеллект управлялся человеком, а не возник над ним, — поделилась своим мнением кандидат юридических наук, доцент Мария АБЛАМЕЙКО.
Многие страны мира уже имеют концептуальные документы, контролирующие искусственный интеллект.
7 октября 2022 года Управление по научно-технической политике (OSTP) Белого дома выпустило пять положений, которыми следует руководствоваться при разработке, использовании и внедрении автоматизированных систем. Документ был подготовлен на фоне того, как по мере развития искусственного интеллекта все больше голосов присоединяется к призыву принять меры по защите людей от этой технологии. Опасность, по мнению экспертов, заключается в том, что нейросети легко становятся предвзятыми, неэтичными и опасными. Одно из положений касается защиты от алгоритмической дискриминации. В зависимости от конкретных обстоятельств она может нарушать правовую защиту. Поэтому автоматизированные системы должны проектироваться на основе равноправия.
Очень важный аспект — конфиденциальность данных. Пользователь должен быть защищен от неправомерного использования данных с помощью встроенных средств защиты, и он должен иметь право распоряжаться тем, как будут использоваться данные о нем.
Пользователь должен иметь возможность отказаться от услуг автоматизированной системы, где это необходимо, и иметь доступ к специалисту, который может быстро рассмотреть и предотвратить возникшие проблемы. Иметь возможность отказаться от автоматизированных систем в пользу человеческой альтернативы.
Кодекс этики искусственного интеллекта был разработан также российским альянсом в сфере искусственного интеллекта совместно с Аналитическим центром при Правительстве РФ и Министерстве экономического развития. Основные принципы его внедрения — прозрачность, правдивость, ответственность, надежность, инклюзивность, непредвзятость, безопасность и конфиденциальность.
Стоит ли нам разрабатывать свой кодекс или можно изучить российский и европейский опыт? Сегодня в мире предлагается разработать единые подходы для всех стран, ведь проблемы стоят перед всеми одинаковые. Есть мнение, что человечество еще не на все грабли наступило, чтобы управлять искусственным интеллектом как данностью.
А вот разработать стратегию развития искусственного интеллекта в Беларуси необходимо. В этом сошлись все участники круглого стола. Возможно, нужно сосредоточить внимание на определенных направлениях, а не пытаться охватить все, учитывая размеры нашей страны и ее интеллектуальные ресурсы. Наибольшую прибыль внедрение искусственного интеллекта может принести в промышленности и в той же медицине. Одним словом, есть над чем подумать.
Надежда НИКОЛАЕВА
Фото pexels.com
Совместные проекты ядерных технологий.
В повестке дня — утверждение концепции нацбезопасности и военной доктрины.
