Британские ученые из Института Алана Тьюринга составили пугающий прогноз: уже через пять лет человечество может окончательно утратить рычаги управления искусственным интеллектом. Виной тому станут сверхразумные алгоритмы, которые начнут принимать решения быстрее и сложнее, чем способен осмыслить их создатель.
В новом докладе исследователи описали траекторию развития технологий, которая ведет к появлению систем, превосходящих человека в решении любых когнитивных задач. Из-за высокой эффективности алгоритмов организации неизбежно начнут делегировать машинам право принимать финальные решения. И именно здесь кроется главная ловушка.
Как отмечают авторы исследования: «Если ИИ начнёт строить стратегии, которые невозможно быстро оценить или проверить, контроль со стороны человека исчезнет».
В качестве побочных эффектов такого «освобождения» алгоритмов ученые называют масштабные кризисы.
В списке потенциальных угроз фигурируют:
При этом в Институте Тьюринга спешат уточнить: потеря контроля — это не стопроцентный прогноз, а лишь один из весьма вероятных сценариев. Чтобы смягчить удар, эксперты призывают к радикальным мерам: внедрять жесткие проверки не только отдельных нейросетей, но и целых систем после их запуска в реальную среду.
Тревогу бьют не только академические ученые, но и сами лидеры индустрии. Глава OpenAI Сэм Альтман открыто допускает создание неподконтрольных систем, а руководитель Anthropic Дарио Амодеи призывает технологические компании замедлить разработку мощных моделей.
По его мнению, только совместные действия могут отсрочить наступление «точки невозврата»: «Координация усилий может дать миру год или два форы до достижения критической точки».
