Газета Washington Post напечатала статью с мрачным прогнозом Эмиля Торреса, философа и эксперта по оценке вероятности глобальных катастроф, предсказывает, что к середине 21 века человечество сможет создать действительно мощный искусственный интеллект (ИИ), который уничтожит нашу цивилизацию, если что-то пойдет не так в его работе.
Специалист уверен, что к 2050 году ученые смогут создать так называемый искусственный суперинтеллект – машину, чьи возможности превзойдут человеческие. Уже существуют алгоритмы ИИ, которые превосходят человека в шахматах, покере и других играх. Разработки в области машинного обучения становятся все более сложными с каждым днем.
“Создание искусственного сверхинтеллекта приведет к технологическим прорывам в самых разных областях, но нам также придется иметь дело с очень серьезными опасностями. Если люди доверят сверхинтеллекту какие-то действительно важные вещи, велика вероятность, что машина уничтожит человечество или нанесет ему серьезный вред. Потребуются очень сложные алгоритмы управления ИИ, но, где вероятность того, что компьютерный сверхгений не сможет их обойти? Даже в современных алгоритмах ИИ есть аспекты, которые ускользают от нашего понимания, и в будущем люди будут все меньше понимать, как работает мощный ИИ”, — предупреждает Торрес.
Исследователь считает, что глобальная катастрофа возможна, если люди поручат машине слишком сложные и абстрактные задачи. Например, если поручить машине “устроить мир во всем мире”, то с точки зрения ИИ может быть самое простое решение – избавиться от людей. Нет людей – нет проблем.
