Появление искусственного интеллекта, который способен решать любые интеллектуальные задачи, грозит человечеству катастрофой, сделал заявление в интервью Times британский научный специалист Стюарт Рассел. Согласно его мнению, бесконтрольные разработки в сфере ИИ дошли до того, что “мы добились прогресса, которого сами не ожидали”.
Люди ошиблись ещё изначально, когда не думали для чего будет нужен данный интеллект, отметил Рассел. Вполне вероятно, что сверхразумные машины в дальнейшем начнут сопротивляться попыткам ими управлять, указал он.
“Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования, все очень просто. Ставки уже не могут быть выше. Если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании.”, — прокомментировал ученый.
Специалист обратил внимание на то, что появление универсального искусственного интеллекта, системы, которая способна выполнить любую задачу, посильную человеку, может произойти в течение 10 лет. При решении проблем, к примеру, которые связаны с климатом, такие программы могут сделать вывод, что лучшим решением будет избавление от человечества, высказал опасение ученый.
“Если вы учите искусственный интеллект подражать человеческому поведению, то по сути вы учите его ставить человеческие цели и преследовать их, а человеческие цели включают в себя самые разные вещи <…> Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели”, — констатировал Рассел.
