В скором времени человечество не будет способно контролировать сверхразумный компьютер и ИИ. Об этом сообщают специалисты Центра людей и машин Института развития человека Макса Планка.
Они проделали большую работу по вычислению возможности, в будущем, человека управлять искусственным интеллектом. Также ученые провели эксперимент и рассмотрели вопрос об угрозе ИИ в мире. Специалисты пришли к мнению, что искусственный интеллект может быть независимым от своего изобретателя и чем это может обернуться в будущем никто не знает, но страшно предполагать. Вдруг такая машина уничтожит планету, а может наоборот, с ее помощью будут предотвращаться природные катастрофы и создаваться лекарства от неизлечимых болезней.
Ученые работают над тем, чтобы была возможность отключить или включить определенные функции в ИИ. Замотивировать его делать лучше человечеству, работая только в сторону интересов людей.
Однако исследователи не считают это возможным, утверждая, что на практике это не сработает. Разные алгоритмы сдерживания искусственного интеллекта смогут автоматически выключиться или просто дать сбой в поставленной задаче. Возможно, это изобретение сможет самостоятельно отключить все программы сдерживания.
