OpenAI формирует новую команду под руководством Ильи Суцкевера, главного научного сотрудника и одного из соучредителей компании, для разработки способов управления и контроля над «сверхразумными» системами искусственного интеллекта.
В сообщении в блоге, опубликованном сегодня, Суцкевер и Ян Лейке, руководитель группы согласования в OpenAI, предсказывают, что ИИ с интеллектом, превышающим человеческий, может появиться в течение десятилетия. Суцкевер и Лейке говорят, что этот ИИ — если он действительно когда-нибудь появится — не обязательно будет доброжелательным, что потребует исследования способов его контроля и ограничения.
«В настоящее время у нас нет решения для управления потенциально сверхинтеллектуальным ИИ и предотвращения его выхода из-под контроля. Наши текущие методы согласования ИИ, такие как обучение с подкреплением на основе отзывов людей, основаны на способности людей контролировать ИИ. Но люди не смогут надежно контролировать системы ИИ, которые намного умнее нас», — говорят специалисты.
