Создателям искусственного интеллекта (ИИ) следует, как минимум на полгода остановить исследование мощных систем, указывается в открытом письме на сайте организации Future of Life, занимающейся снижением рисков для человечества, особенно возникающих в сфере ИИ, передает РИА Новости.
Под этим письмом свои подписи поставили такие известные личности, как глава SpaceX и миллиардер Илон Маск, сооснователь Apple Стив Возняк, сооснователь Pinterest Эван Шарп и ряд других экспертов, которые специализируются на искусственном интеллекте.
“Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки всех систем мощнее GPT-4. Эта пауза должна быть публичной и действительной… Если такая приостановка не может быть быстро сделана, правительства должны вмешаться и ввести мораторий”, – гласит текст письма.
По словам этих личностей, системы ИИ, у которых интеллект сопоставим с человеческим интеллектом, представляют серьезные риски для общества и человечества. Лабораториям и независимым экспертам необходимо разработать и внедрить общий набор протоколов безопасности.
Чтобы создать управление в этой сфере, разработчикам ИИ предстоит сотрудничать с политиками. Составители письма указали, что управление должно состоять из новых дееспособных регулирующих органов, которые будут заниматься вопросами искусственного интеллекта, надежной системы проверки и сертификации, плюс, должен быть контроль за более продвинутыми системами ИИ.
Составители письма подчеркнули, что на сегодняшний день не обеспечивается соответствующий контроль ИИ. Лаборатории делают все возможное, чтобы обогнать друг друга. Они создают и внедряют все более мощные системы, чье поведение невозможно предсказать.
