В Соединённом Королевстве боятся, что искусственный интеллект может ухудшить ситуацию с мошенничеством. В британском отчёте указано, что ИИ в будущем усугубит проблемы безопасности и создаст угрозы. Технология даст возможность террористам и компьютерным взломщикам расширить собственный арсенал инструментов и сделает их опаснее. Об этом говорится в докладе, обнародованном правительством Великобритании перед организуемой Туманным Альбионом встречей в верхах по безопасному применению искусственного интеллекта. Про это пишет ТАСС.
В документе сказано, что развитие генеративного ИИ (то есть создающего тексты в виде компиляции других) потенциально способно принести большие блага в масштабах всего мира. Но оно также увеличивает риски для безопасности.
Вероятно, что к 2025 году искусственный интеллект усилит имеющиеся риски, а не создаст абсолютно новые, но скорость развития и масштаб некоторых угроз заметно возрастут.
Высокая сложность прогнозирования направлений технического прогресса создает существенный уровень неопределенности. Но практически наверняка появятся добавочные угрозы, которые невозможно было предугадать. Быстрое распространение и всё большая доступность этих технологий почти гарантированно создадут условия для того, чтобы неопытные злоумышленники начали совершать атаки недостижимого для них раньше уровня.
Наиболее вероятным в период до 2025 года в докладе называется увеличение преступлений с использованием искусственного интеллекта в цифровой области. Например, сложных видов жульничества, похищения данных, распространения детской порнографии и авантюр, при реализации которых злоумышленник выдает себя за другое лицо.
Также усилятся риски распространения сознательно искажённой информации. Рост роли СМИ на основе искусственного интеллекта будет грозить подрывом доверия людей к институтам и правительствам демократических государств. Физические риски будут усиливаться медленнее, по мере того, как генеративный ИИ будет становиться частью физических систем, включая критически важные сооружения.
