Представители НТИ по технологиям хранения и анализа больших данных МГУ придумали, как проверить устойчивость ИИ-систем к кибератакам. Об этом информирует портал RT.
Как объяснили авторы идеи, решение представляет собой веб-сайт для загрузки моделей машинного обучения в облако, где они автоматически проходят тестирование на устойчивость к различным видам атак.
В итоге пользователь получает оценку возможности системы сохранять работоспособность в условиях внешних влияний и изменений, а также версию дообученной модели, которая будет более устойчива к атакам.
«Тематика устойчивости к атакам в скором времени будет очень востребована», — подчеркнули ученые.
Решение экспертов МГУ можно использовать для любых систем, которые построены на основе нейросетевых моделей. При этом наиболее полезно оно будет в случае с автопилотами для грузовых машин и поездов, системами идентификации объектов на фото и видео, распознавания диктора по голосу и текста из аудиосообщений, поскольку они наиболее часто подвергаются кибератакам.
Специалисты уже разработали прототип решения и сейчас работают с рядом крупных российских клиентов над увеличением устойчивости их ИИ-продуктов.
