В журнале Nature Machine Intelligence опубликована статья, описывающая эксперимент, проведенный специалистами американской фармацевтической компании Collaborations Pharmaceuticals, которые запустили нейронную сеть, созданную для поиска лекарств, в “режиме злодея”, чтобы продемонстрировать, как легко современные технологии могут быть использованы для нанесения вреда людям. Всего за 6 часов нейросеть предложила 40 тысяч потенциально смертельных для человека веществ.
По словам экспертов, идея изменить методику разработки лекарств с помощью ИИ возникла после того, как они побывали на конференции Convergence, которую проводит Швейцарский федеральный институт ядерной, биологической и химической защиты. Целью мероприятия было информирование общества о новых разработках в области создания химического и бактериологического оружия, чтобы предупредить о новых опасностях для человечества.
Модель ИИ была обучена на большой базе данных молекулярных структур и их токсичности. Ее основной задачей было выявление потенциально опасных компонентов, чтобы они не попали в состав лекарств. Ученые не планируют изучать свойства веществ, предложенных ИИ.
Но они говорят, что среди этой массы молекул, скорее всего, найдутся такие, которые по своему действию могут быть похожи на газ ВИ (самое токсичное боевое отравляющее вещество из когда-либо созданных) или другие боевые отравляющие вещества.
Ученых беспокоит тот факт, что многое из того, что было использовано для производства этих веществ, довольно легко приобрести. Данные о токсичности также находятся в открытом доступе.
“Если у вас есть человек, который пишет код на Python и разбирается в машинном обучении, вы могли бы построить такую генеративную модель на основе данных о токсичности за выходные”, — говорят исследователи.
