Ученые достигли 99-процентной точности в обнаружении фейковых научных статей, используя искусственный интеллект. Исследование, опубликованное в журнале Cell Reports Physical Science, показывает, что специалисты из Канзасского университета разработали инструмент, способный отличать статьи, написанные реальными учеными, от тех, которые созданы генеративными моделями, такими как ChatGPT.
Для эксперимента автор работы Хизер Десэр и ее коллеги выбрали 64 научные статьи, некоторые из которых были написаны учеными, а другие были сгенерированы искусственным интеллектом. Они загрузили эти материалы в ChatGPT и попросили чат-бота создать 128 фейковых статей. Всего ИИ сгенерировал 1276 абзацев, которые затем использовались для обучения.
Результаты показали, что разработанный на основе ChatGPT инструмент способен с точностью 99 процентов отличать реальные статьи от фейковых. Однако точность немного снижается до 92 процентов при анализе отдельных абзацев.
Специалисты заключили, что текст, написанный человеком, можно отличить от созданного чат-ботом. Настоящие ученые обычно используют более длинные предложения, разнообразные слова и чаще применяют знаки препинания.
Глава компании Apple Тим Кук ранее заявил, что его компания внимательно следит за развитием искусственного интеллекта. В Apple активно интегрируют ИИ в свои продукты, но обычный пользователь может не обращать на это внимания.
