Искусственный интеллект может создавать настолько реалистичные человеческие лица, что люди не могут отличить их от настоящих – и даже больше доверяют поддельным лицам. Исследование опубликовано в журнале PNAS.
Созданные компьютером вымышленные человеческие лица настолько убедительны, что могут обмануть даже опытных наблюдателей. Их можно легко скачать в Интернете и использовать для интернет-мошенничества и создания фальшивых профилей в социальных сетях.
“Мы должны быть обеспокоены, потому что эти синтетические лица невероятно эффективны для гнусных целей, таких как порно из мести или мошенничество”, — говорит Софи Найтингейл из Ланкастерского университета в Великобритании.
Программы искусственного интеллекта, называемые генеративными состязательными сетями, или GAN, учатся создавать поддельные изображения, которые все меньше и меньше отличаются от реальных изображений, сталкивая две нейронные сети друг с другом.
Найтингейл и ее коллега Хани Фарид из Калифорнийского университета в Беркли попросили 315 необученных и 219 обученных участников, набранных на веб-сайте краудсорсинга, сказать, смогут ли они отличить набор из 400 поддельных фотографий от 400 фотографий реальных людей. Каждый набор состоял из 100 человек из каждой из четырех этнических групп: белых, чернокожих, выходцев из Восточной Азии и Южной Азии. Затем они попросили еще 223 участников оценить свой выбор тех же людей по шкале от 1 до 7 по уровню достоверности.
По словам Найтингейла, у необученных участников первоначальный уровень точности составил 48,2 процента – чуть хуже, чем вероятность. Те, кто был обучен распознавать лица, сгенерированные компьютером, были немного успешнее, с показателем точности 59 процентов, но эта разница незначительна, говорит она. Людям было труднее всего отличить настоящие лица от поддельных, возможно, потому, что программа синтеза обучалась на непропорционально большом количестве белых лиц.
Участники оценили поддельные лица в среднем на 8 процентов надежнее, чем настоящие – небольшая, но значительная разница, по словам Найтингейл. Это может быть связано с тем, что синтетические лица больше похожи на “нормальные” человеческие лица, а люди больше доверяют типичным лицам, считает она. Разница между этническими группами была незначительной, за исключением небольшой тенденции к тому, что люди оценивали черные лица как более заслуживающие доверия, чем лица выходцев из Южной Азии.
Если рассматривать крайности, то четыре лица, которые были оценены как самые ненадежные, были настоящими, а три самых надежных лица были поддельными.
“Нам нужны более строгие этические принципы и более правовые рамки, потому что неизбежно найдутся люди, которые захотят использовать [эти изображения] для причинения вреда, и это вызывает беспокойство”, — делится Найтингейл.
