Европейская комиссия намерена принять новый закон, который даст возможность выявлять в Сети контент с насилием над малолетними. Если закон примут, то он от компаний, которые владеют социальными сетями и интернет-платформами, могут потребовать внедрять системы, отслеживающие запрещенные материалы.
Согласно замыслу инициаторов проекта, изначально переписку пользователей будут проверять при помощи искусственного интеллекта, далее материалы, которые вызывают подозрение у робота, будут передавать на контроль специалистам.
В Еврокомиссии подчеркнули, что только за год количество случаев, которые связаны с сексуальной эксплуатацией детей увеличилось более чем на 60 процентов, а в общей сложности за минувший год в Сети обнаружили порядка 85 миллионов фото- и видеодокументов с сексуальным насилием над детьми.
Законопроект предусматривает внедрение системы обнаружения контента CSAM – Child Sexual Abuse Material, которая представляет собой базу готовых изображений, с ними робот будет сравнивать снимки и ролики из Интернета. В случае выявления совпадений контент будет передан человеку для окончательного анализа.
Противники идеи считают, что система не застрахована от ошибок и может выявлять совсем не тот контент, на который её настроили. В один момент миллионы людей во всем мире утратят конфиденциальность общения в онлайн.
Помимо этого, как считают некоторые, созданную технологию «обкатают» на детской порнографии, а затем перенацелят на выявление, к примеру, оппозиционно настроенных людей.
В свою очередь в Еврокомиссии ответили, что будут препятствовать использованию системы не по назначению, поощряя только те варианты, которые в наименьшей степени способствуют нарушению конфиденциальности.
