Когда люди используют гендерно-нейтральные слова, такие как “люди” и “человечество”, они склонны думать о мужчинах, а не о женщинах, что отражает сексизм, присутствующий во многих обществах, согласно анализу миллиардов слов, опубликованных в Интернете. Исследователи, создавшие эту работу, предупреждают, что это сексистское предубеждение передается моделям искусственного интеллекта, которые были обучены на том же тексте. Работа опубликована в журнале Scientific Advances.
Эйприл Бейли из Нью-Йоркского университета и ее коллеги использовали статистический алгоритм для анализа коллекции из 630 миллиардов слов, содержащихся на 2,96 миллиарда веб-страниц, собранных в 2017 году, включая неформальные тексты из блогов и дискуссионных форумов, а также более официальные тексты, написанные СМИ, корпорациями и правительствами, в основном на английском языке. Исследователи использовали подход под названием “встраивание слов”, он позволяет определить предполагаемое значение слова по частоте, с которой оно встречается в контексте с другими словами.
Они обнаружили, что такие слова, как “человек”, “люди” и “человечество”, используются в контексте, который лучше соответствует контексту таких слов, как “мужчины”, “он” и “мужской”, чем таких слов, как “женщины”, “она” и “ее”. Команда отмечает, что поскольку эти гендерно-инклюзивные слова использовались более схоже с теми, которые относились к мужчинам, люди могут воспринимать их как более мужественные в своем концептуальном значении – отражение общества, где доминируют мужчины. Они учли тот факт, что мужчины могут быть перепредставлены в качестве авторов в их наборе данных, и обнаружили, что это не повлияло на результаты.
Остается открытым вопрос, насколько это зависит от английского языка, говорит команда – другие языки, такие как испанский, содержат явную гендерную информацию, которая может изменить результаты. Команда также не учитывала небинарную гендерную идентичность и не проводила различия между биологическими и социальными аспектами пола и гендера.
Бейли отмечает, что обнаружение доказательств сексистской предвзятости в английском языке не удивительно, поскольку предыдущие исследования показали, что такие слова, как “ученый” и “инженер” также считаются более близкими к “мужчине” и “мужскому”, чем к “женщине” и “женскому”. Но она считает, что это, должно быть, потому, что та же коллекция текстов, изученных в данном исследовании, используется для обучения целого ряда инструментов искусственного интеллекта, которые унаследуют это предубеждение, от сайтов языкового перевода до разговорных ботов.
“Он учится у нас, а потом мы учимся у него, — рассказывает Бейли. – И мы как бы находимся в этом взаимном цикле, где мы зеркально отражаем его и обратно”.
