Союз независимых работников Великобритании (IWGB) пожаловался на систему распознавания лиц Uber (фирмы-агрегатора такси). 35 водителей лишились работы из-за ошибок идентификации. Обычно с проблемами сталкивались представители монголоидной и негроидной расы. Сначала их отстраняли от работы на одну смену, а после повторных случаев увольняли. При этом восстановиться на работе удалось только одному водителю.
Перед началом работы сотрудники Uber должны пройти идентификацию через систему распознавания лиц. Система сравнивает присылаемую водителем свежую фотографию с той, что хранится в базе данных Uber. Если система посчитает, что на фотоснимках разные люди, то водителя не допустят к работе, а за несколько нарушений могут даже уволить.
Всё бы ничего, но система, используемая в Uber (от Microsoft), постоянно допускает ошибки. Особенно часто она неправильно идентифицирует лица монголоидов и негроидов. Из-за этого их систематически отстраняют от работы.
С начала эпидемии из-за ошибок пострадали 35 водителей. В одном случае фирма признала ошибку.
Правда, водитель может попросить, чтобы фотографию проверил человек, а решение о блокировке учётной записи принимают только живые люди на основании минимум двух мнений. Но, например, для европеоида будет сложно отличить представителей чёрной расы, возможно это и вызвало ошибки.
Одним из пожаловавшихся стал мужчина из Нигерии, работавший на Uber с 2016 по апрель 2021 года. Он считает, что система не узнала его из-за того, что с момента регистрации у него отрасли волосы и борода. При этом у него оставался шрам под глазом.
Система распознавания лиц была запущена в апреле прошлого года, чтобы таксистами не могли стать непроверенные водители.
Microsoft признала ещё в позапрошлом году, что программа не так хорошо распознаёт лица не белой расы. Поэтому профсоюз требует от Uber прекратить применять эту систему распознавания лиц и восстановить всех водителей, уволенных из-за её ошибок.
Впрочем, из-за того, что в данном случае решение принималось людьми, винить одну систему распознавания не стоит. То есть, если два человека, причём специалиста по идентификации, решили, что фотографии разные, сложно ожидать от автоматической системы правильного узнавания, хотя и такое вполне возможно.
