Разработчик игрового движка Unity недавно запустил новую функцию Safe Voice, которая направлена на использование ИИ для обнаружения неприемлемого контента.
По данным компании Unity, сервис анализирует голосовые данные игрока на предмет тона, громкости, высоты тона, интонации, эмоций и контекста взаимодействия.
Unity подчеркнула, что эта функция «может помочь создать здоровое сообщество и снизить отток пользователей». В связи с этим, чтобы отразить особенности разных сообществ, Safe Voice вводит функцию определения приоритета вредоносности конкретных слов или выражений, а также функцию присвоения баллов вредоносности различному контенту.
Что касается защиты конфиденциальности, Unity подчеркивает, что для записи и обмена разговорами требуется предварительное согласие игрока и не будет проверяться личность для сбора потенциально конфиденциальной личной информации.
Приложение в настоящее время находится на внутреннем тестировании, и некоторые пользователи внутреннего тестирования сообщают, что если игроки произносят много «новых ругательств» более дружелюбным тоном, системе сложно их точно идентифицировать.
