По мере того, как автоматический анализ выражения лица или AFEA становится все более способным распознавать поведение лица в повседневной жизни, становится все более важным понять, что заставляет технологию работать неправильно, а также предвидеть проблемы, которые могут возникнуть, когда она работает правильно.
Это неотложные вопросы, на которые обратили внимание два профессора U of A в недавней редакционной статье о политике, опубликованной в Journal of the Association for Information Systems. Статья «Глядя вперед: политика автоматизированного анализа выражения лица» была написана в соавторстве с Джеффри К. Маллинсом, доцентом кафедры информационных систем , и Патриком А. Стюартом, профессором политологии. Томас Дж. Грейтенс, профессор политологии Центрального Мичиганского университета, был дополнительным соавтором.
Цель редакционной статьи — заглянуть в будущее по мере развития AFEA. В настоящее время коммерческий AFEA не так точен, как опытные оценщики, обученные системе кодирования лицевых движений, и имеет тенденцию идентифицировать и использовать только шесть основных эмоций: гнев, страх, отвращение, печаль, счастье и удивление. Но это может быстро измениться. Разработчики и организации, склонные к использованию AFEA, должны знать о текущих и будущих проблемах.
Проблемы с надежностью
На данном этапе разработки несколько вещей все еще подрывают надежность AFEA. К ним относятся «предвзятость простоты», как отмечалось выше, поскольку AFEA фокусируется на обнаружении только шести эмоций и в настоящее время не идентифицирует более сложное поведение лица. Он также не способен обнаружить нюансы, такие как разница между улыбкой довольства и веселья, что, по словам авторов, отражает «мономодальную предвзятость».
Еще одна проблема — «экологическая предвзятость». У взволнованного или страдающего клаустрофобией пассажира на контрольно-пропускном пункте в аэропорту поведение лица может быть неотличимо от поведения более подозрительного пассажира, нервничающего из-за использования поддельных документов.
Наконец, существует «предвзятость индивидуальных различий». Люди — это сумма их генетики, семьи, культуры и опыта, и не все одинаково реагируют на один и тот же стимул. То, что ожидается в одной группе, может быть неприемлемым для другой, поэтому приписывание конкретных эмоций к определенному поведению лица никогда не будет полностью точным.
Проблемы надежности
Если предположить, что AFEA можно довести до уровня большей надежности, это создаст новые проблемы. Авторы начинают с «негативной предвзятости». Из шести текущих эмоций, которые определяет AFEA, четыре обычно считаются отрицательными (страх, печаль, отвращение, гнев), одна положительная (счастье) и одна нейтральная (удивление). Учитывая человеческую склонность сосредотачиваться на негативе, авторы считают, что «AFEA может поощрять принуждение и контроль, а не координацию и сотрудничество». Еще одной серьезной проблемой является прозрачность, поскольку степень записи поведения лица и определения мыслей и чувств потенциально подрывает право человека на неприкосновенность частной жизни.
Последние две проблемы — это «системная предвзятость» и « предвзятость субъективности ». Первый касается того, как предубеждения в отношении маргинализированных групп могут быть непреднамеренно встроены в алгоритмы, как, например, в случае, когда алгоритм найма, используемый Amazon, оказался предвзятым в отношении женщин. В другом авторы отмечают, что ценности могут сильно различаться между культурами и внутри них, что затрудняет определение приоритетов того, что «хорошо». Это может привести к плохому обращению с маргинализованными группами или к процессам и результатам, которые порождают общественный конфликт, а не способствуют достижению консенсуса.
В конечном итоге авторы приходят к выводу, что «организации должны быть реалистичными в своих ожиданиях, осторожными в их реализации и критичными, пытаясь предсказать возможные негативные последствия».
Теги: ИИ, распознавание
