Исследование Stanford HAI

Исследование Stanford HAI выявило , что алгоритмы автоматического отбора кандидатов могут приводить к расовой дискриминации, даже если разработчики стремятся этого избежать. Проанализировав около 4 миллионов резюме, поданных в 150 крупных компаний, учёные обнаружили системные различия в оценках. В частности, 26% темнокожих и 15% азиатских соискателей подавали заявки на вакансии, где ИИ-инструменты занижали их шансы на продвижение по сравнению с другими группами. Если бы алгоритмы оценивали кандидатов беспристрастно, к следующему этапу отбора могли бы пройти ещё около 40 000 человек. Также была зафиксирована новая проблема – так называемая "алгоритмическая монокультура". Поскольку 90% американских работодателей используют ИИ-инструменты для отбора кандидатов, причём большинство полагается на одних и тех же нескольких вендоров, соискатели, отклонённые одной системой, получают отказы повсюду. Каждый десятый, подавший 4 заявки через одного вендора, был отвергнут везде, в отличии от ситуаций, когда компании принимают решения независимо друг от друга. Авторы исследования настаивают на необходимости независимого аудита ИИ-инструментов найма и доказательной политики в этой сфере.