Искусственный интеллект при найме дискриминирует чернокожих и азиатов: исследование 4,2 млн заявок

Группа американских исследователей изучила работу алгоритмов искусственного интеллекта, которые компании применяют для первичного отбора резюме. Выяснилось, что такие системы нередко демонстрируют расовую предвзятость, отдавая предпочтение кандидатам одной расовой группы и отклоняя других. Кроме того, алгоритмы реже рекомендуют соискателей, которые подают заявки сразу в несколько организаций, использующих одну и ту же платформу.

Миллионы заявок под наблюдением

Для исследования ученые получили доступ к базе данных платформы Pymetrics, которая с 2022 года принадлежит компании Harver. Данные охватывают период с декабря 2018 по декабрь 2022 года и включают 4,2 миллиона заявок от 3,37 миллиона уникальных соискателей на 1746 вакансий. В общей сложности в базе представлены 156 работодателей из 11 отраслей, чья совокупная годовая выручка достигает около 225 миллиардов долларов.

При подаче заявки кандидаты проходили на платформе специальные игровые тесты. На основе результатов алгоритм рекомендовал работодателям в среднем 58,2% соискателей на каждую позицию. Хотя компании самостоятельно принимали окончательное решение о приглашении на собеседование, на практике они обычно отклоняли кандидатов, не получивших рекомендацию от ИИ.

Как измеряли дискриминацию

Чтобы выявить систематическую предвзятость, исследователи применили правило «четырех пятых». Согласно этому критерию, дискриминация считается вероятной, если доля отобранных кандидатов из определенной группы составляет менее 80% от доли наиболее успешной группы. Анализ показал, что 26% чернокожих и 15% азиатских соискателей подавали документы на вакансии, где алгоритмы систематически дискриминировали их расовую группу.

По оценкам ученых, из-за предвзятости ИИ-систем около 40 тысяч кандидатов не получили приглашение на следующий этап отбора. Если бы чернокожие и азиатские соискатели проходили первичный отбор с той же вероятностью, что и наиболее часто одобряемая группа, эти люди могли бы претендовать на дальнейшее рассмотрение.

Кроме того, исследование выявило дополнительный фактор риска: алгоритмы чаще отклоняли кандидатов, которые отправляли заявки сразу в несколько компаний, использующих одну и ту же ИИ-систему. Среди соискателей, подавших четыре заявки, около 10% получили отказ от всех работодателей — это говорит о том, что система может негативно оценивать «массовость» поиска работы.

Полученные данные поднимают важные вопросы о справедливости автоматизированного найма. Хотя ИИ призван ускорить и упростить подбор персонала, без должного контроля он может воспроизводить и даже усугублять существующие социальные неравенства. Исследователи призывают компании внимательнее проверять свои алгоритмы на предмет предвзятости и вносить коррективы, чтобы гарантировать равные возможности для всех кандидатов.