Субъективен и ненадёжен: исследователи Кембриджа изучили ИИ в рекрутинге
Исследование учёных и студентов Кембриджского университета продемонстрировало субъективность и ненадёжность инструментов ИИ, используемых в рекрутинге. В качестве направления своей работы эксперты выбрали дискриминацию по этическим или гендерным признакам при приёме на работу. В результате исследователи пришли к выводу, что, стараясь абстрагироваться от внешних факторов, HR-специалисты рискуют либо ошибиться, либо стать жертвами «автоматизированной лженауки» с уклоном в физиогномику и френологию.
Для иллюстрации своей идеи специалисты Кембриджского центра гендерных исследований совместно со студентами, изучающими информатику, разработали «Машину личности». Построенная на основе ИИ, она, по словам создателей, представляет собой игрушечную версию тех моделей, которые используются в HR на практике для анализа видео кандидатов и интерпретации их личности при помощи оценки определённых участков лица. Оценки соискателям в таком случае ставятся на основе показателей «большой пятёрки» личностных характеристик: экстраверсии, покладистости, открытости, добросовестности и невротизма.
Особенность «Машины личности» состоит в том, что она реагирует на произвольные изменения выражения лица, на смену одежды, освещения и даже фона. Таким образом один и тот же человек, в зависимости от освещения при собеседовании с «Машиной», может получить предложение работы или отказ. При этом исследователи подчёркивают, что результаты работы их приложения достаточно типичны для всех инструментов ИИ для рекрутинга.
Авторы исследования напоминают, что в последние годы появилось множество разработчиков, предлагающих аналитическое ПО для видеоинтервью. Те, кто стоят за этой технологией, утверждают, что она стирает человеческие предубеждения в отношении внешних атрибутов (пола, возраста или национальности), используя алгоритмы, которые оценивают словарный запас, модели речи и выражение лица. Но на самом деле алгоритмы работают достаточно «топорно». Кембриджская команда уверена, что использование ИИ для сужения пула кандидатов может в конечном итоге привести к тому, что система будет предлагать тех, кто больше всего похож на ранее выбранных кандидатов, или тех, кто сможет её обмануть.
Один из опросов, на который ссылаются в Кембридже, проводился в 2020 году и затронул 500 организаций из различных отраслей в пяти странах. Он продемонстрировал, что 24% предприятий уже внедрили ИИ для найма, а 56% планировали сделать это в следующем году. Другой опрос 334 руководителей кадровых служб, проведённый в апреле того же года, показал, что 86% организаций используют новые виртуальные технологии при приёме на работу. За два года ИИ в рекрутинге стал ещё более востребованным, а сами технологии выглядят не так безупречно, как представляют в HR.
