AI가 직장 다양성을 높일 수 있다는 주장은 '가짜이고 위험하다'

May 06, 2023

최근 몇 년 동안 챗봇과 CV 스크레이퍼를 사용하여 잠재 후보자를 라인업하고 비디오 인터뷰를 위한 분석 소프트웨어에 이르기까지 인력의 다양성 부족에 대한 해답으로 마케팅되는 AI 도구가 등장했습니다.

기술을 뒷받침하는 사람들은 채용 과정에서 성별과 민족에 대한 인간의 편견을 없애고 대신 어휘, 음성 패턴, 심지어 얼굴의 미세 표정까지 읽는 알고리즘을 사용하여 올바른 성격 유형과 '문화적 적합성'에 대해 거대한 구직자 풀을 평가한다고 주장합니다. "

하지만,발표된 새로운 보고서에서케임브리지 젠더 연구 센터의 연구자들은 철학 및 기술 분야에서 이러한 주장이 관상학이나 골상학을 연상시키는 "자동화된 의사 과학"보다 채용에 AI를 사용하는 것이 더 낫다고 주장합니다. 즉, 얼굴 특징과 두개골 모양에서 성격을 추론할 수 있다는 믿을 수 없는 믿음입니다. .

투자와 기업 문화 변화가 필요한 뿌리 깊은 차별 문제를 신속하게 해결하기 위해 기술에 눈을 돌리는 것은 '기술 해결주의'의 위험한 예라고 말합니다.

실제로 연구원들은 케임브리지 컴퓨터 과학 학부생 팀과 협력하여 기술을 모델로 한 AI 도구를 구축하여 이러한 새로운 채용 기술이 거짓임을 폭로했습니다.

"Personality Machine"은 얼굴 표정, 의복, 조명 및 배경의 임의적 변화가 근본적으로 다른 성격 판독을 제공할 수 있으며, 따라서 대학원 직위를 위해 경쟁하는 구직자 세대의 거절과 승진의 차이를 만들 수 있음을 보여줍니다.

케임브리지 팀은 AI를 사용하여 후보자 풀을 좁히면 궁극적으로 인력의 다양성보다는 균일성이 증가할 수 있다고 말합니다. 기술은 고용주가 상상하는 "이상적인 후보자"를 검색하도록 조정되기 때문입니다.

연구원들은 AI가 식별하도록 프로그래밍된 행동을 복제하고 그러한 태도를 직장에 적용함으로써 올바른 훈련과 배경을 가진 사람들이 "알고리즘을 이기는" 것을 볼 수 있다고 말합니다.

또한 알고리즘이 과거 데이터를 사용하여 연마됨에 따라 가장 적합하다고 간주되는 후보자는 결국 현재 인력과 가장 유사한 후보자가 될 가능성이 있다고 주장합니다.

공동저자인 Eleanor Drage 박사는 “일부 판매업체가 '뱀기름' 제품을 반짝이는 패키지에 포장하여 의심하지 않는 고객에게 판매하고 있다는 점을 우려하고 있습니다.”라고 말했습니다.

"이 회사들은 인공 지능을 사용하여 채용 과정에서 인종 차별, 성 차별 및 기타 형태의 차별을 제거할 수 있다고 주장함으로써 우리가 세상을 움직이는 방식을 형성하는 권력 시스템이 아니라 인종과 성별을 하찮은 데이터 포인트로 축소합니다. ."

연구원들은 이러한 AI 채용 도구가 독점적인 경우가 많거나 "블랙박스"인 경우가 많기 때문에 작동 방식은 미스터리라고 지적합니다.

Dragage는 "회사가 악의적으로 행동하지 않을 수도 있지만 이러한 제품을 제작하거나 테스트하는 방법에 대한 책임은 거의 없습니다"라고 말했습니다. "따라서 이 기술과 그것이 마케팅되는 방식은 채용이 어떻게 '편향되지 않고' 공정해질 수 있는지에 대한 잘못된 정보를 제공하는 위험한 소스가 될 수 있습니다."

예를 들어 EU가 제안한 AI법은 AI 기반 채용 소프트웨어를 "고위험"으로 분류하는 등 일부 반발에도 불구하고 연구원들은 Retorio 및 HIreVue와 같은 회사에서 만든 도구가 거의 규제 없이 배포되고 AI 사용을 제안하는 설문조사를 지적합니다. 채용에 있어서 눈덩이처럼 불어나고 있습니다.

5개국의 다양한 산업에 걸쳐 500개 조직을 대상으로 한 2020년 연구에 따르면 기업의 24%가 채용 목적으로 AI를 구현했으며 채용 관리자의 56%가 내년에 AI를 도입할 계획인 것으로 나타났습니다.

2020년 4월에 인사 분야 리더 334명을 대상으로 실시한 또 다른 설문조사에서는 팬데믹이 확산되자 조직의 86%가 새로운 가상 기술을 채용 관행에 통합하고 있는 것으로 나타났습니다.

공동 저자인 Kerry Mackereth 박사는 "이러한 추세는 팬데믹이 시작되면서 이미 자리 잡았으며, 코로나19로 인해 온라인 업무로의 전환이 가속화되면서 HR 부서에서 AI 도구를 더 많이 배포하게 될 가능성이 높습니다."라고 말했습니다. Drage와 함께 Good Robot 팟캐스트를 진행하며 듀오가 기술 윤리를 탐구합니다.