기업들이 채용 결정을 위해 사용하는 인공지능(AI)과 자동화 프로그램에 대한 규제가 미국 최초로 뉴욕에서 도입됐다.

뉴욕시는 5일부터 ‘NYC 144’라는 이름의 이러한 법률을 시행한다고 월스트릿저널(WSJ)이 전했다. 뉴욕시의회가 지난 2021년 가결한 이 법은 여론 수렴 과정 등을 거쳐 2년 만에 발효됐다.

NYC 144는 챗봇 인터뷰 툴, 이력서 스캐너와 같은 채용과 승진 결정을 돕는 특정 소프트웨어를 사용하는 기업들에 해당 도구의 인종과 성차별 가능성을 매년 감사해 홈페이지에 그 결과를 공개할 것을 의무화했다.

이 법에 따라 뉴욕시 거주자를 고용하는 기업들은 채용, 승진 결정 과정에서 큰 역할을 하는 소프트웨어를 점검해 이른바 ‘불리 효과’(채용, 승진을 포함한 인사 평가 과정에서 특정 소수 집단에 대한 불리한 평가나 차별이 발생하는 현상) 비율을 공표해야 한다.

0에서 1까지 매겨지는 이 비율은 1에 가까울수록 차별이 거의 없다는 점을 의미한다. 예를 들어 여성에 대한 불리 효과율이 0.3이라면 남성 구직자 10명이 채용 심사를 통과할 때 여성 구직자는 3명만 통과한다는 뜻이다.

따라서 이 법은 채용 결정 과정에 사용되는 AI와 소프트웨어 자체를 규제하기보다는 투명성 제고 노력을 의무화하고 차별 가능성을 뿌리 뽑는 데 초점을 맞춘 것이라고 WSJ은 진단했다.

소프트웨어에 대한 감사와 결과 공개 의무를 위반하는 기업들은 하루에 건당 최대 1,500달러의 벌금을 부과받는다.
앞으로 기업들이 공개하는 불리 효과율만을 근거로 구직자나 직원들이 기업을 상대로 소송을 제기할 수는 없지만, 차별 사건에 관한 소송에서 이러한 정보가 증거로 사용될 수 있다.

그동안 미국의 기업들은 첨단 기술 발전과 온라인 구직 일반화로 자동화 채용 소프트웨어에 주로 의존했으나, 소수 집단을 차별할 수 있다는 우려가 컸다.
뉴욕시 외에 워싱턴DC와 캘리포니아주, 커네티컷주에서도 비슷한 법안이 발의됐다고 신문은 전했다.