[123rf 제공]

[헤럴드경제=박혜림 기자] “여자라서 탈락시켰어요…취준생 울린 AI의 배신?”

미국 뉴욕시에서 최근 AI(인공지능)를 기반으로 한 채용 도구를 편향되게 사용하지 못하도록 하는 법안을 통과시켰다. ‘효율적이면서도 공정한 심사’를 위해 투입된 AI가 오히려 성별, 인종에 따른 차별을 심화시킬 수 있는 도구로 악용될 수 있다고 본 것이다. 세계 최대 이커머스 업체 아마존도 이력서 검토 프로그램에 AI를 도입했다가 여성 지원자를 차별한다는 사실을 발견하고, AI 도입을 철회했다.

22일 외신 등에 따르면 뉴욕시에서 활동하는 기업들은 오는 2023년 1월부터 AI를 활용한 채용 도구를 활용하는 과정에서 지원자의 인종이나 성별에 따라 차별한 사실이 적발되면 건당 1500달러(한화 약 178만원)의 벌금을 받게 된다.

이달 초 해당 법안이 통과됐으며, 드 블라시오 뉴욕 시장의 서명만 남겨놓고 있는 상황이다. 현지 언론에 따르면 뉴욕 시장 측은 해당 법안을 지지하는 것으로 알려졌다.

법이 제정되면 고용주나 고용기관은 관련 감사를 받을 수 있다. 또 AI 채용 도구가 차별적인 데이터를 기반으로 구축됐는지에 대해 투명하게 공개해야 한다. 당초 객관적 채용 수단으로 여겨지던 AI가 자칫 지원자 간 차별을 심화시키는 도구로 쓰일 수 있다는 우려에서다.

[123rf 제공]

AI 채용 도구는 과거 데이터를 기반으로 알고리즘을 구축한다. 기존에 채용된 구성원을 바탕으로 조직에 부합하는 인재상을 선정한다는 것이다. 문제는 앞선 데이터가 이미 편향된 내용을 담고 있을 때다. 예컨대 기존 인력이 남성, 백인 위주로 구성됐다면 남성, 백인 지원자가 합격될 가능성이 높다.

실제로 미국 아마존의 경우에도 몇 년 전 AI를 활용한 이력서 검토 프로그램이 기술적인 영역에 여성보단 남성 조직원을 선호한다는 사실을 발견한 뒤 더이상 AI를 사용하지 않고 있다.

전자개인정보센터(EPIC)의 AI 및 인권 펠로우인 벤 윈터스는 “AI가 본질적으로 편향되지 않았거나 편향된 영향을 끼치지 않는다는 것을 보증하는 것은 정말 어려운 일”이라며 “많은 시스템이 인종과 장애에 따라 편향된 효과를 갖는 것으로 나타나곤 한다”고 설명했다. 어설픈 AI 활용이 오히려 기업에 ‘독’으로 작용할 수 있다는 것이다.

한편 우리 나라도 많은 기업들이 채용 절차에서 AI를 도입하고 있다. 취업포털 인크루트에 따르면 지난해 비대면 채용 전형을 택한 기업은 49.0%로 절반에 가까웠다. 이 가운데 5.2%가 AI평가를 온라인 채용 전형에 활용한 것으로 나타났다.