[AI 요약] AI 면접이 낯설지 않은 시대에서, 채용 후 인사 평가에도 AI가 사용될 전망이다. 사람과 관련된 모든 일에 AI가 관여하면 '차별과 편견'이 줄곧 AI 알고리즘까지 이어진다. AI를 활용한 채용과 인사 평가에서 편견이 일어날 것이지 않고 오히려 AI라는 명분 하에 사람을 뽑을 수 있기 때문에 정부가 정책적으로 가이드라인을 제시하면 AI 기술을 적용하기 애매하지만, 제도적 장치 마련을 시도하는 곳이 있다.

인공지능(AI) 면접이 낯설지 않은 시대다. 구직자들이 이력서를 검토하는 것은 이제 사람이 아니라 AI 시스템의 일이 되어 가고 있다. 채용 후 인사 평가에도 AI가 쓰인다. 인사 관리가 시스템화되면서 자리 잡은 다면 평가의 한 자리를 AI가 채울 전망이다.

AI가 채용과 평가서 활약하는 변화가 두 손 들어 반길 일일까? 오히려 편견을 솜씨 좋게 포장하는 데 AI가 악용될 소지는 없을까? 구직자, 조직원, 인사 담당자 모두 한 번쯤 생각해 봐야 할 문제다.

사람과 관련된 모든 일에 AI가 관여하면 ‘차별과 편견’이 꼬리표처럼 따라다닌다. 그럴 수밖에 없는 것이 AI는 결국 과거의 데이터를 토대로 학습을 거듭한다. 데이터에는 오랜 관행과 가치가 담길 수밖에 없고, 결국 여러 세대에 걸쳐 이어진 차별과 편견은 고스란히 AI 알고리즘까지 이어질 수 있다. AI를 활용한 채용과 인사 평가에 차별과 편견을 걱정하는 이유다.

첨단 기술이지만 조직원을 뽑고, 고과를 평가할 때 학연과 지연을 따지는 연고주의와 장애인, 인종, 성 같은 차별이 사라질 것이라 확신할 수 없다. 오히려 AI라는 미명 하에 솜씨 좋게 차별과 편견을 숨기지 않을까 걱정이다.

AI 인사 시스템...제도적 장치 마련 고려해 봐야

그렇다면 정부가 정책적으로 가이드라인을 제시하면 어떨까? 기업은 각자의 인재관에 따라 채용을 하고 교육과 훈련을 통해 인력을 양성한다. 이런 인재관을 바탕으로 인사 관리 시스템이 설계되고, 이에 따라 사람을 뽑고 평가를 한다. 따라서 이 시스템에 AI 기술을 적용한다 해서 정책적으로 접근하기 애매하다. 그런데도 제도적 장치 마련을 시도하는 곳이 있다.

뉴욕시는 2020년 자동화 기반 고용 결정 도구 판매에 관한 법안(Sale of automated employment decision tools)을 발의하였다. 이 법안은 AI 기술을 적용하여 자동화, 지능화 기반의 채용 및 인사 평가 도구 사용에 대한 규제 내용을 담고 있다.

법안의 취지는 거창한데 내용은 좀 빈약하다. AI 기반 인사 도구 도입 시 이 솔루션이 뉴욕시의 법을 준수하고 있는지, 편향 여부를 감사할 수 있는 기능이 있는지 등을 따지는 정도다.

현지 언론은 이 법안이 솔루션 업체의 입장만 반영한 것이 아니냐는 불만을 목소리를 내고 있다. AI의 블랙박스화를 막을 만한 내용이 법안에 없다는 것이 비판을 받는 배경이다.

제도는 늘 기술 발전보다 한 템포 늦게 뒤를 따르게 마련이다. 아직 계류 중이긴 하지만 뉴욕시의 법안 발의는 시도만으로 의미가 있어 보인다. 제도는 개선해 나아가면 된다.

AI 기술 전문가의 의견을 잘 수렴한다면 편견과 차별 없는 AI 알고리즘 설계 방법론, AI의 블랙박스화를 방지하기 위해 편견을 잡아내는 도구의 각종 기능을 참조해 법안의 빈틈을 메울 기회가 충분할 것이다.