[매일안전신문] 편향된 데이터는 인사 관리의 '독약'이다. AI 채용 시스템이 과거 10년 치의 합격자 데이터를 학습한다면, 그 시스템은 필연적으로 과거의 관행을 답습한다.
만약 과거에 특정 성별이나 특정 대학 출신이 주로 채용되었다면, AI는 이를 '우수성'의 지표로 오인하여 해당 집단이 아닌 지원자를 원천 배제하게 된다. 이는 단순한 기술적 한계가 아니라, '남녀고용평등법' 제7조 및 '국가인권위원회법'상 금지된 차별 행위에 해당한다.
문제는 여기서 그치지 않는다. AI가 '객관적'이라는 외피를 두르고 있기 때문에, 피해를 입은 구직자는 자신이 왜 탈락했는지조차 알 수 없다. 이는 불복할 기회 자체를 박탈하는 구조적 부당함이며, 법원과 인권위원회가 갈수록 예민하게 반응하는 지점이기도 하다. 실제로 미국의 한 대형 유통기업은 AI 서류 스크리닝 결과 여성 지원자의 합격률이 남성의 절반에 불과하다는 사실이 드러나 거액의 합의금을 지급했다. 한국에서도 동일한 소송이 제기될 날이 멀지 않았다.
법원은 '의도'보다 '결과'에 주목한다. 기업이 차별의 의도가 없었다고 강변해도, AI의 필터링 결과가 특정 집단에 불리하게 나타난다면 이는 '간접차별'로 간주되어 징벌적 손해배상의 대상이 될 수 있다. 이러한 리스크를 방어하기 위해 경영진은 전격적인 도입에 앞서 알고리즘 감사 전략을 선행해야 한다.
우선 특정 집단의 합격률이 다수 집단 합격률의 80% 미만인지 확인하는 '4/5 규칙'과 같은 이질적 영향 분석을 주기적으로 실시하여 통계적 차별 여부를 감시해야 한다. 이 분석은 단순히 숫자를 확인하는 작업이 아니라, 기업이 법적 분쟁에서 스스로를 보호할 수 있는 핵심 방패이다. 또한 학습 데이터에서 성별, 거주지, 졸업 연도, 이름의 어감 등 차별을 유발할 수 있는 변수를 제거하는 데이터 클렌징 작업을 기술팀에 명확히 요구해야 한다. 이 과정에서 발견되는 오염 변수의 목록과 처리 결과는 반드시 문서화하여 보관하는 것을 추천한다.
나아가 내부 개발팀의 자체 검증에만 의존하지 말고, 외부 법률·기술 전문가를 통해 독립적인 감사 보고서를 정기적으로 확보해야 한다. 이 보고서는 추후 소송이나 행정 조사에서 기업이 '주의 의무'를 다했음을 입증할 수 있는 결정적 증거가 된다. AI 채용이 가져다주는 효율의 이면에는 이처럼 정교한 법적 리스크 관리가 전제되어야 한다는 사실을 경영진은 반드시 직시해야 함을 잊지말자.
/ 법무법인 인사이트 노무SOS 노지향 노무사
[ⓒ 매일안전신문. 무단전재-재배포 금지]
