AI 인사관리 시대, '효율'보다 '설명과 책임'이 먼저다

홍효준

노무법인 명장 공동대표, 공인노무사, 경영학박사

인공지능(AI)이 기업의 인사관리(HR) 영역으로 빠르게 침투하고 있다. 단순한 채용 지원서 분류를 넘어 직무 적합성 분석, 성과평가, 인사배치, 교육 추천, 이직 가능성 예측까지 활용 범위가 넓어지는 추세다. 대규모 데이터를 신속하게 처리하고 인사담당자의 업무 부담을 대폭 줄여준다는 점에서 기업에게 AI는 매우 매력적인 도구다.

그러나 인사관리는 단순한 데이터 분석과 차원이 다르다. 채용 탈락, 낮게 측정된 평가, 승진 제외, 전보, 퇴직과 같은 결정은 한 사람의 생계와 직업적 경력에 직접적인 영향을 미친다. 따라서 AI 인사관리에서 가장 먼저 던져야 할 질문은 "얼마나 효율적인가"가 아니라 "어떤 기준과 데이터로 판단하며, 그 결과에 대해 누가 책임지는가"이다.

우리 법제도 이러한 문제의식을 명확히 반영하고 있다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 채용 등 개인의 권리와 의무에 중대한 영향을 미치는 판단 및 평가에 활용되는 AI를 '고영향 인공지능'으로 분류한다. 고영향 AI에는 위험 관리, 설명 가능성, 그리고 인간의 관리·감독 등 신뢰성 확보를 위한 조치가 법적으로 요구된다.

개인정보보호법 제37조의2 역시 시사하는 바가 크다. 완전히 자동화된 시스템이 개인정보를 처리하여 정보주체의 권리나 의무에 중대한 영향을 미치는 결정을 내릴 경우, 당사자가 그 결정을 거부하거나 설명을 요구할 수 있는 권리를 보장한다. 필요하다면 사람이 직접 개입하여 재처리하도록 요구할 수도 있다.

AI 인사관리의 핵심 원칙은 바로 여기에 있다. '이의를 제기할 수 있는 인사'여야 한다는 점이다. AI가 어떤 직원을 '저성과자'로 평가했다고 가정해보자. 당사자가 어떤 기준과 데이터 때문에 낮은 평가를 받았는지 알 수 없고, 오류가 입력되었음에도 사람에게 재검토를 요청할 수 없다면, 그 시스템은 효율적일지는 몰라도 결코 공정하다고 볼 수 없다.

대법원 판례 또한 AI 인사관리의 기준을 세우는 데 중요한 법리를 제공한다. 대법원은 근무성적 불량을 이유로 한 해고 사건(2021. 2. 25. 선고 2018다253680 판결)에서, 평가가 공정하고 객관적인 기준에 따라 이루어져야 한다고 판시했다. 단순한 평가 순위 하위 판정만으로는 부족하며, 업무 능력이 기대 수준에 미달하는지, 개선 가능성이 있는지, 교육이나 배치전환 등 개선 기회가 부여되었는지를 종합적으로 판단해야 한다는 취지다.

이 법리를 AI 평가에 대입하면 결론은 명확하다. 알고리즘이 특정 직원을 '하위 5%'로 분류했다고 해서 그 결과가 해고나 불이익 조치의 법적 정당성을 자동 보장하지 않는다. AI 점수는 판단을 위한 참고자료일 뿐, 노동법상 정당성을 대신할 수 없다.

인사배치(전보) 역시 마찬가지다. 근로기준법 제23조 제1항은 정당한 이유 없는 전직 등을 금지하고 있으며, 대법원(2023. 7. 13. 선고 2020다253744 판결)은 전보 명령 시 업무상 필요성과 근로자가 입게 될 생활상 불이익을 종합 비교해 정당성을 판단해야 한다는 법리를 재확인했다. AI가 특정 직원을 다른 지역이나 부서로 배치하는 것이 '조직 효율상 최적'이라고 계산했더라도, 그것이 곧 정당한 인사명령이 되는 것은 아니다. 육아, 가족 돌봄, 건강, 통근 여건 등 데이터화하기 어려운 개인의 절박한 사정이 존재하기 때문이다.

따라서 AI 인사관리를 도입하려는 기업은 다음의 4가지 원칙을 반드시 수립해야 한다.

1. 최종 판단의 인사결정자 개입: 해고·승진·징계·중대한 전보 등 개인에게 큰 불이익이나 변화를 가져오는 결정은 최종적으로 인사결정자가 검토하고 판단하여야 한다.

2. 설명 가능성 확보: 어떤 정보가 활용되었고, 어떤 요인이 판단에 영향을 미쳤는지 당사자에게 일정 수준 이상 설명할 수 있어야 한다.

3. 이의제기 및 재심 절차 구축: 오류를 지적하고 사람에게 재검토를 요구할 수 있는 공식적인 이의제기 창구를 마련해야 한다.

4. 정기적인 편향성 점검: 알고리즘 및 학습 데이터에 축적된 성별·연령·학벌 등의 편향과 차별 가능성을 주기적으로 감사하고 수정해야 한다.

AI는 인간보다 압도적으로 많은 데이터를 빠르게 처리할 수 있다. 하지만 탁월한 계산 능력이 곧 공정성과 정당성을 뜻하지는 않는다. 조직문화, 협업 능력, 잠재력, 개인의 특수한 사정처럼 숫자로 온전히 환산할 수 없는 영역은 여전히 존재한다.

앞으로 기업의 진정한 경쟁력은 '얼마나 많은 인사 업무를 AI에 위임했는가'로 결정되지 않는다. 오히려 AI의 권한 범위를 명확히 제한하고, 사람이 언제 개입하며, 잘못된 결정이 발생했을 때 누가 책임지고 설명할 것인가를 투명하게 정립한 기업이 구성원과 사회로부터 더 큰 신뢰를 얻을 것이다.

AI는 인사권을 보조하는 유용한 도구일 수 있다. 그러나 인간의 채용, 평가, 배치, 퇴직에 이르는 최종 책임까지 알고리즘에 떠넘길 수는 없다. AI 인사관리 시대에 효율성보다 앞서 세워야 할 원칙은 단 하나다.

"결정은 설명할 수 있어야 하고, 책임은 사람이 져야 한다."