AI 인사평가는 인공지능 기술을 활용해 직원의 성과, 역량, 태도 등을 분석하고 평가하는 방식입니다.
심사·면접·성과평가 등 전통적 인사과정에서 발생하는 편향성과 비효율성을 줄이고 데이터 기반의 객관적 평가를 가능케 한다는 점에서 많은 기업이 관심을 보이고 있습니다.
하지만 AI가 내리는 판단이 과연 ‘공정’하고 ‘설명 가능’한지에 대한 의문은 여전히 남아 있습니다.
데이터의 편향, 알고리즘의 불투명성, 개인 정보 보호 문제 등은 단순한 기술적 과제를 넘어 법적 리스크로 이어질 수 있습니다.
■AI 인사평가란?
AI 인사평가는 인공지능 기술을 활용해 직원의 성과, 역량, 태도 등을 분석하고 평가하는 방식입니다.
서류심사·면접·성과평가 등 전통적 인사과정에서 발생하는 편향성과 비효율성을 줄이고 데이터 기반의 객관적 평가를 가능케 한다는 점에서 많은 기업이 관심을 보이고 있습니다.
특히 이력서 자동 필터링, AI 기반 화상면접, 성과예측 등으로 빠르고 효율적인 인사 시스템을 구현할 수 있다는 점은 인사담당자의 부담을 크게 줄여줍니다.
AI 인사평가 프로세스와 도입 현황
현재 기업에서 널리 사용되고 있는 AI 인사평가는 아래와 같습니다.
-채용 단계: 이력서 스크리닝, 역량검사, 화상면접
-인재 관리: KPI 기반 성과 분석 등
-평가 시스템: 정량화된 기준에 따른 성과 평가, 피드백 자동화
실제로 국내 대기업뿐만 아니라 중견·중소기업에서도 AI 채용 솔루션(AI 면접, ATS 등)의 도입이 빠르게 확산 중이며 글로벌 기업 마이크로소프트는 ‘AI 활용 역량’을 인사평가 요소로 고려하겠다고 밝히는 등 새로운 인사문화가 형성되고 있습니다.
이러한 AI 인사평가에 대한 노동법상 중요 쟁점은 ‘AI가 사람을 평가할 수 있는가’입니다.
한국노동연구원의 정책자료의 내용을 중점으로 우려하고 있는 AI 인사평가의 법적 쟁점에 대해 살펴보겠습니다.
1. 채용 단계의 법적 쟁점
차별금지 의무
남녀고용평등법, 국가인권위원회법 등에 따라 채용 과정에서 성별·연령·출신지·혼인여부·병력 등 다양한 차별을 금지하고 있습니다.
AI 알고리즘이 과거의 편향된 데이터(예: 남성 중심 채용 통계)를 학습하여 특정 집단을 불리하게 평가할 경우, 간접 차별의 문제가 발생할 수 있습니다.
편향성 감사 의무 (Bias Audit)
뉴욕의 경우 기업이 자동화된 채용 도구(AEDT)를 사용할 경우 연 1회 외부 편향성 감사를 받도록 하고 그 결과를 공개하도록 규정하고 있습니다.
국내에서도 유사한 제도 도입 논의가 이루어지고 있습니다.
알 권리 및 고지·동의 의무
개인정보보호법 개정으로 AI에 의한 ‘완전 자동화된 결정’이 있을 경우 구직자는 평가 기준과 절차를 요구할 권리를 갖습니다.
이에 따라 기업은 AI 채용 여부, 사용 단계, 판단 방식 등을 채용 공고에 명시하고 구직자의 동의를 받아야 합니다.
이 의무를 위반하면 행정적·법적 책임이 발생할 수 있습니다.
2. 인사평가 및 해고 단계의 쟁점
설명가능성의 한계와 정당성 판단
성과평가 결과를 바탕으로 보상·징계·배치전환 등 다양한 결정이 내려지는 인사평가 단계에서 AI가 평가를 주도한다면 그 기준이 투명하고 납득 가능한지 여부가 문제될 수 있습니다.
예를 들어 '저성과자 해고'가 발생한 경우 AI가 정한 저성과 기준이 객관적·합리적이지 않거나, 개선 가능성을 배제하고 자동으로 판단했다면 해고는 무효로 판단될 수 있습니다.
규범적 판단의 부적합성
해고의 정당성, 징계양정 등은 규범적·정성적 판단이 요구되는 영역입니다.
법원은 ‘근로자의 부양 가족, 재취업 가능성 등 사회적 보호의 필요성’을 고려해야 한다고 판시하고 있으며, AI는 이러한 요소를 온전히 반영하지 못합니다.
결국 인간의 개입이 없을 경우 법적 정당성이 결여될 수 있습니다.
책임의 귀속 문제
인공지능의 잘못된 판단으로 인해 부당해고 또는 산재 등 법적 분쟁이 발생할 경우 민·형사 책임은 누구에게 귀속되는지가 불명확한 것도 문제점 중 하나입니다.
인공지능에 대한 책임은 개발자, 운용자, 소유자 등 관련자에게 법적 책임이 귀속될 수 있습니다.
■AI 인사평가 관련 해외 입법 동향
AI가 인사평가와 채용에 활용되면서 각국은 공정성과 투명성 확보를 위한 법적 장치를 마련하고 있습니다.
특히 채용과 관련된 편향, 차별, 개인정보 보호 문제가 주요 쟁점으로 떠오르며 제도적 대응이 강화되고 있습니다.
1. 미국: 사전 고지·동의 및 편향성 감사 의무화
미국 일리노이주는 2020년부터 인공지능 영상면접법을 시행 중입니다.
기업은 AI로 지원자의 면접 영상을 분석할 경우 반드시 사전 고지 및 동의를 받아야 하며, AI의 작동 방식과 평가 기준도 안내해야 합니다.
지원자가 영상 삭제를 요청할 경우에 기업은 이에 응할 법적 의무가 있습니다.
또한 2022년부터는 AI 평가의 인종·민족별 차별 가능성 분석 및 보고도 의무화되었습니다.
뉴욕시는 2023년부터 자동화된 고용결정 도구(AEDT)에 대해 연 1회 편향성 감사 의무를 부과하고 있습니다.
기업은 감사 결과를 기업 홈페이지에 공개해야 하며 AI 채용 시스템 사용 시 지원자에게 사전 통지해야 합니다.
2. 유럽연합: AI법(AI Act)으로 ‘고위험 AI 시스템’ 규제
2024년 8월 발효된 AI법(AI Act)은 AI 시스템을 위험도 등급별(금지·고위험·제한·최저)로 구분합니다.
이 중 채용·평가·승진 등 HR 관련 AI는 ‘고위험 AI’로 분류되어 정보 제공·설명 의무와 투명성 확보가 필수입니다.
근로자의 권리를 보호하기 위해 AI 사용 사실을 근로자에게 고지해야 하며 기존보다 유리한 노동조건이나 단체협약이 있다면 그 적용을 인정하고 있습니다.
3. 일본: 비공식적 협의와 설명 중심
일본은 아직 AI에 대한 공식적인 노사 협의 제도는 없지만 설명회 등 비공식 소통을 통해 근로자의 불안감을 완화하고 있습니다.
기업들은 AI 도입 후 운영상 문제 여부를 점검하며 근로자와 의견을 교환하는 방식으로 대응하고 있습니다.
■AI 인사평가, 기업이 준비해야 할 실무 대응 방안
AI 기반 채용 및 인사평가는 효율성과 객관성을 높이는 도구이지만 법적 리스크를 수반하는 민감한 영역입니다.
사전 준비 부족이나 절차적 미흡은 인사상 분쟁과 행정 제재로 이어질 수 있습니다.
다음은 기업이 AI 시스템 도입 시 반드시 고려해야 할 실무 대응 방안입니다.
1. 법적 기준 준수 및 내부 점검 체계 마련
AI 시스템은 그 설계와 데이터 학습 단계부터 법적 기준을 내재화해야 합니다.
예를 들어, 인공지능이 채용 과정에서 지원자의 성별, 연령, 출신지, 병력 등 민감정보를 학습하거나 차별 요소로 반영할 경우 남녀고용평등법, 고용정책기본법, 국가인권위원회법 등에 따라 직접적 혹은 간접적 차별로 간주되어 불법이 될 수 있습니다.
또한 최근 개정된 개인정보보호법은 자동화된 결정에 대한 설명요구권 및 거부권을 명시하고 있어 AI 채용 시스템에도 이에 부합하는 기능이 내장돼야 합니다.
따라서 기업은 AI 알고리즘이 법적 차별 요소를 사전에 걸러낼 수 있는지, 개인정보는 안전하게 처리되고 있는지, 내부 운영 지침과 시스템 설계가 관련 법률과 일치하는지를 정기적으로 자체 첨검하거나 제3자에 의한 외부 편향성 감사를 통해 검증해야 합니다.
2. 고지·설명 의무 이행 체계 수립
AI가 인사 의사결정에 관여하는 경우 구직자와 직원에 대한 충분한 설명과 동의 절차가 요구됩니다.
채용 단계에서는 채용 공고나 응시 안내서에 AI 사용 여부, AI가 활용되는 전형 단계, 평가 기준(예: 언어분석, 표정 인식 등을 명시해 사전 동의를 받아야 합니다.
구직자 또는 직원은 평가 결과에 대해 설명을 요청할 권리가 있으며 기업은 이에 응할 수 있도록 기준·절차·설명 템플릿 등을 마련해두어야 합니다.
단순 점수 공개만으로는 부족하며, 평가에 사용된 요소, 판단 과정, 점수 산정 방식 등을 가능한 한 투명하게 설명해야 신뢰를 얻을 수 있습니다.
3. 인간 중심의 최종 의사결정 체계 운영
AI는 어디까지나 보조 도구이며 최종적인 고용결정이나 평가 결과는 반드시 사람의 실질적인 개입을 통해 이뤄져야 합니다.
특히 해고·징계·저성과 판단 등 근로자 권리에 중대한 영향을 미치는 결정은 다음 기준을 반드시 충족해야 합니다.
-AI가 제안한 평가 결과를 인간이 직접 검토하고 타 평가 요소와 종합 판단했는지 확인
-인간의 판단이 AI 결과에 대해 실질적인 영향력을 행사했는지 확인
-해당 결정이 정당성, 비례성, 사회적 타당성 등 법적 기준을 충족했는지 확인
AI 기반 인사평가 시스템은 단순히 기술을 도입하는 것을 넘어 노동법·개인정보 보호법·평등법·인권 규범 등 복합적 법률 리스크를 수반하는 민감한 영역입니다.
특히 채용, 인사평가, 해고 등 각 단계에서 발생할 수 있는 분쟁은 기업의 신뢰도는 물론 평판에도 직접적인 영향을 미칠 수 있습니다.
AI 인사평가 도입을 고려 중인 기업이라면 도입 초기부터 법무 전문가와 함께 절차적 정당성과 리스크 대응 체계를 정비하는 것이 좋습니다.
본 법인은 노동법·개인정보보호법·AI규제 분야에 전문 지식을 갖춘 전문변호사가 ▲AI 인사시스템 도입 컨설팅 ▲개인정보보호 및 알 권리 대응 ▲규정∙내부 지침 정비 ▲분쟁 및 감사 대응 등 법률 서비스를 제공하고 있습니다.
