Human In the Loop: AI 시대 HR이 지켜야 할 3가지 원칙

AI를 도입하면 생산성이 올라간다는 명제, 우리는 너무 쉽게 믿고 있지는 않을까요? Glean의 최신 보고서는 이 질문에 충격적인 데이터를 던집니다. 디지털 노동자들은 주당 거의 하루를 AI 출력물 검증에 쓰고 있으며, 10명 중 7명은 제대로 검토하지 않은 AI 결과물을 그대로 제출하고 있습니다. 이 글에서는 Human In the Loop라는 개념을 중심으로, HR이 AI 도입의 다음 단계(Phase 2)에서 반드시 짚어야 할 3가지 체크포인트를 정리합니다.

Table of Contents

Botsitting: Human In the Loop 없이 AI를 쓰면 생기는 일

Glean 보고서가 처음 주목한 현상은 Botsitting입니다. AI가 생성한 출력물을 사람이 검증하고 수정하고 디버깅하는 데 소요되는 시간을 의미하는 이 신조어는, ‘AI가 우리를 일에서 해방시킨다’는 기대와 정면으로 배치됩니다. 실제로 디지털 노동자들은 주당 평균 약 8시간을 이 Botsitting에 사용하고 있습니다.

주당 8시간

디지털 노동자가 AI 출력물을 확인·수정하는 데 쓰는 시간입니다. AI 도입 이후 ‘AI 관리’라는 새로운 업무가 하나 더 생긴 셈입니다.

지난주 다룬 Dice 보고서(기술 공고의 73%가 AI 역량 요구)와 연결해보면 더 흥미로운 그림이 그려집니다. AI 역량 수요는 폭발적으로 증가하는데, 정작 현장에서는 AI 도입이 ‘일을 덜어주는’ 방향이 아니라 ‘AI를 관리하는 새로운 일’을 만들어내고 있습니다. Human In the Loop가 제대로 설계되지 않은 상태에서 AI만 먼저 들어온 결과입니다.

실무자 시각
대기업에서 13년간 인사 업무를 담당하면서 반복적으로 확인한 것은, 새로운 도구가 들어올 때 ‘도입 자체’를 성과로 착각하는 경우가 많다는 점입니다. AI도 마찬가지입니다. 도구를 들여놓는 것과 그 도구를 검증할 체계를 함께 설계하는 것은 전혀 다른 일입니다. 그런데 그 검증 체계를 귀사에서는 누가, 어떻게 책임지고 계십니까?

Botshitting: Human In the Loop가 무너질 때 벌어지는 일

Botsitting이 시간과 효율의 문제라면, Botshitting은 더 근본적인 위험을 내포합니다. 검증되지 않은 AI 결과물을 그대로 제출하는 이 행태는, 단순한 게으름이 아니라 ‘천천히 진행되는 판단력 위임(slow surrender of agency)’이라는 더 심각한 현상의 징후입니다.

Glean 보고서는 충격적인 발견을 하나 더 제시합니다. 과도한 AI 사용자는 그렇지 않은 동료보다 이직 의향이 73% 더 높았습니다. AI가 직원의 판단력과 책임감을 약화시키고, 결과적으로 조직 이탈을 촉진할 수 있다는 의미입니다.

역설	현상	결과
① Botsitting	AI 관리 업무가 새로 생겨 주당 8시간 추가 소모	도입 전보다 일이 더 늘어난 역효과
② Botshitting	검증 없는 AI 결과물 제출 → 판단력 위임	이직 의향 73% 증가 + 법적 리스크

주목할 포인트 — HR 전문가의 AI 도입률은 90%로 전체 평균보다 높았고, 3명 중 1명은 AI가 채용 결정에 관여한다고 응답했습니다. Workday의 AI 채용 차별 소송이 진행 중인 상황에서, 이 수치는 단순한 트렌드가 아니라 법적·윤리적 리스크 관리의 대상입니다.

실무자 시각
저는 채용 데이터를 다루면서, ‘AI가 추천했다’는 이유만으로 근거 검토를 생략하는 사례를 자주 목격했습니다. 편리함은 곧 위험이 될 수 있습니다. Human In the Loop가 형식적으로만 존재하고 실제로는 작동하지 않는 조직이 의외로 많습니다.

Phase 1의 두 가지 역설, Human In the Loop가 빠졌던 이유

지난 몇 년간 HR 조직은 AI 도입 자체에 집중해왔습니다. HR 전환 시스템 구축, AI 채용 도구 도입, 직원 AI 활용 장려가 주된 의제였습니다. 이것이 바로 HR의 AI 도입 Phase 1입니다. 그러나 Glean 보고서는 이 Phase 1이 Botsitting과 Botshitting이라는 두 역설을 낳았음을 보여줍니다.

이 두 역설은 같은 뿌리에서 나옵니다. AI 도입 자체를 목표로 삼았기 때문입니다. AI 도입이 목표가 되면 ‘많이 쓸수록 좋다’는 착각이 생기고, 사용량 중심의 평가가 이루어지며, 결과적으로 Human In the Loop 없는 Botshitting이 발생합니다.

AI 업무 검증(Botsitting)에 시간을 쓰며 Human in the Loop를 하고 있는 직장인 일러스트 — AI 업무 검증(Botsitting)에 시간을 쓰는 직장인 일러스트

Phase 2: Efficient Human In the Loop 설계하기

Phase 2의 핵심은 간단합니다. AI가 더 많이 할수록, 사람은 더 중요한 결정에 집중한다는 원칙입니다. Botsitting과 Botshitting을 극복하는 방향은 AI를 덜 쓰는 것이 아니라, Human In the Loop를 효율적으로 만드는 구조를 설계하는 것입니다.

체크포인트 ①: AI의 역할을 ‘초안·스크리닝·패턴 발견’으로 한정하기

AI가 모든 것을 대체해야 한다는 압박에서 벗어나야 합니다. AI의 강점은 방대한 데이터에서 패턴을 발견하고, 초안을 빠르게 생성하며, 1차 스크리닝을 수행하는 데 있습니다. 반면 최종 결정과 조직 맥락을 고려한 판단은 사람의 영역으로 남겨두어야 합니다.

영역	Phase 1	Phase 2 (Human In the Loop)
AI 역할	결과물 생성, 의사결정 자동화	초안·스크리닝·패턴 발견
사람 역할	AI 결과물 수동 검증(Botsitting)	결정적 판단
채용 적용	AI가 서류 평가·면접에도 관여	AI 추천 → 사람이 최종 판단
평가 기준	AI 사용량, 도입률	활용 품질 + 판단의 정확성

체크포인트 ②: ‘왜’를 묻는 문화 설계하기

Glean 보고서가 지적한 판단력 위임은 개인의 문제가 아니라 조직 문화의 결과입니다. AI 추천에 대해 ‘왜 이렇게 판단했는가’를 검토하는 과정이 조직에 없다면, 검증 없는 수용이 일상화됩니다. 실무에서 자주 보는 것은, 이 리뷰 프로세스가 문서화되어 있지 않아 담당자가 바뀌면 곧바로 무너지는 사례입니다.

체크포인트 ③: 채용에서 Human In the Loop 원칙화하기

Phase 2에서 가장 시급한 적용 영역은 채용입니다. 이미 3명 중 1명의 HR 전문가가 AI를 채용 결정에 활용하고 있습니다. 그러나 Workday의 AI 채용 차별 소송은 명확한 경고입니다. AI가 최종 합격·불합격을 결정하는 구조는 법적 리스크를 수반합니다.

AI가 일을 대신할수록, 사람의 판단은 더 중요해집니다. Phase 2는 AI를 덜 쓰는 것이 아니라, Human In the Loop를 효율적으로 만드는 구조를 설계하는 것입니다.

실무자 시각
제 경험상, 채용에서 AI 활용이 문제가 되는 경우는 대부분 ‘기록이 없을 때’였습니다. AI가 왜 그 후보를 추천했는지, 면접관이 그 근거를 어떻게 검토했는지가 남아 있지 않으면, 나중에 문제가 생겼을 때 설명할 방법이 없습니다.

결론: HR의 AI 도입, 이제 속도보다 Human In the Loop다

Glean 보고서는 불편한 질문을 던집니다. AI 도입이 정말 조직과 직원을 더 나은 방향으로 이끌고 있을까요? 단순히 도입 속도에 집착하다 보면 Botsitting과 Botshitting이라는 두 함정에 빠지기 쉽습니다. HR의 AI 전략은 이제 Phase 1(도입과 확산)에서 Phase 2(Human In the Loop 중심의 품질과 균형)로 전환되어야 합니다.

HR 영어 키워드 정리

용어	설명
Human In the Loop	AI 판단 과정에 사람의 검토·개입을 유지하는 설계 원칙
Botsitting	AI 출력물을 검증·수정·디버깅하는 데 드는 시간
Botshitting	검증 없이 AI 결과물을 그대로 제출하는 행태
Agency	스스로 판단하고 책임지는 주체적 역량
AI Literacy	AI 결과물을 비판적으로 이해·평가하는 능력
Escalation Path	AI 판단에 이견이 있을 때 사람에게 넘기는 절차
Guardrail	AI 활용 범위를 제한하는 안전장치·규칙
Quality Assurance (QA)	AI 결과물의 품질을 사후 검증하는 절차

Human In the Loop란 무엇인가요?

AI가 데이터를 분석하고 초안을 만들더라도, 최종 판단과 책임은 사람이 맡도록 설계하는 원칙을 말합니다. AI의 속도와 사람의 맥락 이해를 동시에 살리는 구조입니다.

Botsitting과 Botshitting은 어떻게 다른가요?

Botsitting은 AI 출력물을 검증하느라 시간이 소모되는 현상이고, Botshitting은 그 검증을 생략하고 결과물을 그대로 제출하는 행태입니다. 전자는 비효율의 문제, 후자는 책임의 문제입니다.

AI를 채용에 활용할 때 가장 조심해야 할 점은 무엇인가요?

AI가 서류 스크리닝이나 역량 태그 추천까지는 담당할 수 있지만, 최종 합격 여부는 반드시 사람이 판단해야 합니다. 판단 근거를 기록으로 남기는 것도 중요합니다.

과도한 AI 사용이 이직 의향을 높이는 이유는 무엇인가요?

Glean 보고서에 따르면 AI에 판단을 과도하게 위임할수록 직원의 주체성과 성취감이 낮아지고, 이는 조직에 대한 몰입도 저하와 이직 의향 증가로 이어집니다.

HR 조직이 Phase 2로 전환하려면 무엇부터 시작해야 하나요?

AI 사용량 대신 활용 품질을 평가하는 기준을 먼저 세우고, AI 추천에 대한 검토·기록 프로세스를 제도화하는 것부터 시작하는 것이 좋습니다.

[EN] A Glean report finds digital workers spend nearly a full workday per week reviewing and fixing AI outputs (“botsitting”), while roughly seven in ten submit AI-generated work without proper review (“botshitting”). Heavy AI users report 73% higher turnover intent, and HR must shift from adoption-focused Phase 1 strategies to a Phase 2 built around efficient Human In the Loop design.

[KR] Glean 보고서에 따르면 디지털 노동자는 주당 약 하루를 AI 검증(Botsitting)에 쓰고, 10명 중 7명은 검증 없이 AI 결과물을 제출(Botshitting)합니다. 과다 사용자의 이직 의향은 73% 더 높았습니다. HR은 도입 중심의 Phase 1에서, Human In the Loop 중심의 Phase 2로 전환해야 합니다.

출처: HR Dive – “Heavy AI users submit work they don’t understand, Glean says”