스마트팩토리 AI에이전트·로봇, 사고 나면 누가 책임지나 - 제조현장 도입기업을 위한 책임소재 가이드

왜 제조 현장의 AI 리스크는 사무직 챗봇보다 무거운가

AMEET의 조사는 AI 에이전트가 오작동했을 때 '개발사가 책임지는가, 도입 기업이 책임지는가'라는 질문에서 출발한다. 결론은 명확하다. AI 행위를 기술적으로 식별·추적할 분산원장(DLT) 기반 시스템이 2027년까지 상용화되기 어려운 현실 아래, 소비자·피해자 구제를 우선하는 법원과 규제 당국은 도입 기업에 무과실 책임을 묻는 쪽으로 수렴하고 있다1). 사무직 챗봇의 오작동이라면 손해는 대개 금전적·평판적 범위에 머문다.

그러나 스마트팩토리의 협동로봇, 자율이동로봇(AMR), 휴머노이드는 사람과 같은 물리적 공간에서 직접 접촉하며 작업한다. AMEET 조사 역시 제조 분야의 대응 현황을 별도로 짚으며 '인간-로봇 협업 가이드라인과 물리적 안전장치 의무'를 핵심 리스크 요인으로 꼽았다1). 오작동의 결과가 콘텐츠 오류가 아니라 신체 상해·설비 파손·생산 중단으로 직결된다는 점에서, 제조업의 AI 책임 문제는 사무직 서비스보다 훨씬 무겁게 다뤄져야 한다.

AMEET 조사 핵심: '무과실 책임'이 도입기업에 귀속되는 구조

AMEET 토론 패널(AI 기술·기업 전략·AI 윤리·소비자 권익·비판적 관점)의 최종 합의는 다음과 같다. AI 에이전트는 복제·분할·병합이 자유로워 특정 행위를 일으킨 개체를 식별하기가 기술적으로 극히 어렵고1), 이 식별 불가능성은 오히려 기업의 면책 사유가 아니라 무과실 책임을 강제하는 근거로 작용한다는 것이다.

[ 판단 프레임의 변화 ]

구분	초기 가설·일반적 인식	Debate 이후 결론
책임의 주체	과실이 있는 개발사나 코딩 오류에 책임이 있다	도입·운영 기업의 '무과실 책임(Strict Liability)'
대응 방식	누가 잘못했는지 기술적으로 추적·증명하려는 시도	책임보험 의무 가입 및 손실 충당금 확보(재무적 대응)

출처: AMEET(Rebalabs) 'AI 직원의 사고 책임 소재 조사'(2026.06.24) 기반 스마트팩토리아 재구성

국내법상 근거는 민법 제756조(사용자책임)다. 피용자(여기서는 AI 에이전트·로봇)가 사무집행 중 가한 손해를 사용자인 기업이 배상하도록 하는 조항으로, AI를 '기업의 확장된 수족'으로 보는 법리가 그대로 적용된다. 제조 현장에서는 여기에 더해 제조물책임법상 결함 책임까지 중첩되기 때문에, 로봇 자체의 설계 결함과 운영 기업의 관리 소홀이 함께 문제될 소지가 크다.

스마트팩토리 AI 기기 유형별 리스크 매트릭스

제조 현장에 도입되는 AI 기기·에이전트는 물리적 상호작용 정도와 자율성 수준에 따라 리스크 프로필이 크게 다르다. 아래는 대표 기기 유형별로 사고 유형과 책임 소재 쟁점을 정리한 것이다.

[ 스마트팩토리 AI 기기 유형별 리스크 개요 ]

기기 유형	주요 사고 유형	책임 소재 쟁점	우선 대응
협동로봇(Cobot)	협동영역 내 접촉·끼임 사고	ISO 10218-2 안전기준 준수 여부, 위험성평가 이행 여부	안전인증(KISA 등) 획득, 방호장치 점검 주기화
자율이동로봇(AMR)	통로·작업자 동선 충돌	경로 알고리즘 결함 vs 현장 동선 관리 소홀	동선 데이터 로그화, 충돌 회피 센서 이중화
AI 비전검사 에이전트	불량 오탐지로 인한 품질사고 유출	학습 데이터 편향 vs 검수 기준 미설정	샘플링 재검수 체계, 판정 근거 로그 보관
예지보전(PdM) 에이전트	설비 이상 미탐지로 인한 2차 사고	모델 성능 한계 vs 임계값 설정 책임	이상 감지 임계값 정기 재검토, 인간 승인 단계 유지
휴머노이드	근접 작업 중 물리적 충돌·오조작	행위자성 불명확, 사고 원인 규명 곤란	제한적 협동영역 운용, 별도 배상책임 보험 가입

출처: 고용노동부 '고정식·이동식 산업용 로봇의 협동작업 안전가이드', KS B ISO 10218-2 협동로봇 안전기준 기반 스마트팩토리아 자체 정리

국내 법적 프레임: 안전보건법·지능형로봇법·제조물책임법의 중첩

제조 현장의 로봇·AI 에이전트는 하나의 사고에도 여러 법령이 동시에 적용되는 구조다. 산업안전보건법 제41조의2(위험성평가)는 사업주에게 유해·위험요인에 대한 위험성평가 실시 의무를 부과한다2). 협동로봇의 경우 ISO 12100 기반 위험성평가 방법론을 통해 사람과 로봇이 시공간적으로 겹치는 영역의 위험도를 사전에 도출하는 것이 표준적 접근으로 자리 잡고 있다.

여기에 '지능형로봇 개발 및 보급촉진법'은 로봇산업 진흥에, 산업안전보건법은 사업장 안전에 각각 초점을 맞추고 있어 두 법의 취지가 상충할 여지도 존재한다. 로봇산업 초기 단계에서는 규제보다 진흥이 우선시되는 경향이 있었으나, AI 에이전트의 자율성이 높아질수록 안전 규제 공백이 곧바로 기업의 법적 리스크로 전환된다는 점에 유의해야 한다.

면책이 인정되기 어려운 이유

•          원인 규명 불가는 면책 사유가 아니다: AMEET 조사에 따르면 AI의 블랙박스적 특성으로 사고 원인을 특정하지 못하는 상황 자체가 오히려 무과실 책임을 강제하는 근거로 작용한다.

•          개발사 면책 조항(ToS)의 실효성 한계: AI 개발사가 이용약관에 명시한 면책 조항은 소송·규제 절차에서 무효화될 가능성이 높다는 것이 패널 다수의 판단이다.

•          안전기준 미준수는 과실 추정의 근거가 된다: ISO 10218-2, KS 안전인증 등 공인된 기준을 충족하지 못한 상태에서 사고가 발생하면 관리 감독 소홀로 직결될 소지가 크다.

사고 유형별 책임 소재: 물리적 피해 vs 판단·데이터 오류

물리적 접촉 사고는 즉각적이고 가시적인 피해를 유발하는 만큼 산업안전보건법상 사업주 책임이 우선 적용되며, 방호장치 미비나 위험성평가 누락이 확인되면 사실상 항변이 어렵다. 반면 판단 오류형 사고(불량 오탐지, 이상징후 미포착)는 원인이 모델 자체의 한계인지 운영 기준 설정의 문제인지 불분명한 경우가 많아, 로그 기록의 완결성이 분쟁 시 방어 근거로서 결정적인 역할을 하게 된다.

제조기업이 지금 갖춰야 할 방어 체계

AMEET 조사의 최종 제언은 명확하다. '원인 규명'을 기다리기보다 '배상 재원 마련'을 먼저 갖추라는 것이다. 제조 현장에 이를 적용하면 다음과 같은 실무 체크리스트로 정리된다.

•          AI·로봇 배상책임 보험 가입: 기존 생산물배상책임보험(PL보험)에 AI 에이전트·협동로봇 오작동 관련 담보를 추가할 수 있는지 보험사와 즉시 협의한다.

•          행동 로그 최소 1년 보관: 분산원장(DLT) 기반 식별 시스템 도입 이전이라도, AI 에이전트의 판단 근거와 로봇의 동작 이력을 자체 서버에 보관해 분쟁 시 방어 근거로 남긴다.

•          위험성평가 정례화: 산업안전보건법 제41조의2에 따른 위험성평가를 신규 로봇 도입 시점뿐 아니라 정기적으로 재실시하고 문서화한다.

•          협동영역 안전인증 획득: KS B ISO 10218-2 등 공인 안전기준에 따른 제품인증을 신규 도입 로봇마다 확인한다.

•          벤더 계약상 책임 분담 조항 명시: AI 에이전트·로봇 공급사와의 계약에 사고 발생 시 과실 비율 산정 절차와 자료 제공 의무를 사전에 규정해 둔다.

벤치마크: 자율주행차 사례가 제조업에 주는 시사점

AMEET 조사는 자율주행차의 형사 책임 논쟁을 유사 사례로 제시한다3). 자율주행 사고에서는 '선(先) 배상 후(後) 구상권 청구' 구조가 정착되고 있다. 소유자·운영자의 책임보험이 먼저 피해자에게 배상하고, 이후 원인이 제조사 결함으로 판명되면 구상권을 청구하는 방식이다.

제조 현장의 협동로봇·AI 에이전트도 동일한 경로를 밟을 가능성이 크다. 즉 사고 발생 시 도입 기업이 먼저 책임지고 배상한 뒤, 로봇 설계 결함이 확인되면 공급사에 구상권을 행사하는 구조다. 이는 도입 기업이 '내가 잘못하지 않았다'는 항변보다 '즉각 배상 가능한 재원을 갖추는 것'을 우선해야 함을 시사한다.

결론: 원인 규명보다 재무적 방어망이 먼저다

스마트팩토리의 AI 에이전트와 로봇은 생산성 향상의 핵심 수단이지만, 동시에 물리적 사고라는 새로운 차원의 리스크를 동반한다. AMEET 조사가 제시하는 결론은 제조업에도 그대로 적용된다. '누구 책임인지 따지기보다 배상 재원부터 마련하라'는 것이다.

다만 조건부 변수는 남아 있다. 분산원장 기반 AI 행위 식별 기술이 상용화되면, 도입 기업과 개발사 간 과실 비율 공동 분담이라는 재협상의 문이 열릴 수 있다. 그때까지는 안전인증·위험성평가·행동 로그·책임보험이라는 4중 방어선을 갖추는 것이 국내 중견 제조기업이 취할 수 있는 가장 현실적인 전략이다.

 

참고문헌

1) AMEET(Rebalabs). "AI 직원의 사고 책임 소재 조사 — AI 직원이 사고치면 누가 책임지나?" ameet.zdnet.co.kr. 2026.06.24. https://ameet.zdnet.co.kr/uploads/94b8c124.html

2) 고용노동부. "고정식·이동식 산업용 로봇의 협동작업 안전가이드." moel.go.kr. https://www.moel.go.kr/policy/policydata/view.do?bbs_seq=20230700065

3) Singh, S., Singh, M. "Criminal Liability in AI-Enabled Autonomous Vehicles: A Comparative Study." arXiv. 2025.12.16. https://arxiv.org/abs/2512.14330v1

 

※ 스마트팩토리아 블로그 및 홈페이지의 콘텐츠는 생성형 AI로 작성된 초안을 기반으로 하므로, 별도 인용 시 원본 출처를 반드시 확인하시기 바랍니다