AI가 만든 결함, 책임은 누가 지는가 (06/08)

AI 시대의 분쟁·클레임 대응 · Ep.06

결함은 발견됐다.
작성자는 발견되지 않았다.

AI가 만든 결함, 책임은 누가 지는가 · HFC Consulting

---

운영 넉 달째, 정산 배치가 오류를 냈다. 원인 코드를 추적하던 운영팀이 이상한 지점에 닿았다. 그 구간의 작성자를 아무도 몰랐다. 개발 당시 AI 도구가 생성한 코드였고, 리뷰 기록은 없었다. 발주기관이 물었다. "이 결함의 책임은 누구에게 있습니까."

낯익은 질문이다. 다만 이번에는 답하기 위한 계약 조항이 없다(그 코드는 누가 짰습니까?).

질문 자체는 낡았다. 하자의 책임, 결함의 귀책은 이 연재가 내내 다뤄 온 주제다. 새로운 것은 등장인물이다. 작성자가 사람이 아닐 때, 검증의 관행과 책임의 언어가 계약에 없다는 사실이 드러난다.

양측의 주장: 산출물 책임과 승인된 도구

발주자의 문장은 이렇다. "누가 어떻게 만들었든 납품된 산출물이다. 결함 책임은 수행사에 있다." 수행사의 문장은 이렇다. "AI 활용은 제안서에 명시했고 발주기관이 승인한 방식이다. 도구의 한계로 인한 결함까지 전부 수급인 책임인가."

원칙은 첫 번째 문장이 맞다. 도구가 무엇이든 산출물의 책임은 납품한 쪽에 있다. 그러나 실무 분쟁은 원칙으로 끝나지 않는다. 검증 절차를 발주자와 합의하고 그대로 이행했는가, 발주자가 요구한 도구였는가, 결함의 원인이 코드인가 학습된 패턴인가. 경계 조건들이 계약에 없으면, 있는 것은 원칙이 아니라 공방이다.

세 가지 쟁점

첫째, 결함 책임의 경계다. AI 활용 자체는 면책 사유가 아니다. 그러나 "합의된 검증 절차의 이행"은 귀책 판단의 실질 기준이 된다. 활용 범위와 검증 의무를 계약에 명문화한 사업은 결함이 나도 판정이 빠르고, 명문화하지 않은 사업은 결함마다 책임 공방을 반복한다(팀의 AI 관리: 우리 팀은 이미 쓰고 있다).

검증 게이트의 실무는 세 층이면 충분하다. 생성 구간의 표시와 기록, 리뷰어 지정과 승인 기록, 그리고 정적 분석과 테스트의 통과 기준. 전수 검증이 부담이면 위험도 기반의 샘플링이라도 합의한다. 완벽한 검증보다 중요한 것은 합의된 검증이다. 분쟁 국면에서 방패가 되는 것은 검증의 강도가 아니라, 합의와 이행의 기록이다.

둘째, 품질 기준의 공백이다. 사람 코드에는 리뷰·테스트 관행이 쌓여 있지만, AI 생성 코드의 검증 수준은 사업마다 제각각이다. 기준이 계약에 없으면 검수는 통과했는데 품질은 다투는 상황이 온다. 보증과 면책의 조항 구조는 AI 계약의 오래된 숙제다(보증과 면책: 공급자의 약속은 어디까지인가).

셋째, 제3자 권리다. AI가 생성한 코드가 타인의 저작물과 실질적으로 유사하다면, 침해 책임과 방어 비용은 누구의 몫인가. 학습 데이터를 둘러싼 법적 논쟁은 진행형이고, 계약이 침묵하면 그 불확실성은 통째로 분쟁의 재료가 된다.

실무 대응은 면책과 방어 의무의 배분이다. 침해 주장이 제기되면 누가 방어하고 비용을 지는지, 침해가 확정되면 대체 구현의 의무는 누구에게 있는지를 계약에 적는다. 조항 한 단락이 불확실성 전체를 없애지는 못해도, 다툼의 자리를 절반으로 줄인다.

AI 산출물 책임 조항 점검표 — AI 활용 범위·도구의 명문화 / 생성 코드 검증 절차와 기록 의무 / 결함 시 원인 추적 협조 의무 / 제3자 권리 침해 시 책임·방어 분담 / 활용 기록(도구·구간·검증자) 보존 / 기준 부재 영역의 준용 기준 합의

예방으로의 환원

이 분쟁은 어느 시점의 어떤 기록으로 막을 수 있었는가. 제안 단계의 AI 활용 조건 답변이 계약 조항으로 옮겨졌는가, 개발 중 활용 기록이 남았는가, 검증 게이트가 실제로 돌았는가. 넉 달 전 그 코드가 생성된 날, 검증 기록 한 줄이 있었다면 오늘의 질문은 "책임이 누구인가"가 아니라 "조치를 어떻게 하는가"였을 것이다.

발주자 쪽의 예방도 대칭이다. 제안서의 AI 활용 조건 답변을 평가만 하고 계약에 옮기지 않으면, 약속은 수주와 함께 증발한다. 평가표의 문장을 계약 조항으로 승격시키는 것이, 발주자가 계약 단계에서 할 수 있는 가장 싼 예방이다.

반론에 답한다

반론 — "AI 기본법도 시행됐으니 이런 책임 문제는 법이 정리해 주는 것 아닌가."

대응 — 법은 최소한의 틀이다. 개별 사업에서 결함 하나의 귀책을 가르는 것은 법 조문이 아니라 계약 조항과 검증 기록이다. 법이 정비될수록 오히려 "계약으로 정했어야 할 것"의 목록은 길어진다. 법의 시대에 계약의 공백은 더 비싸진다.

기술의 속도를 계약이 따라가지 못한다는 한탄은 절반만 맞다. 계약이 따라가야 할 것은 기술이 아니라 책임의 경계다. 도구는 반년마다 바뀌어도, 검증하고 기록하고 책임을 배분하는 구조는 바뀌지 않는다. 구조를 계약에 넣으면 도구가 바뀌어도 조항은 살아남는다.

그리고 그 구조를 협의하는 가장 좋은 시점은 언제나 지금이다. 다음 사업의 계약서를 기다릴 필요가 없다. 진행 중인 사업이라면 변경 합의 한 장으로도 경계는 그을 수 있다.

체크포인트 — 발주자: AI 활용 조건을 승인했다면 검증 기준도 함께 합의하라 / 기준 없는 승인은 절반의 승인이다 · 수행사: 활용 기록과 검증 기록이 유일한 방패다 / 제안서의 약속을 계약과 수행 기록으로 이어라

분쟁의 재료들을 모두 보았다. 그래도 합의가 안 되면 어디로 가는가. 다음 화는 법정 앞에서 멈추는 법, 조정과 중재다.

본 글의 사례는 실제 경험을 바탕으로 재구성·익명화되었습니다. 본 글은 일반적인 정보 제공을 목적으로 하며, 개별 사안에 대한 법률 자문이 아닙니다. 구체적인 분쟁·계약 사안은 법률 전문가와 상의하시기 바랍니다.

📎 더 읽을거리

국가법령정보센터 · 인공지능 기본법 — AI 신뢰성·책임의 기본 틀을 정한 법률 원문 (링크 접속 확인 필수 — 법령명 표기 확인)

국가법령정보센터 · 저작권법 — AI 산출물의 제3자 권리 쟁점과 맞닿은 법률 원문

AI 활용 사업의 책임 경계가 비어 있다면

HFC컨설팅은 AI 활용 기준·검증 게이트·책임 조항의 설계를 지원합니다. 결함이 나기 전에 경계를 그어야 결함이 분쟁이 되지 않습니다.

changks@hfcconsulting.co.kr

1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석

---

📚 틀어진 다음 날부터: AI 시대의 분쟁·클레임 대응 가이드

◀ 이전 편 · (05/08) 하자냐 신규냐: 무상과 유상의 경계 분쟁

다음 편 ▶ (07/08) 조정과 중재: 법정 앞에서 멈추는 법

연재 전체 보기 →